泰伯網(wǎng)3月8日訊  據(jù)報道，深度合成技術(shù)的影響范圍正在不斷擴大，深度合成技術(shù)濫用所造成的負面風險也在不斷加劇，但鑒別難度也在快速提升。

根據(jù)瑞萊智慧發(fā)布的《深度合成十大趨勢報告》，深度合成技術(shù)的影響范圍正在不斷擴大。相比2017年，2021年國內(nèi)外十家主流音視頻平臺中的深度合成內(nèi)容新增量級超過十倍。

同時，深度合成技術(shù)濫用所造成的負面風險也在不斷加劇，并且產(chǎn)生許多實質(zhì)性的傷害。例如危害可能涉及社會國家安全、公司以及個人名譽造成的損失。

而在社會層面，中國社會科學院科學技術(shù)和社會研究中心段偉文教授表示，由于人類對視覺更加信任，視覺上的偽造要比其他媒體形式的偽造影響更大。如果視頻內(nèi)容的造假持續(xù)，公眾會對所有的視覺內(nèi)容真實性產(chǎn)生懷疑，它會大大削弱公眾對于媒體的信任，甚至喪失對揭示真相的信心。

目前深度合成的鑒別需求在快速增長，但是鑒別難度也在快速提升。人工智能公司瑞萊智慧CEO田天表示，鑒別難度提升的原因主要有兩點，一是深度合成的逼真度正在快速提高，已經(jīng)超越了人眼鑒別的能力范圍，人眼鑒別它的難度越來越大，甚至到?jīng)]有辦法分辨的成都。其次，目前新的深度合成技術(shù)具有強對抗性，它天然針對一些檢測方法進行對抗攻擊，使檢測方法失效。

具體來看，瑞萊智慧副總裁唐家渝分析稱，深度合成鑒別具體的技術(shù)難度主要有三點：偽造的規(guī)則不斷快速迭代、再編輯導(dǎo)致的傳播效果折損可能無法保證檢測效果、算法判斷需要可解釋性。

目前，圍繞深度合成技術(shù)，國家層面已經(jīng)逐步建立治理和監(jiān)管的機制。2022年，網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》里，旨在促進深度合成技術(shù)依法合理有效利用，并且規(guī)范發(fā)展互聯(lián)網(wǎng)信息服務(wù)深度合成活動，對深度合成的應(yīng)用治理提出了非常明確的要求規(guī)范。