中新網北京3月2日電 (林依)利用深度學習、虛擬現實等生成合成類算法，制作圖像、音頻、視頻、虛擬場景等信息……作為人工智能領域新實踐的深度合成技術，得到廣泛應用，卻也被不法分子惡意使用，造成損失和威脅。
專家學者聯合撰寫的《深度合成十大趨勢報告(2022)》(下稱《報告》)于近日發布。其中研判了深度合成技術及應用帶來的機遇與挑戰，并就其發展與治理給出建議。
深度合成視頻發布數量激增
這份報告由清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業信息安全發展研究中心、北京市大數據中心聯合發布。
《報告》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發布的深度合成視頻的數量較2017年已增長10倍以上。深度合成內容關注度也呈指數級增長。
瑞萊智慧CEO田天解釋說，技術不斷成熟是深度合成內容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的涌現，令深度合成內容的效果更加逼真，制作也更加高效。
清華大學新聞與傳播學院常務副院長陳昌鳳認為，深度合成將重新定義虛擬數字化空間，從傳播社會學意義上看，一個新的人類生存場景將以深度合成技術為基石展開。
如何有效甄別深度合成內容
近期，有不法分子利用深度合成技術偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為。外界擔憂深度合成內容模糊了真實和虛假的邊界，特別是隨著合成質量的不斷提升，傳統基于生物特征的鑒別方式越來越難以發揮作用。
浙江大學網絡空間安全學院院長任奎提醒，目前對深度合成的檢測主要依賴于人工智能模型，依賴于訓練數據的完備性，“檢測器泛用性相低、公開數據集適用性、數據敏感等，都將帶來諸多挑戰”。
中國工程院院士鄔賀銓認為，治理有兩項要點：第一，要持續發展技術，不能“一刀切”地禁止，避免阻礙正向應用與創新；第二，要從源頭上解決衍生出的安全問題，利用技術創新、技術對抗等方式，持續提升和迭代檢測技術的能力。
田天也有相同看法。他說，反深偽檢測技術面臨“強對抗性”，需要持續更新迭代。
專家吁構建多維度治理機制
《報告》顯示，學術界和產業界均已對反深偽檢測投入了大量研究。在國內，清華大學、中國科學技術大學等高校在深度偽造內容檢測方面取得顯著成果。例如，清華大學孵化團隊瑞萊智慧推出的深度偽造內容檢測平臺DeepReal擁有工業級的檢測性能和應對實網環境對抗變化的檢測能力。
清華大學人工智能研究院基礎理論研究中心主任朱軍說，深度合成檢測面臨持續的攻防和博弈，未來還需融合多模態內容的取證分析、基于數字水印的溯源技術等多方面能力，實現精準識別。
專家同時著眼于構建多維度治理機制。陳昌鳳說，可以從技術、倫理與法制等方面努力探索深度合成內容治理路徑。還有學者倡導產研發展自律自治。
《報告》也稱，各方應與時俱進落實好新的規范要求，并在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創立示范標桿，形成對人工智能行業整體的帶動效應，從而促進新技術的持續健康發展。(完)
