專家解讀｜營造清朗網絡空間 引導深度合成向上向善

深度合成服務是我國互聯網信息內容治理的重要領域，因其對互聯網信息內容安全存在巨大影響，是具有高敏感的算法推薦服務種類。中共中央印發的《法治社會建設實施綱要（2020-2025年）》中，明確提出將深度偽造立法作為完善網絡信息服務法律法規的重要項目?！痘ヂ摼W信息服務算法推薦管理規定》中將生成合成類算法作為五類算法推薦服務之首進行規制。由此可見，規范深度合成技術、應用及服務在我國互聯網治理中的重要地位?！痘ヂ摼W信息服務深度合成管理規定》（下文簡稱《規定》）的頒布實施，標志著我國算法安全治理體系的進一步完善?！兑幎ā穼⑸疃群铣蔀榇淼纳珊铣深愃惴ㄗ鳛樗惴ò踩卫眢w系細化的第一步，一方面是由于深度合成屬于高敏感性的與互聯網信息內容安全息息相關的技術應用，另一方面是因為深度合成技術將成為網絡虛擬空間與現實物理世界虛實結合、融為一體的關鍵技術應用，未來存在巨大發展空間。

一、聚焦深度合成信息內容安全

深度合成技術能否被合法應用，是關系互聯網信息內容安全的大事。虛假信息一直是互聯網治理的痛點與難點，深度合成技術的廣泛應用則對虛假信息的治理提出了更高的要求。俗語說“耳聽為虛，眼見為實”“有圖有真相”，可見照片、視頻在公眾潛意識中的真實性遠勝文字。而深度合成技術則恰恰顛覆了這一公眾認知，可以偽造音頻、圖片、視頻，捏造人物的行為與語言。作為人工智能深度學習領域的一個分支，深度合成技術在近幾年迅速興起，為政治、軍事、經濟犯罪甚至恐怖活動等提供了新工具，帶來嚴峻安全挑戰。

基于深度合成一旦被濫用可能造成的巨大風險，近年來我國陸續頒布法律法規，回應深度合成技術帶來的挑戰。2020年，國家互聯網信息辦公室、文化和旅游部、國家廣播電視總局三部門聯合頒布實施《網絡音視頻信息服務管理規定》，明確提出對基于深度學習、虛擬現實等新技術新應用上線具有媒體屬性或社會動員功能的音視頻信息服務開展安全評估，對非真實音視頻信息進行標識，不得利用深度學習技術制作并傳播虛假新聞信息，部署鑒別技術，盡快建立辟謠機制等措施。2020年，《網絡信息內容生態治理規定》要求網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。2021年開始實施的《民法典》人格權編中明確規定，不論是否出于營利目的，均不得利用信息技術手段偽造他人肖像、聲音。2022年，《互聯網信息服務算法推薦管理規定》明確要求不得生成合成虛假新聞信息。

此次《規定》聚焦深度合成服務，與既往法律法規一脈相承，以保障互聯網信息內容安全為主要目標?！兑幎ā芬笊疃群铣煞仗峁┱吆褪褂谜卟坏美蒙疃群铣煞罩谱?、復制、發布、傳播虛假新聞信息。轉載基于深度合成服務制作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息?！兑幎ā吠瑫r要求任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，并要求深度合成服務提供者建立健全辟謠機制。

以互聯網、大數據、人工智能為代表的數字領域是我國發展最快、創新最活躍、輻射最廣泛的新興領域，是公民聚集規模最大的領域。截至2022年6月，我國網民規模達10.51億，互聯網已成為參與人數最多的輿論場、意識形態斗爭的主戰場。確保深度合成服務應用在法律邊界內運行，落實深度合成服務提供者信息安全主體責任，建立深度合成信息內容的辟謠機制，都是《規定》為確保網絡信息內容安全建立的制度保障。

二、明晰深度合成產業合規框架

《規定》的亮點與特色是結合深度合成技術、服務、應用的特點，將監管的觸角從信息內容服務層面深入到了技術開發應用層面，將監管的對象從深度合成服務提供者拓展至深度合成技術支持者和使用者，同時對深度合成服務提供者和技術支持者提出了明確的技術要求。這些深度合成的合規要求主要體現于“數據和技術管理”規范專章。

第一，監管從信息內容服務層面深入到技術開發應用層面。這是由于一方面深度合成技術的開源開放使得深度合成門檻越來越低，普通民眾僅需少量的圖像、視頻、音頻、文本等樣本數據，利用簡便易用的合成工具，就能得到深度合成內容。另一方面，深度合成的技術支持者如何使用訓練數據、如何設計算法機制機理、如何開發應用可搭載的模型模板工具，都直接對深度合成服務的功能應用結果產生影響。因此對互聯網信息內容的監管必須將相關技術開發環節納入監管范疇。

第二，監管對象從服務提供者擴展到技術支持者與使用者。一是《規定》將深度合成服務提供者與技術支持者并置于監管對象之列。這既要求深度合成服務提供者履行相關義務，也要求深度合成技術支持者在開發、測試、訓練相關技術時，就考慮到可能的風險與危害，履行相應的安全評估責任、數據安全管理義務等。二是《規定》尤其強調了服務提供者對使用者（用戶）的管理與提示義務。如要求深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示使用者（用戶）依法告知被編輯的個人并取得其單獨同意。又如要求服務提供者履行管理責任，提示技術支持者和使用者承擔信息安全義務，對使用者輸入數據和合成結果進行審核，并提示使用者應顯著標識。

第三，監管時點從事后追責前移至技術開發、應用環節，實現問責可追溯。《規定》要求深度合成服務生成或者編輯的信息內容，必須進行隱式或者顯著標識。這從技術監管層面解決了如何對深度合成信息內容進行識別、鑒偽、追蹤的關鍵問題。深度合成服務提供者需要采用技術措施，對深度合成信息內容添加隱式標識，可以實現鑒偽和追蹤的目的；如果達到了可能引起公眾混淆或者誤認的程度，則必須在合理位置區域打上顯著標識，向公眾提示該信息內容是深度合成的。任何組織和個人不得利用技術手段刪除、篡改、隱匿深度合成標識。

三、引導深度合成技術向上向善

技術原理是中立的，但技術的應用是蘊含著價值取向的?？萍歼M步，不僅要挖掘科技力量為人類賦能，更應展現出人類駕馭與治理技術的智慧。深度合成技術的多樣化應用、縱深性發展為人類生活便利與科技變革提供了巨大的想象空間，《規定》的出臺則是我國推進科技倫理進步、加強技術治理、促進產業規范健康發展、引導技術向上向善的重要舉措。

深度合成技術應用多樣、領域多元、形態多變。定制表情、換裝換發型軟件給廣大用戶的生活帶來了樂趣和方便。深度合成技術向善使用，更可挽回經濟損失，帶給人情感慰藉。如2019年某人工智能實驗室受一位母親所托，將其癌癥離世的女兒做成可以交互的軟件，合成了女兒的語音保存在互動終端設備中。深度合成技術也代表了未來人工智能產業發展的重要方向，重新定義了虛擬化數字生存空間。2021年“元宇宙”概念的爆發，為深度合成技術提供了更加寬廣的應用場景，同時也促進了深度合成技術的加速發展。從更廣泛的傳播學社會意義上看，一個新的人類生存場景將以深度合成為基石展開?！兑幎ā芬不貞诉@一人工智能未來的發展方向，三維重建、數字仿真等生成或者編輯數字人物、虛擬場景、沉浸式擬真場景的技術，是《規定》規制的深度合成技術的重要類別。

由此可見，《規定》既立足于信息內容安全，也順應了人工智能技術未來發展趨勢；既重視事后監管，也將監管的觸角延伸至數據訓練、技術開發等前期時點?！兑幎ā窞榉婪渡疃群铣杉夹g風險、規范深度合成服務、引導深度合成產業健康持續有序發展奠定了堅實基礎。（作者：張凌寒，中國政法大學教授）