作者：中國信息通信研究院人工智能研究所所長 魏凱 

隨著生成式人工智能技術快速發展，利用人工智能技術生成或合成文字、圖像、音樂、視頻、3D等數字內容成為網絡空間內容的主要生產方式，不斷為數字經濟、產業發展甚至社會變革注入強大動力。然而，伴隨內容生成合成門檻的不斷降低，新技術的濫用也對網絡空間治理提出了更大挑戰。當前，中美歐等均探索將內容披露和標識義務入法，國內外多家互聯網公司也逐步推進標識嵌入和管理舉措，內容標識已然成為全球打擊虛假有害信息的通行做法。為順應這一實踐趨勢和產業需求，國家互聯網信息辦公室等部門適時發布《人工智能生成合成內容標識辦法》（下稱《辦法》）及配套國家標準《網絡安全技術 人工智能生成合成內容標識方法》（下稱《標識方法》），全方位、多層次地規范人工智能內容標識要求和方法，邁出了完善我國人工智能治理制度的重要一步。

一、問題導向，破解人工智能生成合成內容新需求新風險

立足于生成式人工智能健康發展和規范應用，《辦法》以問題為導向，通過系統性、創新性制度設計，全面回應了對人工智能生成合成內容標識的要求。

一是先行提出生成合成內容標識的中國方案。針對人工智能內容生成合成帶來的顛覆性風險挑戰，國際層面也在不斷探索內容標識方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規定了要確保人工智能生成合成內容的透明度義務，要求平臺添加強制性水印。美國加州2024年8月發布《數字內容溯源標識法案》，要求在人工智能生成物中嵌入可溯源數據，以確保內容來源的透明度。國際電信聯盟2024年7月發布《檢測深度偽造和生成式人工智能：人工智能水印和多媒體真實性標準研討會的報告》，包括內容標識在內，初步探討了深度合成內容檢測的標準協作安排。《辦法》根植于我國發展實踐，立足長遠、著眼前瞻、行動快速，率先通過標準完善補充生成式人工智能綜合治理機制，有力支撐了科技向善的治理理念，為世界貢獻發展與安全并行的人工智能治理中國方案。

二是著力加強服務商生成合成內容標識的規范性。隨著人工智能生成合成內容工具的普及化和可及化發展，技術應用的門檻較之前大大降低。早在2022年中央網信辦等就發布了《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），明確指出深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。但《規定》主要明確了需要添加標識的情況，對于添加標識的位置、字型和表達并未做出具體要求，因此各類企業在實施過程中出現了文本內容顯式標識不明顯、難察覺，音頻、視頻等內容顯式標識未插入、淺提示，隱式標識少信息、難校驗等問題，對于落實監管提出了挑戰。出臺《辦法》，是進一步推進生成合成內容標識工作的必要舉措，對規范互聯網信息服務深度合成管理、解決生成合成內容標識突出問題、推進信息網絡生態環境治理意義重大，影響深遠。

三是進一步完善生成式人工智能監管問責體系。生成式人工智能生成合成內容涉及多種類型的主體，清晰界定各主體義務更有利于壓實主體責任，便利技術檢測實施，進而落實精準問責。《辦法》不僅界定了人工智能生成合成內容的基本概念，更針對服務提供者、傳播平臺、應用服務分發平臺和用戶分別規定了具體標識要求，為各相關主體落實合規指明了方向。由此，《辦法》就現行責任制度作出補充，充分細化了《規定》提出的深度合成服務提供者和技術支持者行為規范，為促進新技術新應用的規范發展提供了有益范例。

二、明確要求，促進人工智能生成合成內容精細化治理

人工智能生成合成內容不僅包括文本、圖像、音頻、視頻等多種表現形式，更在“元宇宙”等交互式、沉浸式場景中提供了更多實現方案。《標識方法》對于人工智能生成合成內容進行了全方位覆蓋，并且進一步明確了《辦法》要求和具體操作指引。

一是區分顯式標識和隱式標識規范要求。為滿足當前可感知和不可感知的兩類標識方法需要，《標識方法》清晰闡述了各自的關鍵要素要求，對于顯式標識主要圍繞文字要素、位置、字型、顏色、音頻節奏、視頻像素和交互提示等提出要求，對于元數據和內容隱式標識提出生成合成標簽要素、服務提供者要素和內容編號要素等關鍵指引。

二是列舉顯式標識典型應用場景。《標識方法》通過列舉式的方式對于顯式標識的應用場景做出了進一步細化，在《規定》中提到的五類顯著標識應用場景之外加以補充，包括文生圖片等圖片內容生成服務；音樂等音頻內容生成服務；文生視頻、圖生視頻等視頻內容生成服務。新列舉的三類典型應用場景屬于2022年后迅速發展起來新型生成合成內容形式，尤其是ChatGPT、Sora展示出視頻內容生成的強大潛能。《標識方法》囊括此三類典型應用場景有利于針對性、前瞻性開展監管，符合生成式人工智能的技術原理與產業需要。

三是規范元數據隱式標識格式要求。此前生成合成內容隱式標識方法在不同規模、不同技術水平的企業間應用各不相同，標識的標簽信息也未有一致，這就導致識別隱式標識對于監管主體和內容平臺而言面臨挑戰。《標識方法》為解決這一問題，對于隱式標識擴展字段關鍵詞和應包括的標簽、編號、預留字段的值等添加了具體說明，為行業統一、穩定、持續落實隱式標識要求提供了有效措施。

四是展示顯式和隱式標識各要求對應示例。《標識方法》以圖片示例的形式對于各類顯式和隱式標識要求進行了展示，有助于企業直觀了解標準要求，避免因文字表述引發的模糊和歧義，從而推動行業協同落實，提升治理效能。

三、守正創新，兼顧內容生成合成服務管理與技術創新應用

人工智能生成合成技術應在安全的前提下規范使用、加速發展，以高水平的治理保障高質量發展。《辦法》及《標識方法》充分考慮“用”和“管”兩側需求，最大限度減少內容標識對于用戶使用的影響，推動企業自主自愿展示標識。一是提供多種標識方法，適應更多產品形態。《標識方法》對于文本內容顯式標識創新提出角標形式，僅需在內容末尾加注角標“AI”即可高效滿足要求，對于音頻內容則首次提出音頻節奏標識，在音頻適當位置加入“短長短短”節奏的摩斯碼表示即可達到提示作用。此類標識方法不僅對于企業而言便于打造不同產品樣態，也能保障用戶使用體驗和認知效果，在實現監管目的的同時也為技術發展提供了有效保障。二是劃分不同主體責任，精細化避風港原則適用。《辦法》雖然將標識添加的責任主要施加于服務提供者和上傳內容的用戶，但未對傳播平臺和應用分發平臺實施“一刀切”式的避風港規則。《辦法》采取一種更為精細化的路徑，詳細規定傳播平臺應當對文件元數據中的擴展字段進行核驗，提示用戶生成合成內容信息，并在文件元數據中添加傳播要素信息；應用服務分發平臺應在應用程序上架或上線審核前核驗服務提供者是否按要求提供生成合成內容標識功能。此舉有助于適當調整服務提供者、使用者和傳播分發平臺的義務分配，避免相關平臺“隱身”于深度合成監管體系，從而真正實現齊抓共管、協同共治的治理機制，有效維護健康向善的信息網絡生態環境。