近年來，人工智能技術快速發展，為生成合成文字、圖片、音頻、視頻等信息提供了便利，但也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題。國家網信辦等四部門聯合發布的《人工智能生成合成內容標識辦法》，9月1日起正式施行，“標識辦法”明確所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。

截至目前，我國已有490余款大模型在國家網信辦完成備案，240余款大模型在省級網信辦完成登記，我國生成式人工智能產品的用戶規模已達2.3億人。

9月1日起，人工智能生成合成內容將打上“電子水印”，重點解決“哪些是人工智能生成的”“誰生成的”“從哪里生成的”等問題。

具體怎么加？

“標識辦法”明確，服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識。以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到。

在提供生成合成內容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識。

在記錄文件來源、屬性、用途等信息內容的文件元數據中還應當添加隱式標識，包含屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。

如何安全管理？

不僅如此，“標識辦法”與《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等法規充分銜接。服務提供者在履行算法備案、安全評估等手續時，相關材料可能涉及標識的技術細節，如水印算法、元數據格式、服務商編碼等，這些信息能夠幫助執法部門在發現違法內容時快速識別內容來源，追蹤到服務提供者或者用戶。

任何組織和個人不得惡意刪除、篡改、偽造、隱匿標識。推動由生成到傳播各環節全流程安全管理。從源頭阻斷不良內容傳播，打造可信賴的人工智能技術。