隨著人工智能技術的飛速發展,深度合成技術(通常指利用深度學習、虛擬現實等技術生成或編輯文本、圖像、音頻、視頻等內容的技術)在互聯網信息服務領域得到了廣泛應用,從娛樂濾鏡、虛擬主播到智能客服、內容創作,其影響力日益擴大。為了規范這一技術的應用,防范安全風險,保護公民、法人和其他組織的合法權益,維護國家安全和社會公共利益,國家互聯網信息辦公室等相關部門聯合發布了《互聯網信息服務深度合成管理規定》(以下簡稱《規定》)。以下是對該《規定》的圖解式學習解讀。
一、 《規定》的總體目標與適用范圍
- 核心目標:促進深度合成服務健康有序發展,明確提供者和使用者的責任義務,劃清技術應用的“紅線”與“底線”。
- 適用范圍:在中華人民共和國境內應用深度合成技術提供互聯網信息服務(即“深度合成服務”)的活動,以及相關的監督管理。
二、 深度合成服務提供者的核心責任義務(“做什么”與“不做什么”)
- 主體責任落實:建立健全管理制度,制定管理規則,加強技術管理,對生成內容進行審核。
- 真實身份認證:按照《網絡安全法》要求,對深度合成服務使用者進行真實身份信息認證。
- 顯著標識義務:對使用深度合成技術生成的或編輯的信息內容,必須進行顯著標識(如添加水印、標簽等),避免公眾混淆。這是《規定》的一大亮點和核心要求。
- 信息內容管理:建立健全用于識別違法和不良信息的特征庫,加強內容管理,發現違法和不良信息應立即處置。
- 數據安全與個人信息保護:依法履行個人信息保護義務,建立健全訓練數據管理、個人信息保護等制度。
- 安全評估與備案:具有輿論屬性或者社會動員能力的深度合成服務提供者,應按規定開展安全評估,并履行備案手續。
- 辟謠機制:發現利用深度合成服務從事違法活動或傳播虛假信息的,應及時采取辟謠、處置等措施。
- 禁止行為紅線:不得利用深度合成服務從事法律、行政法規禁止的活動,不得制作、復制、發布、傳播違法和不良信息。
三、 深度合成服務使用者的行為規范
- 依法依規使用:遵守法律法規,尊重社會公德和倫理,不得利用深度合成服務從事危害國家安全、損害公共利益、侵害他人合法權益等活動。
- 真實信息提供:提供真實身份信息進行認證。
- 不得惡意規避:不得故意規避、對抗深度合成服務提供者采取的管理措施。
四、 監督管理和法律責任
- 監管部門:國家及地方網信部門依法負責統籌協調監督管理工作,電信、公安、市場監管等部門依據職責實施監督管理。
- 監督檢查權:監管部門可依法對深度合成服務開展監督檢查,服務提供者應予以配合。
- 違法責任:違反《規定》的,將依據《網絡安全法》、《數據安全法》、《個人信息保護法》等法律法規進行處罰;構成犯罪的,依法追究刑事責任。
五、 《規定》的重要意義與行業影響
《規定》的出臺標志著我國在人工智能治理領域邁出了關鍵一步,為深度合成技術的應用確立了清晰的規則框架。
- 對行業:促使技術研發和應用企業將合規與倫理要求前置,推動技術向善,實現創新與規范的平衡發展。
- 對公眾:增強了網絡空間內容的可辨識度,有助于防范“深度偽造”等帶來的詐騙、誹謗、混淆視聽等風險,提升了網絡信息環境的安全性與可信度。
- 對社會:為維護網絡空間清朗、保障國家安全和社會穩定提供了有力的制度工具,是構建清朗網絡空間的重要組成部分。
****:《互聯網信息服務深度合成管理規定》以技術治理技術,以規范引導發展,通過明確責任、強化標識、加強管理等一系列措施,為深度合成技術的健康發展保駕護航,是引導互聯網信息服務,特別是新興AI應用走向規范化、法治化軌道的重要里程碑。所有相關服務提供者與使用者都應深入學習、嚴格遵守,共同營造一個安全、可靠、清朗的網絡人工智能應用生態。