據(jù)國家網(wǎng)信辦網(wǎng)站14日消息,為了促進人工智能健康發(fā)展,規(guī)範人工智能生成合成內(nèi)容標識,保護公民、法人和其他組織合法權(quán)益,維護社會公共利益,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局制定了《人工智能生成合成內(nèi)容標識辦法》。
服務(wù)提供者提供的生成合成服務(wù)屬於《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的,應(yīng)當(dāng)按照下列要求對生成合成內(nèi)容添加顯式標識:
(一)在文本的起始、末尾或者中間適當(dāng)位置添加文字提示或者通用符號提示等標識,或者在交互場景界面、文字周邊添加顯著的提示標識;
(二)在音頻的起始、末尾或者中間適當(dāng)位置添加語音提示或者音頻節(jié)奏提示等標識,或者在交互場景界面中添加顯著的提示標識;
(三)在圖片的適當(dāng)位置添加顯著的提示標識;
(四)在視頻起始畫面和視頻播放周邊的適當(dāng)位置添加顯著的提示標識,可以在視頻末尾和中間適當(dāng)位置添加顯著的提示標識;
(五)呈現(xiàn)虛擬場景時,在起始畫面的適當(dāng)位置添加顯著的提示標識,可以在虛擬場景持續(xù)服務(wù)過程中的適當(dāng)位置添加顯著的提示標識;
(六)其他生成合成服務(wù)場景根據(jù)自身應(yīng)用特點添加顯著的提示標識。
服務(wù)提供者提供生成合成內(nèi)容下載、複製、導(dǎo)出等功能時,應(yīng)當(dāng)確保文件中含有滿足要求的顯式標識。
服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識,隱式標識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等製作要素信息。
鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標識。
文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息,用於記錄文件來源、屬性、用途等信息內(nèi)容。
提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)採取下列措施,規(guī)範生成合成內(nèi)容傳播活動:
(一)核驗文件元數(shù)據(jù)中是否含有隱式標識,文件元數(shù)據(jù)明確標明為生成合成內(nèi)容的,採取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,明確提醒公眾該內(nèi)容屬於生成合成內(nèi)容;
(二)文件元數(shù)據(jù)中未核驗到隱式標識,但用戶聲明為生成合成內(nèi)容的,採取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,提醒公眾該內(nèi)容可能為生成合成內(nèi)容;
(三)文件元數(shù)據(jù)中未核驗到隱式標識,用戶也未聲明為生成合成內(nèi)容,但提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者檢測到顯式標識或者其他生成合成痕跡的,識別為疑似生成合成內(nèi)容,採取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標識,提醒公眾該內(nèi)容疑似生成合成內(nèi)容;
(四)提供必要的標識功能,並提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。
有前款第一項至第三項情形的,應(yīng)當(dāng)在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺名稱或者編碼、內(nèi)容編號等傳播要素信息。
互聯(lián)網(wǎng)應(yīng)用程式分發(fā)平臺在應(yīng)用程式上架或者上線審核時,應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程式服務(wù)提供者說明是否提供人工智能生成合成服務(wù)?;ヂ?lián)網(wǎng)應(yīng)用程式服務(wù)提供者提供人工智能生成合成服務(wù)的,互聯(lián)網(wǎng)應(yīng)用程式分發(fā)平臺應(yīng)當(dāng)核驗其生成合成內(nèi)容標識相關(guān)材料。
服務(wù)提供者應(yīng)當(dāng)在用戶服務(wù)協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)範內(nèi)容,並提示用戶仔細閱讀並理解相關(guān)的標識管理要求。
用戶申請服務(wù)提供者提供沒有添加顯式標識的生成合成內(nèi)容的,服務(wù)提供者可以在通過用戶協(xié)議明確用戶的標識義務(wù)和使用責(zé)任後,提供不含顯式標識的生成合成內(nèi)容,並依法留存提供對象信息等相關(guān)日誌不少於六個月。
用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的,應(yīng)當(dāng)主動聲明並使用服務(wù)提供者提供的標識功能進行標識。
任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識,不得為他人實施上述惡意行為提供工具或者服務(wù),不得通過不正當(dāng)標識手段損害他人合法權(quán)益。
服務(wù)提供者開展標識活動的,還應(yīng)當(dāng)符合相關(guān)法律、行政法規(guī)、部門規(guī)章和強制性國家標準的要求。
服務(wù)提供者在履行算法備案、安全評估等手續(xù)時,應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標識相關(guān)材料,並加強標識信息共享,為防範打擊相關(guān)違法犯罪活動提供支持和幫助。
違反本辦法規(guī)定的,由網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門依據(jù)職責(zé),按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。
本辦法自2025年9月1日起施行。