《科創(chuàng)板日?qǐng)?bào)》9月14日訊（記者 黃心怡） 隨著生成式AI的爆火，互聯(lián)網(wǎng)上的圖片和視頻變得越來(lái)越真假難辨。

對(duì)此，國(guó)家網(wǎng)信辦發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)的通知。

此前，國(guó)家網(wǎng)信辦等部門(mén)已相繼出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等，提及網(wǎng)絡(luò)服務(wù)提供者應(yīng)對(duì)AI生成合成內(nèi)容進(jìn)行標(biāo)識(shí)。

這次的意見(jiàn)稿則進(jìn)一步規(guī)范了網(wǎng)絡(luò)平臺(tái)和用戶對(duì)AI生成的內(nèi)容進(jìn)行標(biāo)識(shí)的義務(wù)，涉及四類(lèi)活動(dòng)主體：提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、提供內(nèi)容傳播平臺(tái)服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)和普通用戶。

對(duì)于服務(wù)提供者提供的生成合成服務(wù)，如果屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)按要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)。服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。

此外，服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)，隱式標(biāo)識(shí)包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號(hào)等制作要素信息。此舉是為了便于平臺(tái)方能夠?qū)σ曨l進(jìn)行檢測(cè)，以快速判斷是否為AI生成的視頻。

而用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時(shí)，應(yīng)當(dāng)主動(dòng)聲明并使用平臺(tái)提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

同時(shí)，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)，包括對(duì)平臺(tái)上發(fā)布的文件元數(shù)據(jù)進(jìn)行核驗(yàn)，提醒用戶該內(nèi)容屬于或疑似為生成合成內(nèi)容?；ヂ?lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)（即應(yīng)用商店）在應(yīng)用程序上架或上線審核時(shí)，應(yīng)當(dāng)對(duì)內(nèi)容傳播平臺(tái)的標(biāo)識(shí)功能進(jìn)行核驗(yàn)。

中國(guó)信息通信研究院人工智能研究所所長(zhǎng)魏凱認(rèn)為，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（下稱“《辦法》”）先行提出生成合成內(nèi)容標(biāo)識(shí)的中國(guó)方案，著力加強(qiáng)服務(wù)商生成合成內(nèi)容標(biāo)識(shí)的規(guī)范性，并進(jìn)一步完善生成式人工智能監(jiān)管問(wèn)責(zé)體系。

“《辦法》雖然將標(biāo)識(shí)添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶，但未對(duì)傳播平臺(tái)和應(yīng)用分發(fā)平臺(tái)實(shí)施‘一刀切’式的避風(fēng)港規(guī)則。而是采取一種更為精細(xì)化的路徑，詳細(xì)規(guī)定傳播平臺(tái)應(yīng)當(dāng)對(duì)文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗(yàn)，提示用戶生成合成內(nèi)容信息，并在文件元數(shù)據(jù)中添加傳播要素信息；應(yīng)用服務(wù)分發(fā)平臺(tái)應(yīng)在應(yīng)用程序上架或上線審核前核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。”

魏凱分析，此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺(tái)的義務(wù)分配，避免相關(guān)平臺(tái)“隱身”于深度合成監(jiān)管體系。

此前，短視頻平臺(tái)上曾涌現(xiàn)一些假冒真人的數(shù)字人賬號(hào)，有些由AI憑空生成，有些則是盜用了真人肖像。

今年2月，一名烏克蘭網(wǎng)紅發(fā)視頻控訴她的面孔被非法盜用。她的容貌、聲音出現(xiàn)在中文網(wǎng)絡(luò)，在不同賬號(hào)上，以俄羅斯姑娘的身份售賣(mài)俄羅斯糖果等商品。這些以她形象出現(xiàn)的“俄羅斯姑娘”，名為娜塔莎、安娜、葉琳娜……她們自稱在中國(guó)生活多年，會(huì)向觀眾介紹俄羅斯特色產(chǎn)品，諸如巧克力、糖果等，點(diǎn)進(jìn)鏈接便可購(gòu)買(mǎi)。

北京清律律師事務(wù)所熊定中律師對(duì)《科創(chuàng)板日?qǐng)?bào)》表示，按照意見(jiàn)稿的要求，短視頻平臺(tái)方對(duì)這類(lèi)視頻需要進(jìn)行檢測(cè)，打上疑似生成合成內(nèi)容的標(biāo)簽。

記者注意到，在各大互聯(lián)網(wǎng)平臺(tái)上，已經(jīng)出現(xiàn)了不少生成式AI合成的照片、視頻等，初看幾乎難以辨別真實(shí)性。一些平臺(tái)對(duì)其打上了小字標(biāo)注：注意甄別，疑似包含AI創(chuàng)作信息。

熊定中告訴《科創(chuàng)板日?qǐng)?bào)》記者，此次意見(jiàn)稿的第九條和第十二條尤為值得關(guān)注，屬于對(duì)服務(wù)提供者的新增要求。

第九條提出，如用戶需要服務(wù)提供者提供沒(méi)有添加顯式標(biāo)識(shí)的生成合成內(nèi)容，可在通過(guò)用戶協(xié)議明確用戶的標(biāo)識(shí)義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識(shí)的生成合成內(nèi)容，并留存相關(guān)日志不少于六個(gè)月。

熊定中判斷，這條落地需要一定技術(shù)成本的改進(jìn)，對(duì)于大模型提供方的儲(chǔ)存成本而言或許會(huì)顯著上升，服務(wù)模式上可能也需要做相應(yīng)的調(diào)整。

第十二條提出，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料，并加強(qiáng)標(biāo)識(shí)信息共享，為防范打擊相關(guān)違法犯罪活動(dòng)提供支持和幫助。熊定中介紹，目前的算法備案和安全評(píng)估的工作不包括這部分的工作內(nèi)容，這意味著相關(guān)的工作流程和內(nèi)容會(huì)發(fā)生新增。

知名經(jīng)濟(jì)學(xué)者、工信部信息通信經(jīng)濟(jì)專家委員會(huì)委員盤(pán)和林認(rèn)為，標(biāo)識(shí)能夠讓用戶區(qū)分真假視頻，防止以假亂真，與此同時(shí)，標(biāo)識(shí)對(duì)內(nèi)容發(fā)布者也是有利的，也就是說(shuō)，內(nèi)容發(fā)布者只要聲明了視頻來(lái)源，便可以發(fā)布AI視頻來(lái)創(chuàng)作，實(shí)際上是一種行為規(guī)范。