《科創(chuàng)板日報》9月14日訊（記者 黃心怡） 隨著生成式AI的爆火，互聯(lián)網(wǎng)上的圖片和視頻變得越來越真假難辨。

對此，國家網(wǎng)信辦發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》公開征求意見的通知。

此前，國家網(wǎng)信辦等部門已相繼出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》等，提及網(wǎng)絡(luò)服務(wù)提供者應(yīng)對AI生成合成內(nèi)容進(jìn)行標(biāo)識。

這次的意見稿則進(jìn)一步規(guī)范了網(wǎng)絡(luò)平臺和用戶對AI生成的內(nèi)容進(jìn)行標(biāo)識的義務(wù)，涉及四類活動主體：提供生成合成服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、提供內(nèi)容傳播平臺服務(wù)的網(wǎng)絡(luò)信息服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺和普通用戶。

對于服務(wù)提供者提供的生成合成服務(wù)，如果屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)按要求對生成合成內(nèi)容添加顯式標(biāo)識。服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識。

此外，服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識，隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或編碼、內(nèi)容編號等制作要素信息。此舉是為了便于平臺方能夠?qū)σ曨l進(jìn)行檢測，以快速判斷是否為AI生成的視頻。

而用戶向提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者上傳生成合成內(nèi)容時，應(yīng)當(dāng)主動聲明并使用平臺提供的標(biāo)識功能進(jìn)行標(biāo)識。

同時，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動，包括對平臺上發(fā)布的文件元數(shù)據(jù)進(jìn)行核驗，提醒用戶該內(nèi)容屬于或疑似為生成合成內(nèi)容?；ヂ?lián)網(wǎng)應(yīng)用程序分發(fā)平臺（即應(yīng)用商店）在應(yīng)用程序上架或上線審核時，應(yīng)當(dāng)對內(nèi)容傳播平臺的標(biāo)識功能進(jìn)行核驗。

中國信息通信研究院人工智能研究所所長魏凱認(rèn)為，《人工智能生成合成內(nèi)容標(biāo)識辦法》（下稱“《辦法》”）先行提出生成合成內(nèi)容標(biāo)識的中國方案，著力加強(qiáng)服務(wù)商生成合成內(nèi)容標(biāo)識的規(guī)范性，并進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系。

“《辦法》雖然將標(biāo)識添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶，但未對傳播平臺和應(yīng)用分發(fā)平臺實施‘一刀切’式的避風(fēng)港規(guī)則。而是采取一種更為精細(xì)化的路徑，詳細(xì)規(guī)定傳播平臺應(yīng)當(dāng)對文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗，提示用戶生成合成內(nèi)容信息，并在文件元數(shù)據(jù)中添加傳播要素信息；應(yīng)用服務(wù)分發(fā)平臺應(yīng)在應(yīng)用程序上架或上線審核前核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能?！?/p>

魏凱分析，此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺的義務(wù)分配，避免相關(guān)平臺“隱身”于深度合成監(jiān)管體系。

此前，短視頻平臺上曾涌現(xiàn)一些假冒真人的數(shù)字人賬號，有些由AI憑空生成，有些則是盜用了真人肖像。

今年2月，一名烏克蘭網(wǎng)紅發(fā)視頻控訴她的面孔被非法盜用。她的容貌、聲音出現(xiàn)在中文網(wǎng)絡(luò)，在不同賬號上，以俄羅斯姑娘的身份售賣俄羅斯糖果等商品。這些以她形象出現(xiàn)的“俄羅斯姑娘”，名為娜塔莎、安娜、葉琳娜……她們自稱在中國生活多年，會向觀眾介紹俄羅斯特色產(chǎn)品，諸如巧克力、糖果等，點進(jìn)鏈接便可購買。

北京清律律師事務(wù)所熊定中律師對《科創(chuàng)板日報》表示，按照意見稿的要求，短視頻平臺方對這類視頻需要進(jìn)行檢測，打上疑似生成合成內(nèi)容的標(biāo)簽。

記者注意到，在各大互聯(lián)網(wǎng)平臺上，已經(jīng)出現(xiàn)了不少生成式AI合成的照片、視頻等，初看幾乎難以辨別真實性。一些平臺對其打上了小字標(biāo)注：注意甄別，疑似包含AI創(chuàng)作信息。

熊定中告訴《科創(chuàng)板日報》記者，此次意見稿的第九條和第十二條尤為值得關(guān)注，屬于對服務(wù)提供者的新增要求。

第九條提出，如用戶需要服務(wù)提供者提供沒有添加顯式標(biāo)識的生成合成內(nèi)容，可在通過用戶協(xié)議明確用戶的標(biāo)識義務(wù)和使用責(zé)任后，提供不含顯式標(biāo)識的生成合成內(nèi)容，并留存相關(guān)日志不少于六個月。

熊定中判斷，這條落地需要一定技術(shù)成本的改進(jìn)，對于大模型提供方的儲存成本而言或許會顯著上升，服務(wù)模式上可能也需要做相應(yīng)的調(diào)整。

第十二條提出，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識相關(guān)材料，并加強(qiáng)標(biāo)識信息共享，為防范打擊相關(guān)違法犯罪活動提供支持和幫助。熊定中介紹，目前的算法備案和安全評估的工作不包括這部分的工作內(nèi)容，這意味著相關(guān)的工作流程和內(nèi)容會發(fā)生新增。

知名經(jīng)濟(jì)學(xué)者、工信部信息通信經(jīng)濟(jì)專家委員會委員盤和林認(rèn)為，標(biāo)識能夠讓用戶區(qū)分真假視頻，防止以假亂真，與此同時，標(biāo)識對內(nèi)容發(fā)布者也是有利的，也就是說，內(nèi)容發(fā)布者只要聲明了視頻來源，便可以發(fā)布AI視頻來創(chuàng)作，實際上是一種行為規(guī)范。