國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，9月1日起將正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。針對這些內(nèi)容在傳播過程中該由誰來管？怎么管？

　　《人工智能生成合成內(nèi)容標(biāo)識辦法》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。

　　平臺在服務(wù)提供者的內(nèi)容上架或上線時要進行審核，核驗生成合成內(nèi)容標(biāo)識，對未標(biāo)識或疑似生成內(nèi)容要添加風(fēng)險提示，從而在傳播端阻斷虛假信息擴散。

　　中國人民大學(xué)未來法治研究院執(zhí)行院長 張吉豫：“標(biāo)識辦法”中進行檢測分三個層次，如果平臺是從元數(shù)據(jù)中檢測出隱式標(biāo)簽，那么平臺就可以標(biāo)識這個內(nèi)容是AI生成的，但是如果它只是通過一些算法推測這個內(nèi)容是AI生成的，它應(yīng)該是標(biāo)識為疑似AI生成。

　　針對目前由于技術(shù)的局限性而導(dǎo)致的部分原創(chuàng)內(nèi)容被誤判為AI生成，創(chuàng)作者權(quán)益受損等情況，法學(xué)專家指出，當(dāng)前的算法仍然存在數(shù)據(jù)偏差和場景適配不足等問題，在誤判率難以歸零的情況下，應(yīng)當(dāng)建立相應(yīng)的保障機制。

　　張吉豫：未來相關(guān)平臺進行了分級標(biāo)識后，其實也應(yīng)該建立分級的處理辦法，比如說對于明確它是AI生成的，通過隱式標(biāo)識確定的，應(yīng)該采取更嚴(yán)格的措施，但是對于很多應(yīng)該標(biāo)識為疑似AI生成的，應(yīng)該提供更便捷的用戶反饋渠道，也不宜對用戶進行嚴(yán)肅的懲罰。

　　法學(xué)專家建議，首先網(wǎng)絡(luò)服務(wù)提供者要公開算法原理及誤判樣本數(shù)據(jù)，提升透明度；其次要設(shè)立申訴渠道，允許用戶提交證據(jù)申請復(fù)核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

　　讓生成內(nèi)容看得見查得著 以規(guī)范促發(fā)展

　　據(jù)記者了解，截至目前，我國已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級網(wǎng)信辦完成登記，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達2.3億人。“標(biāo)識辦法”的施行，會對行業(yè)、個人用戶，以及相關(guān)技術(shù)的發(fā)展帶來哪些影響？

　　據(jù)記者了解，作為我國人工智能領(lǐng)域首部“辦法+強標(biāo)”的組合拳，強制性的國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》將于9月1日與《人工智能生成合成內(nèi)容標(biāo)識辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測、追責(zé)的閉環(huán)機制，在技術(shù)維度規(guī)范標(biāo)識體系并預(yù)留創(chuàng)新空間。

　　中國社科院法學(xué)所研究員 支振鋒：特別要提出的是這種生成式人工智能治理，我們一系列國家法律法規(guī)，還有規(guī)范性文件以及標(biāo)準(zhǔn)，一個很重要的治理目的是以規(guī)范促發(fā)展，通過治理和規(guī)范去凈化互聯(lián)網(wǎng)市場，凈化網(wǎng)絡(luò)信息內(nèi)容、生態(tài)空間，從而促進人工智能特別是生成式人工智能，它的規(guī)范運用和健康良性的發(fā)展，實際上還是通過規(guī)范去促進發(fā)展的。

　　另外，據(jù)專家介紹，高質(zhì)量數(shù)據(jù)對生成式人工智能產(chǎn)業(yè)發(fā)展至關(guān)重要，基于錯誤或不完整的數(shù)據(jù)作出的決策可能偏離正確方向，不符合法規(guī)要求的數(shù)據(jù)可能帶來法律風(fēng)險。如果未經(jīng)標(biāo)識的內(nèi)容進入公開數(shù)據(jù)領(lǐng)域，被大模型用于預(yù)訓(xùn)練會出現(xiàn)數(shù)據(jù)污染等情況，最終會導(dǎo)致技術(shù)可信度的大大降低，而“標(biāo)識辦法”的出臺，正是從源頭破解這一困局的關(guān)鍵舉措。

　　張吉豫：對于人工智能企業(yè)去選擇相應(yīng)的訓(xùn)練數(shù)據(jù)能夠起到很好的指引，特別是所有的這樣的生成內(nèi)容都需要進行隱式的標(biāo)識，這些標(biāo)識是很便捷的，可以被機器檢測的，就可以很便捷的去篩選哪些可能的內(nèi)容是機器產(chǎn)生的，也便于他們?nèi)ミM行訓(xùn)練的選擇。

　　有利于公平競爭 減少侵權(quán)詐騙等問題

　　據(jù)專家介紹，在《人工智能生成合成內(nèi)容標(biāo)識辦法》以及強制性的國家標(biāo)準(zhǔn)同步施行的情況下，標(biāo)識的存在也會對大規(guī)模搬運人工智能直接生成內(nèi)容的行為進行攔截，讓內(nèi)容平臺有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運營成本。

　　據(jù)法學(xué)專家介紹，《人工智能生成合成內(nèi)容標(biāo)識辦法》的施行有利于公平競爭和有效管理。

　　首先，強制“標(biāo)識”有利于保護傳統(tǒng)內(nèi)容產(chǎn)業(yè)，能在一定程度上降低AI技術(shù)帶來的沖擊；

　　另外，通過標(biāo)識可以追溯AI生成內(nèi)容的來源，減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問題，維護個人隱私和財產(chǎn)安全。

　　支振鋒：這些生成人工智能服務(wù)的使用者，比如說自媒體賬號、博主，他們要使用這些服務(wù)的話，他們自己也有合規(guī)的要求，特別是一些MCN機構(gòu)，一些自媒體賬號，它其實背后有公司在運營，他們都有這樣的合規(guī)義務(wù)，都要按照這個辦法，還有國家標(biāo)準(zhǔn)去做生成合成內(nèi)容的標(biāo)識。

　　據(jù)法學(xué)專家介紹，“標(biāo)識辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。其中，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，相關(guān)材料可能涉及標(biāo)識的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時快速識別內(nèi)容來源，追蹤到服務(wù)提供者或者用戶。