國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，9月1日起正式施行，“標(biāo)識(shí)辦法”明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

　　平臺(tái)在服務(wù)提供者的內(nèi)容上架或上線時(shí)要進(jìn)行審核，核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)，對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容要添加風(fēng)險(xiǎn)提示，從而在傳播端阻斷虛假信息擴(kuò)散。

　　中國(guó)人民大學(xué)未來(lái)法治研究院執(zhí)行院長(zhǎng)張吉豫表示，“標(biāo)識(shí)辦法”中進(jìn)行檢測(cè)分三個(gè)層次，如果平臺(tái)是從元數(shù)據(jù)中檢測(cè)出隱式標(biāo)簽，那么平臺(tái)就可以標(biāo)識(shí)這個(gè)內(nèi)容是AI生成的，但是如果它只是通過(guò)一些算法推測(cè)這個(gè)內(nèi)容是AI生成的，它應(yīng)該是標(biāo)識(shí)為疑似AI生成。

　　針對(duì)目前由于技術(shù)的局限性而導(dǎo)致的部分原創(chuàng)內(nèi)容被誤判為AI生成，創(chuàng)作者權(quán)益受損等情況，法學(xué)專家指出，當(dāng)前的算法仍然存在數(shù)據(jù)偏差和場(chǎng)景適配不足等問(wèn)題，在誤判率難以歸零的情況下，應(yīng)當(dāng)建立相應(yīng)的保障機(jī)制。

　　法學(xué)專家建議，首先網(wǎng)絡(luò)服務(wù)提供者要公開(kāi)算法原理及誤判樣本數(shù)據(jù)，提升透明度；其次要設(shè)立申訴渠道，允許用戶提交證據(jù)申請(qǐng)復(fù)核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

　　據(jù)了解，截至目前，我國(guó)已有490余款大模型在國(guó)家網(wǎng)信辦完成備案，240余款大模型在省級(jí)網(wǎng)信辦完成登記，我國(guó)生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人。

　　據(jù)記者了解，作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”的組合拳，強(qiáng)制性的國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》將于9月1日與《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間。

　　據(jù)法學(xué)專家介紹，“標(biāo)識(shí)辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。其中，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來(lái)源，追蹤到服務(wù)提供者或者用戶。