抖音今日發(fā)布關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議。

其中提出，各生成式人工智能技術(shù)的提供者，均應(yīng)對(duì)生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，以便公眾判斷。同時(shí)使用統(tǒng)一的人工智能生成內(nèi)容數(shù)據(jù)標(biāo)準(zhǔn)或元數(shù)據(jù)標(biāo)準(zhǔn)，便于其他內(nèi)容平臺(tái)進(jìn)行識(shí)別。

(相關(guān)資料圖)

具體來(lái)看，針對(duì)創(chuàng)作者、主播、用戶、商家、廣告主等平臺(tái)生態(tài)參與者，抖音提出，在抖音應(yīng)用生成式人工智能技術(shù)時(shí)，遵循以下規(guī)范：

1)發(fā)布者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)；

2)發(fā)布者需對(duì)人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負(fù)責(zé)；

3)虛擬人需在平臺(tái)進(jìn)行注冊(cè)，虛擬人技術(shù)使用者需實(shí)名認(rèn)證；

4)禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容；

5)禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識(shí)、弄虛作假、造謠傳謠的內(nèi)容。

抖音稱平臺(tái)也將提供統(tǒng)一的人工智能生成內(nèi)容標(biāo)識(shí)能力，幫助創(chuàng)作者打標(biāo)，方便用戶區(qū)分。

針對(duì)這一方面，抖音發(fā)布了《關(guān)于人工智能生成內(nèi)容標(biāo)識(shí)的水印與元數(shù)據(jù)規(guī)范》。

其中，標(biāo)識(shí)水印規(guī)范旨在幫助AI生成工具和創(chuàng)作者可以使用統(tǒng)一樣式和位置，來(lái)提示用戶內(nèi)容由AI生成；標(biāo)識(shí)元數(shù)據(jù)規(guī)范則是通過(guò)規(guī)范人工智能生成內(nèi)容的元數(shù)據(jù)格式，在相關(guān)圖片和視頻元數(shù)據(jù)中寫入信息，達(dá)到行業(yè)通用識(shí)別的效果。

政策端，國(guó)家網(wǎng)信辦不久前也就《生成式人工智能服務(wù)管理辦法》公開(kāi)征求意見(jiàn)，這也是國(guó)家首次針對(duì)生成式AI產(chǎn)業(yè)發(fā)布規(guī)范性政策。

其中，對(duì)利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人的責(zé)任進(jìn)行了規(guī)定；同時(shí)，也提出對(duì)于生成式人工智能產(chǎn)品，提供者需要按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)等。

AI生成內(nèi)容亟待監(jiān)管

日前，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊(duì)成功偵破一起利用人工智能技術(shù)制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自 1 月 10 日《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實(shí)施后，該省偵辦的首例案件。

伴隨大模型AI發(fā)展，ChatGPT等類似應(yīng)用越來(lái)越火熱，因生成式人工智能引發(fā)的社會(huì)問(wèn)題也開(kāi)始出現(xiàn)。因此AI監(jiān)管覆蓋范圍不斷擴(kuò)大、監(jiān)管技術(shù)不斷升級(jí)、監(jiān)管主體逐漸國(guó)際化：

除了上文提到的我國(guó)《生成式人工智能服務(wù)管理辦法》之外，白宮本月剛剛宣布首個(gè)AI監(jiān)管計(jì)劃，政府承諾發(fā)布指導(dǎo)方針草案，以確保對(duì)人工智能的使用保障“美國(guó)人民的權(quán)利和安全”；歐盟也表示希望對(duì)AI生成的內(nèi)容進(jìn)行強(qiáng)制性的規(guī)定，人工智能生成的一切，無(wú)論是文本還是圖像，都有義務(wù)告知它們是由人工智能完成的。

安信證券認(rèn)為，當(dāng)前對(duì)AI生成內(nèi)容的判別主要可以由兩種技術(shù)途徑來(lái)完成：1)通過(guò)算法識(shí)別AI模型生成內(nèi)容的特征，從而鑒別相應(yīng)的內(nèi)容是否由AI生成。2)通過(guò)對(duì)AI生成的內(nèi)容添加特定的標(biāo)識(shí)，來(lái)區(qū)分相應(yīng)內(nèi)容是否由AI生成。

值得一提的是，數(shù)字水印或許也有望成為有效解決方案的一種。數(shù)字水印是將一些標(biāo)識(shí)信息直接嵌入數(shù)字載體當(dāng)中，但不影響原載體的使用價(jià)值，也不容易被人的知覺(jué)系統(tǒng)覺(jué)察或注意。通過(guò)這些隱藏在載體中的信息，可確認(rèn)內(nèi)容創(chuàng)建者、購(gòu)買者、傳送隱秘信息或者判斷載體是否被篡改。

OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來(lái)的負(fù)面影響。

據(jù)《科創(chuàng)板日?qǐng)?bào)》不完全統(tǒng)計(jì)，A股中已布局AI生成內(nèi)容識(shí)別的公司有：

關(guān)鍵詞：