▲快速發(fā)展的AI產(chǎn)業(yè)造成了相關(guān)信息的爆炸式增長，客觀上給AI信息甄別帶來了困難。圖/IC photo
什么？“張文宏”開始帶貨了？
最近有網(wǎng)友向媒體發(fā)來一段視頻詢問“張文宏是不是帶貨了？”在賣一種蛋白棒，家里的老人信以為真已經(jīng)下單，還轉(zhuǎn)發(fā)了很多群。
據(jù)媒體報(bào)道，在名為“般畫234”的賬號(hào)視頻中，“張文宏”反復(fù)介紹著一種產(chǎn)品，口型是他的，聲音也是他的。目前，這段偽造的視頻在賬號(hào)內(nèi)已不可見。
如果是辨別能力強(qiáng)的觀眾，不難看出這是AI深度合成的視頻。可是對(duì)很多老年消費(fèi)者或是對(duì)“互聯(lián)網(wǎng)生態(tài)”不那么了解的人來說，這依然能起到以假亂真的效果。比如該賬號(hào)的商品櫥窗截圖顯示，這款蛋白棒已售出1266件，可見“中招”的消費(fèi)者并不少。
這種現(xiàn)象也并非罕見，除了張文宏之外，不少名人都深受生成AI仿冒之苦。比如此前引發(fā)眾多關(guān)注的“假靳東”事件，騙子用AI偽造靳東的形象，以“談戀愛”“拍戲”為名，大肆詐騙老人錢財(cái)；此外，明星藝人劉德華、黃百鳴，胖東來創(chuàng)始人于東來，小米董事長雷軍等，都曾就自己被AI仿造發(fā)布過聲明。
這種現(xiàn)象之所以猖獗，其實(shí)和追責(zé)困難有關(guān)，這點(diǎn)從張文宏的大吐苦水就能看出來。有記者聯(lián)系了張文宏，“這樣的賣貨賬號(hào)不止一個(gè)，且一直不斷在變，自己多次向平臺(tái)投訴但屢禁不絕?！彼Q自己也曾考慮過報(bào)警，但對(duì)方看不見摸不到，就像幽靈一般難以描述，“像蝗災(zāi)一樣，一次次害人”，只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。
事實(shí)上這正是問題的癥結(jié)所在，偽造名人的賬號(hào)，由于數(shù)量眾多、分布廣泛，讓逐個(gè)進(jìn)行維權(quán)變得近乎不可能。而且這些賬號(hào)還學(xué)會(huì)了一大堆伎倆，比如趁著深夜把帶貨視頻放出，到了早上再把視頻屏蔽掉，這樣買的人就投訴無門，也很難被發(fā)現(xiàn)。
這種亂象顯然不應(yīng)該再持續(xù)。其實(shí)現(xiàn)在已經(jīng)不乏相關(guān)規(guī)定對(duì)此進(jìn)行約束，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，都在內(nèi)容審核、信息標(biāo)識(shí)方面對(duì)生成AI的規(guī)范使用提出了要求。后者還特別強(qiáng)調(diào)，使用AI生成內(nèi)容不得侵害他人肖像權(quán)。
但快速發(fā)展的AI產(chǎn)業(yè)造成了相關(guān)信息的爆炸式增長，客觀上給AI信息甄別帶來了困難。據(jù)《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%，可見問題的嚴(yán)峻。
因此，治理也應(yīng)當(dāng)提速，跟上產(chǎn)業(yè)發(fā)展的步伐。值得注意的是，今年9月，國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》，明確要求AI生成合成的內(nèi)容要在顯著位置作出標(biāo)識(shí)，這也是進(jìn)一步提出的強(qiáng)制性規(guī)范。
而問題的關(guān)鍵還在于執(zhí)行，尤其是生成AI的主要使用場(chǎng)景——短視頻平臺(tái)，更要主動(dòng)承擔(dān)主體責(zé)任。對(duì)于生成AI內(nèi)容應(yīng)當(dāng)進(jìn)行更加嚴(yán)格的審核，并定期進(jìn)行大規(guī)模內(nèi)容篩查，如發(fā)現(xiàn)違規(guī)使用場(chǎng)景，就應(yīng)當(dāng)對(duì)賬號(hào)作出嚴(yán)肅處理。
同時(shí)也應(yīng)當(dāng)對(duì)被侵權(quán)人和消費(fèi)者維權(quán)提供更大的支持。比如張文宏抱怨“對(duì)方看不見摸不到”，這種現(xiàn)象就應(yīng)當(dāng)引起重視。當(dāng)被侵權(quán)人或消費(fèi)者向平臺(tái)提出質(zhì)疑，平臺(tái)應(yīng)當(dāng)進(jìn)行協(xié)助，提供相應(yīng)的信息，幫助被侵權(quán)人和消費(fèi)者鎖定賬號(hào)背后的實(shí)體或個(gè)人，由此進(jìn)入賠償或司法程序。
無論如何，不能任由AI造假泛濫成災(zāi)。從新聞也能看到，被造假的名人只能“發(fā)聲明”，上當(dāng)?shù)南M(fèi)者只能“認(rèn)倒霉”，這種無力被動(dòng)的狀況必須改變。對(duì)此，無論是相關(guān)部門還是互聯(lián)網(wǎng)平臺(tái)，都需要進(jìn)一步發(fā)力，提高信息篩查能力，讓侵權(quán)者付出沉重代價(jià)，也讓AI的技術(shù)發(fā)展始終保持在法治軌道之內(nèi)。
撰稿 / 柳早（媒體人）
編輯 / 遲道華
校對(duì) / 楊利
