▲快速發(fā)展的AI產(chǎn)業(yè)造成了相關(guān)信息的爆炸式增長,客觀上給AI信息甄別帶來了困難。圖/IC photo
什么?“張文宏”開始帶貨了?
最近有網(wǎng)友向媒體發(fā)來一段視頻詢問“張文宏是不是帶貨了?”在賣一種蛋白棒,家里的老人信以為真已經(jīng)下單,還轉(zhuǎn)發(fā)了很多群。
據(jù)媒體報(bào)道,在名為“般畫234”的賬號(hào)視頻中,“張文宏”反復(fù)介紹著一種產(chǎn)品,口型是他的,聲音也是他的。目前,這段偽造的視頻在賬號(hào)內(nèi)已不可見。
如果是辨別能力強(qiáng)的觀眾,不難看出這是AI深度合成的視頻。可是對(duì)很多老年消費(fèi)者或是對(duì)“互聯(lián)網(wǎng)生態(tài)”不那么了解的人來說,這依然能起到以假亂真的效果。比如該賬號(hào)的商品櫥窗截圖顯示,這款蛋白棒已售出1266件,可見“中招”的消費(fèi)者并不少。
這種現(xiàn)象也并非罕見,除了張文宏之外,不少名人都深受生成AI仿冒之苦。比如此前引發(fā)眾多關(guān)注的“假靳東”事件,騙子用AI偽造靳東的形象,以“談戀愛”“拍戲”為名,大肆詐騙老人錢財(cái);此外,明星藝人劉德華、黃百鳴,胖東來創(chuàng)始人于東來,小米董事長雷軍等,都曾就自己被AI仿造發(fā)布過聲明。
這種現(xiàn)象之所以猖獗,其實(shí)和追責(zé)困難有關(guān),這點(diǎn)從張文宏的大吐苦水就能看出來。有記者聯(lián)系了張文宏,“這樣的賣貨賬號(hào)不止一個(gè),且一直不斷在變,自己多次向平臺(tái)投訴但屢禁不絕?!彼Q自己也曾考慮過報(bào)警,但對(duì)方看不見摸不到,就像幽靈一般難以描述,“像蝗災(zāi)一樣,一次次害人”,只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。
事實(shí)上這正是問題的癥結(jié)所在,偽造名人的賬號(hào),由于數(shù)量眾多、分布廣泛,讓逐個(gè)進(jìn)行維權(quán)變得近乎不可能。而且這些賬號(hào)還學(xué)會(huì)了一大堆伎倆,比如趁著深夜把帶貨視頻放出,到了早上再把視頻屏蔽掉,這樣買的人就投訴無門,也很難被發(fā)現(xiàn)。
這種亂象顯然不應(yīng)該再持續(xù)。其實(shí)現(xiàn)在已經(jīng)不乏相關(guān)規(guī)定對(duì)此進(jìn)行約束,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等,都在內(nèi)容審核、信息標(biāo)識(shí)方面對(duì)生成AI的規(guī)范使用提出了要求。后者還特別強(qiáng)調(diào),使用AI生成內(nèi)容不得侵害他人肖像權(quán)。
但快速發(fā)展的AI產(chǎn)業(yè)造成了相關(guān)信息的爆炸式增長,客觀上給AI信息甄別帶來了困難。據(jù)《2024人工智能安全報(bào)告》顯示,2023年基于AI的深度偽造欺詐暴增了3000%,基于AI的釣魚郵件增長了1000%,可見問題的嚴(yán)峻。
因此,治理也應(yīng)當(dāng)提速,跟上產(chǎn)業(yè)發(fā)展的步伐。值得注意的是,今年9月,國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見稿)》,明確要求AI生成合成的內(nèi)容要在顯著位置作出標(biāo)識(shí),這也是進(jìn)一步提出的強(qiáng)制性規(guī)范。
而問題的關(guān)鍵還在于執(zhí)行,尤其是生成AI的主要使用場(chǎng)景——短視頻平臺(tái),更要主動(dòng)承擔(dān)主體責(zé)任。對(duì)于生成AI內(nèi)容應(yīng)當(dāng)進(jìn)行更加嚴(yán)格的審核,并定期進(jìn)行大規(guī)模內(nèi)容篩查,如發(fā)現(xiàn)違規(guī)使用場(chǎng)景,就應(yīng)當(dāng)對(duì)賬號(hào)作出嚴(yán)肅處理。
同時(shí)也應(yīng)當(dāng)對(duì)被侵權(quán)人和消費(fèi)者維權(quán)提供更大的支持。比如張文宏抱怨“對(duì)方看不見摸不到”,這種現(xiàn)象就應(yīng)當(dāng)引起重視。當(dāng)被侵權(quán)人或消費(fèi)者向平臺(tái)提出質(zhì)疑,平臺(tái)應(yīng)當(dāng)進(jìn)行協(xié)助,提供相應(yīng)的信息,幫助被侵權(quán)人和消費(fèi)者鎖定賬號(hào)背后的實(shí)體或個(gè)人,由此進(jìn)入賠償或司法程序。
無論如何,不能任由AI造假泛濫成災(zāi)。從新聞也能看到,被造假的名人只能“發(fā)聲明”,上當(dāng)?shù)南M(fèi)者只能“認(rèn)倒霉”,這種無力被動(dòng)的狀況必須改變。對(duì)此,無論是相關(guān)部門還是互聯(lián)網(wǎng)平臺(tái),都需要進(jìn)一步發(fā)力,提高信息篩查能力,讓侵權(quán)者付出沉重代價(jià),也讓AI的技術(shù)發(fā)展始終保持在法治軌道之內(nèi)。
撰稿 / 柳早(媒體人)
編輯 / 遲道華
校對(duì) / 楊利