金發(fā)碧眼美女，一口流利的中文談?wù)摶橐龊椭袊?guó)話題，仿佛成了流量密碼。
“我們國(guó)家生產(chǎn)的許多產(chǎn)品都是中國(guó)制造，中國(guó)有五千年的歷史，我對(duì)這個(gè)國(guó)家的熱愛(ài)深厚?！逼聊簧希粋€(gè)所謂“俄羅斯美女”侃侃而談，而這只是新京報(bào)貝殼財(cái)經(jīng)記者以6元價(jià)格買到的“換臉視頻”。
今年2月，國(guó)外網(wǎng)紅奧爾佳（olga Loiek）發(fā)布視頻稱自己被“AI換臉”并在平臺(tái)帶貨，時(shí)隔3個(gè)月，新京報(bào)貝殼財(cái)經(jīng)記者在小紅書等平臺(tái)上搜索發(fā)現(xiàn)，通過(guò)AI換臉技術(shù)合成的美女視頻仍然存在，盡管部分被標(biāo)注“內(nèi)容疑似AI生成”，但評(píng)論區(qū)仍引來(lái)不少中老年人議論。這些視頻顯眼處，往往都掛上了帶貨的商品。
新京報(bào)貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，充滿宣傳噱頭的“俄羅斯美女”視頻背后，暗藏了一條完整的產(chǎn)業(yè)鏈——零基礎(chǔ)“AI變現(xiàn)課”宣稱教授制作換臉視頻，再通過(guò)迎合當(dāng)下社會(huì)痛點(diǎn)的話術(shù)吸引流量，最終以帶貨賺錢。如今，被包裝成數(shù)字人制作視頻的課程以幾元至幾百元不等的價(jià)格出售，吸引著亟需流量的買家，也成了AI時(shí)代一個(gè)灰色地帶。
奧爾佳本人和她發(fā)現(xiàn)自己被“換臉賣貨”的賬戶（現(xiàn)已注銷）。截圖
AI美女視頻“打游擊”
“咱們俄羅斯是一個(gè)很開(kāi)放的國(guó)度，我們的法定結(jié)婚年齡只有14歲，所以一個(gè)女孩有可能在人群中多看了你一眼就喜歡你了，而且我們不要彩禮、不要車房?！奔幢阋曨l里標(biāo)注著“內(nèi)容疑似AI生成，請(qǐng)謹(jǐn)慎甄別?！苯刂?月18日，抖音UP主“安麗娜愛(ài)中國(guó)”的這條視頻依然收獲了101個(gè)贊和5條評(píng)論。
評(píng)論區(qū)中，有人問(wèn)“你幾歲了”，也有人贊嘆“俄羅斯姑娘真漂亮”。
另一條視頻里，“安麗娜愛(ài)中國(guó)”頗為老到地的點(diǎn)評(píng)起時(shí)事，看病難、房貸高和育兒卷均有涉及，而切中普通人生活痛點(diǎn)的視頻也收獲了703個(gè)贊和72個(gè)評(píng)論。
截至5月18日，“安麗娜愛(ài)中國(guó)”頁(yè)面上一共5條視頻，卻已有1103個(gè)粉絲，6063個(gè)贊，商品櫥窗則有121件貨物，大多是便宜的食品，如售價(jià)3.9元的“俄羅斯列巴”。
小紅書上，這樣的“AI美女”并不少見(jiàn)，也都有著一個(gè)外國(guó)名字。如“安娜”發(fā)視頻稱“我早晚會(huì)有中國(guó)身份，將來(lái)我是中國(guó)兒媳婦”?！澳妊旁谥袊?guó)”自我介紹稱：“在中國(guó)已經(jīng)8年，能說(shuō)一口流利中文的俄羅斯人”。
貝殼財(cái)經(jīng)記者搜索注意到，這類視頻大多是“新鮮出爐”且很快就下架，其中“安娜”在5月18日還有四條視頻，5月19日只剩下兩條。
“安娜”的視頻彈幕
“現(xiàn)在已經(jīng)過(guò)了最瘋狂的時(shí)候?！痹?jīng)入局“AI俄羅斯美女帶貨”的小博告訴貝殼財(cái)經(jīng)記者，今年春節(jié)期間自己曾摸索了一些AI換臉的視頻制作方法，最終視頻一經(jīng)發(fā)布就收獲了幾萬(wàn)的流量，3條視頻粉絲就突破了5000。但隨著奧爾佳自曝被AI換臉后，許多視頻都被清空，“現(xiàn)在再做這個(gè)有風(fēng)險(xiǎn)。”
一名最早通過(guò)AI美女視頻賺取流量的視頻作者在接受采訪時(shí)表示，婚姻以及贊美中國(guó)事物的話題很容易出爆款，賬號(hào)粉絲大多是50歲以上的中老年群體，90%是男性，雖然消費(fèi)能力不強(qiáng)，但漲粉快，所以帶貨價(jià)錢越低越好。
隨著AI美女視頻被濫用，國(guó)內(nèi)短視頻平臺(tái)開(kāi)始出手，其中，小紅書稱深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)制作和發(fā)布的內(nèi)容容易引起用戶混淆，任何利用AI虛擬人設(shè)、進(jìn)行低成本創(chuàng)作的行為，都為平臺(tái)所禁止。3月底，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，稱將重點(diǎn)治理利用AI生成假外國(guó)人、假精英及利用AI生成形象騙互動(dòng)等三類內(nèi)容，包括生成境外虛假人設(shè)，消費(fèi)愛(ài)國(guó)心理、博取關(guān)注；生成俊男美女虛假形象，騙取互動(dòng)，交友導(dǎo)流。
貝殼財(cái)經(jīng)記者搜索看到，奧爾佳視頻中提到的國(guó)內(nèi)賬號(hào)已經(jīng)注銷，大量宣稱“AI俄羅斯美女”的視頻也偃旗息鼓，但由于這類話題天然具有吸引力，仍有希望短期提高粉絲數(shù)的人通過(guò)這一套路漲粉。
在小博看來(lái)，這也是為什么現(xiàn)在許多“AI俄羅斯美女”賬號(hào)往往發(fā)一條視頻就清空，然后擇機(jī)再發(fā)。
“換臉”火了賣課生意：2元教制作數(shù)字人
美女成了引流利器，自然帶火了AI“換臉”。
貝殼財(cái)經(jīng)記者搜索發(fā)現(xiàn)，如今，仍有不少賣家打著“俄羅斯美女?dāng)?shù)字人”“零基礎(chǔ)上手俄羅斯女孩AI直播”等幌子售賣“變現(xiàn)課程”，其中，奧爾佳的換臉視頻甚至成為“成功案例”，被賣家掛在了封面。
這些“AI變現(xiàn)課”的價(jià)格差異較大，從兩元的“本地部署換臉軟件教程”到近千元的“數(shù)字人帶貨一對(duì)一指導(dǎo)”均有。
電商平臺(tái)上的“AI俄羅斯美女”課程，其中奧爾佳成為賣家宣傳噱頭。截圖
貝殼財(cái)經(jīng)記者體驗(yàn)了2元的“數(shù)字人部署”教程看到，其中贈(zèng)送了兩個(gè)金發(fā)碧眼的外國(guó)人綠幕視頻素材，并詳細(xì)解釋了如何安裝合成軟件、剪輯視頻。而另一個(gè)花費(fèi)18元購(gòu)買的“定制保姆級(jí)教程”中，一位自稱林浩的老師展示了最新的學(xué)員數(shù)據(jù)：15個(gè)“矩陣賬號(hào)”一個(gè)月銷售了12.18萬(wàn)元，獲得傭金10.43萬(wàn)元。
貝殼財(cái)經(jīng)記者體驗(yàn)多份教程發(fā)現(xiàn)，制作AI數(shù)字人的流程大致相同。包括從國(guó)外平臺(tái)尋找美女帥哥的“原始素材”，再使用大語(yǔ)言模型如ChatGPT、文心一言、Kimi等生成“爆款文案”，或者干脆抄襲同類賬號(hào)文案。此后，使用聲音克隆工具把文案導(dǎo)出成音頻，再通過(guò)AI工具“換臉”生成視頻，并發(fā)布到視頻平臺(tái)上“吸粉”。
貝殼財(cái)經(jīng)記者注意到，由于不少教程贈(zèng)送第一步所需的“原始素材”，也就難以規(guī)避版權(quán)問(wèn)題，因此網(wǎng)上出現(xiàn)不少同一張臉，擁有多個(gè)賬號(hào)的現(xiàn)象。也就是說(shuō)，奧爾佳可能就被作為“換臉模板”，成了一批批期望賺錢的視頻制作者吸引流量的工具。
自稱老師的林浩表示，數(shù)字人變現(xiàn)分很多種，美女帶貨是其中之一，比較火爆而已，“但是樹(shù)大招風(fēng)，現(xiàn)在做的人也多，平臺(tái)管理也嚴(yán)起來(lái)了。除了美女帶貨，也可以與其他帶貨結(jié)合，比如好物推薦?！?/p>
貝殼財(cái)經(jīng)記者發(fā)現(xiàn)，通過(guò)AI數(shù)字人賺錢沒(méi)有想象中簡(jiǎn)單，上述制作流程中，實(shí)際上每一步都需要投入成本，如目前市面上的聲音克隆工具、AI換臉工具大多收費(fèi)。如若想要快速上手，還可以直接購(gòu)買短視頻的“代制作”服務(wù)，收費(fèi)6元左右。
人們?cè)汛蚱餉I數(shù)字人的主意，賣課自然成了賺錢之道。小博告訴貝殼財(cái)經(jīng)記者，今年春節(jié)期間看到了收費(fèi)998元的“培訓(xùn)課程”，不少人趨之若鶩。
林浩口中，自己開(kāi)辦了“數(shù)字帶貨訓(xùn)練營(yíng)”，號(hào)稱“原價(jià)699限時(shí)特價(jià)199”。他舉例稱，“房產(chǎn)個(gè)人IP客戶，利用數(shù)字人短視頻內(nèi)容運(yùn)營(yíng)，在抖音做IP。人家不賣房子，教房產(chǎn)經(jīng)紀(jì)人怎么做新媒體。收費(fèi)2499元/人，成交數(shù)據(jù)還很不錯(cuò)。怎么樣，格局有沒(méi)有打開(kāi)一點(diǎn)？”
“AI換臉變現(xiàn)課程”大行其道另外一個(gè)原因在于它難言違法?！颁N售換臉教程應(yīng)該屬于灰色地帶，因?yàn)檫@是從技術(shù)的角度去教你如何使用一個(gè)技術(shù)，而技術(shù)本身會(huì)產(chǎn)生什么樣的后果，是不好決定的，所以我認(rèn)為銷售換臉課程本身暫時(shí)還難說(shuō)存在法律問(wèn)題?！鄙虾Ｕ呗蓭熓聞?wù)所董毅智律師告訴貝殼財(cái)經(jīng)記者。
董毅智律師稱，用AI技術(shù)為他人換臉換聲并發(fā)布視頻，可能涉嫌侵權(quán)。根據(jù)《中華人民共和國(guó)民法典》，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，法律另有規(guī)定的除外。作為生態(tài)圈的重要一環(huán)，平臺(tái)對(duì)此也有一定的監(jiān)管責(zé)任。
AI換臉“以假亂真”，檢測(cè)博弈“就像殺毒與造毒一樣”
事實(shí)上，近年來(lái)?yè)Q臉視頻一直存在，B站上存在各類以貼圖方式進(jìn)行換臉的視頻，但這些視頻多以搞笑為主。而隨著AI技術(shù)發(fā)展，特別是去年年底AI網(wǎng)站heygen推出了能夠換口型的視頻功能后，AI換臉逐漸可以“以假亂真”。盡管其距離真人仍然有差距，但已經(jīng)可以蒙騙一些對(duì)技術(shù)不敏感的中老年人。
AI技術(shù)容易讓別有用心的人利用，當(dāng)人們不能分辨深度偽造視頻的時(shí)候，機(jī)器能幫忙分辨嗎？這一問(wèn)題逐漸引發(fā)不少人思考。
貝殼財(cái)經(jīng)記者瀏覽小紅書等平臺(tái)發(fā)現(xiàn)，平臺(tái)打擊之下，目前依然可以搜索到明顯基于AI生成的“俄羅斯美女”視頻，并且部分賬號(hào)依靠反復(fù)刪除視頻并更新視頻的方式躲避監(jiān)管。
5月19日，貝殼財(cái)經(jīng)記者看到，“安麗娜愛(ài)中國(guó)”三條被平臺(tái)標(biāo)注為“疑似AI生成”視頻隱身后，又上傳了兩條新視頻，這兩條視頻并沒(méi)有再被平臺(tái)打上“疑似AI”的標(biāo)簽，并且一條視頻剛發(fā)布就收獲了10個(gè)評(píng)論。
“安麗娜愛(ài)中國(guó)”的賬號(hào)。
中國(guó)信通院人工智能研究中心安全與元宇宙部的主任石霖告訴貝殼財(cái)經(jīng)記者，目前深度偽造技術(shù)與檢測(cè)技術(shù)正在相互博弈，“它們就像殺毒與造毒一樣，是長(zhǎng)期攻防對(duì)抗的過(guò)程?，F(xiàn)在來(lái)看，偽造的技術(shù)也確實(shí)越來(lái)越真實(shí)有效，我們從調(diào)研中發(fā)現(xiàn)，檢測(cè)技術(shù)在一定程度上可能有一定滯后性，對(duì)于新的算法需要樣本積累和過(guò)濾。比如，傳統(tǒng)檢測(cè)技術(shù)可能主要基于臉部特征邊緣或者是眼睛等對(duì)特殊部件光線的一些反饋，包括基于時(shí)序特征等不符合邏輯的一些特征進(jìn)行檢測(cè)鑒別，但隨著Sora和Diffusion這種模型的出現(xiàn)，也在一定程度上增加了檢測(cè)難度?！?/p>
據(jù)了解，目前在識(shí)別換臉視頻方面，金融機(jī)構(gòu)刷臉支付場(chǎng)景累積的經(jīng)驗(yàn)更多。深度偽造綜合防控產(chǎn)品ZOLOZ對(duì)攔截用戶刷臉過(guò)程中的“換臉風(fēng)險(xiǎn)”有著多年經(jīng)驗(yàn)。該公司產(chǎn)品總監(jiān)陶冶對(duì)貝殼財(cái)經(jīng)記者表示，AIGC深度防偽的模式叫活化，它是基于一個(gè)人臉的一張照片或者一段視頻、一段聲音，就可以模擬更多種的動(dòng)作，“該技術(shù)的發(fā)展非?？?，為此我們搭建了AIGC自動(dòng)化生成和測(cè)試平臺(tái)天璣實(shí)驗(yàn)室，通過(guò)模擬人和機(jī)械的方式開(kāi)展大量攻防，主動(dòng)發(fā)現(xiàn)更多安全問(wèn)題，同時(shí)，我們也呼吁群眾自己能夠有一個(gè)安全保護(hù)意識(shí)，因?yàn)楣饪考夹g(shù)不能做到盡善盡美。”
不過(guò)，相比關(guān)系用戶切身利害的金融場(chǎng)景，視頻平臺(tái)要引入更多技術(shù)識(shí)別AI內(nèi)容或許還要好好算算“經(jīng)濟(jì)賬”，“從我的角度來(lái)說(shuō)，即便未來(lái)我們提供面向視頻流的深度防偽，可能也是給B端公司提供安全能力，再讓它去保護(hù)C端用戶。”陶冶說(shuō)。
記者聯(lián)系郵箱：luoyidan@xjbnews.com
新京報(bào)貝殼財(cái)經(jīng)記者 羅亦丹 編輯 王進(jìn)雨 校對(duì) 付春愔
