聲明:本文來(lái)自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

幾塊錢(qián)就能輕松模仿。

“被騙了！沒(méi)想到視頻切片里的‘專(zhuān)家推薦語(yǔ)’居然是AI偽造出來(lái)的。”00后小高憤怒地將自己購(gòu)買(mǎi)的減肥產(chǎn)品扔進(jìn)了垃圾桶。

小高向記者表示，自己之所以心動(dòng)，是被《國(guó)醫(yī)少年志》視頻切片里的推薦內(nèi)容吸引，但后來(lái)發(fā)現(xiàn)這些內(nèi)容經(jīng)不起考驗(yàn)。“我以為有專(zhuān)家背書(shū)的商品一定靠譜，結(jié)果發(fā)現(xiàn)這些推薦語(yǔ)居然是AI生成，根本不是專(zhuān)家本人說(shuō)過(guò)的話。”

隨著《一路繁花》《國(guó)醫(yī)少年志》等節(jié)目的走紅，減肥和養(yǎng)生的話題越來(lái)越受歡迎。然而，短視頻平臺(tái)上許多節(jié)目切片都開(kāi)始走樣，借著類(lèi)似節(jié)目的熱度，開(kāi)始進(jìn)行變味營(yíng)銷(xiāo)，甚至宣稱(chēng)“絕對(duì)有效”。

實(shí)際上，這些視頻切片大多都是移花接木，看似是節(jié)目的片段，但專(zhuān)家推薦語(yǔ)、字幕等細(xì)節(jié)都是商家借助AI技術(shù)進(jìn)行篡改，以達(dá)到植入品牌和進(jìn)行帶貨的目的。

“部分商家和視頻主抓住消費(fèi)者追求健康的心理，利用‘權(quán)威’‘專(zhuān)業(yè)’等噱頭讓消費(fèi)者誤以為這些產(chǎn)品有效，結(jié)果卻上當(dāng)受騙?！睆氖码娚坦ぷ鞫嗄甑氖Y凌告訴《新京報(bào)貝殼財(cái)經(jīng)記者》，如今短視頻平臺(tái)上充斥著大量類(lèi)似切片，甚至還有商家通過(guò)修改名人語(yǔ)音進(jìn)行商品帶貨的現(xiàn)象?！斑@樣做的結(jié)果，不僅讓人名受騙，節(jié)目IP也被造假，消費(fèi)者權(quán)益也在不知不覺(jué)中受到影響，唯一受益的只有那些惡意植入的品牌。”

視頻切片內(nèi)容中，同一場(chǎng)景會(huì)被植入多個(gè)品牌。圖片截取。

在視頻切片中添加“明星代言”臺(tái)詞。

因?yàn)樯眢w肥胖，小高經(jīng)常上網(wǎng)尋找各種減肥方法和藥物。一天，他在短視頻平臺(tái)看到《國(guó)醫(yī)少年志》的節(jié)目，其中中醫(yī)專(zhuān)家介紹如何通過(guò)白蘿卜、山楂干、紅棗等食材泡水來(lái)控制體重，并特意推薦了一款名為“蔻敘堂丁香膏”的減肥產(chǎn)品。

“資深中醫(yī)在視頻里肯定會(huì)說(shuō)‘早晚各一次，一個(gè)多月后肚子就平了’，再加上節(jié)目的IP效應(yīng)和多位明星的背書(shū)，效果肯定不會(huì)差?！毙膭?dòng)的小高當(dāng)即在電商平臺(tái)搜索品牌名，花費(fèi)20多元下了一單。使用幾天后，他發(fā)現(xiàn)減肥效果遠(yuǎn)沒(méi)有視頻宣傳的那么明顯，體重完全沒(méi)有變化。

和小高有著類(lèi)似經(jīng)歷的，還有00后女孩張伊。她告訴貝殼財(cái)經(jīng)記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時(shí)，被劉曉慶在聚會(huì)時(shí)所提及的商品"種草"，但真正體驗(yàn)后發(fā)現(xiàn)沒(méi)有任何效果。

貝殼財(cái)經(jīng)記者調(diào)查發(fā)現(xiàn)，類(lèi)似視頻切片在短視頻平臺(tái)中比比皆是，看上去不一定靠譜。近段時(shí)間，《一路繁花》《國(guó)醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類(lèi)知識(shí)通過(guò)短視頻傳播，被一眾消費(fèi)者所追捧，也讓他們成為部分商家收割的對(duì)象。

貝殼財(cái)經(jīng)記者在短視頻平臺(tái)上搜索發(fā)現(xiàn)，不少非節(jié)目官方所發(fā)布的切片里夾藏大量"網(wǎng)紅貨"，視頻主通過(guò)AI技術(shù)更換專(zhuān)家語(yǔ)音和字幕，將涉及體重管理、祛濕等保健類(lèi)商品經(jīng)過(guò)包裝成功實(shí)現(xiàn)"名人帶貨"。

以《國(guó)醫(yī)少年志》一期節(jié)目中專(zhuān)家介紹如何有效改善大腿過(guò)粗為例。原視頻中專(zhuān)家推薦蘋(píng)果、生姜、紅棗等食品通過(guò)水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專(zhuān)家的話直接被篡改，特意加了"資藥堂（的赤菊膏）就很不錯(cuò)"的短短一句話。

移花接木的招數(shù)也出現(xiàn)在《一路繁花》的視頻切片中。劉曉慶在聚餐時(shí)吃魚(yú)的片段，一款名為"詩(shī)諾千君貼"的商品被植入，并在字幕中顯示"提高代謝水平"、"年輕人可以試試"，同樣實(shí)現(xiàn)明星帶貨的效果。

劉曉慶在聚餐時(shí)吃魚(yú)的片段，被一款名為"詩(shī)諾千君貼"的商品植入。截圖

AI悄然篡改視頻內(nèi)容，模糊了視頻真假的邊界，也迷惑了不少消費(fèi)者。貝殼財(cái)經(jīng)記者注意到，上當(dāng)?shù)木W(wǎng)友在社交平臺(tái)上吐槽"純智商稅"、"節(jié)目組推銷(xiāo)劣質(zhì)商品"等，質(zhì)疑產(chǎn)品的同時(shí)也將矛頭直指節(jié)目組。

對(duì)此，《國(guó)醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營(yíng)銷(xiāo)賬號(hào)未經(jīng)授權(quán)擅自剪輯節(jié)目圖片、視頻實(shí)施產(chǎn)品推廣行為，歪曲了節(jié)目?jī)?nèi)容。節(jié)目組從未授權(quán)任何第三方賬號(hào)利用節(jié)目?jī)?nèi)容宣傳相關(guān)的任何產(chǎn)品，"任何非我司官方賬號(hào)或非節(jié)目原片所發(fā)布的我司及與我司合作生產(chǎn)相關(guān)產(chǎn)品的信息均為虛假信息。"

AI變聲"零門(mén)檻"，僅需幾元可隨意模仿

一個(gè)節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問(wèn)題。

一位從事電商行業(yè)的蔣凌表示，這些商品通過(guò)AI技術(shù)篡改了臺(tái)詞和字幕，以"專(zhuān)業(yè)""權(quán)威"等詞匯讓消費(fèi)者誤以為信息準(zhǔn)確，從而陷入銷(xiāo)售陷阱。

近日，貝殼財(cái)經(jīng)記者在短視頻平臺(tái)上以"AI克隆聲音"為關(guān)鍵詞檢索，發(fā)現(xiàn)了大量涉及AI合成聲音的視頻內(nèi)容。其中，一條名為"10秒鐘克隆任何聲音"的視頻解釋稱(chēng)，AI技術(shù)可以通過(guò)調(diào)整聲音使其模仿孫悟空、曹操、哪吒等不同角色的聲音。

隨著人工智能技術(shù)的普及，AI生成聲音的技術(shù)門(mén)檻大幅降低，甚至一些開(kāi)源軟件和平臺(tái)可以讓普通用戶(hù)無(wú)需專(zhuān)業(yè)知識(shí)即可輕松操作。

貝殼財(cái)經(jīng)記者在多個(gè)社交平臺(tái)上搜索，發(fā)現(xiàn)了多個(gè)提供AI合成聲音軟件的廣告和下載渠道，這些軟件的價(jià)格僅需幾元到數(shù)十元。許多廣告中都打著"隨意模仿明星語(yǔ)音""一句話生成任意聲音"等吸引眼球的旗號(hào)。

為了調(diào)查相關(guān)問(wèn)題，貝殼財(cái)經(jīng)記者下載了一款在GitHub上開(kāi)源的聲音克隆軟件。在體驗(yàn)過(guò)程中，記者上傳了一段由自己播報(bào)的3分鐘錄音，在AI模型的訓(xùn)練后成功得到了這一聲音的模型文件。隨后，只需輸入任意文字，軟件就能生成相應(yīng)的聲音內(nèi)容。

檢查發(fā)現(xiàn)，AI生成的聲音不僅能夠模仿說(shuō)話的語(yǔ)氣和語(yǔ)調(diào)，連說(shuō)話時(shí)的吐字習(xí)慣也能準(zhǔn)確模仿。對(duì)于較短的語(yǔ)句，AI生成的聲音難以分辨真假；但對(duì)較長(zhǎng)的語(yǔ)句，生成效果則會(huì)略顯粗糙。不過(guò)，通過(guò)多次生成并挑選較好的語(yǔ)句，AI生成的聲音仍然能夠達(dá)到以假亂真的效果。

社交平臺(tái)上的許多公眾人物聲音已經(jīng)被AI復(fù)制，其中"如何模仿雷軍說(shuō)話""讓明星給你播新聞"等視頻內(nèi)容層出不窮。

貝殼財(cái)經(jīng)記者注意到，這些AI合成聲音軟件的操作流程頗為簡(jiǎn)單，用戶(hù)只需要對(duì)著鏡頭錄制一段話，AI技術(shù)就能將這段話轉(zhuǎn)化為某位名人聲音。值得注意的是，這些軟件在錄入名人聲音時(shí)沒(méi)有任何授權(quán)證明，這意味著這些名人根本不知道自己的聲音已被未經(jīng)授權(quán)地使用。

實(shí)際上，此前已有利用軟件修改明星靳東聲音與"粉絲"進(jìn)行互動(dòng)的案例，曾因詐騙老人近百萬(wàn)元而引發(fā)關(guān)注。此外，還有利用AI模仿國(guó)家傳染病醫(yī)學(xué)中心主任張文宏的聲音進(jìn)行吐槽的事件，也曾引發(fā)社會(huì)關(guān)注。

一位在AI領(lǐng)域工作的從業(yè)者表示，AI能夠克隆聲音是基于其能夠通過(guò)深度學(xué)習(xí)算法從聲音樣本中提取頻率、音色、聲調(diào)等關(guān)鍵特征，并將這些特征進(jìn)行合成。例如，在《一路繁花》《國(guó)醫(yī)少年志》等綜藝節(jié)目中，品牌植入正是通過(guò)類(lèi)似技術(shù)實(shí)現(xiàn)的。

無(wú)論是網(wǎng)友將AI合成人聲用于惡作劇以博取流量，還是通過(guò)仿生技術(shù)復(fù)制名人聲音進(jìn)行帶貨，都會(huì)對(duì)聲音的"原住民"及其消費(fèi)者造成負(fù)面影響。這些發(fā)布者雖然能獲取流量曝光和廣告收益，但也存在假借身份傳播虛假信息，最終達(dá)到詐騙的目的。上述人士表示。

今年兩會(huì)期間，全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍建議加強(qiáng)對(duì)"AI換臉擬聲"違法行為的治理，并表示自己也曾是這一技術(shù)的受害者。

隱形的營(yíng)銷(xiāo)手段以及真假難辨的劇情設(shè)定，使得對(duì)AI技術(shù)不熟悉的中老年群體難以識(shí)別真假，從而成為了這些營(yíng)銷(xiāo)活動(dòng)的受害者。

在接受采訪時(shí)，多位電商從業(yè)者指出，這類(lèi)商家主要面向追求身體健康的人群，其中以中老年群體為主。他們通過(guò)塑造權(quán)威專(zhuān)家形象發(fā)布健康養(yǎng)生類(lèi)內(nèi)容，以吸引目標(biāo)消費(fèi)者的關(guān)注。最終，商家采用視頻流量分成和櫥窗帶貨的模式實(shí)現(xiàn)盈利。

一位網(wǎng)友感嘆稱(chēng)，家中長(zhǎng)輩對(duì)于AI技術(shù)并不了解，容易相信視頻中的專(zhuān)家推薦和健康養(yǎng)生內(nèi)容。即便家人多次解釋視頻內(nèi)容可能是偽造的，長(zhǎng)輩依然固執(zhí)地認(rèn)為沒(méi)有受到欺騙。這種情況對(duì)老年人來(lái)說(shuō)，簡(jiǎn)直就是"降維打擊"。

在類(lèi)似商品中，還存在產(chǎn)品資質(zhì)存疑、廠商身份不明的問(wèn)題。貝殼財(cái)經(jīng)記者注意到，一款由AI語(yǔ)音植入的益生菌產(chǎn)品，在商城頁(yè)面上出現(xiàn)了多款宣傳內(nèi)容幾乎一致的商品，但生產(chǎn)廠商卻各不相同，消費(fèi)者難以判斷真?zhèn)巍?/p>

消費(fèi)者在觀看視頻進(jìn)行下單時(shí)往往屬于沖動(dòng)消費(fèi)，這種行為更多源于對(duì)明星藝人身份和專(zhuān)業(yè)人士背書(shū)的信任。然而，消費(fèi)者對(duì)商品的實(shí)際效果、品質(zhì)優(yōu)劣以及是否適合自己等情況卻并不清楚。蔣凌告訴貝殼財(cái)經(jīng)記者，商家選擇類(lèi)似傳播渠道無(wú)疑比花錢(qián)打廣告更高效，成本也更低。當(dāng)消費(fèi)者意識(shí)到問(wèn)題時(shí)，商家已經(jīng)完成了快速傳播、收割變現(xiàn)、甚至注銷(xiāo)跑路的營(yíng)銷(xiāo)閉環(huán)。

不論是對(duì)中老年人還是年輕網(wǎng)友而言，AI合成語(yǔ)音相較于早前的AI換臉視頻更難分辨真假。稍有不慎，就可能成為 targets。

2024年4月，北京互聯(lián)網(wǎng)法院發(fā)布全國(guó)首例"AI聲音侵權(quán)案"，法院明確指出在具備可識(shí)別性前提下，自然人聲音權(quán)益受到侵害時(shí)，AI生成聲音同樣受法律保護(hù)。法院認(rèn)為，未經(jīng)權(quán)利人許可，擅自使用或許可他人使用的錄音制品中的聲音，均構(gòu)成侵權(quán)。

在今年的兩會(huì)期間，全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍建議加強(qiáng)對(duì)"AI換臉擬聲"違法行為的治理，并表示自己也曾是這一技術(shù)的受害者。

貝殼財(cái)經(jīng)記者了解到，此前短視頻平臺(tái)上曾出現(xiàn)大量"雷軍AI配音"的惡搞視頻，涵蓋交通擁堵、調(diào)休安排、游戲娛樂(lè)等多個(gè)熱門(mén)話題。雷軍在兩會(huì)期間對(duì)此表示，"一開(kāi)始我還覺(jué)得這是網(wǎng)民喜聞樂(lè)見(jiàn)的一種方式，但隨著內(nèi)容越來(lái)越多，網(wǎng)友們也都在投訴。"對(duì)此，他呼吁盡快出臺(tái)相關(guān)治理措施。

同樣，全國(guó)政協(xié)委員靳東也對(duì)AI換臉技術(shù)引發(fā)的詐騙問(wèn)題進(jìn)行了回應(yīng)，他表示"一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個(gè)性質(zhì)非常惡劣，希望能建立更好的規(guī)則"。

專(zhuān)業(yè)機(jī)構(gòu)河南澤槿律師事務(wù)所主任付建告訴貝殼財(cái)經(jīng)記者，AI技術(shù)被濫用冒用他人聲音的行為屬于違法行為。根據(jù)《中華人民共和國(guó)民法典》，對(duì)自然人聲音的保護(hù)應(yīng)參照適用肖像權(quán)保護(hù)的相關(guān)規(guī)定。同時(shí)，商家利用AI篡改專(zhuān)家說(shuō)辭進(jìn)行直播賣(mài)貨，既侵犯了專(zhuān)家聲音的人格權(quán)益，也可能損害其名譽(yù)權(quán)及肖像權(quán)。此外，這種行為還涉及虛假?gòu)V告宣傳。如果所售商品實(shí)際效果不佳，還可能構(gòu)成消費(fèi)者欺詐，違反《反不正當(dāng)競(jìng)爭(zhēng)法》和《消費(fèi)者權(quán)益保護(hù)法》的相關(guān)規(guī)定，消費(fèi)者可能面臨罰款、吊銷(xiāo)營(yíng)業(yè)執(zhí)照等行政責(zé)任，以及民事賠償責(zé)任，情節(jié)嚴(yán)重的還可能觸犯刑事犯罪。

付建補(bǔ)充道："平臺(tái)有權(quán)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《電子商務(wù)法》以及平臺(tái)規(guī)則履行監(jiān)管義務(wù)，對(duì)違法商家采取封禁賬號(hào)、限流等處理措施。如果未及時(shí)采取合理措施導(dǎo)致?lián)p害擴(kuò)大的，需對(duì)擴(kuò)大部分內(nèi)容與不法商家承擔(dān)連帶責(zé)任。"

本文由新京報(bào)貝殼財(cái)經(jīng)記者覃澈編輯，王進(jìn)雨校對(duì)，付春愔審核。