聲明:本文來(lái)自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

小編了解到，AI技術(shù)正快速崛起，已在金融、商業(yè)、醫(yī)療等多個(gè)領(lǐng)域得到廣泛應(yīng)用。然而，技術(shù)的快速普及也帶來(lái)了治理和安全挑戰(zhàn)，尤其是在AI換臉、數(shù)據(jù)隱私、模型安全等方面。2025年兩會(huì)期間，多位代表和委員圍繞AI治理、AI安全等問(wèn)題展開(kāi)了熱烈討論。

全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍提出，應(yīng)加快AI換臉技術(shù)立法進(jìn)程，明確技術(shù)應(yīng)用邊界，完善侵權(quán)證據(jù)規(guī)則，并加大對(duì)利用AI技術(shù)實(shí)施犯罪行為的刑事處罰力度。全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎提出了“以模制?！钡母拍睿冒踩竽Ｐ徒鉀Q大模型應(yīng)用中的安全問(wèn)題，建議對(duì)大模型的“幻覺(jué)”問(wèn)題給予柔性監(jiān)管。全國(guó)政協(xié)委員、奇安信集團(tuán)董事長(zhǎng)齊向東指出，AI發(fā)展面臨三個(gè)主要的安全問(wèn)題：人工智能大模型自身的安全問(wèn)題、利用人工智能開(kāi)展網(wǎng)絡(luò)攻擊的問(wèn)題，以及通過(guò)攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。他認(rèn)為，應(yīng)從技術(shù)、制度、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力。

值得注意的是，“靳東兩會(huì)建議AI換臉立法”“雷軍回應(yīng)國(guó)慶7天被AI雷軍罵了8天”等話題在2025年兩會(huì)期間登上微博熱搜，引發(fā)了行業(yè)對(duì)AI換臉換聲風(fēng)險(xiǎn)問(wèn)題的進(jìn)一步討論。對(duì)于AI偽造技術(shù)的發(fā)展，瑞萊科技聯(lián)合創(chuàng)始人蕭子豪表示，近一年來(lái)利用AI換聲、換臉進(jìn)行詐騙、造謠等違法犯罪行為屢禁不止，且愈演愈烈，呈顯著上升趨勢(shì)。這些行為的犯罪行為更具迷惑性，也更加隱蔽。

蕭子豪指出，背后動(dòng)機(jī)一方面是利益驅(qū)動(dòng)，如AI詐騙的迷惑性極強(qiáng)，顛覆了普通人“眼見(jiàn)為實(shí)”的常識(shí)，一旦受害者“上鉤”，不法分子就不會(huì)輕易放過(guò)“大魚(yú)”。從瑞萊的統(tǒng)計(jì)數(shù)據(jù)來(lái)看，AI詐騙案件涉案金額遠(yuǎn)超一般詐騙案件。此外，AI造謠傳謠也是為了在短時(shí)間內(nèi)博取關(guān)注、賺取流量，鋌而走險(xiǎn)，再伺機(jī)變現(xiàn)。然而，治理AI造謠傳謠的難點(diǎn)在于，造謠傳言的成本很低，但辟謠的成本很高且時(shí)效性滯后。

近年來(lái)，生成式AI技術(shù)能力突飛猛進(jìn)并持續(xù)開(kāi)源開(kāi)放，大量工具、產(chǎn)品問(wèn)世，降低了不法分子利用AI的門(mén)檻和成本。對(duì)此，有專家建議通過(guò)水印標(biāo)注進(jìn)行防御，但有業(yè)界人士指出，水印標(biāo)注是一種主動(dòng)式防御手段，其門(mén)檻較高，需要對(duì)圖片、視頻等內(nèi)容進(jìn)行提前處理。例如，在照片中嵌入一些視覺(jué)上不可感知的噪聲，當(dāng)他人利用照片訓(xùn)練模型時(shí)，這種隱形干擾會(huì)干擾對(duì)視覺(jué)表征的提取，屬于對(duì)抗樣本攻擊。此外，還有一種半脆弱性水印，也是一種主動(dòng)防御方式，即在添加水印后，如果有人編輯照片，水印就會(huì)被破壞，后期檢測(cè)可以得知照片是否經(jīng)過(guò)處理。然而，水印無(wú)法直接阻止照片、視頻被換臉，僅能事后檢測(cè)和認(rèn)證圖像的真實(shí)性。

對(duì)于AI換臉引發(fā)的安全風(fēng)險(xiǎn)，蕭子豪認(rèn)為，AI技術(shù)衍生的安全風(fēng)險(xiǎn)治理問(wèn)題是一個(gè)非常復(fù)雜的社會(huì)問(wèn)題，涉及多個(gè)方面。既要從法律法規(guī)層面事前規(guī)范引導(dǎo)、事后監(jiān)管懲戒，也需要有技術(shù)手段確保AI更加安全、可控。在技術(shù)層面，生成和鑒偽的對(duì)抗性非常強(qiáng)，需要持續(xù)長(zhǎng)期投入，就像“貓鼠游戲”一樣，此消彼長(zhǎng)，相互博弈。與互聯(lián)網(wǎng)產(chǎn)品或其他AI產(chǎn)品不同，AI鑒偽產(chǎn)品并非開(kāi)發(fā)完就結(jié)束，而是需要隨著生成技術(shù)的進(jìn)展不斷研究、更新、迭代，沒(méi)有終點(diǎn)。