聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

小編了解到，AI技術(shù)正快速崛起，已在金融、商業(yè)、醫(yī)療等多個領(lǐng)域得到廣泛應(yīng)用。然而，技術(shù)的快速普及也帶來了治理和安全挑戰(zhàn)，尤其是在AI換臉、數(shù)據(jù)隱私、模型安全等方面。2025年兩會期間，多位代表和委員圍繞AI治理、AI安全等問題展開了熱烈討論。

全國人大代表、小米集團(tuán)創(chuàng)始人雷軍提出，應(yīng)加快AI換臉技術(shù)立法進(jìn)程，明確技術(shù)應(yīng)用邊界，完善侵權(quán)證據(jù)規(guī)則，并加大對利用AI技術(shù)實施犯罪行為的刑事處罰力度。全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎提出了“以模制?！钡母拍睿冒踩竽Ｐ徒鉀Q大模型應(yīng)用中的安全問題，建議對大模型的“幻覺”問題給予柔性監(jiān)管。全國政協(xié)委員、奇安信集團(tuán)董事長齊向東指出，AI發(fā)展面臨三個主要的安全問題：人工智能大模型自身的安全問題、利用人工智能開展網(wǎng)絡(luò)攻擊的問題，以及通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。他認(rèn)為，應(yīng)從技術(shù)、制度、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力。

值得注意的是，“靳東兩會建議AI換臉立法”“雷軍回應(yīng)國慶7天被AI雷軍罵了8天”等話題在2025年兩會期間登上微博熱搜，引發(fā)了行業(yè)對AI換臉換聲風(fēng)險問題的進(jìn)一步討論。對于AI偽造技術(shù)的發(fā)展，瑞萊科技聯(lián)合創(chuàng)始人蕭子豪表示，近一年來利用AI換聲、換臉進(jìn)行詐騙、造謠等違法犯罪行為屢禁不止，且愈演愈烈，呈顯著上升趨勢。這些行為的犯罪行為更具迷惑性，也更加隱蔽。

蕭子豪指出，背后動機(jī)一方面是利益驅(qū)動，如AI詐騙的迷惑性極強(qiáng)，顛覆了普通人“眼見為實”的常識，一旦受害者“上鉤”，不法分子就不會輕易放過“大魚”。從瑞萊的統(tǒng)計數(shù)據(jù)來看，AI詐騙案件涉案金額遠(yuǎn)超一般詐騙案件。此外，AI造謠傳謠也是為了在短時間內(nèi)博取關(guān)注、賺取流量，鋌而走險，再伺機(jī)變現(xiàn)。然而，治理AI造謠傳謠的難點在于，造謠傳言的成本很低，但辟謠的成本很高且時效性滯后。

近年來，生成式AI技術(shù)能力突飛猛進(jìn)并持續(xù)開源開放，大量工具、產(chǎn)品問世，降低了不法分子利用AI的門檻和成本。對此，有專家建議通過水印標(biāo)注進(jìn)行防御，但有業(yè)界人士指出，水印標(biāo)注是一種主動式防御手段，其門檻較高，需要對圖片、視頻等內(nèi)容進(jìn)行提前處理。例如，在照片中嵌入一些視覺上不可感知的噪聲，當(dāng)他人利用照片訓(xùn)練模型時，這種隱形干擾會干擾對視覺表征的提取，屬于對抗樣本攻擊。此外，還有一種半脆弱性水印，也是一種主動防御方式，即在添加水印后，如果有人編輯照片，水印就會被破壞，后期檢測可以得知照片是否經(jīng)過處理。然而，水印無法直接阻止照片、視頻被換臉，僅能事后檢測和認(rèn)證圖像的真實性。

對于AI換臉引發(fā)的安全風(fēng)險，蕭子豪認(rèn)為，AI技術(shù)衍生的安全風(fēng)險治理問題是一個非常復(fù)雜的社會問題，涉及多個方面。既要從法律法規(guī)層面事前規(guī)范引導(dǎo)、事后監(jiān)管懲戒，也需要有技術(shù)手段確保AI更加安全、可控。在技術(shù)層面，生成和鑒偽的對抗性非常強(qiáng)，需要持續(xù)長期投入，就像“貓鼠游戲”一樣，此消彼長，相互博弈。與互聯(lián)網(wǎng)產(chǎn)品或其他AI產(chǎn)品不同，AI鑒偽產(chǎn)品并非開發(fā)完就結(jié)束，而是需要隨著生成技術(shù)的進(jìn)展不斷研究、更新、迭代，沒有終點。