聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

小編了解到，AI技術(shù)正快速崛起，已在金融、商業(yè)、醫(yī)療等多個領(lǐng)域得到廣泛應用。然而，技術(shù)的快速普及也帶來了治理和安全挑戰(zhàn)，尤其是在AI換臉、數(shù)據(jù)隱私、模型安全等方面。2025年兩會期間，多位代表和委員圍繞AI治理、AI安全等問題展開了熱烈討論。

全國人大代表、小米集團創(chuàng)始人雷軍提出，應加快AI換臉技術(shù)立法進程，明確技術(shù)應用邊界，完善侵權(quán)證據(jù)規(guī)則，并加大對利用AI技術(shù)實施犯罪行為的刑事處罰力度。全國政協(xié)委員、360集團創(chuàng)始人周鴻祎提出了“以模制?！钡母拍?，利用安全大模型解決大模型應用中的安全問題，建議對大模型的“幻覺”問題給予柔性監(jiān)管。全國政協(xié)委員、奇安信集團董事長齊向東指出，AI發(fā)展面臨三個主要的安全問題：人工智能大模型自身的安全問題、利用人工智能開展網(wǎng)絡攻擊的問題，以及通過攻擊人工智能引發(fā)的“網(wǎng)絡攻擊大爆炸”。他認為，應從技術(shù)、制度、成果應用三方面入手，系統(tǒng)提升安全能力。

值得注意的是，“靳東兩會建議AI換臉立法”“雷軍回應國慶7天被AI雷軍罵了8天”等話題在2025年兩會期間登上微博熱搜，引發(fā)了行業(yè)對AI換臉換聲風險問題的進一步討論。對于AI偽造技術(shù)的發(fā)展，瑞萊科技聯(lián)合創(chuàng)始人蕭子豪表示，近一年來利用AI換聲、換臉進行詐騙、造謠等違法犯罪行為屢禁不止，且愈演愈烈，呈顯著上升趨勢。這些行為的犯罪行為更具迷惑性，也更加隱蔽。

蕭子豪指出，背后動機一方面是利益驅(qū)動，如AI詐騙的迷惑性極強，顛覆了普通人“眼見為實”的常識，一旦受害者“上鉤”，不法分子就不會輕易放過“大魚”。從瑞萊的統(tǒng)計數(shù)據(jù)來看，AI詐騙案件涉案金額遠超一般詐騙案件。此外，AI造謠傳謠也是為了在短時間內(nèi)博取關(guān)注、賺取流量，鋌而走險，再伺機變現(xiàn)。然而，治理AI造謠傳謠的難點在于，造謠傳言的成本很低，但辟謠的成本很高且時效性滯后。

近年來，生成式AI技術(shù)能力突飛猛進并持續(xù)開源開放，大量工具、產(chǎn)品問世，降低了不法分子利用AI的門檻和成本。對此，有專家建議通過水印標注進行防御，但有業(yè)界人士指出，水印標注是一種主動式防御手段，其門檻較高，需要對圖片、視頻等內(nèi)容進行提前處理。例如，在照片中嵌入一些視覺上不可感知的噪聲，當他人利用照片訓練模型時，這種隱形干擾會干擾對視覺表征的提取，屬于對抗樣本攻擊。此外，還有一種半脆弱性水印，也是一種主動防御方式，即在添加水印后，如果有人編輯照片，水印就會被破壞，后期檢測可以得知照片是否經(jīng)過處理。然而，水印無法直接阻止照片、視頻被換臉，僅能事后檢測和認證圖像的真實性。

對于AI換臉引發(fā)的安全風險，蕭子豪認為，AI技術(shù)衍生的安全風險治理問題是一個非常復雜的社會問題，涉及多個方面。既要從法律法規(guī)層面事前規(guī)范引導、事后監(jiān)管懲戒，也需要有技術(shù)手段確保AI更加安全、可控。在技術(shù)層面，生成和鑒偽的對抗性非常強，需要持續(xù)長期投入，就像“貓鼠游戲”一樣，此消彼長，相互博弈。與互聯(lián)網(wǎng)產(chǎn)品或其他AI產(chǎn)品不同，AI鑒偽產(chǎn)品并非開發(fā)完就結(jié)束，而是需要隨著生成技術(shù)的進展不斷研究、更新、迭代，沒有終點。