聲明:本文來自于（ID:ykqsd.com）授權轉載發(fā)布。

在科技的快速發(fā)展當下，人工智能大模型無疑是當今最耀眼的創(chuàng)新成果之一。它已在智能客服、智能寫作、自動駕駛、醫(yī)療影像診斷等多個領域獲得廣泛應用，深刻融入人們的生活與工作，為社會帶來了前所未有的便利與效益。

然而，繁榮之下潛藏危機，AI大模型在訓練和應用過程中面臨著一系列復雜的數(shù)據(jù)法律風險。這些風險不僅涉及個人隱私、企業(yè)核心利益，還對社會的安全穩(wěn)定和長遠發(fā)展構成威脅。深入剖析并妥善應對這些風險，已成為推動AI技術長遠發(fā)展的關鍵所在。

一、AI大模型訓練環(huán)節(jié)的數(shù)據(jù)法律風險

AI大模型的訓練需要海量數(shù)據(jù)支撐，這些數(shù)據(jù)主要來自公開數(shù)據(jù)集、網絡爬取數(shù)據(jù)、用戶生成內容等多個渠道。然而，這種多元數(shù)據(jù)來源也帶來了諸多法律風險，包括侵權風險、數(shù)據(jù)偏差風險以及信息泄露風險。

AI大模型訓練所依賴的數(shù)據(jù)量極為龐大，其中包含了大量受著作權保護的作品。在獲取和使用這些數(shù)據(jù)時，開發(fā)者的任何疏忽都可能觸犯著作權法。近年來，相關法律糾紛不斷涌現(xiàn)。例如，《紐約時報》起訴OpenAI公司，指控其非法復制數(shù)百萬篇文章用于ChatGPT大模型訓練，索賠金額高達數(shù)十億美元；美國三位作家對Anthropic PBC提起訴訟，指控其未經授權使用大量書籍訓練Claude大模型；2023年，美國作家協(xié)會起訴Meta公司，指控其非法使用書籍數(shù)據(jù)訓練人工智能模型。這些案例充分表明，大模型訓練中的著作權侵權問題已不容忽視。

與此同時，大模型預訓練數(shù)據(jù)中往往包含大量個人信息，未經用戶同意收集和使用這些數(shù)據(jù)，也違反了個人信息保護規(guī)定。根據(jù)《個人信息保護法》，處理個人信息需要遵循嚴格規(guī)范。然而，由于大模型技術的高成本，獲取每位用戶的同意幾乎是不可能的。當前大模型技術環(huán)境下，"合理范圍"的個人信息界定也極為模糊。以ChatGPT為例，其采用"機器學習即服務"（MLaaS）模式，用戶的數(shù)據(jù)信息會被開發(fā)者獲取，這意味著用戶的個人信息始終處于風險之中。

訓練數(shù)據(jù)的質量直接決定了AI大模型的性能和輸出結果，低質量的數(shù)據(jù)可能導致模型產生錯誤的預測和決策，甚至引發(fā)嚴重的安全事故。數(shù)據(jù)偏差風險主要體現(xiàn)在價值偏差、時效偏差和真實性偏差三個方面。例如，訓練數(shù)據(jù)中存在歧視、暴力、情色等不良內容，大模型學習后輸出的信息也可能帶有價值偏差。盡管GPT類大模型常用超大規(guī)模無人工標注數(shù)據(jù)擴大訓練規(guī)模，但這些數(shù)據(jù)質量參差不齊，包含大量價值偏差內容。盡管開發(fā)者嘗試通過微調、基于人類反饋的強化學習等技術手段來減少此類風險，但由于大模型機器學習過程存在技術黑箱特性，這些方法難以徹底消除價值性偏差信息的輸出。

此外，各類AI大模型的訓練數(shù)據(jù)存在時效滯后問題，無法及時融入最新數(shù)據(jù)。這決定了大模型無法像搜索引擎那樣即時獲取最新信息。例如，ChatGPT剛推出時，其基于的GPT-3.5預訓練數(shù)據(jù)截至2021年12月，這導致其回答可能滯后或不準確。即便部分模型提供聯(lián)網檢索功能，也未能從根本上解決訓練數(shù)據(jù)時效性偏差的問題。

此外，AI大模型訓練數(shù)據(jù)不足，可能導致輸出的信息與真實情況不符，即所謂的"幻覺"現(xiàn)象。這種情況尤其存在于利用AI大模型搜集法律案例時，結果可能輸出一些并不存在的司法案例。由于存在錯誤數(shù)據(jù)信息注入、偏見強化、惡意內容嵌入等問題，可能導致模型生成誤導性內容，也會帶來難以估量的社會風險。例如，科大訊飛AI學習機因內容審核不嚴格，導致不當內容被用于數(shù)據(jù)訓練，引發(fā)輿情事件，致使該公司市值蒸發(fā)百億元。

AI大模型訓練過程涉及大量敏感數(shù)據(jù)，如個人隱私數(shù)據(jù)、商業(yè)機密數(shù)據(jù)等，一旦這些數(shù)據(jù)在訓練過程中泄露，將給個人和企業(yè)帶來巨大損失。數(shù)據(jù)泄露風險主要來源于數(shù)據(jù)存儲和傳輸過程中的安全漏洞，以及數(shù)據(jù)訪問和使用的權限管理不當。用戶提供的數(shù)據(jù)可能被用于模型升級迭代，若這些數(shù)據(jù)包含商業(yè)秘密或個人隱私，泄露的風險將不言而喻。例如，2023年韓國三星電子員工因違規(guī)使用ChatGPT，導致半導體機密資料外泄，給企業(yè)造成了嚴重的經濟損失。此外，研究人員還發(fā)現(xiàn)，能夠通過技術手段抽取大模型預訓練時的訓練數(shù)據(jù)，還可通過特定提示詞誘導大模型輸出其他用戶輸入的外部數(shù)據(jù)。

二、AI大模型應用場景中的數(shù)據(jù)風險類型

在AI大模型的實際應用過程中，同樣存在著多種數(shù)據(jù)風險。這些風險不僅會直接影響用戶體驗，還可能對社會秩序和公共利益造成嚴重損害。從知識產權的角度來看，AI生成的圖像或文本可能未經合法授權使用他人的作品或形象，從而構成侵權。例如，一些AI繪畫作品可能因借鑒了他人的創(chuàng)作元素而引發(fā)著作權糾紛。此外，AI生成的內容還可能侵犯他人的肖像權、名譽權，引發(fā)人格權法律糾紛。同時，AI生成的內容還可能包含虛假信息、誤導性內容或有害內容，這些內容可能對社會秩序和公共利益造成損害，擾亂正常的輿論環(huán)境。

AI大模型還存在被惡意利用的風險。其中，模型越獄（Jailbreaking）是較為突出的問題。模型越獄主要是用戶利用一些巧妙設計的指令，逃避AI大模型預先設置的安全防護規(guī)則，導致模型生成不符合倫理道德、違法內容。一些用戶可能利用模型越獄技術獲取模型的敏感信息（如訓練數(shù)據(jù)、模型參數(shù)等），或者是讓模型生成有害內容（如惡意軟件代碼、煽動性言論等）。耶魯大學計算機科學教授阿明·卡巴西指出，大模型驅動的機器人在現(xiàn)實世界中的越獄威脅將達到前所未有的高度。不法分子如果繞過AI大模型的安全防護，操控機器人執(zhí)行破壞性的任務，比如控制自動駕駛汽車撞向行人，或是將機器狗引導到敏感地點實施爆炸任務，這將嚴重威脅人類社會的安全穩(wěn)定。

隨著AI大模型的廣泛應用，大模型的網絡安全日益成為一項重要議題。2025年1月，DeepSeek連續(xù)遭遇HailBot和RapperBot僵尸網絡的TB級DDoS攻擊，導致大模型服務多次中斷，給用戶帶來極大不便。在數(shù)據(jù)授權方面，企業(yè)未對數(shù)據(jù)進行合法授權的二次使用，可能構成不正當競爭行為。因此，AI大模型的數(shù)據(jù)使用不合規(guī)不僅影響AI模型的性能，還可能涉及數(shù)據(jù)提供者、模型開發(fā)者和使用者之間的復雜法律責任問題。此外，在數(shù)據(jù)跨境傳輸方面，AIGC服務提供者將數(shù)據(jù)傳輸至境外時，若不符合相關規(guī)定，將面臨數(shù)據(jù)出境合規(guī)義務的要求。

三、應對AI大模型數(shù)據(jù)法律風險的策略

面對AI大模型數(shù)據(jù)法律風險，必須積極采取有效策略加以應對。通過完善法律規(guī)制體系、運用技術手段以及強化保障措施等多方面努力，為AI大模型的健康發(fā)展保駕護航。

第一，需要完善AI大模型數(shù)據(jù)法律規(guī)則體系。在著作權方面，可將使用作品類數(shù)據(jù)進行AI大模型預訓練設定為著作權的合理使用方式之一，但要充分平衡著作權人與開發(fā)者的利益。允許著作權人明確表示不同意作品用于AI大模型預訓練，同時通過征收著作權補償金成立公益性基金會，激勵文化藝術創(chuàng)作。

在個人信息保護方面，應調整《個人信息保護法》相關規(guī)定。對于普通個人信息，可采用"默示同意"規(guī)則，即信息主體未明確表示不同意，默認同意其普通個人信息被用于大模型預訓練；對于敏感個人信息，仍需堅持"明示同意"規(guī)則。建議將AI大模型開發(fā)者處理已公開個人信息的"合理范圍"界定在不侵害信息主體人格權的底線之上。通過設定具體法律責任，督促大模型開發(fā)者防范數(shù)據(jù)偏差風險。對于AI大模型輸出價值偏差信息的情況，明確開發(fā)者應承擔的行政法律責任，避免民事法律責任約束不足和刑事法律責任過重的問題。對于AI大模型數(shù)據(jù)泄露風險，明確開發(fā)者在數(shù)據(jù)安全保護方面的義務和責任，對違規(guī)行為進行嚴厲處罰。

第二，需要運用多種技術手段，構建AI大模型安全防護閉環(huán)，提升數(shù)據(jù)安全性和準確性。在AI大模型訓練過程中，應根據(jù)訓練進度動態(tài)調整數(shù)據(jù)保護強度，既要防止隱私泄露，又要保持模型準確性。可以通過同態(tài)加密技術讓AI在加密數(shù)據(jù)上進行計算，確保數(shù)據(jù)在計算過程中的安全性，并在不影響數(shù)據(jù)分析準確性的前提下，可以向查詢結果添加噪聲，或者采用分布式協(xié)作讓萬千臺設備合作完成大模型訓練，以全面提升AI大模型的數(shù)據(jù)保護能級。

在AI大模型應用過程中，可通過多模態(tài)交叉驗證、知識圖譜、混合防御等技術，加強數(shù)據(jù)驗證和污染檢測，不斷優(yōu)化模型數(shù)據(jù)防護系統(tǒng)。具體技術上，多模態(tài)交叉驗證系統(tǒng)如同為AI配備了"火眼金睛"，能同時核對文字、圖片、視頻之間的關聯(lián)性，清除生成結果中的虛假描述。知識圖譜系統(tǒng)則如同內置的"核查員"，每秒可比對數(shù)百萬條信息，確保AI不會生成出自相矛盾的內容?；旌戏烙鶆t讓AI大模型在具體應用場景中擁有"自我凈化"能力，采用"基線對抗訓練+實時動態(tài)防護"的混合防御模式，可延長時間在真實復雜應用場景中的安全生命周期。

小編：第三，必須加強數(shù)據(jù)安全保障，制定完善的數(shù)據(jù)監(jiān)測預警機制。為防范AI大模型可能的越獄風險和侵權風險，必須將AI技術與倫理及行為建模深度融合，在模型開發(fā)和設計階段，應采用先進安全技術和算法，確保AI大模型的安全性；在部署與應用階段，必須實施嚴格的安全測試和評估，持續(xù)優(yōu)化，以適應不同場景需求，實現(xiàn)數(shù)據(jù)保護與模型性能的最佳平衡。

同時，必須建立健全AI大模型安全管理制度，對員工進行數(shù)據(jù)安全培訓，提升其數(shù)據(jù)安全意識和合規(guī)操作能力。在數(shù)據(jù)采集、存儲、使用、共享等環(huán)節(jié)，應實時監(jiān)控數(shù)據(jù)使用和傳輸情況，及時發(fā)現(xiàn)并處理安全隱患，確保AI大模型服務的穩(wěn)定運行。

總之，AI大模型作為科技迭代的重要推動力，已在金融、醫(yī)療、制造等多領域廣泛應用，但也伴隨著數(shù)據(jù)法律風險以及可能引發(fā)就業(yè)、人機矛盾等社會問題。為確保AI大模型的可持續(xù)發(fā)展，我們必須重視這些法律風險，完善數(shù)據(jù)風險規(guī)制機制，實現(xiàn)智能化科技創(chuàng)新與社會公共利益的動態(tài)平衡。

（作者孫伯龍為杭州師范大學副教授、財稅法研究中心主任，譯有澤維爾·奧伯森所著《對機器人征稅：如何使數(shù)字經濟適應AI？》）

來源：孫伯龍