聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

最近，中國科學技術(shù)大學的研究團隊研發(fā)了一種名為AlphaEdit的精準編輯算法，該算法為大型語言模型的知識更新和管理提供了一種高效解決方案。

該算法的核心在于，在對模型進行知識更新時，將參數(shù)變化投影到原始知識的零空間中。這種方法理論上能夠確保在定向更新模型中的錯誤、過時或不安全知識時，不會對模型的通用能力造成干擾。

研究人員在主流編輯方法中僅增加一行代碼，就實現(xiàn)了Llama 3在知識編輯任務(wù)上的性能提升達35%。

該方法具有廣泛的適用性，可以應(yīng)用于大多數(shù)常用的模型編輯算法，并在論文中接受了驗證。

論文的審稿人評價稱："該研究成功解決了當前模型編輯中知識更新與知識保留之間難以平衡的問題。"

相關(guān)論文《AlphaEdit：基于零空間約束的語言模型知識編輯》（AlphaEdit: Null-Space Constrained Knowledge Editing for Language Models）已發(fā)表在國際學習表征會議（ICLR 2025，International Conference on Learning Representations）上，并被選為 orally presentation（僅占投稿總數(shù)的1.8%）。

中國科學技術(shù)大學的博士生方俊峰和碩士生姜厚丞是共同第一作者，王翔教授和何向南教授擔任共同通訊作者。

該研究團隊發(fā)現(xiàn)，以往研究通常將"加入新知識"和"保留舊知識"這兩個目標放在一起。目前，大多數(shù)研究范式通過調(diào)整優(yōu)化目標中兩者的參數(shù)來維持平衡。

然而，現(xiàn)有的平衡方式并不理想，往往會為了保證新知識的成功加入而犧牲一部分舊知識，進而影響模型的語言流暢性和邏輯性。這種權(quán)衡在頻繁更新知識的情況下，容易導(dǎo)致模型崩潰。

為了解決上述問題，他們提出：是否可以突破這種限制，每一步只需處理一件事呢？

研究團隊在廣泛查閱數(shù)學文獻和理論后，確定了經(jīng)典概念——零空間。零空間理論可以在不破壞現(xiàn)有知識的情況下，完美地保持新知識，從而實現(xiàn)模型的無損更新。

方俊峰指出，雖然在算法中添加一行代碼看似簡單，但實際上它將原算法的目標分為兩部分，并通過零空間投影矩陣將結(jié)果投影到原始知識的零空間中，從而實現(xiàn)了強大的泛化性，并且適用于目前大部分基于定位的模型編輯算法。

實驗數(shù)據(jù)顯示，AlphaEdit在幾乎所有指標和基礎(chǔ)模型上都表現(xiàn)出色，尤其是在效率和泛化能力方面，與最佳基線方法相比，分別提升了12.54%和16.78%。

此外，AlphaEdit在文本生成的流暢性和連貫性方面也取得了顯著的改進。在對編輯后的大模型進行一般能力測試時，AlphaEdit保持了模型的原始性能，在處理3000個樣本后，平均保留了98.48%的一般能力。

值得注意的是，該方法幾乎不會對模型的語言輸出流暢度造成影響。方俊峰強調(diào)，這是目前唯一能夠在理論上徹底避免這種情況的解決方案。

此外，研究人員還驗證了該方法的普適性，它在遺忘學習、持續(xù)學習、概念擦除、模型去偏和多模態(tài)安全等領(lǐng)域，均能實現(xiàn)簡單且有效的效果。

模型編輯是大模型發(fā)展過程中的重要環(huán)節(jié)。隨著模型架構(gòu)的不斷增大，其性能也在持續(xù)增強。未來，隨著計算能力的提升，可能會出現(xiàn)更大規(guī)模的模型架構(gòu)。

然而，模型規(guī)模的增大也帶來了新的挑戰(zhàn)。盡管小模型可以通過微調(diào)快速更新知識，但對大模型進行微調(diào)的難度將隨著規(guī)模的增大而顯著增加。因此，高效的模型編輯在這一背景下顯得尤為重要。

此外，在垂類大模型能力持續(xù)增強的發(fā)展趨勢下，基礎(chǔ)模型的迭代更新可能會被推遲，而模型編輯可以在官方更新緩慢的情況下快速響應(yīng)市場和用戶的需求，保持模型的時效性和實用性。

盡管目前的模型編輯方法在理論層面不會破壞舊知識，但在實際操作中仍會存在一些近似誤差，導(dǎo)致微小的知識破壞。

小編在《自然》雜志上發(fā)表的論文中指出，盡管該研究團隊在實現(xiàn)大模型編輯方面取得了一定進展，但目前仍無法滿足工業(yè)界對模型編輯的需求。具體來說，此前模型編輯由于破壞較為嚴重難以被工業(yè)界接受，可能需要數(shù)千次更新就會導(dǎo)致模型崩潰。但如今，我們已經(jīng)將這種破壞降低了 1 個數(shù)量級，這使模型編輯的意義變得更加重大。方俊峰團隊對此表示。

在接下來的研究階段，該課題組計劃將這項技術(shù)推廣到更多國內(nèi)外知名的大模型中，以驗證其通用性和泛化性。

其次，他們計劃探索將零空間應(yīng)用于不同的垂直領(lǐng)域，例如安全防護或多模態(tài)生成，以在增強大模型安全性、提升特定能力的同時，確保原始存儲知識的邏輯表達能力不受影響。

此外，研究人員還考慮利用零空間來增強大模型的某個特定能力，比如針對藝術(shù)、生化、數(shù)學等領(lǐng)域的模型，或定制化模型（如定制家教）。該團隊認為，將這項技術(shù)應(yīng)用于持續(xù)學習等深度學習領(lǐng)域，也是具有研究價值的方向之一。

參考資料：

1.https://openreview.net/forum?id=HvSytvg3Jh

2.https://github.com/jianghoucheng/AlphaEdit

運營/排版：何晨龍、劉雅坤