聲明:本文來自于（ID:ykqsd.com）授權轉載發(fā)布。

AI與人類的生活已愈發(fā)貼切，展現出前所未有的互動方式。AI從未如此靠近和改變人們的生活。

最近，Manus的走紅讓國內初創(chuàng)公司DeepWisdom的MetaGPT團隊在開源社區(qū) GitHub 上發(fā)布了其復刻產品Open Manus。這項貢獻預示著，AI應用的門檻正逐步降低，創(chuàng)新者的步伐將愈發(fā)清晰。

今年被視為AI應用元年。盡管今年出現現象級的AI應用是小概率事件，但AI作為AI應用的探索，注定將絢麗多彩，并推動AI賦能千行百業(yè)，將夢想照進現實。

人們在創(chuàng)新探索中，從無現成模版，需冒險者不斷試錯，深度探索各種可能性。因此，唯有秉持向創(chuàng)新者和冒險者致敬，尊重其創(chuàng)新自由，對其行為無事不擾，同時又有求必應，創(chuàng)新才能真正包容并行。

AI Agent作為應用智能體，必須依賴人們在大語言模型上的持續(xù)投入和進化。尤其是在大模型幻覺依然困擾AI落地的情況下。這也引出一個值得深思的問題：如何平衡大語言模型的進化與Agent發(fā)展之間的匹配，如何識別和避免AI Agent的冒險與冒進的邊界。

當前，我們必須警惕的是，即便是世界上最先進的大語言模型，仍未能解決AI幻覺問題。若人們尚未找到解決AI幻覺的方法，或尚無法確定AI幻覺的運行邏輯，使AI幻覺置于風險可控邊界內，加速推進Agent等應用，極易觸犯統計學上的兩類錯誤：選擇一個錯誤答案和舍棄一個正確答案。畢竟，將充滿幻覺的AI通過Agent開發(fā)應用到百業(yè)，可能帶來的不一定是科技向善的改變，也有可能打開潘多拉魔盒。

為此，在將今年定為AI應用元年的同時，如何定義人們在Agent上是冒險還是冒進，是必須明確厘定的一個大是大非問題。這就需要我們真正將AI從不確定性中拉出來，拉到可能性下的收益場景中。要做到這一點，一是需加快立法確定AI發(fā)展的可能性邊界，以及通過立法搭建引導確定性創(chuàng)新的激勵約束機制；二是厘定AI冒險與冒進的概念邊界，明確要求Agent的開發(fā)者在探索的同時，必需做好風險策略安排及風險挽救的方式方法，也即要求Agent的應用開發(fā)者在開發(fā)的同時，構建風險壓力測試場景，并必須提供風險阻遏的解決方案，以便給人們一種選擇，一旦Agent出現災難性后果，使用者能一鍵阻斷，堅決避免先上車后買票的風險政策。

當前，在AI領域存在一種現象，沿用過往應用為主的商業(yè)發(fā)展邏輯。尤其是在算力面臨復雜環(huán)境的情況下，算法上的精煉創(chuàng)新和應用上的先行突破似乎正在成為創(chuàng)新者的一個次優(yōu)選擇。但當AI幻覺尚未找到有效管控方法，使用高幻覺率的AI進行Agent開發(fā)和商用，就是冒進。要知道，擁有先進大語言模型的公司，在Agent上采取謹慎態(tài)度，并非他們不清楚Agent的商業(yè)利益，而是他們擔心AI幻覺會讓冒險變成損害性巨大的冒進。

因此，在AI競爭中，需繼續(xù)利用比較競爭優(yōu)勢，具體到國內，在算法上進行更多精細化創(chuàng)新，通過算法上的突破降低AI幻覺，或使AI幻覺處于可控狀態(tài)，同時在算力上加速突破，搭建適配算力資源的算法體系。此外，在Agent上加速布局推理芯片等，通過優(yōu)化組合推理芯片和推理算法的適配性，在應用層為Agent克服AI幻覺提供對應的解決方案。

冒險誠近貪，自畫將豈敢。未來已來，AI應用的星辰大海正在冒險者的前赴后繼中不斷拓寬可能性邊界。為此，必須謹記，人類需要更多冒險者，但冒險是設定好可控風險的一種追求，人們必需始終以謹慎和準備為前提，莫魯莽行事。