聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

AI正以前所未有的方式深刻影響著人們的日常生活。

近期，Manus的突然走紅如同一石激起千層浪，推動了更多關(guān)于AI Agent的探索。近日國內(nèi)初創(chuàng)公司DeepWisdom的MetaGPT團(tuán)隊在開源社區(qū)GitHub上傳其復(fù)刻的產(chǎn)品Open Manus，這一舉動預(yù)示著AI Agent的門檻正逐漸降低。

人們將今年定為AI Agent元年，盡管今年出現(xiàn)現(xiàn)象級的AI Agent是小概率事件，但AI Agent作為AI應(yīng)用的重要探索，注定將絢麗多彩，并推動AI賦能千行百業(yè)，讓夢想照進(jìn)現(xiàn)實。

在創(chuàng)新探索的道路上，人們從沒有現(xiàn)成的模板可循，需要冒險者不斷試錯，深入探索各種可能性。因此，唯有尊重創(chuàng)新者的自由，尊重其冒險精神，以開放包容的心態(tài)為他們提供服務(wù)，才能真正實現(xiàn)創(chuàng)新的價值。

作為應(yīng)用智能體，AI Agent必須依賴于人們對大語言模型的持續(xù)投入和進(jìn)化。尤其是在大模型幻覺尚未完全可控的情況下，這一問題亟待解決。這引出一個值得深思的問題：如何在大語言模型的進(jìn)化與AI Agent發(fā)展之間找到平衡，如何識別和防范AI Agent在冒險與冒進(jìn)之間的邊界。

當(dāng)前，我們必須警惕的是，即便是世界上最先進(jìn)的大語言模型，仍無法完全解決AI幻覺問題。若人們尚未找到解決AI幻覺的方法，或無法明確AI幻覺的運行邏輯，使AI幻覺處于不可控邊界內(nèi)，加速推進(jìn)AI Agent的應(yīng)用，極有可能導(dǎo)致統(tǒng)計學(xué)上的兩類錯誤：選擇錯誤的答案或舍棄正確答案。畢竟，將充滿幻覺的AI通過AI Agent開發(fā)應(yīng)用于各個行業(yè)，可能帶來科技向善的積極改變，也可能打開潘多拉魔盒，帶來不可預(yù)知的后果。

因此，我們在今年定為AI Agent元年的同時，必須明確AI Agent是冒險還是冒進(jìn)這一問題的本質(zhì)。要做到這一點，一是需加快立法，劃定AI發(fā)展的可能性邊界，并通過立法構(gòu)建引導(dǎo)確定性創(chuàng)新的激勵機(jī)制；二是厘清AI冒險與冒進(jìn)的概念邊界，要求AI開發(fā)者的探索活動必須配備風(fēng)險應(yīng)對策略和解決方案，確保一旦出現(xiàn)災(zāi)難性后果，用戶能夠及時止損。

當(dāng)前，AI領(lǐng)域存在一種現(xiàn)象，即沿用過往應(yīng)用為主的商業(yè)發(fā)展邏輯。尤其是在算力面臨復(fù)雜環(huán)境的情況下，算法上的精煉創(chuàng)新和應(yīng)用上的先行突破似乎正在成為創(chuàng)新者的一種次優(yōu)選擇。但當(dāng)AI幻覺尚無法被有效管控，使用高幻覺率的AI進(jìn)行AI Agent開發(fā)和商用，就等于冒險。要知道，擁有先進(jìn)大語言模型的公司，若在AI Agent上采取謹(jǐn)慎態(tài)度，更多是因為他們深知AI幻覺可能帶來的巨大風(fēng)險。

因此，在AI競爭中，需繼續(xù)發(fā)揮比較競爭優(yōu)勢。具體到國內(nèi)，應(yīng)在算法上進(jìn)行更精細(xì)化的創(chuàng)新，通過突破降低AI幻覺或使AI幻覺處于可控狀態(tài)，同時在算力上實現(xiàn)突破，搭建適配算力資源的算法體系。此外，還需在AI Agent上布局推理芯片等技術(shù)，通過優(yōu)化算法與芯片的適配性，在應(yīng)用層為AI Agent克服AI幻覺提供相應(yīng)的解決方案。

冒險本身是一種追求，但冒險必須建立在可控風(fēng)險的基礎(chǔ)之上。未來已來，AI應(yīng)用的星辰大海正在冒險者的前赴后繼中不斷拓寬可能性邊界。為此，我們必須始終銘記，人類需要更多冒險者，但冒險必須以謹(jǐn)慎為前提，莫魯莽行事。