聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

AI正以前所未有的方式深刻影響著人們的日常生活。

近期，Manus的突然走紅如同一石激起千層浪，推動(dòng)了更多關(guān)于AI Agent的探索。近日國內(nèi)初創(chuàng)公司DeepWisdom的MetaGPT團(tuán)隊(duì)在開源社區(qū)GitHub上傳其復(fù)刻的產(chǎn)品Open Manus，這一舉動(dòng)預(yù)示著AI Agent的門檻正逐漸降低。

人們將今年定為AI Agent元年，盡管今年出現(xiàn)現(xiàn)象級(jí)的AI Agent是小概率事件，但AI Agent作為AI應(yīng)用的重要探索，注定將絢麗多彩，并推動(dòng)AI賦能千行百業(yè)，讓夢想照進(jìn)現(xiàn)實(shí)。

在創(chuàng)新探索的道路上，人們從沒有現(xiàn)成的模板可循，需要冒險(xiǎn)者不斷試錯(cuò)，深入探索各種可能性。因此，唯有尊重創(chuàng)新者的自由，尊重其冒險(xiǎn)精神，以開放包容的心態(tài)為他們提供服務(wù)，才能真正實(shí)現(xiàn)創(chuàng)新的價(jià)值。

作為應(yīng)用智能體，AI Agent必須依賴于人們對大語言模型的持續(xù)投入和進(jìn)化。尤其是在大模型幻覺尚未完全可控的情況下，這一問題亟待解決。這引出一個(gè)值得深思的問題：如何在大語言模型的進(jìn)化與AI Agent發(fā)展之間找到平衡，如何識(shí)別和防范AI Agent在冒險(xiǎn)與冒進(jìn)之間的邊界。

當(dāng)前，我們必須警惕的是，即便是世界上最先進(jìn)的大語言模型，仍無法完全解決AI幻覺問題。若人們尚未找到解決AI幻覺的方法，或無法明確AI幻覺的運(yùn)行邏輯，使AI幻覺處于不可控邊界內(nèi)，加速推進(jìn)AI Agent的應(yīng)用，極有可能導(dǎo)致統(tǒng)計(jì)學(xué)上的兩類錯(cuò)誤：選擇錯(cuò)誤的答案或舍棄正確答案。畢竟，將充滿幻覺的AI通過AI Agent開發(fā)應(yīng)用于各個(gè)行業(yè)，可能帶來科技向善的積極改變，也可能打開潘多拉魔盒，帶來不可預(yù)知的后果。

因此，我們在今年定為AI Agent元年的同時(shí)，必須明確AI Agent是冒險(xiǎn)還是冒進(jìn)這一問題的本質(zhì)。要做到這一點(diǎn)，一是需加快立法，劃定AI發(fā)展的可能性邊界，并通過立法構(gòu)建引導(dǎo)確定性創(chuàng)新的激勵(lì)機(jī)制；二是厘清AI冒險(xiǎn)與冒進(jìn)的概念邊界，要求AI開發(fā)者的探索活動(dòng)必須配備風(fēng)險(xiǎn)應(yīng)對策略和解決方案，確保一旦出現(xiàn)災(zāi)難性后果，用戶能夠及時(shí)止損。

當(dāng)前，AI領(lǐng)域存在一種現(xiàn)象，即沿用過往應(yīng)用為主的商業(yè)發(fā)展邏輯。尤其是在算力面臨復(fù)雜環(huán)境的情況下，算法上的精煉創(chuàng)新和應(yīng)用上的先行突破似乎正在成為創(chuàng)新者的一種次優(yōu)選擇。但當(dāng)AI幻覺尚無法被有效管控，使用高幻覺率的AI進(jìn)行AI Agent開發(fā)和商用，就等于冒險(xiǎn)。要知道，擁有先進(jìn)大語言模型的公司，若在AI Agent上采取謹(jǐn)慎態(tài)度，更多是因?yàn)樗麄兩钪狝I幻覺可能帶來的巨大風(fēng)險(xiǎn)。

因此，在AI競爭中，需繼續(xù)發(fā)揮比較競爭優(yōu)勢。具體到國內(nèi)，應(yīng)在算法上進(jìn)行更精細(xì)化的創(chuàng)新，通過突破降低AI幻覺或使AI幻覺處于可控狀態(tài)，同時(shí)在算力上實(shí)現(xiàn)突破，搭建適配算力資源的算法體系。此外，還需在AI Agent上布局推理芯片等技術(shù)，通過優(yōu)化算法與芯片的適配性，在應(yīng)用層為AI Agent克服AI幻覺提供相應(yīng)的解決方案。

冒險(xiǎn)本身是一種追求，但冒險(xiǎn)必須建立在可控風(fēng)險(xiǎn)的基礎(chǔ)之上。未來已來，AI應(yīng)用的星辰大海正在冒險(xiǎn)者的前赴后繼中不斷拓寬可能性邊界。為此，我們必須始終銘記，人類需要更多冒險(xiǎn)者，但冒險(xiǎn)必須以謹(jǐn)慎為前提，莫魯莽行事。