聲明:本文來(lái)自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

AI與人類(lèi)的生活已愈發(fā)貼切，展現(xiàn)出前所未有的互動(dòng)方式。AI從未如此靠近和改變?nèi)藗兊纳睢?/p>

最近，Manus的走紅讓國(guó)內(nèi)初創(chuàng)公司DeepWisdom的MetaGPT團(tuán)隊(duì)在開(kāi)源社區(qū) GitHub 上發(fā)布了其復(fù)刻產(chǎn)品Open Manus。這項(xiàng)貢獻(xiàn)預(yù)示著，AI應(yīng)用的門(mén)檻正逐步降低，創(chuàng)新者的步伐將愈發(fā)清晰。

今年被視為AI應(yīng)用元年。盡管今年出現(xiàn)現(xiàn)象級(jí)的AI應(yīng)用是小概率事件，但AI作為AI應(yīng)用的探索，注定將絢麗多彩，并推動(dòng)AI賦能千行百業(yè)，將夢(mèng)想照進(jìn)現(xiàn)實(shí)。

人們?cè)趧?chuàng)新探索中，從無(wú)現(xiàn)成模版，需冒險(xiǎn)者不斷試錯(cuò)，深度探索各種可能性。因此，唯有秉持向創(chuàng)新者和冒險(xiǎn)者致敬，尊重其創(chuàng)新自由，對(duì)其行為無(wú)事不擾，同時(shí)又有求必應(yīng)，創(chuàng)新才能真正包容并行。

AI Agent作為應(yīng)用智能體，必須依賴(lài)人們?cè)诖笳Z(yǔ)言模型上的持續(xù)投入和進(jìn)化。尤其是在大模型幻覺(jué)依然困擾AI落地的情況下。這也引出一個(gè)值得深思的問(wèn)題：如何平衡大語(yǔ)言模型的進(jìn)化與Agent發(fā)展之間的匹配，如何識(shí)別和避免AI Agent的冒險(xiǎn)與冒進(jìn)的邊界。

當(dāng)前，我們必須警惕的是，即便是世界上最先進(jìn)的大語(yǔ)言模型，仍未能解決AI幻覺(jué)問(wèn)題。若人們尚未找到解決AI幻覺(jué)的方法，或尚無(wú)法確定AI幻覺(jué)的運(yùn)行邏輯，使AI幻覺(jué)置于風(fēng)險(xiǎn)可控邊界內(nèi)，加速推進(jìn)Agent等應(yīng)用，極易觸犯統(tǒng)計(jì)學(xué)上的兩類(lèi)錯(cuò)誤：選擇一個(gè)錯(cuò)誤答案和舍棄一個(gè)正確答案。畢竟，將充滿(mǎn)幻覺(jué)的AI通過(guò)Agent開(kāi)發(fā)應(yīng)用到百業(yè)，可能帶來(lái)的不一定是科技向善的改變，也有可能打開(kāi)潘多拉魔盒。

為此，在將今年定為AI應(yīng)用元年的同時(shí)，如何定義人們?cè)贏gent上是冒險(xiǎn)還是冒進(jìn)，是必須明確厘定的一個(gè)大是大非問(wèn)題。這就需要我們真正將AI從不確定性中拉出來(lái)，拉到可能性下的收益場(chǎng)景中。要做到這一點(diǎn)，一是需加快立法確定AI發(fā)展的可能性邊界，以及通過(guò)立法搭建引導(dǎo)確定性創(chuàng)新的激勵(lì)約束機(jī)制；二是厘定AI冒險(xiǎn)與冒進(jìn)的概念邊界，明確要求Agent的開(kāi)發(fā)者在探索的同時(shí)，必需做好風(fēng)險(xiǎn)策略安排及風(fēng)險(xiǎn)挽救的方式方法，也即要求Agent的應(yīng)用開(kāi)發(fā)者在開(kāi)發(fā)的同時(shí)，構(gòu)建風(fēng)險(xiǎn)壓力測(cè)試場(chǎng)景，并必須提供風(fēng)險(xiǎn)阻遏的解決方案，以便給人們一種選擇，一旦Agent出現(xiàn)災(zāi)難性后果，使用者能一鍵阻斷，堅(jiān)決避免先上車(chē)后買(mǎi)票的風(fēng)險(xiǎn)政策。

當(dāng)前，在AI領(lǐng)域存在一種現(xiàn)象，沿用過(guò)往應(yīng)用為主的商業(yè)發(fā)展邏輯。尤其是在算力面臨復(fù)雜環(huán)境的情況下，算法上的精煉創(chuàng)新和應(yīng)用上的先行突破似乎正在成為創(chuàng)新者的一個(gè)次優(yōu)選擇。但當(dāng)AI幻覺(jué)尚未找到有效管控方法，使用高幻覺(jué)率的AI進(jìn)行Agent開(kāi)發(fā)和商用，就是冒進(jìn)。要知道，擁有先進(jìn)大語(yǔ)言模型的公司，在Agent上采取謹(jǐn)慎態(tài)度，并非他們不清楚Agent的商業(yè)利益，而是他們擔(dān)心AI幻覺(jué)會(huì)讓冒險(xiǎn)變成損害性巨大的冒進(jìn)。

因此，在AI競(jìng)爭(zhēng)中，需繼續(xù)利用比較競(jìng)爭(zhēng)優(yōu)勢(shì)，具體到國(guó)內(nèi)，在算法上進(jìn)行更多精細(xì)化創(chuàng)新，通過(guò)算法上的突破降低AI幻覺(jué)，或使AI幻覺(jué)處于可控狀態(tài)，同時(shí)在算力上加速突破，搭建適配算力資源的算法體系。此外，在Agent上加速布局推理芯片等，通過(guò)優(yōu)化組合推理芯片和推理算法的適配性，在應(yīng)用層為Agent克服AI幻覺(jué)提供對(duì)應(yīng)的解決方案。

冒險(xiǎn)誠(chéng)近貪，自畫(huà)將豈敢。未來(lái)已來(lái)，AI應(yīng)用的星辰大海正在冒險(xiǎn)者的前赴后繼中不斷拓寬可能性邊界。為此，必須謹(jǐn)記，人類(lèi)需要更多冒險(xiǎn)者，但冒險(xiǎn)是設(shè)定好可控風(fēng)險(xiǎn)的一種追求，人們必需始終以謹(jǐn)慎和準(zhǔn)備為前提，莫魯莽行事。