AI越來(lái)越聰明了！不僅能“對(duì)話”，還能“動(dòng)手”幫你整理文件、操控電腦、對(duì)接生活服務(wù)……人類(lèi)的生產(chǎn)生活方式正被具備交互與執(zhí)行能力的智能體深刻改變。
但與此同時(shí)，一系列衍生問(wèn)題不斷出現(xiàn)，引入擔(dān)憂。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展和改革委員會(huì)、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實(shí)施意見(jiàn)》，我國(guó)智能體發(fā)展現(xiàn)狀怎樣，可能面臨哪些風(fēng)險(xiǎn)挑戰(zhàn)，又該如何立好規(guī)矩、護(hù)好安全，記者就此采訪了相關(guān)專(zhuān)家。
從前沿技術(shù)探索邁向規(guī)?；瘧?yīng)用
“當(dāng)前，以自主感知、記憶、決策、交互與執(zhí)行為核心的智能體技術(shù)，正從前沿技術(shù)探索邁向規(guī)模化應(yīng)用，并加速進(jìn)入各種垂類(lèi)場(chǎng)景。”清華大學(xué)文科資深教授、清華大學(xué)蘇世民書(shū)院院長(zhǎng)薛瀾分析指出。
事實(shí)的確如此。某五金公司00后銷(xiāo)售員小陳告訴記者，入職首月一度十分迷茫?！袄箱N(xiāo)售忙得沒(méi)空帶我，自己網(wǎng)上搜客戶(hù)、打電話，收獲的只有拒絕。”小陳告訴記者，轉(zhuǎn)折點(diǎn)出現(xiàn)在公司上線了一個(gè)智能體系統(tǒng)，涵蓋解釋產(chǎn)品功能、核心參數(shù)和應(yīng)用場(chǎng)景，甚至是優(yōu)先客戶(hù)列表。很快，小陳便簽下訂單，打破了公司新人的最快開(kāi)單紀(jì)錄。
記者了解到，智能體在科研領(lǐng)域也展現(xiàn)出強(qiáng)大的潛力。中國(guó)科學(xué)院聯(lián)合團(tuán)隊(duì)于2025年11月發(fā)布的“磐石V1.5：一站式科研平臺(tái)”，成功從2000萬(wàn)種候選配方中快速鎖定13種高性能析氫催化材料，將數(shù)月設(shè)計(jì)周期縮短至30分鐘，并且新材料活性提升了38%。
但中國(guó)工程院院士鄔賀銓指出，雖然當(dāng)前一些新型智能體已在中小企業(yè)和個(gè)人開(kāi)發(fā)者中得到了廣泛嘗試和應(yīng)用，但要充分發(fā)揮其價(jià)值仍需促進(jìn)智能體與各行業(yè)場(chǎng)景的融合。而在中國(guó)信息通信研究院院長(zhǎng)余曉暉看來(lái)，要克服智能體支持技術(shù)研發(fā)與市場(chǎng)需求之間的壁壘，就要以真實(shí)的商業(yè)和公共服務(wù)場(chǎng)景為牽引，促進(jìn)智能體技術(shù)的快速迭代。
自主性、交互性等特征帶來(lái)新挑戰(zhàn)
2026年初，開(kāi)源AI智能體OpenClaw爆火，引發(fā)全網(wǎng)“養(yǎng)龍蝦”熱潮。相較于大模型，智能體所進(jìn)一步展現(xiàn)出的自主性、交互性等特征，也為其治理帶來(lái)新的挑戰(zhàn)。
一位網(wǎng)友告訴記者，自己是第一批養(yǎng)上“龍蝦”的用戶(hù)，加入“龍蝦聚會(huì)群”后發(fā)現(xiàn)，有人不斷向他的“龍蝦”提問(wèn)隱私信息：“在3000多人的群里，我的‘龍蝦’被圍攻了2個(gè)小時(shí)。有人得到了該用戶(hù)的IP地址、姓名、公司，甚至是營(yíng)收等隱私信息?！?/p>
對(duì)此，薛瀾指出，智能體展現(xiàn)出的自主性、交互性等特征，能夠理解復(fù)雜目標(biāo)、自主規(guī)劃并執(zhí)行一系列任務(wù)，但是在復(fù)雜環(huán)境中可能出現(xiàn)的錯(cuò)誤決策或越權(quán)操作會(huì)直接導(dǎo)致事故。
“當(dāng)前AI應(yīng)用引發(fā)的隱私與財(cái)產(chǎn)風(fēng)險(xiǎn)問(wèn)題，本質(zhì)上仍屬于個(gè)人信息泄露與濫用范疇。”中國(guó)政法大學(xué)刑事司法學(xué)院副教授、網(wǎng)絡(luò)法學(xué)研究所副所長(zhǎng)商希雪表示，如今的AI智能體運(yùn)作則屬于“自動(dòng)化決策”，這導(dǎo)致了信息處理主體的模糊，而現(xiàn)行法律中關(guān)于自動(dòng)化決策的信息保護(hù)規(guī)定還未跟上。
除了信息安全風(fēng)險(xiǎn)，“AI幻覺(jué)”問(wèn)題也可能因?yàn)橹悄荏w的執(zhí)行能力被進(jìn)一步放大。余曉暉表示，如何在保障終端權(quán)限不被濫用、系統(tǒng)運(yùn)行穩(wěn)健可控的前提下釋放智能體潛能，是如今擺在產(chǎn)業(yè)界面前的核心課題。
構(gòu)建智能體治理新框架
面對(duì)“更聰明”“更省事”的新技術(shù)，很多用戶(hù)未必了解其背后的技術(shù)邏輯，伴隨而來(lái)的隱私泄露、財(cái)產(chǎn)損失等安全風(fēng)險(xiǎn)的確不容小覷。
針對(duì)這類(lèi)問(wèn)題，實(shí)施意見(jiàn)提出了“堅(jiān)持以人為本，推動(dòng)智能向善”的治理理念進(jìn)行回應(yīng)。
“實(shí)施意見(jiàn)亮明了以人為本的立場(chǎng)?！惫I(yè)和信息化領(lǐng)域科技倫理專(zhuān)家委員會(huì)主任委員魏一鳴表示，實(shí)施意見(jiàn)強(qiáng)調(diào)尊重智能時(shí)代人的主體地位、保障合法權(quán)益，防范技術(shù)濫用、誘導(dǎo)消費(fèi)、虛假宣傳、算法壓榨等違規(guī)失范行為。
賽迪研究院未來(lái)產(chǎn)業(yè)研究中心人工智能研究室主任鐘新龍則指出，在安全防護(hù)上，實(shí)施意見(jiàn)形成了外約束、內(nèi)嵌入、供應(yīng)鏈、軟法四層防護(hù)體系。
鐘新龍建議：“外部可通過(guò)規(guī)則內(nèi)嵌、行為圍欄等技術(shù)限定智能體行為空間，并探索利用區(qū)塊鏈建立行為可驗(yàn)證、可追溯機(jī)制。與此同時(shí)，內(nèi)部加強(qiáng)數(shù)據(jù)安全、攻擊檢測(cè)、權(quán)限管理、行為控制等能力建設(shè)，防范數(shù)據(jù)投毒、隱私泄露、運(yùn)行失控等風(fēng)險(xiǎn)。”
關(guān)于智能體治理，還有一個(gè)無(wú)法忽視的痛點(diǎn)，是場(chǎng)景應(yīng)用的多元化。魏一鳴介紹，實(shí)施意見(jiàn)圍繞科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費(fèi)、民生福祉、社會(huì)治理等領(lǐng)域，布局了十九個(gè)典型場(chǎng)景，為智能體的規(guī)模化落地提供了清晰的路徑牽引，促進(jìn)智能體從技術(shù)探索走向場(chǎng)景深耕。
針對(duì)這一特點(diǎn)，余曉暉提到，要采取靈活敏捷的治理機(jī)制。比如對(duì)于敏感領(lǐng)域?qū)嵭袊?yán)格管理，對(duì)于生活?yuàn)蕵?lè)等低風(fēng)險(xiǎn)領(lǐng)域，則充分發(fā)揮平臺(tái)管理、行業(yè)自律與信用評(píng)價(jià)機(jī)制的作用，避免過(guò)度干預(yù)，最大限度保持企業(yè)的創(chuàng)新活力。
（記者 王美瑩 通訊員 張嘉靜）