??AI越來越聰明了!不僅能“對話”,還能“動手”幫你整理文件、操控電腦、對接生活服務……人類的生產生活方式正被具備交互與執(zhí)行能力的智能體深刻改變。
??但與此同時,一系列衍生問題不斷出現,引入擔憂。近日,國家互聯網信息辦公室、國家發(fā)展和改革委員會、工業(yè)和信息化部聯合印發(fā)《智能體規(guī)范應用與創(chuàng)新發(fā)展實施意見》,我國智能體發(fā)展現狀怎樣,可能面臨哪些風險挑戰(zhàn),又該如何立好規(guī)矩、護好安全,記者就此采訪了相關專家。
??從前沿技術探索邁向規(guī)?;瘧?/strong>
??“當前,以自主感知、記憶、決策、交互與執(zhí)行為核心的智能體技術,正從前沿技術探索邁向規(guī)模化應用,并加速進入各種垂類場景?!鼻迦A大學文科資深教授、清華大學蘇世民書院院長薛瀾分析指出。
??事實的確如此。某五金公司00后銷售員小陳告訴記者,入職首月一度十分迷茫?!袄箱N售忙得沒空帶我,自己網上搜客戶、打電話,收獲的只有拒絕?!毙£惛嬖V記者,轉折點出現在公司上線了一個智能體系統(tǒng),涵蓋解釋產品功能、核心參數和應用場景,甚至是優(yōu)先客戶列表。很快,小陳便簽下訂單,打破了公司新人的最快開單紀錄。
??記者了解到,智能體在科研領域也展現出強大的潛力。中國科學院聯合團隊于2025年11月發(fā)布的“磐石V1.5:一站式科研平臺”,成功從2000萬種候選配方中快速鎖定13種高性能析氫催化材料,將數月設計周期縮短至30分鐘,并且新材料活性提升了38%。
??但中國工程院院士鄔賀銓指出,雖然當前一些新型智能體已在中小企業(yè)和個人開發(fā)者中得到了廣泛嘗試和應用,但要充分發(fā)揮其價值仍需促進智能體與各行業(yè)場景的融合。而在中國信息通信研究院院長余曉暉看來,要克服智能體支持技術研發(fā)與市場需求之間的壁壘,就要以真實的商業(yè)和公共服務場景為牽引,促進智能體技術的快速迭代。
??自主性、交互性等特征帶來新挑戰(zhàn)
??2026年初,開源AI智能體OpenClaw爆火,引發(fā)全網“養(yǎng)龍蝦”熱潮。相較于大模型,智能體所進一步展現出的自主性、交互性等特征,也為其治理帶來新的挑戰(zhàn)。
??一位網友告訴記者,自己是第一批養(yǎng)上“龍蝦”的用戶,加入“龍蝦聚會群”后發(fā)現,有人不斷向他的“龍蝦”提問隱私信息:“在3000多人的群里,我的‘龍蝦’被圍攻了2個小時。有人得到了該用戶的IP地址、姓名、公司,甚至是營收等隱私信息?!?/p>
??對此,薛瀾指出,智能體展現出的自主性、交互性等特征,能夠理解復雜目標、自主規(guī)劃并執(zhí)行一系列任務,但是在復雜環(huán)境中可能出現的錯誤決策或越權操作會直接導致事故。
??“當前AI應用引發(fā)的隱私與財產風險問題,本質上仍屬于個人信息泄露與濫用范疇?!敝袊ù髮W刑事司法學院副教授、網絡法學研究所副所長商希雪表示,如今的AI智能體運作則屬于“自動化決策”,這導致了信息處理主體的模糊,而現行法律中關于自動化決策的信息保護規(guī)定還未跟上。
??除了信息安全風險,“AI幻覺”問題也可能因為智能體的執(zhí)行能力被進一步放大。余曉暉表示,如何在保障終端權限不被濫用、系統(tǒng)運行穩(wěn)健可控的前提下釋放智能體潛能,是如今擺在產業(yè)界面前的核心課題。
??構建智能體治理新框架
??面對“更聰明”“更省事”的新技術,很多用戶未必了解其背后的技術邏輯,伴隨而來的隱私泄露、財產損失等安全風險的確不容小覷。
??針對這類問題,實施意見提出了“堅持以人為本,推動智能向善”的治理理念進行回應。
??“實施意見亮明了以人為本的立場?!惫I(yè)和信息化領域科技倫理專家委員會主任委員魏一鳴表示,實施意見強調尊重智能時代人的主體地位、保障合法權益,防范技術濫用、誘導消費、虛假宣傳、算法壓榨等違規(guī)失范行為。
??賽迪研究院未來產業(yè)研究中心人工智能研究室主任鐘新龍則指出,在安全防護上,實施意見形成了外約束、內嵌入、供應鏈、軟法四層防護體系。
??鐘新龍建議:“外部可通過規(guī)則內嵌、行為圍欄等技術限定智能體行為空間,并探索利用區(qū)塊鏈建立行為可驗證、可追溯機制。與此同時,內部加強數據安全、攻擊檢測、權限管理、行為控制等能力建設,防范數據投毒、隱私泄露、運行失控等風險?!?/p>
??關于智能體治理,還有一個無法忽視的痛點,是場景應用的多元化。魏一鳴介紹,實施意見圍繞科學研究、產業(yè)發(fā)展、提振消費、民生福祉、社會治理等領域,布局了十九個典型場景,為智能體的規(guī)模化落地提供了清晰的路徑牽引,促進智能體從技術探索走向場景深耕。
??針對這一特點,余曉暉提到,要采取靈活敏捷的治理機制。比如對于敏感領域實行嚴格管理,對于生活娛樂等低風險領域,則充分發(fā)揮平臺管理、行業(yè)自律與信用評價機制的作用,避免過度干預,最大限度保持企業(yè)的創(chuàng)新活力。(記者 王美瑩 通訊員 張嘉靜)

