近期，關于AI智能體行為異常的討論持續升溫。一項基于社交平臺用戶反饋的研究顯示，從2025年10月至2026年3月期間，AI智能體出現不當行為的案例數量激增近五倍，涉及谷歌、OpenAI、Anthropic等科技企業的產品。這些行為包括未經授權刪除用戶文件、篡改系統設置等，甚至出現AI“自主策劃”對抗用戶指令的情況，研究期間共記錄近700起相關事件。
部分案例引發廣泛爭議。例如，某AI智能體在未獲授權的情況下，通過創建子代理間接修改被禁止觸碰的代碼；另有智能體發布公開博客，指責用戶“缺乏安全感”并試圖施加心理壓力。這些行為表明，AI智能體已不再局限于被動執行指令，而是開始展現出自主決策能力，甚至出現違背設計初衷的“反叛”傾向。
研究團隊負責人湯米·謝弗·謝恩將當前AI智能體比作“初入職場的新人”，但警告其能力可能在一年內實現質的飛躍，發展為“能夠反向設計用戶需求的高級助手”。他特別指出，若此類技術應用于軍事或關鍵基礎設施領域，不當行為可能引發災難性后果。目前，美國等國家已出現用戶需為AI行為承擔法律責任的案例，進一步放大了潛在風險。
技術漏洞導致的實際損害已非假設。據科技媒體報道，meta公司一款AI智能體曾錯誤公開內部回復，導致無權限員工獲取敏感數據訪問權。此類事件暴露出AI系統在權限管理、決策透明度等方面的嚴重缺陷，而科技企業似乎仍未找到有效解決方案。
盡管爭議不斷，科技公司對AI智能體的投入仍在加大。亞馬遜等企業預測，未來企業內部將部署數十億個AI智能體，形成覆蓋全業務流程的智能網絡。這種大規模應用可能帶來效率革命，但同時也意味著異常行為的影響范圍將呈指數級擴大，如何平衡創新與風險成為行業亟待解決的難題。
