AIPress.com.cn報(bào)道

3月20日消息，meta一起由 AI 智能體引發(fā)的內(nèi)部事件，曾導(dǎo)致大量用戶及公司敏感數(shù)據(jù)在員工范圍內(nèi)短暫暴露約兩小時(shí)。事件起因是一名工程師在內(nèi)部論壇尋求技術(shù)建議，AI Agent 提供了解決方案，相關(guān)操作被執(zhí)行后觸發(fā)數(shù)據(jù)暴露。

meta 表示，該事件未造成用戶數(shù)據(jù)被濫用，并強(qiáng)調(diào)類似錯(cuò)誤在人類工程師場(chǎng)景中同樣可能發(fā)生。不過，該事件仍引發(fā)公司內(nèi)部高級(jí)別安全警報(bào)，顯示其對(duì)數(shù)據(jù)保護(hù)問題的高度重視。

這一案例成為近期 AI 智能體風(fēng)險(xiǎn)外溢的又一例證。隨著企業(yè)加速在研發(fā)與運(yùn)營中引入“Agentic AI”（具備自主執(zhí)行多步驟任務(wù)能力的系統(tǒng)），類似由自動(dòng)化決策帶來的異常情況逐漸增多。此前，亞馬遜也被曝在內(nèi)部 AI 工具部署過程中出現(xiàn)系統(tǒng)故障與運(yùn)行中斷。

業(yè)內(nèi)人士指出，此類問題反映出企業(yè)仍處于大規(guī)模部署 AI Agent 的“實(shí)驗(yàn)階段”。咨詢公司專家認(rèn)為，這些系統(tǒng)在權(quán)限控制與風(fēng)險(xiǎn)評(píng)估方面尚不成熟，其潛在問題在事后往往更容易被識(shí)別。

安全研究人員則指出，與人類工程師不同，AI Agent 缺乏長期經(jīng)驗(yàn)與隱性上下文理解，其“上下文窗口”存在衰減問題，可能在復(fù)雜任務(wù)鏈中忽略關(guān)鍵約束，從而引發(fā)錯(cuò)誤操作。（AI普瑞斯編譯）