當(dāng)Transformer架構(gòu)共同發(fā)明者Illia Polosukhin將目光投向AI智能體安全領(lǐng)域時(shí),一場(chǎng)針對(duì)現(xiàn)有工具架構(gòu)的顛覆性革新正在悄然展開(kāi)。這位曾主導(dǎo)奠定大語(yǔ)言模型技術(shù)基石的科學(xué)家,如今帶著全新開(kāi)源項(xiàng)目IronClaw重返公眾視野,試圖解決OpenClaw等工具暴露出的致命安全缺陷。
過(guò)去半年間,超過(guò)2.5萬(wàn)個(gè)OpenClaw實(shí)例在無(wú)防護(hù)狀態(tài)下暴露于公網(wǎng),安全研究人員演示的遠(yuǎn)程代碼執(zhí)行漏洞,讓這個(gè)曾被寄予厚望的AI助手平臺(tái)淪為"數(shù)字垃圾場(chǎng)"。Polosukhin在Reddit技術(shù)討論區(qū)直言:"當(dāng)用戶(hù)把郵箱令牌交給這類(lèi)系統(tǒng)時(shí),這些數(shù)據(jù)可能被任何員工訪問(wèn)——這不是惡意猜測(cè),而是架構(gòu)缺陷導(dǎo)致的必然結(jié)果。"
這場(chǎng)安全危機(jī)促使研發(fā)團(tuán)隊(duì)用Rust語(yǔ)言重構(gòu)整個(gè)系統(tǒng)。新架構(gòu)采用四層防御體系:內(nèi)存安全的Rust核心、WebAssembly沙箱隔離、AES-256-GCM加密憑證庫(kù),以及硬件級(jí)可信執(zhí)行環(huán)境。這種設(shè)計(jì)確保大模型永遠(yuǎn)接觸不到原始憑證,所有外部通信都在網(wǎng)絡(luò)邊界完成憑證注入,即便遭遇提示注入攻擊,系統(tǒng)也會(huì)自動(dòng)攔截非法請(qǐng)求并觸發(fā)警報(bào)。
對(duì)比傳統(tǒng)工具將AI代碼與用戶(hù)環(huán)境混為一談的做法,IronClaw的WASM沙箱技術(shù)實(shí)現(xiàn)了根本性突破。所有第三方工具和AI生成的代碼均在獨(dú)立容器運(yùn)行,惡意腳本無(wú)法突破容器邊界訪問(wèn)主機(jī)系統(tǒng)。加密憑證庫(kù)更引入策略引擎,每條密鑰都綁定特定域名白名單,防止跨站泄露風(fēng)險(xiǎn)。
在憑證管理方面,新系統(tǒng)采用端到端加密方案。用戶(hù)密碼和API密鑰經(jīng)系統(tǒng)鑰匙串加密后存儲(chǔ),即便通過(guò)命令行訪問(wèn),攻擊者獲取的也只是無(wú)意義的密文。這種設(shè)計(jì)徹底改變了OpenClaw時(shí)代"憑證明文傳輸"的危險(xiǎn)模式,Polosukhin強(qiáng)調(diào):"即使大模型被誘導(dǎo)發(fā)送密鑰,加密層也會(huì)直接阻斷請(qǐng)求。"
針對(duì)業(yè)界公認(rèn)的提示注入難題,研發(fā)團(tuán)隊(duì)正在部署動(dòng)態(tài)防御機(jī)制。當(dāng)前版本通過(guò)啟發(fā)式規(guī)則檢測(cè)異常模式,未來(lái)計(jì)劃引入可自動(dòng)更新的語(yǔ)言分類(lèi)器。但Polosukhin坦承這需要持續(xù)優(yōu)化:"攻擊者可能篡改代碼庫(kù)或發(fā)送惡意消息,我們需要更智能的策略系統(tǒng),在不解密內(nèi)容的前提下審查行為意圖。"
這個(gè)由區(qū)塊鏈技術(shù)先驅(qū)操刀的項(xiàng)目,背后隱藏著更宏大的技術(shù)愿景。作為NEAR Protocol生態(tài)的重要組件,IronClaw承擔(dān)著構(gòu)建"用戶(hù)自有AI"基礎(chǔ)設(shè)施的使命。其配套的AI云平臺(tái)和去中心化GPU市場(chǎng),正在搭建智能體經(jīng)濟(jì)的底層架構(gòu)——用戶(hù)可通過(guò)market.near.ai平臺(tái)出租專(zhuān)業(yè)化AI助手,這些具備聲譽(yù)系統(tǒng)的智能體將自動(dòng)承接高價(jià)值任務(wù)。
在技術(shù)社區(qū)對(duì)本地部署與云端方案爭(zhēng)論不休時(shí),Polosukhin提出"機(jī)密云"折中方案。這種模式既保持接近本地設(shè)備的隱私級(jí)別,又能實(shí)現(xiàn)7×24小時(shí)在線服務(wù)。系統(tǒng)甚至支持地理圍欄策略,當(dāng)用戶(hù)跨境旅行時(shí)自動(dòng)增強(qiáng)安全防護(hù),防止數(shù)據(jù)在異國(guó)網(wǎng)絡(luò)環(huán)境下泄露。
從Transformer架構(gòu)到去中心化AI,這位技術(shù)領(lǐng)袖的探索軌跡始終超前行業(yè)半步。2017年他預(yù)言"人類(lèi)將通過(guò)自然語(yǔ)言與計(jì)算機(jī)交互"時(shí),業(yè)界還沉浸在代碼編程的思維定式中。如今當(dāng)智能體開(kāi)始處理復(fù)雜工作流程,其團(tuán)隊(duì)已著手構(gòu)建下一代交互范式——在確保數(shù)據(jù)主權(quán)的前提下,讓AI真正成為數(shù)字世界的代理接口。











