OpenAI近期通過官方博客詳細闡述了其AI代理在網(wǎng)頁訪問過程中，針對惡意鏈接與提示注入攻擊所采取的防護策略。這一機制旨在平衡安全性與靈活性，避免因過度限制訪問范圍而影響用戶體驗。

在互聯(lián)網(wǎng)環(huán)境中，AI代理常需代表用戶操作瀏覽器并與外部網(wǎng)站交互，但釣魚網(wǎng)站、惡意頁面及數(shù)據(jù)竊取風(fēng)險對系統(tǒng)安全構(gòu)成威脅。OpenAI未選擇僅允許訪問“白名單網(wǎng)站”的保守方案，認為此舉雖能提升安全性，卻會大幅降低代理的實用性和適應(yīng)性。為此，公司開發(fā)了一套獨立的網(wǎng)絡(luò)索引系統(tǒng)，僅記錄互聯(lián)網(wǎng)上已公開的URL地址，且不依賴任何用戶數(shù)據(jù)。

根據(jù)新機制，AI代理訪問的鏈接若存在于獨立索引中，系統(tǒng)將直接放行；若未被記錄，則會提示用戶明確授權(quán)后方可繼續(xù)。這一設(shè)計將安全判斷標(biāo)準(zhǔn)從“是否信任網(wǎng)站”轉(zhuǎn)變?yōu)椤暗刂肥欠窆_存在于開放網(wǎng)絡(luò)中”，從而在保障安全的同時保留了訪問的開放性。

OpenAI還關(guān)注到網(wǎng)頁可能通過“提示注入”等手段隱蔽操控AI模型，誘導(dǎo)其執(zhí)行非預(yù)期操作，例如泄露敏感信息或破壞系統(tǒng)。公司此前發(fā)布的研究論文已對此類攻擊方式及防范技術(shù)進行了深入分析。

盡管新機制是多層防護體系的一部分，但OpenAI明確表示，其無法確保所有網(wǎng)頁內(nèi)容絕對安全。部分網(wǎng)站可能采用社會工程學(xué)或其他惡意設(shè)計，而AI代理在現(xiàn)階段仍難以完全識別此類風(fēng)險。用戶在使用過程中仍需保持警惕，避免因過度依賴技術(shù)防護而忽視潛在威脅。