OpenAI近日宣布為ChatGPT推出兩項(xiàng)全新安全防護(hù)機(jī)制，以應(yīng)對(duì)AI系統(tǒng)在連接外部網(wǎng)絡(luò)和應(yīng)用時(shí)面臨的提示注入攻擊威脅。這類攻擊可能被不法分子利用，誘導(dǎo)AI執(zhí)行惡意操作或泄露用戶隱私數(shù)據(jù)。新措施在現(xiàn)有沙箱隔離、URL信息過濾等多層防護(hù)體系基礎(chǔ)上，進(jìn)一步強(qiáng)化了安全管控能力。

首項(xiàng)推出的鎖定模式（Lockdown Mode）專為高安全需求場景設(shè)計(jì)，屬于可選的高級(jí)配置選項(xiàng)。該模式通過嚴(yán)格限制AI與外部系統(tǒng)的交互方式來降低數(shù)據(jù)泄露風(fēng)險(xiǎn)，例如將網(wǎng)頁瀏覽功能限制在緩存內(nèi)容范圍內(nèi)，同時(shí)禁用所有缺乏安全保障的功能模塊。目前該功能已面向企業(yè)版、教育版、醫(yī)療版及教師版用戶開放，系統(tǒng)管理員可通過工作臺(tái)創(chuàng)建特定角色來啟用鎖定模式，并能精細(xì)控制允許訪問的外部應(yīng)用及操作權(quán)限。OpenAI透露，消費(fèi)者版本用戶將在未來幾個(gè)月內(nèi)獲得該功能支持，配套的合規(guī)審計(jì)平臺(tái)可幫助管理員追蹤應(yīng)用使用情況和數(shù)據(jù)流動(dòng)軌跡。

第二項(xiàng)安全升級(jí)是在ChatGPT、ChatGPT Atlas及Codex等產(chǎn)品中，為具有潛在安全風(fēng)險(xiǎn)的功能統(tǒng)一添加"風(fēng)險(xiǎn)提升"標(biāo)識(shí)。這種標(biāo)準(zhǔn)化的風(fēng)險(xiǎn)提示方式旨在幫助用戶更清晰地認(rèn)知功能特性，特別是在處理敏感數(shù)據(jù)時(shí)做出審慎決策。以代碼生成工具Codex為例，當(dāng)開發(fā)者啟用網(wǎng)絡(luò)訪問功能時(shí)，系統(tǒng)會(huì)通過醒目標(biāo)識(shí)展示功能變更說明、潛在風(fēng)險(xiǎn)及適用場景，同時(shí)提供風(fēng)險(xiǎn)緩解建議。OpenAI強(qiáng)調(diào)，雖然網(wǎng)絡(luò)相關(guān)功能能顯著提升AI實(shí)用性，但某些風(fēng)險(xiǎn)尚未被行業(yè)現(xiàn)有防護(hù)措施完全覆蓋，透明化的風(fēng)險(xiǎn)提示機(jī)制有助于建立更可信的人機(jī)協(xié)作環(huán)境。

據(jù)技術(shù)文檔披露，鎖定模式實(shí)施后，受管控賬戶的外部交互將接受雙重驗(yàn)證機(jī)制：系統(tǒng)不僅會(huì)檢查目標(biāo)應(yīng)用的數(shù)字證書有效性，還會(huì)對(duì)傳輸數(shù)據(jù)進(jìn)行動(dòng)態(tài)加密處理。在風(fēng)險(xiǎn)標(biāo)識(shí)系統(tǒng)方面，OpenAI采用三級(jí)分類標(biāo)準(zhǔn)，根據(jù)功能對(duì)數(shù)據(jù)安全、系統(tǒng)完整性的影響程度進(jìn)行差異化標(biāo)注。這些安全增強(qiáng)措施已通過第三方機(jī)構(gòu)的安全評(píng)估，符合ISO/IEC 27001信息安全管理標(biāo)準(zhǔn)要求。