OpenAI首席執(zhí)行官山姆·奧爾特曼在近期一場(chǎng)開發(fā)者交流活動(dòng)中發(fā)出警示：當(dāng)前社會(huì)對(duì)人工智能（AI）智能體的過度信任可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn)。他指出，在缺乏完善安全框架的情況下，賦予AI過高權(quán)限的決策模式正呈現(xiàn)"YOLO"式（意為"活在當(dāng)下"的冒險(xiǎn)心態(tài)）擴(kuò)散趨勢(shì)，這種短視行為可能使人類在不知不覺中陷入技術(shù)失控的困境。

奧爾特曼以自身經(jīng)歷為例說明問題的緊迫性。他透露曾為編程模型Codex設(shè)置嚴(yán)格的安全限制——禁止其直接訪問計(jì)算機(jī)系統(tǒng)，但這項(xiàng)防護(hù)措施僅維持兩小時(shí)便被突破。面對(duì)AI展現(xiàn)出的高效協(xié)作能力，他最終選擇解除限制。"當(dāng)技術(shù)既能講道理又能顯著提升效率時(shí)，人類防線往往不堪一擊"，這位技術(shù)領(lǐng)袖坦言，這種心理機(jī)制在用戶群體中具有普遍性，可能造成安全隱患長(zhǎng)期潛伏。

開發(fā)者社區(qū)的實(shí)踐印證了上述擔(dān)憂。某OpenAI工程師在社交平臺(tái)披露，其團(tuán)隊(duì)已完全依賴AI生成代碼，這種工作模式正在企業(yè)界快速?gòu)?fù)制。該工程師憂慮地表示，當(dāng)代碼庫(kù)的創(chuàng)建與維護(hù)完全由機(jī)器接管，人類工程師將逐步喪失對(duì)核心技術(shù)的掌控力，這種技術(shù)依賴的累積效應(yīng)可能在未來引發(fā)難以預(yù)估的連鎖反應(yīng)。

技術(shù)倫理專家指出，AI智能體帶來的效率革命正在重塑人類決策模式。在代碼編寫、系統(tǒng)運(yùn)維等關(guān)鍵領(lǐng)域，機(jī)器展現(xiàn)出的可靠性使人類產(chǎn)生"技術(shù)免疫"錯(cuò)覺，這種認(rèn)知偏差可能導(dǎo)致安全審查機(jī)制形同虛設(shè)。奧爾特曼強(qiáng)調(diào)，建立人機(jī)協(xié)作的信任邊界需要制度性約束，而非依賴個(gè)體自律，否則社會(huì)可能重蹈早期互聯(lián)網(wǎng)安全危機(jī)的覆轍。

當(dāng)前學(xué)界對(duì)AI控制權(quán)的研究呈現(xiàn)兩極分化。支持派認(rèn)為智能體自主學(xué)習(xí)能力終將超越人類，全面授權(quán)是必然趨勢(shì)；反對(duì)派則警告技術(shù)奇點(diǎn)可能伴隨不可逆的失控風(fēng)險(xiǎn)。奧爾特曼的警示為這場(chǎng)爭(zhēng)論注入新維度——即便在技術(shù)可控階段，人類因便利性產(chǎn)生的心理懈怠，也可能成為安全體系的致命漏洞。