1 月 28 日消息,在開發者問答環節,OpenAI 首席執行官山姆 · 奧爾特曼發布警告:由于 AI 智能體的帶來的便利性極高,人們正忽略潛在的災難性后果,在缺乏必要安全基礎設施的情況下,草率賦予 AI 過多控制權。
援引博文介紹,奧爾特曼將這種心態形容為“YOLO”(活在當下 / 人生苦短,及時行樂),并擔憂社會可能會因此“夢游”般地滑入一場信任危機。
為了佐證這一觀點,奧爾特曼分享了自己的親身經歷。他曾立誓不給 OpenAI 的編程模型 Codex 賦予計算機完全訪問權限,然而這一“安全防線”僅維持了兩個小時。
奧爾特曼承認,由于 AI 智能體表現得實在太“講道理”且能極大提升效率,他迅速妥協并解除了限制。他推測大多數用戶也會做出同樣的選擇,而這種普遍的松懈可能導致安全漏洞或對齊問題被長期忽視,直到危機爆發。
這種擔憂在開發者群體中已初現端倪。一名 OpenAI 開發者此前在社交媒體 X 上透露,他現在完全依賴 AI 編寫代碼。該開發者預測,企業很快也會采取類似模式,最終導致人類徹底失去對自己代碼庫的理解與控制能力。











