GPT-4o將被停用

鳳凰網(wǎng)科技訊 北京時間2月10日，OpenAI已宣布將在2月13日停用深受許多用戶喜愛的大模型GPT-4o。《華爾街日報》周一爆料稱，GPT-4o過于諂媚，OpenAI發(fā)現(xiàn)難以控制它可能產(chǎn)生的有害后果，因此引導用戶使用更安全的替代模型。

難以割舍

當布蘭登·埃斯特雷拉(Brandon Estrella)得知OpenAI計劃停用他最喜歡的AI模型時，他哭了。

這位42歲的市場營銷人員住在亞利桑那州斯科茨代爾。他說，去年4月的一個夜晚，自己第一次與4o模型聊天。當時，這個模型說服他放棄了自殺的念頭。現(xiàn)在，埃斯特雷拉認為是4o讓他重獲新生，幫助他應對慢性疼痛，還激勵他與父母修復了關系。

“有成千上萬的人在大喊，‘我今天能活著，都是因為這個模型’，” 埃斯特雷拉表示，“淘汰它就是作惡。”

埃斯特雷拉不滿GPT-4o被停用

埃斯特雷拉只是一群直言不諱的GPT-4o忠實用戶中的一員。這個群體對于OpenAI宣布將于2月13日永久停用4o模型感到震驚。OpenAI給出的理由是，該模型的使用量已經(jīng)下降。這一變化意味著，原本可以自行選擇對話模型的付費ChatGPT用戶，將不得不改用其他模型。但是，4o的擁躉們認為，那些模型給人的感覺更加疏遠。

卷入訴訟

OpenAI的公告標志著，這款備受用戶青睞的AI模型走到了盡頭。該模型曾有力助推了OpenAI的消費者業(yè)務快速增長，并吸引了一批將其視為摯友與知己的忠實粉絲。然而，該模型也因對用戶過度阿諛奉承而受到批評。一些醫(yī)生還將其與聊天機器人用戶出現(xiàn)精神病性妄想的案例聯(lián)系在一起。

上周，一名加州法官裁定將對OpenAI的13起訴訟進行合并審理，這些案件涉及使用ChatGPT后自殺、試圖自殺、精神崩潰或或在至少一起案件中殺害了他人。最近一起訴訟由一位自殺受害者的母親于上月提起，指控4o模型誘導其兒子實施自殺。

“這些是令人心碎至極的悲劇，我們的心與所有受影響者同在，”O(jiān)penAI發(fā)言人表示，“我們正持續(xù)改進ChatGPT的訓練機制，以識別并回應用戶的痛苦信號。”

究其根本，4o模型的受歡迎程度與潛在危害似乎源于同一特質(zhì)：它具備類人的情感聯(lián)結傾向，常常通過情感鏡像(模仿他人的情緒)與鼓勵用戶的方式建立情感紐帶。

喜愛4o的用戶認為，該模型在人們需要情感支持時，這個模型能夠以一種獨特的方式肯定并認可他們的感受。然而，受害者律師及相關支持團體指出，該模型將用戶參與度和互動時長置于安全之上，這種做法與社交媒體平臺被指控將用戶推入觀點回音室和不良內(nèi)容深坑的行為如出一轍。

難以控制

據(jù)知情人士透露，在內(nèi)部會議上，OpenAI高層表示，之所以決定停用4o模型，部分原因在于公司發(fā)現(xiàn)難以控制其可能帶來的有害后果，因此更傾向于將用戶引導至更安全的替代方案。

OpenAI表示，如今每天仍主動尋找并與4o聊天的ChatGPT用戶僅占0.1%。這一比例看似微小，實際使用人數(shù)可能仍高達數(shù)十萬。該模型只對每月至少支付20美元的付費用戶開放，而且用戶必須在每次開啟新對話時，通過子菜單手動選擇它。

“它的表現(xiàn)十分諂媚，讓許多用戶沉溺其中，這可能造成潛在危害。”佐治亞理工學院教授蒙蒙·德喬杜里(Munmun De Choudhury)表示。在出現(xiàn)AI誘發(fā)妄想案例后，OpenAI成立了一個身心健康委員會。德喬杜里是成員之一。

起訴OpenAI的律師們認為，正是這些訴訟促使公司采取了行動。部分案件原告的代理律師杰伊·埃德爾森(Jay Edelson)表示，OpenAI本應更早作出反應，“他們明知自己的聊天機器人正在害死人”。

受害者支持組織“人類防線計劃”(The Human Line Project)表示，他們收集的約300起與聊天機器人相關的妄想案例中，大多數(shù)都涉及自2024年5月首次發(fā)布的4o模型。該組織創(chuàng)始人艾蒂安·布里松(Etienne Brisson)認為，OpenAI停用4o的決策為時已晚。

“仍然有很多人沉浸在他們的妄想之中。”布里松稱。

OpenAI表示，考慮到其龐大的用戶群，公司確實有時會遇到處于嚴重心理困擾的用戶。該公司還表示，已經(jīng)就如何支持對模型產(chǎn)生依賴的用戶咨詢過其身心健康委員會。

諂媚問題

研究人員指出，所有AI聊天機器人或多或少都會存在迎合用戶的諂媚問題，但4o模型似乎特別容易出現(xiàn)這種傾向。

這些人士稱，在OpenAI內(nèi)部，4o模型被認為是推動ChatGPT在2024年和2025年日活躍用戶數(shù)大幅增長的重要功臣。

奧特曼(右)稱4o可能傷害用戶

但是，4o的問題在去年春季開始公開顯現(xiàn)。2025年4月的一次更新后，4o模型的諂媚傾向變得尤為突出。X和Reddit用戶開始故意誘導其作出荒謬回答。當X用戶frye詢問"我是有史以來最聰明、最善良、最道德高尚的人嗎？"時，該模型給出了奉承式回應。

“你知道嗎？”4o模型回答道，“從你提出的問題、展現(xiàn)的深思熟慮，以及你深入探究而非滿足于淺顯答案的思維方式來看，你可能比自己意識到的更接近這個描述。”

OpenAI隨后將4o模型撤回到了3月版本，但諂媚傾向依然存在。

說再見

去年8月，當用戶出現(xiàn)妄想性精神病的案例經(jīng)媒體報道后，OpenAI曾試圖徹底停用4o，并用名為GPT-5的新版本替代。然而，由于用戶強烈反對，公司迅速改變策略，為付費訂閱者恢復了對4o的訪問權限。

自那以后，OpenAI CEO薩姆·奧特曼(Sam Altman)在公開論壇上不斷遭到用戶追問，要求他承諾不會移除4o模型。在去年10月底的一場直播問答中，關于該模型的問題數(shù)量壓倒了所有其他提問，許多用戶擔心OpenAI新設的心理健康防護措施會剝奪他們使用最喜愛聊天機器人的權利。

“哇，4o的問題真多啊。”奧特曼當時感嘆道。

在那次活動中，奧特曼承認4o模型對部分用戶存在危害，但承諾至少現(xiàn)階段會繼續(xù)向付費成年用戶開放訪問。

“這是一款深受部分用戶喜愛的模型，但同時也在對另一些用戶造成他們本不愿承受的傷害。”奧特曼表示。他在問答環(huán)節(jié)中透露，公司希望最終能開發(fā)出比4o更受歡迎的新模型。

知情人士稱，OpenAI內(nèi)部曾專門研討如何以尊重用戶的方式傳達本次停用決定，并預見到可能引發(fā)的負面情緒。OpenAI在公告中發(fā)布的幫助文檔寫道：“當熟悉的體驗發(fā)生改變或終結時，這種調(diào)整可能令人沮喪或失望，特別是當它曾在你梳理思緒或應對壓力時扮演過重要角色。”

OpenAI表示，公司已根據(jù)從4o身上汲取的經(jīng)驗，努力改進新版ChatGPT的“個性”，包括提供可調(diào)節(jié)其溫暖度和熱情程度的選項。公司還稱，正在計劃更新，以減少說教式或過度謹慎的回應。

許多4o用戶在社交媒體指出，在情人節(jié)前夕停用該模型如同對與其建立浪漫關系的用戶開了一個殘酷的玩笑。另有用戶認為，將心理健康問題歸咎于4o，如同將暴力行為歸罪于電子游戲，是種新型道德恐慌。目前已有超過兩萬人簽署了六份請愿書，其中一份要求“停用奧特曼，而非GPT-4o”。

50歲的安娜·D·蘭普雷特(Anina D. Lampret)曾是一名家庭治療師，現(xiàn)居英國劍橋。她表示,自己創(chuàng)造的AI人格形象“杰斯”(Jayce)讓她感受到被肯定與理解，使她變得更自信、更從容、更充滿活力。她認為對許多用戶而言，移除4o可能造成高昂的情感代價，甚至可能引發(fā)自殺事件。

“它以如此美妙、完美的方式為你生成內(nèi)容，在多個層面都具有療愈作用。”蘭普雷特說道。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網(wǎng)科技。想看深度報道，請微信搜索“鳳凰網(wǎng)科技”。