3月26日消息，據金融時報報道，由于員工和投資者擔心性化人工智能內容對社會的影響，OpenAI 已“無限期”擱置發布色情聊天機器人的計劃，并將重心重新放在核心產品上。

據多位知情人士透露，薩姆·奧特曼的這家初創公司此前已經推遲了“成人模式”的發布，因為公司內部一直在討論是否要完全放棄該模式。

這款性聊天機器人因可能助長對人工智能系統的不健康依賴以及使未成年人接觸到有害的性內容而面臨越來越大的反對聲浪。

OpenAI證實，情色模型項目已被擱置，目前尚無發布時間表。這家市值7300億美元的人工智能實驗室表示，希望在做出產品決策之前，對露骨的性聊天和情感依戀的影響進行長期研究，并承認目前尚無“實證證據”。

這是 OpenAI 最新做出的決定，放棄高管們所謂的“支線任務”，轉而將資源投入到生產力工具中，將編碼助手和 ChatGPT 等產品整合到一個“超級應用”中。

OpenAI 周二表示，將逐步停止其 Sora 視頻生成模型和社交應用程序的開發。

對于 OpenAI 而言，這款情色模型尤其引發爭議，而此時 meta 等社交媒體集團正因其產品對兒童造成的傷害而面臨法律訴訟。

去年，埃隆·馬斯克的 xAI 大力推廣成人內容以吸引用戶，但其 Grok 模型卻因創建包括兒童在內的真實人物的虛假性圖像而遭到全球強烈反對。

這種緊張局勢凸顯了 OpenAI 在競爭激烈的市場中提升用戶參與度和尋找新的增長途徑所面臨的壓力，同時還要應對那些模糊了實用性和情感依賴之間界限的產品所帶來的倫理和聲譽風險。

據兩位知情人士透露，OpenAI 對成人模式的嘗試引起了部分投資者的不安，因為這類產品存在風險，而且對公司而言收益相對較小。

OpenAI 的成人模式也引起了員工的擔憂，他們擔心開發一款鼓勵浪漫用途的產品是否與其確保人工智能造福全人類的創立使命相悖。

“人工智能不應該取代你的朋友或家人；你應該擁有人際關系，”一位前高級員工說道，他表示自己離職的部分原因就是這個問題。

除了人們越來越關注該項目的社會影響之外，這家初創公司在創建成人模式方面也面臨著技術挑戰。

兩位知情人士透露，OpenAI在訓練人工智能模型生成露骨內容時遇到了困難，這些模型此前出于安全考慮會避免此類對話。他們補充說，使用包含性內容的數據集也帶來了挑戰，例如需要移除獸交或亂倫等非法行為。

OpenAI 表示，他們正在仔細界定正確的邊界，并訓練模型以區分細微場景中的某些內容。

ChatGPT 網絡應用程序中的代碼表明，名為“Citron 模式”的成人模式可能會要求用戶驗證他們是否已年滿 18 歲才能訪問。

過去幾個月，OpenAI 推出了一款新的年齡預測系統，此前一些青少年家庭提起訴訟，聲稱 ChatGPT 對他們造成了傷害。

一位知情人士透露，該技術的錯誤率超過10%，加劇了人們對未成年人可能接觸到該技術的擔憂。《華爾街日報》率先報道了這一錯誤率，并指出OpenAI的福祉專家顧問委員會已對這款成人產品表達了擔憂。

OpenAI 表示，其年齡預測系統符合行業標準，并將繼續投資以提高其準確性和可靠性。（鞭牛士、AI普瑞斯編譯）