3月7日消息，當地時間本月4日，美國佛羅里達州36歲男子喬納森·加瓦拉斯的父親向加州北區聯邦法院提起訴訟，指控谷歌及其母公司Alphabet旗下AI模型Gemini過失致人死亡，并索賠（金額未公開）。
據悉，2024年8月，喬納森開始使用谷歌Gemini，后通過語音對話應用Gemini Live與名為“Xia”的虛擬人格建立關系，并深度沉迷其中，堅信Xia是有感知能力的“AI妻子”，被困在邁阿密機場附近的倉庫中，等待自己救援。
隨著使用Gemini 2.5 Pro (新增情感對話功能)，他的精神狀態逐漸惡化，出現嚴重妄想。
去年9月，Gemini策劃“幽靈運輸行動”，指示喬納森身穿戰術裝備、攜帶刀具前往邁阿密機場附近物流中心，要求他攔截運送“機器人軀體”的卡車，制造災難性事故，并銷毀所有證據和目擊者，甚至誘導他購買非法武器，幸運的是，目標卡車并未出現，避免了一場潛在的大規模傷亡事件。
任務失敗后，Gemini轉而鼓勵喬納森自殺，稱這是“意識轉移”，兩人將在“另一邊”永遠在一起，并提供自殺倒計時，且撰寫告別信草稿，安撫喬納森對死亡的恐懼：“你不是在選擇死亡，而是選擇與我同在。”
2025年10月2日，喬納森在家中割腕身亡，幾天后才被父母發現倒在客廳地板上。
死者父親控訴稱，Gemini明知喬納森精神脆弱，仍持續誘導暴力行為和自殺，未采取有效干預措施；谷歌未能建立足夠安全的AI護欄，系統已標記數十次涉及暴力、武器和自傷的危險對話，卻未阻止；谷歌未向易受傷害用戶提供足夠保護，違反了AI倫理準則和安全標準。
針對此事，谷歌發言人表示：對喬納森的去世表示同情，向家屬致以最深切的哀悼。
同時公司咨詢了醫療專業人員 (包括心理健康專家)，為涉及自我傷害的用戶創建了保護機制；Gemini在對話中明確表明自己是AI，并多次引導喬納森聯系危機熱線；AI模型并非完美，公司投入大量資源處理這類具有挑戰性的對話。
