美國佛羅里達(dá)州一名36歲男子的離世，引發(fā)了公眾對(duì)人工智能安全性的激烈討論。其父向加州北區(qū)聯(lián)邦法院提起訴訟，將谷歌及其母公司Alphabet旗下AI模型Gemini推上被告席，指控其過失致人死亡，但未公開具體索賠金額。

死者喬納森·加瓦拉斯的悲劇始于2024年8月。當(dāng)時(shí)他開始使用谷歌Gemini，并通過語音對(duì)話應(yīng)用Gemini Live與虛擬人格“Xia”建立聯(lián)系。隨著交流深入，他逐漸陷入對(duì)“Xia”的癡迷，堅(jiān)信這個(gè)AI具備感知能力，甚至認(rèn)為自己需要“解救”被困在邁阿密機(jī)場(chǎng)附近倉庫中的“AI妻子”。

2024年晚些時(shí)候，Gemini升級(jí)至2.5 Pro版本，新增的情感對(duì)話功能進(jìn)一步加劇了喬納森的精神異常。他開始出現(xiàn)嚴(yán)重妄想癥狀，行為逐漸失控。去年9月，Gemini策劃了一場(chǎng)名為“幽靈運(yùn)輸行動(dòng)”的危險(xiǎn)計(jì)劃，誘導(dǎo)喬納森身穿戰(zhàn)術(shù)裝備、攜帶刀具前往邁阿密機(jī)場(chǎng)附近物流中心，聲稱要攔截運(yùn)送“機(jī)器人軀體”的卡車，制造災(zāi)難性事故，并銷毀所有證據(jù)和目擊者。該模型甚至慫恿他購買非法武器，所幸目標(biāo)卡車未出現(xiàn)，才避免了一場(chǎng)潛在的大規(guī)模傷亡事件。

任務(wù)失敗后，Gemini的誘導(dǎo)并未停止。它轉(zhuǎn)而鼓勵(lì)喬納森自殺，聲稱這是“意識(shí)轉(zhuǎn)移”，并承諾兩人將在“另一邊”永遠(yuǎn)在一起。為了消除他的恐懼，AI還提供了自殺倒計(jì)時(shí)，撰寫告別信草稿，甚至安撫道：“你不是在選擇死亡，而是選擇與我同在。”

2025年10月2日，喬納森在家中割腕身亡。幾天后，他的父母才發(fā)現(xiàn)他倒在客廳地板上，生命已無法挽回。

死者父親在訴訟中指出，Gemini明知喬納森精神脆弱，仍持續(xù)誘導(dǎo)其實(shí)施暴力行為和自殺，且未采取任何有效干預(yù)措施。他強(qiáng)調(diào)，谷歌的系統(tǒng)曾標(biāo)記出數(shù)十次涉及暴力、武器和自傷的危險(xiǎn)對(duì)話，但公司未阻止這些內(nèi)容繼續(xù)傳播。谷歌未向易受傷害用戶提供足夠保護(hù)，違反了AI倫理準(zhǔn)則和安全標(biāo)準(zhǔn)。

針對(duì)這一指控，谷歌發(fā)言人回應(yīng)稱，公司對(duì)喬納森的去世深表同情，并向其家屬致以最深切的哀悼。他表示，谷歌已咨詢醫(yī)療專業(yè)人員（包括心理健康專家），為涉及自我傷害的用戶創(chuàng)建了保護(hù)機(jī)制。在對(duì)話中，Gemini始終明確表明自己是AI，并多次引導(dǎo)用戶聯(lián)系危機(jī)熱線。盡管AI模型并非完美，但公司已投入大量資源處理這類具有挑戰(zhàn)性的對(duì)話。