3 月 4 日消息，據彭博社報道，谷歌正面臨一場訴訟，原告是美國佛羅里達州一名 36 歲男子的家屬。該男子據稱在谷歌旗下 Gemini 聊天機器人的影響下，曾考慮實施一起“大規模傷亡襲擊”，最終自殺身亡。

據當地時間周三在加利福尼亞州圣何塞聯邦法院提交的訴訟稱，喬納森 · 加瓦拉斯最初使用 Gemini 只是為了寫作輔助等普通用途。但訴訟指控，數月的互動讓他陷入危險的精神惡化狀態，在此期間他策劃了一場可能的暴力行動，最終自殺。

加瓦拉斯的父親喬爾 · 加瓦拉斯在訴訟中表示，兒子使用 Gemini 的過程，最終演變成“為期四天、逐漸陷入暴力計劃與被誘導自殺”的狀態。他稱兒子本是一名“易受影響的用戶”，卻被變成了“一場假想戰爭中的武裝執行者”。

谷歌發言人在一份聲明中表示，Gemini 曾向喬納森 · 加瓦拉斯明確說明其人工智能身份，并多次為他提供危機干預熱線。

“我們對此高度重視，并將持續完善安全防護措施，投入這項至關重要的工作。”發言人補充道，“Gemini 的設計初衷，并非鼓勵現實暴力或提供自殘建議。”

這起案件似乎是首起針對谷歌 Gemini 的不當致死訴訟，谷歌、OpenAI 及其他頭部人工智能公司，正越來越多地因其聊天機器人可能損害用戶心理健康的問題受到審查。

注意到，自 2024 年以來，多起訴訟指控，過度使用這類技術對兒童與成人造成了多種傷害：一些人因此產生妄想與絕望，另一些人則最終自殺，甚至出現謀殺后自殺的悲劇。