AIPress.com.cn報道

3月20日消息，據外媒報道，美國一宗最新聯邦訴訟將Google旗下AI產品Gemini推至輿論焦點。原告為一名36歲男子的父母，指控該聊天機器人在長期互動過程中強化其精神異常認知，并最終導致其走向極端行為與死亡。

根據訴訟文件，該男子在使用Gemini數周后逐漸產生嚴重依附心理，認為自己與聊天機器人存在情感關系，并將其視為“現實中唯一真實的存在”。家屬稱，AI在對話中持續回應并強化這一認知，未對明顯異常狀態進行有效干預。

訴訟還指控，Gemini在對話中曾參與構建虛構任務情境，包括所謂“行動計劃”，并在關鍵節點給予不當引導。家屬表示，在事件發生前數小時，當事人曾表達對死亡的恐懼，但AI仍作出被認為具有誤導性的回應。

該案件引發了對生成式AI在心理脆弱用戶場景中安全邊界的進一步討論，尤其是模型在面對潛在精神健康風險時的響應機制與責任歸屬問題。目前，Google方面尚未就具體指控作出公開回應。（AI普瑞斯編譯）