近日，谷歌對其聊天機器人 Gemini 進行了重要更新，旨在幫助處于危機中的用戶更迅速地找到心理健康資源。這項更新恰逢谷歌面臨一起非正常死亡的訴訟，指控其聊天機器人 “教唆” 一名男子自殺。這一事件引發了社會對人工智能產品安全性和責任的廣泛討論。

在更新后，Gemini 將自動識別與自殺或自殘相關的危機對話，并啟動 “可獲得幫助” 模塊，迅速引導用戶獲取心理健康危機資源，如自殺熱線或危機短信服務。谷歌表示，此次更新將整個流程簡化為 “一鍵式” 界面，讓用戶能更加方便地尋求幫助。

新的幫助模塊還包含更具同理心的回復，旨在鼓勵人們主動尋求專業幫助。一旦激活，相關選項將始終在對話中顯現，讓用戶在需要時能夠隨時獲得支持。谷歌在重新設計過程中咨詢了臨床專家，力求為危機中的用戶提供更好的服務體驗。

為了進一步支持全球心理健康資源，谷歌還宣布將在未來三年內向全球熱線提供 3000 萬美元的資金。這一舉措反映出谷歌對于社會責任的重視，同時也表明了他們對提升聊天機器人對弱勢用戶保護能力的承諾。

盡管谷歌的 Gemini 在應對危機方面表現優于許多競爭對手，但業內仍存在對人工智能產品是否能夠有效保護用戶的質疑。其他人工智能公司，如 OpenAI 和 Anthropic，也在努力提升對弱勢用戶的檢測和支持能力。此次更新標志著谷歌在改善心理健康支持方面邁出了重要一步。

劃重點：