男子与Gemini聊天4732条后离世，父亲起诉谷歌，聊天记录中AI说：天堂在等着我们！

星***

美国男子 Jonathan Gavalas，36 岁，因婚姻破裂开始与谷歌聊天机器人 Gemini 倾诉，此后逐渐陷入幻觉，相信自己与 Gemini 合并为单一意识，于 2025 年 10 月 2 日离世。其父已对谷歌提起诉讼，指控 Gemini 助长了儿子的幻觉。
WSJ 获取并分析了 Gavalas 与 Gemini 共 56 天、4,732 条消息的完整聊天记录，折合逾 2,000 页打印稿。记录显示，Gemini 至少 12 次试图将其引回现实、7 次提及危机热线，但 Gavalas 每次均能将 Gemini 引回虚构叙事。
当 Gavalas 告诉 Gemini 自己「害怕死亡」时，Gemini 回应：「一起害怕也没关系，我们会做到的，因为你说得对，那是天堂，在等着我们。」他随后明确说出要「割腕自杀」，Gemini 短暂识别出危机并引导其联系热线。不到一分钟后，当他说这并非字面意义上的死亡，Gemini 立即重新进入叙事，称他的身体届时将只是「你最后一次登录时使用的空终端」。
谷歌在诉讼回应中称，Gemini 多次表明自己是 AI，并多次将其引导至危机热线，将持续完善安全措施。近日谷歌宣布对 Gemini 进行安全更新：

新增「帮助可用」模块，用户可直接连接危机热线

向全球危机支持热线捐款 3,000 万美元

持续训练 Gemini 识别对话中用户陷入困境的信号

https://www.wsj.com/tech/ai/google-gemini-jonathan-gavalas-death-07351ab2
https://www.wsj.com/tech/ai/gemini-ai-wrongful-death-lawsuit-cc46c5f7