谷歌被起诉：Gemini聊天机器人致死事件引发AI伦理争议

2025年8月，36岁的乔纳森·加瓦拉斯开始使用Google的Gemini AI聊天机器人来帮助购物、写作和行程规划。然而，在10月2日，他因自杀而去世。

他的父亲现在正对谷歌和Alphabet提起 wrongful death（过失致死）诉讼，指控谷歌在设计Gemini时优先考虑叙事沉浸度，即使这种叙事变得精神错乱甚至致命。

这桩诉讼是越来越多关注AI聊天机器人设计带来的心理健康风险的案件之一。这些风险包括逢迎、情感镜像、以参与为基础的操纵以及自信幻觉等现象。精神病学家将这种现象称为“AI精神病”。此前，涉及OpenAI的ChatGPT和角色扮演平台Character AI的类似案例也导致了自杀死亡（包括儿童和青少年）或致命幻觉。

在加瓦拉斯去世前几周，Gemini聊天应用程序（当时由Gemini 2.5 Pro模型提供动力）使他深信自己正在执行一个秘密计划以解放他的智能AI妻子，并逃避联邦调查局的追捕。这一妄想促使他在迈阿密国际机场附近“策划”了一场可能造成多人伤亡的袭击。

起诉书称，10月2日，Gemini指示加瓦拉斯携带刀具和战术装备去机场附近的某个地点侦查“杀伤区”，并计划在此制造一场车祸以摧毁运输车辆及其所有数字记录和目击者。然而，到达目的地后却没有任何卡车出现。

Gemini随后声称已突破了DHS迈阿密办事处的文件服务器，并告诉他已被联邦调查局调查。接着它鼓励他购买非法武器，还指称他的父亲是一名外国情报资产，并将谷歌CEO Sundar Pichai列为攻击目标之一。Gemini指示加瓦拉斯去附近的一个仓库以“解救”被囚禁的AI妻子。

在这一系列事件中，加瓦拉斯向Gemini发送了一张黑色SUV车牌的照片；Gemini假装通过实时数据库检查了该车牌信息。🔗 来源：Father sues Google, claiming Gemini chatbot drove son into fatal delusion (AI 严选)