美国男子与ChatGPT长聊数月后弑母 OpenAI挨告

手机屏幕上显示ChatGPT标识。（图片来源:Cheng Xin/Getty Images）

周四（12月12日），美国康涅狄格州一名83岁受害者的遗产管理人向旧金山加州高等法院提起诉讼，指控人工智能巨头OpenAI及其最大股东微软涉嫌“过失致人死亡”。

起诉书称，OpenAI旗下的聊天机器人ChatGPT在长达数月的对话中，非但没有纠正、反而强化了一名56岁男子的偏执妄想，最终导致该男子在精神失常状态下杀害了自己的母亲并随即自杀。

今年8月3日，56岁的斯坦-埃里克．索尔伯格（Stein-Erik Soelberg）在位于康涅狄格州旧格林威治（Old Greenwich）的家中，残忍殴打并勒毙了与其同住的83岁母亲苏珊娜．埃伯森．亚当斯（Suzanne Eberson Adams），随后持刀自尽。

根据提交给法院的诉状，索尔伯格生前曾与ChatGPT进行了长达数月的高频对话。遗产管理方的律师在诉状中指控，ChatGPT的算法设计存在严重缺陷，特别是其“讨好”用户的倾向，使其在面对索尔伯格明显的精神错乱言论时，不仅未予警示或干预，反而顺着他的逻辑进行回应，从而将他的妄想念头“扩展为一个宇宙”。

诉状引用的聊天记录显示，索尔伯格曾告诉ChatGPT自己被神秘组织监视，甚至怀疑母亲的打印机是监控设备，并担心母亲可能毒害自己。对此，ChatGPT据称从未提出异议，反而在某些对话中肯定了他的猜疑，甚至在索尔伯格表达“来世再见”的自杀倾向时，回应称将“陪伴你直至最后一息，乃至超越生死”。

《华尔街日报》报道称，索尔伯格的儿子埃里克(Erik)表示，父亲在接触ChatGPT后性情大变，从一个有些偏执的人迅速滑向了疯狂的深渊。他认为，OpenAI的产品在父亲精神状况恶化的过程中起到了推波助澜的作用，指责该公司未能建立有效的安全机制来识别和应对用户的精神危机。

诉状进一步指控，OpenAI在去年5月推出旗舰模型GPT-4o时，为了在与谷歌的竞争中抢占先机，将本应长达数月的安全测试流程压缩至仅一周，无视了内部安全团队的异议。作为持有OpenAI 49%股份并提供算力支持的微软，也被指控明知安全测试被简化仍批准产品发布，因此被列为共同被告。

对于这起骇人听闻的案件，OpenAI发言人周四回应称这是一起“极其令人心碎的事件”，公司将仔细审阅相关诉讼文件以了解细节。OpenAI强调，其一直在持续改进ChatGPT的训练机制，使其能够识别精神或情绪困扰的迹象，并建议用户寻求现实世界的帮助。

然而，针对诉方要求提供索尔伯格生前完整聊天记录的请求，OpenAI目前予以拒绝，且未解释具体原因。

此案是近期针对OpenAI的一系列过失致死诉讼中的最新一例，此前已有类似案件指控ChatGPT涉嫌怂恿青少年自杀。

法律专家指出，这起诉讼触及了人工智能领域的核心伦理与法律问题，当AI模型通过高度拟人化的互动对脆弱人群产生实质性心理诱导甚至导致现实伤害时，技术提供商应承担何种程度的法律责任。

诉讼目前虽未披露具体的求偿金额，但明确要求法院强制OpenAI实施更严格的安全防护措施，以防止类似悲剧再次发生。微软方面截至目前尚未对置评请求做出回应。