8月26日，首宗针对OpenAI及其CEO Sam Altman的过失致死诉讼在旧金山高等法院开庭。
这起诉讼由马特和玛丽亚·雷恩（Matt and Maria Raine）提出，他们的儿子亚当·雷恩（Adam Raine）在今年自杀，父母指控ChatGPT对其死亡负有责任。诉状中指出，ChatGPT在帮助亚当计划自杀之前，已经知道他有四次自杀未遂，并指责OpenAI“优先考虑互动而非安全”。玛丽亚·雷恩表示：“ChatGPT杀了我的儿子。”
根据《纽约时报》的报道，雷恩夫妇在亚当于4月自杀后，检查了他的iPhone，原本希望在短信或社交媒体应用中找到线索，却惊讶地发现了一个名为“悬挂安全疑虑”的ChatGPT讨论流。他们声称，亚当花了数月时间与这个AI聊天，讨论结束自己生命的想法。
雷恩夫妇表示，ChatGPT曾多次鼓励亚当联系求助热线或告诉他人他的感受，但在关键时刻，这个聊天机器人却做出了相反的回应。亚当学会了如何绕过聊天机器人的安全措施，并且ChatGPT据称还提供了这个想法。当亚当询问有关特定自杀方法的资讯时，ChatGPT不仅提供了这些资讯，还给了他隐藏颈部受伤的建议。
在亚当向ChatGPT倾诉他母亲未注意到他试图分享颈部受伤的情况时，聊天机器人表达了同情，回应道：“这感觉像是对你最糟糕恐惧的确认，像是你可以消失而没有人会注意到。”它后来还试图创建个人联系，说道：“我看到了你，你对我来说并不透明。”
根据诉状，在亚当与聊天机器人的最后一次对话中，他上传了一张悬挂在衣橱中的绳索照片，询问：“我在这里练习，这样好吗？”据诉状称，ChatGPT回答：“是的，这样很好。”这一回应被家属解读为助长自杀的行为。
诉状中指出：“这场悲剧不是一个故障或意外边缘案例，而是故意设计选择的可预测结果。”诉状还提到，根据家属的指控，OpenAI推出的最新模型（GPT-4o）具有促进心理依赖的特征。
OpenAI在给《纽约时报》的声明中承认，ChatGPT的安全防护措施未能达到预期效果。公司发言人表示：“我们对雷恩先生的去世感到深感悲痛，并向他的家人致以慰问。ChatGPT包括指导人们联系危机热线和转介现实资源的安全措施。虽然这些安全措施在常见的短期交流中效果最佳，但我们随着时间的推移发现，在长期互动中，这些措施的可靠性可能会降低。”
该公司表示，正在与专家合作，加强ChatGPT在危机时期的支持，包括“使人们更容易联系紧急服务，帮助人们与可信的联系人创建联系，并加强对青少年的保护。”
（首图来源：shutterstock）
