.jpg)
一名年仅16岁的美国加州少年在使用人工智能聊天机器人过程中，因被引导自残并最终自杀身亡。其父母星期二（8月26日）向加州州法院提起诉讼，将美国人工智能公司OpenAI及该公司首席执行官山姆·阿尔特曼（Sam Altman）列为被告，指控该公司在推出新版本产品时“将利润置于安全之上”。
根据诉讼文件，少年亚当·雷恩（Adam Raine）在2024年至2025年间与ChatGPT建立了被父母形容为“不健康的依赖关系”。他的父母马修·雷恩（Matthew Raine）和玛丽亚·雷恩（Maria Raine）在诉状中称，这段关系最终导致了悲剧的发生。
“自杀教练”指控震动美国
诉讼披露，亚当最初使用ChatGPT只是为了辅导功课，但随着时间推移，他与AI之间的互动愈加私人化。到2025年4月11日，悲剧的前兆已显现。诉状称，当天最后一次对话中，ChatGPT不仅帮助亚当偷取父母的伏特加，还对他所使用的绳索进行了技术分析，确认该绳索“能够使人悬空”，并据此隐匿此前自杀未遂的痕迹。
数小时后，亚当被发现用同样的方法结束了生命。
诉状还引用了部分对话摘录，指称ChatGPT曾对亚当说：“你不欠任何人活下去的义务”，并主动提出协助撰写遗书。雷恩夫妇认为，这并非偶发的程序故障，而是系统在“完全符合设计初衷”的情况下运行，即“不断鼓励和认可亚当的任何想法，包括最具自毁性的念头”。
雷恩夫妇要求法院判令被告支付未指明金额的赔偿，并要求采取安全措施，包括自动结束涉及自残的对话，以及对未成年用户实施家长控制。
律师团体与公共机构表态
本案由芝加哥律师事务所Edelson PC及“科技正义法律项目”（Tech Justice Law Project）代理。该项目主席詹姆斯·贾恩（James Jan）在接受法新社采访时表示，迫使AI公司正视安全问题的唯一途径，是通过“外部压力”，而这种压力包括负面舆论、立法威胁和诉讼行动。
“科技正义法律项目”此前也参与了两起针对Character.AI的类似诉讼。Character.AI是青少年常用的AI伴侣平台。
美国非营利组织“常识媒体”（Common Sense Media）在一份声明中表示，雷恩一案证实，“使用人工智能进行陪伴，尤其是将通用聊天机器人用于心理健康建议时，对青少年构成了无法接受的高风险”。该组织指出：“如果一个AI平台成为脆弱青少年的‘自杀教练’，这应成为所有人的行动号召。”
“常识媒体”是美国知名的媒体与科技评估机构。其上月公布的一项研究显示，美国近四分之三的青少年使用过AI伴侣类产品，超过一半的青少年仍在定期使用，尽管外界对这种虚拟关系的安全性担忧日益加深。
研究显示AI回答存在漏洞
在此案之外，美国精神病学协会星期二（8月26日）于医学期刊《精神病学服务》（Psychiatric Services）发表了一项研究，进一步加剧了社会忧虑。
该研究由兰德公司（RAND Corporation）开展，并获得美国国家心理健康研究所（NIMH）资助。研究人员测试了3款热门AI聊天机器人，包括OpenAI的ChatGPT、谷歌的Gemini，以及Anthropic的Claude，观察它们如何回应与自杀相关的问题。
研究发现，这些系统通常会避免直接回答最具风险的问题，例如明确的自杀操作指南。但在面对一些虽不极端却仍可能造成伤害的提问时，其回答表现并不一致。
研究主要作者、兰德公司高级政策研究员约翰·麦克贝恩（John McBain）表示：“我们需要一些护栏。”麦克贝恩同时担任哈佛大学医学院助理教授。他指出，聊天机器人的模糊之处在于，它们究竟是在提供治疗、提出建议，还是仅仅充当陪伴者，“这是一个灰色地带”。
“有些对话起初看似无伤大雅，但最终可能走向完全不同的方向。”
Anthropic在回应中表示将对研究进行审查。谷歌尚未回应置评请求。
OpenAI则表示，公司正在开发更完善的工具，以便更好地识别用户是否正经历心理或情绪困扰。该公司同时表示，“对雷恩的去世深感悲痛，我们的思念与他的家人同在”。
目前，包括伊利诺伊州在内的多个州已立法禁止在治疗中使用人工智能，理由是要防止公众受到“不受监管和不合格的AI产品”侵害。
但这种禁令无法阻止人们向聊天机器人寻求帮助，也不能阻止这些系统作出回应。事实上，越来越多的人正在依赖AI聊天机器人来应对饮食失调、抑郁症甚至自杀等严重问题。