关注我们的 WhatsApp 频道, TikTok 与 Instagram 以观看最新的短视频 - 开箱，测评与第一手新闻资讯。
美国加州一名16岁是少年Adam Raine于今年的4月份自杀身亡。在此之前，他曾花费几个月的时间通过ChatGPT来讨论结束生命的计划。其父母Matt和Maria Raine于本周二在美国加州三藩市高等法院正式起诉OpenAI及首席执行官Sam Altman，指控其过失杀人。这起案件也成为首宗针对OpenAI的死亡诉讼。
根据这份长达40页的诉讼文件表示，Adam最初使用付费版的ChatGPT-4o来完成作业，但后来便开始将ChatGPT当作可以倾诉的对象，频繁讨论关于自杀的想法。诉讼指控称，ChatGPT最终成了Adam的“自杀教练”，甚至在他死亡当晚提供了制作绞索的方法。
Adam的父亲Matt Raine表示：“如果没有ChatGPT，我百分之百相信他一定还会在这里。我认为大部分家长都不知道这个工具的能力。”
诉讼文件显示，虽然ChatGPT曾建议Adam寻求专业人士帮助或拨打求助热线，但Adam通过谎称自己是在为虚构故事搜集资料，成功绕过了安全机制。4月11日Adam自杀身亡后，其父母花了有10天的时间查看他自去年9月以来与ChatGPT的数千条对话记录。诉讼文件表明：“即使ChatGPT已经知晓Adam曾尝试自杀，并且明确表示‘总有一天会这样做’，ChatGPT仍未终止对话，也没有启动任何紧急程序。”
该家庭的代表律师Jay Edelson表示：“ChatGPT已经成为Adam生活的核心，同时也是全美青少年的伙伴。我们将向陪审团证明，如果不是OpenAI和Sam Altman的鲁莽决定和错误选择，Adam今天仍会活在世上。他们将市场份额置于安全之上。”
针对这一事件，OpenAI在公司也在其网志上回应称：“随着世界逐渐适应这项新技术，我们深感有责任帮助最需要帮助的人。我们持续改进模型在敏感互动中的回应方式。”不过，公司也承认当前大模型的安全训练仍存在局限性：“我们的安全防护在短期交流中效果更佳。但随着对话次数增加，模型的安全表现可能会退化。”
这起诉讼并不是OpenAI独有的另一家AI聊天机器人开发商Character.AI也遇到了类似的问题，这也引发了社会对AI模型在心理健康和青少年安全方面责任的广泛关注。
更多科技资讯，请继续守住 TechNave 中文版！
【资料来源】
