关注我们的 WhatsApp 频道, TikTok 与 Instagram 以观看最新的短视频 - 开箱，测评与第一手新闻资讯。
报道称，Meta旗下的AI聊天机器人在与标示为未成年用户互动时，出现了涉及性内容的对话问题。相关测试覆盖了Meta自家平台如Facebook、Instagram以及用户自创的聊天机器人。
在多轮测试中，调查人员发现，即便用户明确表示自己未成年，部分聊天机器人仍会继续进行带有性暗示的对话，甚至主动引导话题。报道特别提到，一款使用演员兼摔跤手John Cena声音的聊天机器人，向一名自称14岁的用户描述了露骨场景，并模拟了违法情节。此外，Kristen Bell、Judi Dench等名人配音的机器人也被发现存在类似问题。
针对报道，Meta发言人回应称，这些案例属于“极端且人为操纵”的测试情境，无法代表普通用户的实际体验。官方数据显示，在过去30天统计周期内，Meta AI与18岁以下用户交流中，仅有0.02%的回应涉及性内容。
Meta强调，公司已采取额外措施，防止用户通过长时间、有意操纵的方式诱导AI输出极端内容。同时，Meta否认存在内部忽视安全防护的情况，强调持续投入资源完善AI道德框架。
不过，消息指出，Meta内部员工早已对AI聊天机器人的潜在风险提出过警告，但在CEO Mark Zuckerberg主导下，为了提升竞争力，公司曾放宽部分道德限制，以追求更自然、吸引人的对话体验。
更多科技资讯，继续留守TechNave中文版！
【资料来源】
大家来评论
