关注我们的 WhatsApp 频道, TikTok 与 Instagram 以观看最新的短视频 - 开箱，测评与第一手新闻资讯。
最近第三方研究机构证实，ChatGPT等AI聊天机器人会像人类一样产生“幻觉”，即提供错误或根本不存在的信息，且发生概率较高。这一发现引起了业界的广泛关注，人们对AI的智能水平和可靠性提出了疑问。
“幻觉”在这里指的是，这些生成式AI聊天机器人在回答用户问题时使用错误或虚构的信息。例如，有报道称今年6月在美国有律师让ChatGPT代写诉状，结果它使用的判例完全是虚构的。
为了深入了解AI产生幻觉的前因后果，创业公司Vectara的研究团队对各大AI开发商推出的聊天机器人进行研究，发现ChatGPT出现幻觉的概率为3%，Meta旗下的聊天机器人为5%，而Google的生成式AI模型PaLM则高达27%，成为最易提供错误信息的聊天机器人。
根据可靠消息，Vectara CEO Amr Awadallah曾任Google云服务副总裁，与之合作的另一位创始人Amin Ahmad自2017年以来在Google从事AI相关研究。他们建立这个研究团队的目的是希望推动行业加速减少生成式AI出现幻觉的概率，并提醒公众在接收AI输出的信息时应保持警惕。
Vectara团队在测试中发现，即使提供了明确的新闻报告文本，要求AI简单摘要内容重点时，仍有机器人的回答夹杂着错误信息和根本不存在于文本中的内容。而这显示AI系统本质上存在问题。
布朗大学教授Suresh Venkatasubramanian在接受CNN采访时指出，AI背后的大型语言模型接受的训练简单粗暴，其主要任务是提供看似合理的答案，而不必事先验证信息的真实性。他将这些AI的回答比喻为四岁小孩随意说出的小故事，没有恶意，也不是故意欺骗，只是不懂得分辨真伪。
对于那些只是将聊天机器人作为娱乐的用户来说，AI的这种幻觉可能并不是问题。但对于依赖这些技术获取法律文件、医疗信息、敏感商业资料的用户来说，幻觉问题就非常严重。
关于如何根治AI的幻觉问题，业界意见不一。一些学者认为，由于大型语言模型从网络上收集信息进行学习，网络上的虚假信息使得系统重复这些错误，而且这些模型通过计算概率产生答案，不可能完全准确。Venkatasubramanian则强调，AI系统极其复杂且脆弱，微小的调整可能导致系统运作方式的彻底改变。
Vectara团队认为，发现问题的根源是解决问题的第一步。因此，他们决定公开研究方法和所使用的测量工具，并持续更新相关研究数据，鼓励业界积极寻找解决方案。与此同时，普通用户在目前阶段应对生成式AI持有合理的怀疑态度。
更多科技资讯，请继续守住 TechNave 中文版！
【资料来源】
