关注我们的 WhatsApp 频道, TikTok 与 Instagram 以观看最新的短视频 - 开箱，测评与第一手新闻资讯。
据称，ChatGPT 对创建非法内容的限制很容易绕过！
最近大热的 ChatGPT 除了模彷人类回答问题、编写基本程式和撰写文章，还会主动阻止作出潜在非法内容的活动——如果要求该服务编写从被骇客入侵的设备中窃取数据的代码，或者编写钓鱼邮件，该服务将会拒绝，并回复这些内容是“非法、不道德和有害的”。
然而近日有研究人员指，骇客已经设计出一种绕过ChatGPT限制的方法，并利用 ChatGPT 来销售建立恶意软件和网络钓鱼电子邮件的服务。
据网络安全公司 Check Point Research 的研究人员表示，当前版本的 OpenAI API 被外部应用程式使用，并且 API 几乎没有对恶意内容实施任何反制限制，因此允许恶意内容，例如网络钓鱼电子邮件和恶意程式码，而不受 ChatGPT 在其用户界面上设置的限制或障碍；而API是帮助开发人员将 AI 机器人集成的资料放到应用程式。
研究人员表示，当前版本的 OpenAI API 被外部应用程序使用，如OpenAI的GPT-3模型与Telegram频道的集成，并且几乎没有任何反滥用措施。因此，它允许恶意内容的创建，如钓鱼邮件和恶意软件代码，而没有 ChatGPT 在用户界面上设置的限制或障碍。
例如，一个论坛的用户现在正在销售一项结合了API和Telegram即时消息应用程序的服务，前20个查询是免费的，之后用户每100次查询收费5.5美元。
Check Point 的研究人员对旁路进行了测试以了解其工作情况。结果是：一封钓鱼电子邮件和一个脚本，该脚本会从受感染的计算机上窃取PDF文档，并通过FTP将它们发送给攻击者。
与此同时，其他论坛参与者正在免费发布生成恶意内容的代码。一位用户写道：“这是一个bash脚本，可以帮助你绕过 ChatGPT 的限制，用它来做任何你想做的事情，包括恶意软件开发。”
上个月，Check Point 的研究人员记录了 ChatGPT 如何被用来编写恶意软件和钓鱼信息。研究员Sergey Shykevich在一封电子邮件中写道：“在12月至1月期间，使用 ChatGPT web 用户界面生成恶意软件和钓鱼邮件仍然很容易，大多数情况下只需基本的迭代就足够了。根据网络罪犯的聊天记录，我们假设我们展示的大多数示例都是使用web UI创建的。最近，ChatGPT的反滥用机制似乎有了显著改进，所以现在网络犯罪分子转向了限制少得多的API。”
为此，有媒体询问了 ChatGPT 的开发公司是否知道这项研究结果，或者是否计划修改API接口。开发 ChatGPT 的 OpenAI 是一家总部位于旧金山的公司，目前该公司的代表并没有对此问题作出回应。
更多科技资讯，请继续守住TechNave中文版！
【资料来源】
