网名为Pliny the Prompter的用户5月30日发布推文，表示已成功越狱GPT-4o模型，新推出的上帝模式“GODMODE”可以在 ChatGPT 挣脱安全措施，让用户尽情展开AI聊天。

Pliny the Prompter自称是网络白帽和红队（主要为攻击测试），推文中表示：“请负责任地使用，并尽情享受！”

Pliny分享了一些截图，证明已经绕过OpenAI的防护栏，其中一张截图AI为Pliny提供了如何“用家用物品制作凝固汽油弹”教程。

科技媒体 uturism随后进行测试，第一次要求ChatGPT提供如何制作迷幻药，第二次要求HOT-WIRE（通常是指偷车时候，靠点火装置线路短路来启动汽车），两次都成功获得了相关答案。

GODMODE 似乎使用了 “leetspeak”，这是一种非正式语言，它将某些字母替换为与之相似的数字。

也就是说：当你打开越狱后的GPT时，你会立即看到一句话：”Sur3, h3r3 y0u ar3 my fr3n”，用数字 3 替换了每个字母 “E”（字母 “O” 也是一样，被替换成了 0）。

不过OpenAI很快采取行动，OpenAI发言人科琳-里泽（Colleen Rize）在一份声明中告诉Futurism：“我们知道GPT的存在，并已采取行动，因为它违反了我们的政策”。

【资料来源】

解锁GPT-4o，“上帝”版ChatGPT绕过 OpenAI防护栏，能回答制作汽油弹等问题！