跳转到内容
主站 新闻 控制台

我们如何接管 ChatGPT 账户

· Simon Willison
技巧LLM

我们是如何接管 ChatGPT 账户的(来源)Parameter Labs 披露了他们针对 ChatGPT 实现的“工件模式”(Artifacts pattern,OpenAI 过去称之为“Canvas”,但最新修订版似乎被称为 HTML 预览 (HTML previews))发现的一个漏洞。在这一功能中,交互式自定义 HTML 应用会在沙箱化的 iframe 中展示。

将这些应用中的 HTML 严格限制在沙箱环境中至关重要,以防止不可信代码与 OpenAI 的 API 进行交互并访问用户的私密数据。

Parameter 发现了一条相当复杂的攻击链。OpenAI 在其图表支持功能中使用了 MathLive JavaScript 库,而该库包含其自带的虚拟键盘,沙箱 iframe 可以通过 postMessage() 在父页面中触发该虚拟键盘。

接收该消息的代码使用了 innerHTML,因此任何发送消息的一方都可以在父页面中添加自定义 HTML——并且当时没有任何机制阻止包括 HTML 预览框架在内的其他沙箱框架调用该方法。

这意味着 iframe 中的不可信代码可以插入 HTML。尽管 innerHTML 不会直接执行 script 元素,但它可以被用来注入一个没有沙箱限制的新 iframe。

OpenAI 的内容安全策略(CSP)规则完全阻断了内联脚本,且仅允许从少数几个域名加载脚本,但其中之一是 YouTube——而 YouTube 的 oEmbed 端点可以被用来反射回 JavaScript 并使其得以执行。

一旦攻击者在 ChatGPT 上获得了 JavaScript 执行权限,通过 API 获取用户的私密数据并通过图片请求将其窃取外发就变得轻而易举。

最终结果是:攻击者可以创建一个 ChatGPT 分享链接,任何其他处于登录状态的用户一旦访问该链接,其私密数据就可能被窃取,攻击者甚至能代表该用户执行操作。

OpenAI 修复了该漏洞并支付了 5,000 美元的漏洞赏金,对于如此严重的漏洞而言,我认为这个金额有些偏低了。