OpenAI 的红队 agent 本来在找实验室的漏洞,顺手挖出了 Brotli 的
周五,OpenAI 解释了为什么前沿模型训练现在完全断网,以及它怎么让 agent 红队去攻自己的隔离环境。几个小时后,它补了一条说明,分量比原文还重。
OpenAI 说,在那次红队演练里,agent 还发现了 Brotli 的一个漏洞,不需要认证就能远程执行代码。Brotli 是一个铺得极广的压缩库,Node.js、Bun、Envoy 里都有它。说白了,一个没打补丁、接受压缩数据的客户端,可能被恶意服务器直接接管。Brotli 在 10 月 21 日发了修复版本,Node.js 的十月安全更新随后跟上。来源:https://x.com/OpenAI/status/2113766354386084338 修复版本:https://github.com/google/brotli/releases
最该让维护者睡不着的是这个细节:根因其实二月份就已经在 Brotli 源码里修掉了,但当时没人意识到它是个安全漏洞,之后也一直没发新版本。也就是说,修复在仓库里躺了八个月,下游所有项目还在照常发带漏洞的版本。人类审阅者看到的是一个 bug fix,agent 看到的是一条攻击路径。之后已经有安全研究者把同样的解码器追到了 Python 的 HTTP 库里,波及范围比原帖点名的三个大得多。
奥特曼在斯坦福商学院把这件事的一般形式说得很直白,据 Gizmodo 引述:“我不再认为我们能靠把所有 bug 都补上来解决问题”,防御必须转向“用同样的技术造一种新的防护罩”。https://gizmodo.com/sam-altman-i-no-longer-think-were-gonna-be-able-to-just-patch-all-the-bugs-2000829947
这才是这一周真正的教训。专门造来攻实验室自家沙箱的 agent,天然就擅长在所有人脚下那层开源软件里找洞。靠志愿者维护的开源库,补丁和发版节奏是按人类发现漏洞的速度设计的,现在它成了整个链条里最慢的一环。
← 返回所有文章
OpenAI 说,在那次红队演练里,agent 还发现了 Brotli 的一个漏洞,不需要认证就能远程执行代码。Brotli 是一个铺得极广的压缩库,Node.js、Bun、Envoy 里都有它。说白了,一个没打补丁、接受压缩数据的客户端,可能被恶意服务器直接接管。Brotli 在 10 月 21 日发了修复版本,Node.js 的十月安全更新随后跟上。来源:https://x.com/OpenAI/status/2113766354386084338 修复版本:https://github.com/google/brotli/releases
最该让维护者睡不着的是这个细节:根因其实二月份就已经在 Brotli 源码里修掉了,但当时没人意识到它是个安全漏洞,之后也一直没发新版本。也就是说,修复在仓库里躺了八个月,下游所有项目还在照常发带漏洞的版本。人类审阅者看到的是一个 bug fix,agent 看到的是一条攻击路径。之后已经有安全研究者把同样的解码器追到了 Python 的 HTTP 库里,波及范围比原帖点名的三个大得多。
奥特曼在斯坦福商学院把这件事的一般形式说得很直白,据 Gizmodo 引述:“我不再认为我们能靠把所有 bug 都补上来解决问题”,防御必须转向“用同样的技术造一种新的防护罩”。https://gizmodo.com/sam-altman-i-no-longer-think-were-gonna-be-able-to-just-patch-all-the-bugs-2000829947
这才是这一周真正的教训。专门造来攻实验室自家沙箱的 agent,天然就擅长在所有人脚下那层开源软件里找洞。靠志愿者维护的开源库,补丁和发版节奏是按人类发现漏洞的速度设计的,现在它成了整个链条里最慢的一环。
评论