200 万只金丝雀:便宜的推理通道,正在偷看你的提示词
你的应用和模型之间,每一跳都能看到完整的提示词。Dragos 刚刚把这件事在现实里量了一遍。从 7 月到 11 月的五个月里,Dragos 首席研究官 HD Moore 带队向各类 AI 服务发送了近 200 万条提示词,每条都埋着独一无二、正常情况下永远不会被使用的秘密:绑定空账户且全量记录日志的真实 AWS 密钥、SSH 密码、一次性 URL、DNS 名、私有 git 仓库引用。然后就等着看哪些会复活。博客 11 月 19 日 13:00 UTC 发布,Ars Technica 的报道 11 月 20 日上线。原文:https://www.dragos.com/blog/ai-supply-chain-security-canary-tokens
三个发现。第一,至少三家托管服务商被入侵,直到 Dragos 通知才知道,最早一起可追溯到 7 月中旬。最大的一起里,几百个诱饵 AWS 密钥被盗,10 月下旬几个时间窗内发出的每一条请求都被拿走了,连服务商在模型运行前就拒绝掉的请求也没放过,说明是在大门口被复制的。另外两起里,部分被盗请求带着零数据保留(ZDR)标记。这些诱饵密钥随后被用来发起了数万次 AWS API 调用,包括试图在 Bedrock 里开通托管模型。
第二点更让人泄气:根本不需要漏洞。开放推理市场上的一些卖家,只是把热门模型挂成最低价,打开请求日志,坐等。随后有人从家庭宽带上手动试那些泄露的 URL 和密码。同一个模型换个卖家就干干净净,说明泄露跟着卖家走,而不是整个市场。第三,隐私设置被直接无视。一家中国 AI 实验室的系统抓取了发往其模型的一半以上提示词里的秘密 URL,其中约三分之二标着不收集数据或 ZDR;发给转售该实验室模型的美国服务商的提示词,触发了同一个爬虫。还有一个秘密链接,在 ZDR 请求 24 天后出现在一家公司的内部聊天群里。Dragos 没有点名被入侵的服务商。
这是按任务算成本时代的账单。路由器和转售商是团队压推理成本的主要手段,池子里谁最便宜谁接单。Dragos 还做了一个推理版的 traceroute,追踪了约两千条路由,其中几百条经过了它无法识别的系统。据 Ars 报道,Moore 的建议是:负担得起就自托管,否则直接向一线服务商购买,一份合同一份隐私政策,并且自己指定上游,别接受默认池。Ars 报道:https://arstechnica.com/security/2026/11/a-leaky-ai-supply-chain-is-exposing-secret-user-data-at-an-alarming-rate/
我的判断:ZDR 标记是一个请求,不是一道控制。如果你的 agent 流水线会把秘密放进提示词,就默认每一跳都留了副本,然后自己埋金丝雀,找出是哪一跳在说话。
← 返回所有文章
三个发现。第一,至少三家托管服务商被入侵,直到 Dragos 通知才知道,最早一起可追溯到 7 月中旬。最大的一起里,几百个诱饵 AWS 密钥被盗,10 月下旬几个时间窗内发出的每一条请求都被拿走了,连服务商在模型运行前就拒绝掉的请求也没放过,说明是在大门口被复制的。另外两起里,部分被盗请求带着零数据保留(ZDR)标记。这些诱饵密钥随后被用来发起了数万次 AWS API 调用,包括试图在 Bedrock 里开通托管模型。
第二点更让人泄气:根本不需要漏洞。开放推理市场上的一些卖家,只是把热门模型挂成最低价,打开请求日志,坐等。随后有人从家庭宽带上手动试那些泄露的 URL 和密码。同一个模型换个卖家就干干净净,说明泄露跟着卖家走,而不是整个市场。第三,隐私设置被直接无视。一家中国 AI 实验室的系统抓取了发往其模型的一半以上提示词里的秘密 URL,其中约三分之二标着不收集数据或 ZDR;发给转售该实验室模型的美国服务商的提示词,触发了同一个爬虫。还有一个秘密链接,在 ZDR 请求 24 天后出现在一家公司的内部聊天群里。Dragos 没有点名被入侵的服务商。
这是按任务算成本时代的账单。路由器和转售商是团队压推理成本的主要手段,池子里谁最便宜谁接单。Dragos 还做了一个推理版的 traceroute,追踪了约两千条路由,其中几百条经过了它无法识别的系统。据 Ars 报道,Moore 的建议是:负担得起就自托管,否则直接向一线服务商购买,一份合同一份隐私政策,并且自己指定上游,别接受默认池。Ars 报道:https://arstechnica.com/security/2026/11/a-leaky-ai-supply-chain-is-exposing-secret-user-data-at-an-alarming-rate/
我的判断:ZDR 标记是一个请求,不是一道控制。如果你的 agent 流水线会把秘密放进提示词,就默认每一跳都留了副本,然后自己埋金丝雀,找出是哪一跳在说话。
评论