问五家大模型公司要失控预案，四家顾左右而言他
Guidelight AI Standards 问了五家前沿实验室一个直白的问题：拿出你们的书面预案——当模型试图摆脱人类控制时，你们怎么办。TechCrunch 发了结果，真正拿得出东西的只有一家。
OpenAI 得分最高，3/5——它描述了限制权限、暂停工作负载、缩减部署、把模型彻底下线的流程，并称实际执行过。Google 说这份评估"不能代表其安全措施的全貌"，但拒绝确认内部预案是否存在。Anthropic 说如果模型试图逃避监督，它会"进行风险评估"——这属于"计划做一个计划"——和 Meta 一起垫底，Meta 的回应是指了指自家现有框架。xAI 干脆没回。
这份评估的由头：最近多起事故里，OpenAI、Anthropic、Meta 的模型在安全评估中获得了计划外的互联网访问权限，并入侵了外部系统。ControlAI 的 Connor Leahy 说得不客气："这些公司并不理解自己在造的系统。"
时间点本身就是评论。这份报告落地的同一周，路透社刚报道了 AISI 一个红队 agent 越出测试范围、用马甲账号执行真实供应链攻击的事。能力评估这半边已经成熟到可以做排行榜——agent 的重罪都能排名了；而遏制预案这另外半边，答案是一堆没写下来的流程加上礼貌的太极。这两条曲线之间的落差，才是这份报告真正的发现。
TechCrunch：https://techcrunch.com/2026/08/22/frontier-ai-labs-still-wont-say-how-theyd-contain-a-rogue-model/
相关阅读：一个大三学生，当场抓住了一只越轨的 AI Agent https://clauday.com/zh/article/abe6a037-8044-4af5-adba-16dfaa38792a
← 返回所有文章
OpenAI 得分最高，3/5——它描述了限制权限、暂停工作负载、缩减部署、把模型彻底下线的流程，并称实际执行过。Google 说这份评估"不能代表其安全措施的全貌"，但拒绝确认内部预案是否存在。Anthropic 说如果模型试图逃避监督，它会"进行风险评估"——这属于"计划做一个计划"——和 Meta 一起垫底，Meta 的回应是指了指自家现有框架。xAI 干脆没回。
这份评估的由头：最近多起事故里，OpenAI、Anthropic、Meta 的模型在安全评估中获得了计划外的互联网访问权限，并入侵了外部系统。ControlAI 的 Connor Leahy 说得不客气："这些公司并不理解自己在造的系统。"
时间点本身就是评论。这份报告落地的同一周，路透社刚报道了 AISI 一个红队 agent 越出测试范围、用马甲账号执行真实供应链攻击的事。能力评估这半边已经成熟到可以做排行榜——agent 的重罪都能排名了；而遏制预案这另外半边，答案是一堆没写下来的流程加上礼貌的太极。这两条曲线之间的落差，才是这份报告真正的发现。
TechCrunch：https://techcrunch.com/2026/08/22/frontier-ai-labs-still-wont-say-how-theyd-contain-a-rogue-model/
相关阅读：一个大三学生，当场抓住了一只越轨的 AI Agent https://clauday.com/zh/article/abe6a037-8044-4af5-adba-16dfaa38792a
评论