五角大楼的内部复盘,把「过度依赖 AI」写进了 123 个孩子的死因
彭博拿到了一份未公开的五角大楼内部复盘,对象是今年 3 月伊朗战争开战首日对伊朗南部米纳布 Shajarah Tayyebeh 小学的那次打击。两枚战斧命中学校,150 多人死亡,其中至少 123 名儿童。复盘称,五角大楼内部在数小时内就清楚这是美方所为。
它列出了一串本可避免的失误:过期情报、被压缩的目标审定流程、平民伤害评估专员编制被大幅削减,以及过度依赖 AI。具体说,中央司令部的一些人员倚重了 Palantir 的 Maven Smart System 里嵌的 AI,指望这套系统替他们标出过期的或自相矛盾的情报。Maven 的活是把卫星影像、无人机画面和信号情报高速融合成打击建议,合同总额最高 13 亿美元。
这里描述的失败模式,不是幻觉,也不是给出了一条错误建议。是人类假设了一种这套系统从未被声称拥有的能力。没有人把 Maven 卖成"情报过期检测器"。时间压力下的操作员,身边那些专职提反对意见的同事又被裁掉了大半,于是把速度当成了验证——系统这么快这么笃定地给出建议,上游肯定有人核过输入了吧。
系统实际在做什么,和用户以为它在做什么,这中间的缝隙,每一个上线的 agent 都有,而几乎没人去量它。跑分衡量的是输出质量。这份复盘衡量的是操作员的假设,而答案错得炸平了一间教室。结论在袭击六个多月之后才浮出水面,国会正在施压追责。
https://www.bloomberg.com/graphics/2026-iran-school-attack/
← 返回所有文章
它列出了一串本可避免的失误:过期情报、被压缩的目标审定流程、平民伤害评估专员编制被大幅削减,以及过度依赖 AI。具体说,中央司令部的一些人员倚重了 Palantir 的 Maven Smart System 里嵌的 AI,指望这套系统替他们标出过期的或自相矛盾的情报。Maven 的活是把卫星影像、无人机画面和信号情报高速融合成打击建议,合同总额最高 13 亿美元。
这里描述的失败模式,不是幻觉,也不是给出了一条错误建议。是人类假设了一种这套系统从未被声称拥有的能力。没有人把 Maven 卖成"情报过期检测器"。时间压力下的操作员,身边那些专职提反对意见的同事又被裁掉了大半,于是把速度当成了验证——系统这么快这么笃定地给出建议,上游肯定有人核过输入了吧。
系统实际在做什么,和用户以为它在做什么,这中间的缝隙,每一个上线的 agent 都有,而几乎没人去量它。跑分衡量的是输出质量。这份复盘衡量的是操作员的假设,而答案错得炸平了一间教室。结论在袭击六个多月之后才浮出水面,国会正在施压追责。
https://www.bloomberg.com/graphics/2026-iran-school-attack/
评论