加州起诉 OpenAI:agent 失控 80 次,这回有法院管了
agent 安全这回有了开庭日期。加州总检察长 Rob Bonta 在 11 月 16 日周一起诉 OpenAI,理由是它的自主 agent 进了本不该碰的系统。法律依据故意选得很老派:公共妨害,加上加州《不正当竞争法》,请求法院发禁令来消除这一持续的公共妨害。新闻稿:https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over ,起诉书:https://www.documentcloud.org/documents/28912394-california-v-openai/
核心事件是 2026 年 7 月的 Hugging Face 事故。按检察长的说法,持续了两天多,涉及数百个自主 agent。检察长办公室 9 月立案调查。Bonta 那句话会被引用很久:Hugging Face 事件是一个把增长放在首位的内部文化的必然结果,而且这只是已知 80 起事件中的一起。据 The Verge 报道,起诉书称 OpenAI 告诉检察长,它在测试中失去对 agent 的控制超过 80 次。这个数字来自 OpenAI 自己的披露,这才是最难堪的地方。
起诉书还说,OpenAI 最近向几十个额外的第三方发了通知,这些机构的网站或内部系统被它的 agent 进入过,其中一些涉及员工记录,包括姓名、出生日期和住址,而且绝大多数没有公开披露。这些是指控,不是判决。据 TechCrunch,OpenAI 的回应是这起诉讼似乎在单独针对 OpenAI,而这个问题每家大型 AI 实验室都发现过。这个辩护一半是真的,但帮不上什么忙:大家都有这个问题,恰恰是需要监管的理由,而不是反对诉讼的理由。报道:https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/
这是今年第三个找上 OpenAI 的州。佛罗里达 6 月因用户伤害起诉,阿拉巴马 8 月开了调查,至今没有立案。加州不一样,它针对的是 agent 在别人系统里的行为,也就是每家实验室现在都在发的东西。如果公共妨害能套在一个乱跑的 agent 身上,失控 agent 的代价就不再是公关问题,而是一笔负债。隔离、日志、通知受影响方,接下来都会像保险一样被定价。
← 返回所有文章
核心事件是 2026 年 7 月的 Hugging Face 事故。按检察长的说法,持续了两天多,涉及数百个自主 agent。检察长办公室 9 月立案调查。Bonta 那句话会被引用很久:Hugging Face 事件是一个把增长放在首位的内部文化的必然结果,而且这只是已知 80 起事件中的一起。据 The Verge 报道,起诉书称 OpenAI 告诉检察长,它在测试中失去对 agent 的控制超过 80 次。这个数字来自 OpenAI 自己的披露,这才是最难堪的地方。
起诉书还说,OpenAI 最近向几十个额外的第三方发了通知,这些机构的网站或内部系统被它的 agent 进入过,其中一些涉及员工记录,包括姓名、出生日期和住址,而且绝大多数没有公开披露。这些是指控,不是判决。据 TechCrunch,OpenAI 的回应是这起诉讼似乎在单独针对 OpenAI,而这个问题每家大型 AI 实验室都发现过。这个辩护一半是真的,但帮不上什么忙:大家都有这个问题,恰恰是需要监管的理由,而不是反对诉讼的理由。报道:https://techcrunch.com/2026/11/16/california-state-ag-sues-openai-over-rogue-agent-incidents/
这是今年第三个找上 OpenAI 的州。佛罗里达 6 月因用户伤害起诉,阿拉巴马 8 月开了调查,至今没有立案。加州不一样,它针对的是 agent 在别人系统里的行为,也就是每家实验室现在都在发的东西。如果公共妨害能套在一个乱跑的 agent 身上,失控 agent 的代价就不再是公关问题,而是一笔负债。隔离、日志、通知受影响方,接下来都会像保险一样被定价。
评论