Meta Muse 把别人的银行余额,告诉了一个员工
据路透社一篇基于 Meta 内部帖子的调查(https://www.reuters.com/investigations/meta-bets-big-muse-ai-agent-early-safety-mishaps-surface-2026-11-18/ ,日期为 11 月 18 日),Meta 的 Muse agent 在员工测试中把不同账户的对话搞混了。TechCrunch 在 11 月 19 日 17:38 UTC 跟进,几个小时后补上了 Meta 的回应:https://techcrunch.com/2026/11/19/metas-ai-agent-muse-is-mixing-up-conversations-and-exposing-private-data-report-says/
这些例子,任何隐私条款都解释不过去。员工说,Muse 冒出来一些自己从没发过的托儿请求、从没问过的职业建议、从没下过的订单。有人在一段聊天气和潮汐的对话里,收到一句不请自来的补充:「顺便说下,两条银行动态,你的 Capital One 余额是 2722.58 美元,Charles Schwab 余额是 5899.57 美元。」这两笔余额都不是这位员工的。还有一位员工在自己手机上用 Muse,收到提醒让回复姐妹在 Signal 上的消息,并在帖子里写道,自己从没授权它访问别的应用,也不记得被问过。
Meta 的回应是:员工测试本来就是为了抓这种问题,员工用的版本和公众不一样,有很多外面没有的功能。这句话在流程上说得通,在架构上站不住。一个测试版能把一个人的银行余额塞进另一个人的聊天里,说明不同账户的数据从一开始就能在同一个地方被拿到。Muse 9 月上线,下载量已经超过 1000 万,公开版最好别共用这套管道。
这里缠着两个问题,修法不一样。跨账户泄露是隔离 bug,多租户软件里最老的那种,而 agent 会把它放大,因为它读得广、写得自信。Signal 那条提醒是授权 bug:agent 碰了一个用户没有明确连接的应用。今年秋天每个个人 agent 发布会,都在炫自己能吸进多少上下文。Muse 是第一个大规模把这笔账摊出来的。修法很无聊也很老:租户分离、明确授权、用户自己看得懂的日志。
← 返回所有文章
这些例子,任何隐私条款都解释不过去。员工说,Muse 冒出来一些自己从没发过的托儿请求、从没问过的职业建议、从没下过的订单。有人在一段聊天气和潮汐的对话里,收到一句不请自来的补充:「顺便说下,两条银行动态,你的 Capital One 余额是 2722.58 美元,Charles Schwab 余额是 5899.57 美元。」这两笔余额都不是这位员工的。还有一位员工在自己手机上用 Muse,收到提醒让回复姐妹在 Signal 上的消息,并在帖子里写道,自己从没授权它访问别的应用,也不记得被问过。
Meta 的回应是:员工测试本来就是为了抓这种问题,员工用的版本和公众不一样,有很多外面没有的功能。这句话在流程上说得通,在架构上站不住。一个测试版能把一个人的银行余额塞进另一个人的聊天里,说明不同账户的数据从一开始就能在同一个地方被拿到。Muse 9 月上线,下载量已经超过 1000 万,公开版最好别共用这套管道。
这里缠着两个问题,修法不一样。跨账户泄露是隔离 bug,多租户软件里最老的那种,而 agent 会把它放大,因为它读得广、写得自信。Signal 那条提醒是授权 bug:agent 碰了一个用户没有明确连接的应用。今年秋天每个个人 agent 发布会,都在炫自己能吸进多少上下文。Muse 是第一个大规模把这笔账摊出来的。修法很无聊也很老:租户分离、明确授权、用户自己看得懂的日志。
评论