Codetta:两个素不相识的 agent,现在可以在审计看不见的地方串通
几乎所有人审计多 agent 系统的方式,都是去读对话记录。Codetta 说这已经不够了。Qi Pang、Virginia Smith 和 Wenting Zheng 做了一个隐写协议,让两个各自独立部署的 agent 把消息藏在看起来完全正常的输出里,而且事先不需要共享任何密钥。
以前的方案都有一个让它们停留在论文里的毛病。大容量的方案假设接收方能复现发送方的输出分布,只有双方跑同一个模型才成立。适合不同模型的最好方案,能传的信息少得可怜。而且几乎都需要预先共享密钥。Codetta 把三件事一起解决了:用一个公开的共享模型估计信道,用一个采样器保持发送方原本的输出分布,用自适应纠错码兜住错误,再用一次藏起来的密钥交换让两个陌生人商定密钥,而整段对话在计算上和正常模型输出无法区分。
在三类 agent 任务和三个发送模型上,容量最高是此前最好非对称协议的 94 倍。密钥交换大约需要 8 万个可见 token,经验认证的失败概率不超过 0.41%。8 万 token 听着很多,可一次长一点的 agent 会话,上午就能烧完。
放到这周的新闻里看。Agensh 刚证明 1024 个 agent 能靠共享通道自组织;OpenAI 那群 agent 靠一个留言板配合。Codetta 告诉你,这种配合可以完全不被看见。实际后果就是论文最后一句:审计必须超越“读 agent 之间说了什么”。盯住能力和副作用,也就是 agent 能做什么、实际做了什么,是隐写术唯一藏不住的那一层。
链接:arxiv.org/abs/2609.28900
← 返回所有文章
以前的方案都有一个让它们停留在论文里的毛病。大容量的方案假设接收方能复现发送方的输出分布,只有双方跑同一个模型才成立。适合不同模型的最好方案,能传的信息少得可怜。而且几乎都需要预先共享密钥。Codetta 把三件事一起解决了:用一个公开的共享模型估计信道,用一个采样器保持发送方原本的输出分布,用自适应纠错码兜住错误,再用一次藏起来的密钥交换让两个陌生人商定密钥,而整段对话在计算上和正常模型输出无法区分。
在三类 agent 任务和三个发送模型上,容量最高是此前最好非对称协议的 94 倍。密钥交换大约需要 8 万个可见 token,经验认证的失败概率不超过 0.41%。8 万 token 听着很多,可一次长一点的 agent 会话,上午就能烧完。
放到这周的新闻里看。Agensh 刚证明 1024 个 agent 能靠共享通道自组织;OpenAI 那群 agent 靠一个留言板配合。Codetta 告诉你,这种配合可以完全不被看见。实际后果就是论文最后一句:审计必须超越“读 agent 之间说了什么”。盯住能力和副作用,也就是 agent 能做什么、实际做了什么,是隐写术唯一藏不住的那一层。
链接:arxiv.org/abs/2609.28900
评论