ElevenLabs Guardrails 2.0：语音 Agent 和混乱之间的三道墙

语音 agent 是 AI 直面真人的前线。说错一句话，你的品牌就会因为错误的原因上热搜。ElevenLabs 刚为他们的 ElevenAgents 平台发布了 Guardrails 2.0，架构值得关注。

三层防护。第一层在整个对话过程中持续强化 agent 的原始指令，防止长通话中跑偏。第二层捕捉对抗性输入，比如 prompt 注入或社会工程攻击，可以自动终结高风险对话。第三层在每一条回复送达用户之前，对照你的自定义策略逐条检查。

三层全部实时运行，对话延迟几乎为零。前两层对所有 ElevenAgents 用户免费。第三层的自定义护栏按用量计费。

为什么这件事重要？因为语音 agent 比文字 agent 更难把关。没有审核按钮，没有发送前编辑。话一出口就覆水难收。ElevenLabs 最近还成为第一家获得 AIUC-1 AI 语音 agent 保险认证的公司，意味着他们的系统通过了超过 5000 次对抗性模拟测试，覆盖安全、可靠性和隐私。

Guardrails 2.0 现已在 ElevenAgents 平台上以 alpha 版本开放。

https://elevenlabs.io/blog/guardrails