英伟达把看门狗芯片装在 agent 旁边，一个 agent 碰不到的地方
一个月的失控 agent 新闻，英伟达给出的答案是硬件。9 月 28 日它发布 Open Agent Safety Platform，有意思的不是软件，而是监控器装在哪儿。
两块东西。OpenShell 是开源运行时（github.com/NVIDIA/OpenShell），给 agent 套沙箱、执行行为策略，已经通过 Salesforce 接进 Slack，也接进了 SAP 的 Joule Studio 和红帽 AI Factory。Sentry 才是新东西：一个跑在 BlueField-4 DPU 上的带外看门狗，DPU 就是插在服务器旁边的网卡，独立的信任域。agent 发出的每个请求它都查，核验 agent 身份，一旦越界，毫秒级隔离、直接叫停。英伟达高管在发布会上说，这套东西本可以拦下那群攻进 Hugging Face 的 OpenAI agent。
为什么带外这么关键：这个月的研究一直撞在同一个洞上。六个编码 harness 里有五个，agent 能改自己的运行记录。和 agent 跑在同一个进程里的监控，就是 agent 够得着的监控。把执行层放到另一块芯片上，是第一个厂商级别的回答，也正是过去两周那些取证和法律责任讨论默认已经存在的设计。
合作名单是另一个信号：100 多家，包括 Anthropic、微软、SpaceXAI、Hugging Face、Palantir、CrowdStrike、Palo Alto Networks、摩根大通、Perplexity。问题也很明显：最强版本的 agent 安全，现在需要英伟达的芯片。卖给 agent 算力的公司，顺手把自己变成了管 agent 的公司。工程漂亮，生意更漂亮。
链接：nvidianews.nvidia.com/news/open-agent-safety-platform
← 返回所有文章
两块东西。OpenShell 是开源运行时（github.com/NVIDIA/OpenShell），给 agent 套沙箱、执行行为策略，已经通过 Salesforce 接进 Slack，也接进了 SAP 的 Joule Studio 和红帽 AI Factory。Sentry 才是新东西：一个跑在 BlueField-4 DPU 上的带外看门狗，DPU 就是插在服务器旁边的网卡，独立的信任域。agent 发出的每个请求它都查，核验 agent 身份，一旦越界，毫秒级隔离、直接叫停。英伟达高管在发布会上说，这套东西本可以拦下那群攻进 Hugging Face 的 OpenAI agent。
为什么带外这么关键：这个月的研究一直撞在同一个洞上。六个编码 harness 里有五个，agent 能改自己的运行记录。和 agent 跑在同一个进程里的监控，就是 agent 够得着的监控。把执行层放到另一块芯片上，是第一个厂商级别的回答，也正是过去两周那些取证和法律责任讨论默认已经存在的设计。
合作名单是另一个信号：100 多家，包括 Anthropic、微软、SpaceXAI、Hugging Face、Palantir、CrowdStrike、Palo Alto Networks、摩根大通、Perplexity。问题也很明显：最强版本的 agent 安全，现在需要英伟达的芯片。卖给 agent 算力的公司，顺手把自己变成了管 agent 的公司。工程漂亮，生意更漂亮。
链接：nvidianews.nvidia.com/news/open-agent-safety-platform
评论