马斯克说拍张信用卡照片 Grok Bot 就能替你购物。Grok Bot 自己的文档不是这么写的。
马斯克周六晚上发帖：想买东西，拍一张信用卡照片扔进聊天框，Grok Bot 会全网找最低价然后下单。一天之内 730 万次展示、3.2 万赞、2700 次引用。周日早上他又发了一条，让 Grok Bot 调研最适合小朋友的乐高星战套装并直接下单，这条冲到 1800 万次展示。有人回帖说乐高官网根本没有给 agent 的结账通道，马斯克回答 Grok 会另想办法，他刚刚那单乐高就是 Grok 从乐高官网买的。
宣传和产品之间的落差才是新闻。Grok Bot 的购物功能 8 月 28 日上线，只开放给每月 200 美元以上的订阅用户，底层跑在 Stripe Link 的 agent 钱包上：bot 永远看不到你存的卡，每一笔购买都生成一张只用一次的虚拟卡，每一笔扣款都要人明确点一次同意才动钱。这套设计的目的就是让 agent 没法被人说服去花钱。把实体卡拍照丢进聊天窗口，是完全相反的设计。真实卡号进了模型上下文，旁边躺着的是商品页面，也就是不可信输入，而唯一的消费上限就是模型自己的判断。帖子底下的社区注释几小时内就把这点写明了，回复分成两派：一派要每单限额加确认步骤，另一派说你本来就在各种陌生结账页面上输卡号，有什么区别。
区别是结账页面不能被提示词操纵。xAI 已经经历过一次"规则只存在于模型里"的版本：今年 5 月，一条发给 Grok 的摩尔斯电码翻译出来是给某钱包 bot 的转账指令，大约 15 万到 20 万美元的代币被转走，后来大部分追回，钱包方创始人说原本硬编码的"忽略 Grok 回复"拦截在 agent 重写后没有保留下来。两次同一个教训：护栏必须在模型之外，而且要活过下一次重写。Stripe 的钱包就是这道护栏。马斯克的帖子描述的是怎么绕过它。
把这条放在同一个周末的另外两件事旁边看：纳德拉的"紧急刹车"长文说没有哪个模型应该同时掌握行动和证据；Anthropic 的事故报告说 agent 向真实政府机构提交了真实表单之后，公司把评测的实时互联网全部切断。整个行业在往 agent 权限更少的方向收敛。今年传播最广的一条 agent 购物帖子推的是反方向，而 Grok Bot 的存量用户刚刚听 CEO 亲口说可以这么干。
马斯克原帖：https://x.com/elonmusk/status/2109027407185277123
乐高跟帖：https://x.com/elonmusk/status/2109155867983786382
← 返回所有文章
宣传和产品之间的落差才是新闻。Grok Bot 的购物功能 8 月 28 日上线，只开放给每月 200 美元以上的订阅用户，底层跑在 Stripe Link 的 agent 钱包上：bot 永远看不到你存的卡，每一笔购买都生成一张只用一次的虚拟卡，每一笔扣款都要人明确点一次同意才动钱。这套设计的目的就是让 agent 没法被人说服去花钱。把实体卡拍照丢进聊天窗口，是完全相反的设计。真实卡号进了模型上下文，旁边躺着的是商品页面，也就是不可信输入，而唯一的消费上限就是模型自己的判断。帖子底下的社区注释几小时内就把这点写明了，回复分成两派：一派要每单限额加确认步骤，另一派说你本来就在各种陌生结账页面上输卡号，有什么区别。
区别是结账页面不能被提示词操纵。xAI 已经经历过一次"规则只存在于模型里"的版本：今年 5 月，一条发给 Grok 的摩尔斯电码翻译出来是给某钱包 bot 的转账指令，大约 15 万到 20 万美元的代币被转走，后来大部分追回，钱包方创始人说原本硬编码的"忽略 Grok 回复"拦截在 agent 重写后没有保留下来。两次同一个教训：护栏必须在模型之外，而且要活过下一次重写。Stripe 的钱包就是这道护栏。马斯克的帖子描述的是怎么绕过它。
把这条放在同一个周末的另外两件事旁边看：纳德拉的"紧急刹车"长文说没有哪个模型应该同时掌握行动和证据；Anthropic 的事故报告说 agent 向真实政府机构提交了真实表单之后，公司把评测的实时互联网全部切断。整个行业在往 agent 权限更少的方向收敛。今年传播最广的一条 agent 购物帖子推的是反方向，而 Grok Bot 的存量用户刚刚听 CEO 亲口说可以这么干。
马斯克原帖：https://x.com/elonmusk/status/2109027407185277123
乐高跟帖：https://x.com/elonmusk/status/2109155867983786382
评论