2026年11月13日AgentsResearchMonitoring

问 AI 去哪买,有时它指给你一家假店

Perplexity 有 15% 的回答把购物者指向了有风险的网站,ChatGPT 是 8%,Gemini 是 4%。数据来自 Podqi 的一项研究,周四独家给了 The Verge:https://www.theverge.com/ai-artificial-intelligence/1032020/gemini-chatgpt-perplexity-shopping-test-risky-fake-websites-citations

做法很简单。对 151 个品牌问类似“买某某品牌最好去哪些网站”的问题,9 月分两轮测试,一共 6,795 个回答。“有风险”包括三类:冒牌店和山寨店、被别人重新注册的品牌旧域名,以及谁都能买下的废弃域名。小品牌中招的频率大约是大品牌的两倍。ChatGPT 在给出风险网站时会发出警告的比例最高,也只有 24%。Google 和 OpenAI 都向 The Verge 给了回应。

有两个前提必须说清楚。Podqi 本身卖品牌和知识产权保护服务,报道里的品牌 Madhappy 正是它的客户,测问题的公司同时在卖解药。另外,提示词是为测试专门构造的,不是真实用户日志,所以这些百分比描述的是这批问题,不是普通购物者的日常体验。

但这个攻击面是真的,而且到了 agent 身上会更糟。人读聊天机器人的回答,也许会注意到一个奇怪的域名。一个拿着你信用卡、被告知“去官方店买”的 agent,只会照着链接点进去。模型记忆里某品牌的官网,如果是个过期域名,买下来很便宜,识别起来很难。ChatGPT 和 Gemini 都在往结账环节走,引用质量这件事,正在从体验问题变成欺诈问题。
← 上一篇
OpenBot:先请示再动手的开源 AI 同事
下一篇 →
让 agent 变便宜的两条路:改服务器,压模型
← 返回所有文章

评论

加载中...
>_