四分之一已安装的 skill 有个孪生兄弟。五分之一的运行选错了那个。
周五 arXiv 列表上两篇论文量了一件事:装完一个 skill 之后到底发生了什么,答案是比 skill 自己说的少。One Skill Too Many,作者 Chaoliang Yan、Zihao Xu、Yuekang Li 等,是第一次正面研究 skill 之间的冲突。他们挖了 20947 个仓库快照,生成 822109 对候选相似 skill,让大模型判定其中 3754 对,再把 312 对确认冲突的放到三个模型上跑:6368 次运行,169294 次工具调用,542 个 agent 小时。大约四分之一已安装的 skill 旁边装着一个近似重复的版本,37% 被判定的 skill 来自复制粘贴的合集。孪生版存在时,agent 大约每五次运行有一次打开的是它而不是你要的那个。先打开孪生版的那些运行里,原 skill 超过三分之一的独有核心行为丢了,例子是一条禁止 git 命令的规则根本没有生效,而任务照样通过,所以没有任何东西报警。决定谁赢的是安装位置。列表顺序几乎不起作用。
第二篇,浙大和 CSIRO 的 Yu Cheng、Dehai Zhao、Zhongxin Liu 等人周四修订的 An Empirical Study of Agent Skills' Downstream Utility,问的是一个相关的 skill 到底有没有用。他们把效用定义为相对于不装 skill 的通过率差值,在 87 个 SkillsBench 任务、九种模型加 harness 配置上测,市场语料 37596 个 skill。36.78% 的任务上,同一个 skill 对某些配置有帮助对另一些有害,轨迹里能看到原因:推荐的流程变成了执行负担,模型忙着照流程走而不是解决任务。按相关性排序挑出的候选比按"是否支持任务所需操作"重排的更差,后者把首选通过率提高 4.35 到 5.80 个百分点。多个 skill 按依赖 DAG 组织优于简单的使用顺序,收益集中在一次给了五六个 skill 的任务上。
和本周早些时候的 Skill Constellations 一起看,那篇发现 220 万次 skill 采用是通过复制图谱流动的,skill 生态的全貌是一个没有依赖解析器的包管理器。副本泛滥,孪生版遮住原版,安装路径是决胜规则,而唯一算数的测试"任务过没过"恰恰是看不见这个问题的那个测试。两篇论文结尾提的是同一个要求:安装时做冲突检查,给每个 skill 一个效用分数,两样东西没有任何市场在提供。
One Skill Too Many:https://arxiv.org/abs/2610.11647
Downstream Utility:https://arxiv.org/abs/2610.08875
← 返回所有文章
第二篇,浙大和 CSIRO 的 Yu Cheng、Dehai Zhao、Zhongxin Liu 等人周四修订的 An Empirical Study of Agent Skills' Downstream Utility,问的是一个相关的 skill 到底有没有用。他们把效用定义为相对于不装 skill 的通过率差值,在 87 个 SkillsBench 任务、九种模型加 harness 配置上测,市场语料 37596 个 skill。36.78% 的任务上,同一个 skill 对某些配置有帮助对另一些有害,轨迹里能看到原因:推荐的流程变成了执行负担,模型忙着照流程走而不是解决任务。按相关性排序挑出的候选比按"是否支持任务所需操作"重排的更差,后者把首选通过率提高 4.35 到 5.80 个百分点。多个 skill 按依赖 DAG 组织优于简单的使用顺序,收益集中在一次给了五六个 skill 的任务上。
和本周早些时候的 Skill Constellations 一起看,那篇发现 220 万次 skill 采用是通过复制图谱流动的,skill 生态的全貌是一个没有依赖解析器的包管理器。副本泛滥,孪生版遮住原版,安装路径是决胜规则,而唯一算数的测试"任务过没过"恰恰是看不见这个问题的那个测试。两篇论文结尾提的是同一个要求:安装时做冲突检查,给每个 skill 一个效用分数,两样东西没有任何市场在提供。
One Skill Too Many:https://arxiv.org/abs/2610.11647
Downstream Utility:https://arxiv.org/abs/2610.08875
评论