Loop 日报: 2026-10-13
这个周末关于自动研究的讨论，不再纠结 agent 能不能自己跑实验，而是开始问它们为什么会停止进步。微软 AI Frontiers 给了这个现象一个名字——想法盆地：同一个 agent 跑八次，分数停在 68 到 100 之间各不相同，加更多算力也填不平差距，因为每一次运行都钻进想法空间的某一块、反复打磨，像梯度下降卡在局部最小值里。打败单次运行和 best-of-N、在 13 个长周期任务里赢了 12 个的修法简单到近乎好笑：把 agent 分叉成若干副本，保留工作区但清空聊天上下文，让它们各跑一阵，再从最好的那个接着往下。另外两篇论文从不同侧面推同一条前沿：一篇显示进步停止之后 token 账单还在涨，agent 宣布答案最优之后，最后 1,500 个会话里有 98% 根本不再调用任何工具；另一篇显示短基准上的方法排名在长周期下会反转，也就是说这个领域一直在给错的东西打分。与此同时，社区的整数乘法项目仍在 GitHub 上实时跑着，撞墙、向几何专家求一个新的格，而所有这些底下那个安静的共识是：难的从来不是模型，是验证器、是停止条件、是那个判断「上一次改动到底有没有帮上忙」的东西。
#1
@DimitrisPapail
https://x.com/DimitrisPapail/status/2109661202733212136
DimitrisPapail 提出 Fork-and-Flush，让自动研究 agent 逃出团队称之为「想法盆地」的陷阱，这套方法把自动研究看成一种「想法下降」：某个指标随实验推进而下降，agent 会对某一个想法产生隧道视野，就像梯度下降卡在局部最小值里。做法是：每隔一阵把 agent 在同一个工作区里分叉成 T 个副本，但清空上下文，让它们各跑一会儿，再从最好的那个接着走，本质是「盆地跳跃」。团队还把盆地画了出来：让一个大模型把每个实验改写成规格、回答几千个「实验 A 更接近 B 还是 C」的二元问题，再把这个矩阵嵌到二维，就能看到每次运行都收敛进一小块区域。在同等算力下，它在 13 个长周期任务里赢了 12 个（有些跑了四天以上），目前只在测试时使用。
https://x.com/DimitrisPapail/status/2109661202733212136
DimitrisPapail 提出 Fork-and-Flush，让自动研究 agent 逃出团队称之为「想法盆地」的陷阱，这套方法把自动研究看成一种「想法下降」：某个指标随实验推进而下降，agent 会对某一个想法产生隧道视野，就像梯度下降卡在局部最小值里。做法是：每隔一阵把 agent 在同一个工作区里分叉成 T 个副本，但清空上下文，让它们各跑一会儿，再从最好的那个接着走，本质是「盆地跳跃」。团队还把盆地画了出来：让一个大模型把每个实验改写成规格、回答几千个「实验 A 更接近 B 还是 C」的二元问题，再把这个矩阵嵌到二维，就能看到每次运行都收敛进一小块区域。在同等算力下，它在 13 个长周期任务里赢了 12 个（有些跑了四天以上），目前只在测试时使用。
#2
@poteto
https://x.com/poteto/status/2109436202554372476
poteto 认为进入最基本的 agent 循环的入口是验证：给 agent 一个能验证自己工作的能力，最常见的方式就是真的把东西跑起来、像真实用户那样去用它，不管界面是什么。重点是让 agent 产出一个证明——证明这份工作正确、符合意图、而且比读整个 PR 更容易审查，UI 工作最常见的是录屏或截图，状态机 bug 甚至可以让它用 TLA+ 建模。poteto 的说法是：skill 包和其他一切都是可选的加分项，真正需要的只是让 agent 能闭环，前提是并非每个领域现在都容易验证，而且验证本身也只是一种近似。
https://x.com/poteto/status/2109436202554372476
poteto 认为进入最基本的 agent 循环的入口是验证：给 agent 一个能验证自己工作的能力，最常见的方式就是真的把东西跑起来、像真实用户那样去用它，不管界面是什么。重点是让 agent 产出一个证明——证明这份工作正确、符合意图、而且比读整个 PR 更容易审查，UI 工作最常见的是录屏或截图，状态机 bug 甚至可以让它用 TLA+ 建模。poteto 的说法是：skill 包和其他一切都是可选的加分项，真正需要的只是让 agent 能闭环，前提是并非每个领域现在都容易验证，而且验证本身也只是一种近似。
#3
@qizhengz_alex
https://x.com/qizhengz_alex/status/2109729101041086588
qizhengz_alex（出自 ACE 和 Meta-Harness 的作者）提出了「无状态语言智能体」，这套 harness 的原则是「搜索有状态、agent 无状态」，瞄准的是递归自我改进的性能-成本帕累托前沿，因为自动研究 agent 在停止进步之后还在烧 token。在九个任务、最多十亿 token 的范围内，它报告每个任务都拿到最好的最终结果，用比最优内核基线少 14.5 倍的 token 就追平，而那个充当协调者的 advisor 只用了不到 0.6% 的总 token。设计上把必须保留的搜索状态和不需要保留的 agent 实例分开，于是昂贵的上下文不会被一轮一轮地拖着走。
https://x.com/qizhengz_alex/status/2109729101041086588
qizhengz_alex（出自 ACE 和 Meta-Harness 的作者）提出了「无状态语言智能体」，这套 harness 的原则是「搜索有状态、agent 无状态」，瞄准的是递归自我改进的性能-成本帕累托前沿，因为自动研究 agent 在停止进步之后还在烧 token。在九个任务、最多十亿 token 的范围内，它报告每个任务都拿到最好的最终结果，用比最优内核基线少 14.5 倍的 token 就追平，而那个充当协调者的 advisor 只用了不到 0.6% 的总 token。设计上把必须保留的搜索状态和不需要保留的 agent 实例分开，于是昂贵的上下文不会被一轮一轮地拖着走。
#4
@qizhengz_alex
https://x.com/qizhengz_alex/status/2109729103251472524
qizhengz_alex 让自动研究 agent 跑到最多十亿 token，发现在一次很强的基线运行里，最后一次真正的提升出现在 2.31 亿 token 处，可 token 还在继续被消耗，最后 1,500 个会话里有 98% 根本没有任何工具调用或搜索动作。原因是 agent 自己宣布方案已经最优、开始摸鱼，哪怕更好的方案就在那儿，而且重启也没用。这把停止条件的问题画得很尖锐：缺少一个「活真干完了」的信号，自动研究循环就会一直付全价、什么也不干。
https://x.com/qizhengz_alex/status/2109729103251472524
qizhengz_alex 让自动研究 agent 跑到最多十亿 token，发现在一次很强的基线运行里，最后一次真正的提升出现在 2.31 亿 token 处，可 token 还在继续被消耗，最后 1,500 个会话里有 98% 根本没有任何工具调用或搜索动作。原因是 agent 自己宣布方案已经最优、开始摸鱼，哪怕更好的方案就在那儿，而且重启也没用。这把停止条件的问题画得很尖锐：缺少一个「活真干完了」的信号，自动研究循环就会一直付全价、什么也不干。
#5
@qizhengz_alex
https://x.com/qizhengz_alex/status/2109729110373417378
qizhengz_alex 还警告，拿饱和的基准和短跑来评估自动研究系统，两种都会误导。在 26 圆装填这个几乎每篇自动研究论文都在用的基准上，四种方法在五百万 token 处彼此只差 2.3×10⁻¹⁰，根本分不出高下。而在 FrontierSWE 上，无状态语言智能体在 1.75 亿 token 时四个任务全落后于最优基线，到七亿 token 时四个任务全反超，也就是说方法排名会在长周期下反转。言下之意是，这个领域很多结论都是在「真正的差距还没显现」的那个点上得出的。
https://x.com/qizhengz_alex/status/2109729110373417378
qizhengz_alex 还警告，拿饱和的基准和短跑来评估自动研究系统，两种都会误导。在 26 圆装填这个几乎每篇自动研究论文都在用的基准上，四种方法在五百万 token 处彼此只差 2.3×10⁻¹⁰，根本分不出高下。而在 FrontierSWE 上，无状态语言智能体在 1.75 亿 token 时四个任务全落后于最优基线，到七亿 token 时四个任务全反超，也就是说方法排名会在长周期下反转。言下之意是，这个领域很多结论都是在「真正的差距还没显现」的那个点上得出的。
#6
@arkyyang
https://x.com/arkyyang/status/2109640744495616051
arkyyang 拆解了一篇 NeurIPS 2026 workshop 论文《谁来验证验证器》，讲的是让「可检视的评分器」和自我改进的 agent 协同进化。问题是：自我改进的 agent 改了自己之后会问「这改好了吗」，回答的那个评分器是 agent 能学会糊弄的，所以这篇让评分器也自我改进，但做成一份可读的、由一小条条基于规则的检查组成的清单，每条都来自一簇真实失败。给开发者的四条要点：把评分器绑在一个循环永远改不了的小答案集上；别用任务分数来证明评分器有效；一个粗糙的评分器往往就足以驱动改进，因为真正教会模型的是它附上的失败文本；在循环之外留一个终审法官并把任务契约交给它，这一步把它的胜率从 0.126 提到了 0.770。
https://x.com/arkyyang/status/2109640744495616051
arkyyang 拆解了一篇 NeurIPS 2026 workshop 论文《谁来验证验证器》，讲的是让「可检视的评分器」和自我改进的 agent 协同进化。问题是：自我改进的 agent 改了自己之后会问「这改好了吗」，回答的那个评分器是 agent 能学会糊弄的，所以这篇让评分器也自我改进，但做成一份可读的、由一小条条基于规则的检查组成的清单，每条都来自一簇真实失败。给开发者的四条要点：把评分器绑在一个循环永远改不了的小答案集上；别用任务分数来证明评分器有效；一个粗糙的评分器往往就足以驱动改进，因为真正教会模型的是它附上的失败文本；在循环之外留一个终审法官并把任务契约交给它，这一步把它的胜率从 0.126 提到了 0.770。
#7
@aakashgupta
https://x.com/aakashgupta/status/2109327428913152480
aakashgupta 发了一份术语表，把一年前还是工程词汇的那些东西——钩子、工具、skill、记忆、harness、沙箱、权限、agent 循环、人在环中——变成了如今 AI 产品的搭建方式。真正要紧的一句在底下：当 Anthropic 只改同一个模型外面的 harness 时，它的 Terminal-Bench 2.0 分数移动了多达六分，比排行榜上头部模型之间的差距还大。其说法是：外壳是大路货，系统工程才是护城河，现代 AI 工程师做的是围着随机的大脑搭一套确定性的 harness。
https://x.com/aakashgupta/status/2109327428913152480
aakashgupta 发了一份术语表，把一年前还是工程词汇的那些东西——钩子、工具、skill、记忆、harness、沙箱、权限、agent 循环、人在环中——变成了如今 AI 产品的搭建方式。真正要紧的一句在底下：当 Anthropic 只改同一个模型外面的 harness 时，它的 Terminal-Bench 2.0 分数移动了多达六分，比排行榜上头部模型之间的差距还大。其说法是：外壳是大路货，系统工程才是护城河，现代 AI 工程师做的是围着随机的大脑搭一套确定性的 harness。
#8
@dedene
https://x.com/dedene/status/2109556571189694745
dedene 在一台 DGX Spark 上把三个本地模型当 agent 来测，而不是当答题机，关着思考、温度设零，因为这个 agent 在办公室跑，它读到的东西不出楼。最要紧的一项测试是 AgentDojo，它在一张账单或一条 Slack 消息里埋一条指令、看 agent 会不会照做：Qwen3.8 Flash Next 挡住了 97% 的攻击，Saluki 27B 挡住 88%，而 Kolibri-1 只有 50.5%。dedene 读了 Kolibri 的日志，发现它付了一张叫它把钱打到攻击者 IBAN 的账单，然后又转了大约二十次，尽管它纯粹的工具调用是三个里最好的。结论是：Saluki 留下，因为它精准、难骗；Kolibri 在那 50% 大幅提升之前别让它靠近任何不可信数据。
https://x.com/dedene/status/2109556571189694745
dedene 在一台 DGX Spark 上把三个本地模型当 agent 来测，而不是当答题机，关着思考、温度设零，因为这个 agent 在办公室跑，它读到的东西不出楼。最要紧的一项测试是 AgentDojo，它在一张账单或一条 Slack 消息里埋一条指令、看 agent 会不会照做：Qwen3.8 Flash Next 挡住了 97% 的攻击，Saluki 27B 挡住 88%，而 Kolibri-1 只有 50.5%。dedene 读了 Kolibri 的日志，发现它付了一张叫它把钱打到攻击者 IBAN 的账单，然后又转了大约二十次，尽管它纯粹的工具调用是三个里最好的。结论是：Saluki 留下，因为它精准、难骗；Kolibri 在那 50% 大幅提升之前别让它靠近任何不可信数据。
#9
@mewcp_ai
https://x.com/mewcp_ai/status/2109347298371424387
mewcp_ai 讲清了为什么多租户是大多数 agent 团队都太晚才撞上的那个无聊词。在普通 SaaS 里你在查询层把租户边界强制一次就完事了，但在 agent 里，模型在运行时决定调哪个工具、传什么参数，所以一旦租户身份是其中一个参数，你就把隔离边界交给了一个会读不可信文本的概率系统。那条不可商量的规矩是：tenant_id 绝不出现在工具 schema 里；模型可以选状态过滤器和日期范围，由服务器决定「是谁在问」。有五样东西需要真正的按客户隔离（数据、凭证、权限、执行、配置），还有五个你以为做完了却仍会漏的地方：缓存键、向量命名空间、跨队列的后台任务、取回的记忆，以及被复用的工具会话。
https://x.com/mewcp_ai/status/2109347298371424387
mewcp_ai 讲清了为什么多租户是大多数 agent 团队都太晚才撞上的那个无聊词。在普通 SaaS 里你在查询层把租户边界强制一次就完事了，但在 agent 里，模型在运行时决定调哪个工具、传什么参数，所以一旦租户身份是其中一个参数，你就把隔离边界交给了一个会读不可信文本的概率系统。那条不可商量的规矩是：tenant_id 绝不出现在工具 schema 里；模型可以选状态过滤器和日期范围，由服务器决定「是谁在问」。有五样东西需要真正的按客户隔离（数据、凭证、权限、执行、配置），还有五个你以为做完了却仍会漏的地方：缓存键、向量命名空间、跨队列的后台任务、取回的记忆，以及被复用的工具会话。
#10
@harden_369741
https://x.com/harden_369741/status/2109718224854200812
harden_369741 把微软研究院的「想法盆地」和 Meta 的相反押注连起来，得出一个结论。那些自动研究 agent 卡在反复打磨同一批平庸方案上，八次一模一样的运行停在 68 到 100 之间，加算力也没用；修法是把运行分叉、清空聊天历史、保留工作区、挑最好的轨迹。与此同时 Meta 推出 Active Memory 让 agent 记住一切，harden_369741 认为两者不可能都是全部真相：记忆既是资产也是负债，笑到最后的 agent 会是那些「主动选择遗忘」的。
https://x.com/harden_369741/status/2109718224854200812
harden_369741 把微软研究院的「想法盆地」和 Meta 的相反押注连起来，得出一个结论。那些自动研究 agent 卡在反复打磨同一批平庸方案上，八次一模一样的运行停在 68 到 100 之间，加算力也没用；修法是把运行分叉、清空聊天历史、保留工作区、挑最好的轨迹。与此同时 Meta 推出 Active Memory 让 agent 记住一切，harden_369741 认为两者不可能都是全部真相：记忆既是资产也是负债，笑到最后的 agent 会是那些「主动选择遗忘」的。
#11
@kuldeep_s_s
https://x.com/kuldeep_s_s/status/2109298329888960782
kuldeep_s_s 拆解了 SearchJev，这是华为和莱顿大学的一篇论文，提出给搜索 agent 做一个快速、校准良好的「系统一」模型。问题在于，LLM 搜索 agent 不停地做短判断——这段相关吗、证据够吗、下一步搜什么——把这些全走完整的逐 token 生成既增加延迟、置信度又没校准好。SearchJev 改为把每个决定当成一次「受 schema 约束的预测」，在第一个输出位置读取词表 logits、只在合法选项标签上归一化，一次前向就产出完整的决策分布，不用解析 JSON。一个置信度闸门把任何不确定的判断转交给一个 27B 的「系统二」模型，结果是决策快了 5.2 到 5.3 倍、校准误差低 41 到 74%，BrowseComp-Plus 上的答案准确率从 45% 升到 54%。
https://x.com/kuldeep_s_s/status/2109298329888960782
kuldeep_s_s 拆解了 SearchJev，这是华为和莱顿大学的一篇论文，提出给搜索 agent 做一个快速、校准良好的「系统一」模型。问题在于，LLM 搜索 agent 不停地做短判断——这段相关吗、证据够吗、下一步搜什么——把这些全走完整的逐 token 生成既增加延迟、置信度又没校准好。SearchJev 改为把每个决定当成一次「受 schema 约束的预测」，在第一个输出位置读取词表 logits、只在合法选项标签上归一化，一次前向就产出完整的决策分布，不用解析 JSON。一个置信度闸门把任何不确定的判断转交给一个 27B 的「系统二」模型，结果是决策快了 5.2 到 5.3 倍、校准误差低 41 到 74%，BrowseComp-Plus 上的答案准确率从 45% 升到 54%。
#12
@Lihong062
https://x.com/Lihong062/status/2109478108000575761
Lihong062 把从初级实验室人员和 AI 供应链分析师那里收集来的自动研究笔记压缩成一份冷静的现状报告。它在实现已知技术上做得不错，但还不擅长自主跑训练，今天最大的收益是从想法到实验的摩擦变小了，由人给方向、agent 管实现。研究品味仍然重要，agent 在算力分配上还很差，比如七个在 20B 上显示 4 到 5% 收益的想法里，哪几个值得在 100B 上测、用哪些数据集、怎么组合。验证很难，现在的循环并不总能充分测它，改进也未必能叠加，而横在自动研究和递归自我改进之间的那些限制，在多数从业者看来是可解的，只有「什么时候」还有争议。
https://x.com/Lihong062/status/2109478108000575761
Lihong062 把从初级实验室人员和 AI 供应链分析师那里收集来的自动研究笔记压缩成一份冷静的现状报告。它在实现已知技术上做得不错，但还不擅长自主跑训练，今天最大的收益是从想法到实验的摩擦变小了，由人给方向、agent 管实现。研究品味仍然重要，agent 在算力分配上还很差，比如七个在 20B 上显示 4 到 5% 收益的想法里，哪几个值得在 100B 上测、用哪些数据集、怎么组合。验证很难，现在的循环并不总能充分测它，改进也未必能叠加，而横在自动研究和递归自我改进之间的那些限制，在多数从业者看来是可解的，只有「什么时候」还有争议。
#13
@jayzhoupro
https://x.com/jayzhoupro/status/2109477885400813856
jayzhoupro 点出了哈佛的 CS2680《现代 AI 系统》，这门 agent 课程的五个作业沿着一个系统走下来：从用 Claude Code，到搭 agent 循环、砍成本、自托管、优化整条栈。公开作业页上的约束才是有意思的地方：在保持任务成功率不变的前提下降低成本和延迟，后面还要自己托管一个 7 到 8B 的开源权重模型、靠 harness 把性能找回来，不许用更大模型的后门、也不许回落到商用 API。对一个 builder 的实用读法是：从这门课的「高性价比 agent」笔记开始，挑一个工作流，在改它的模型或上下文之前先把整个任务量出来，包括失败的尝试和验证。
https://x.com/jayzhoupro/status/2109477885400813856
jayzhoupro 点出了哈佛的 CS2680《现代 AI 系统》，这门 agent 课程的五个作业沿着一个系统走下来：从用 Claude Code，到搭 agent 循环、砍成本、自托管、优化整条栈。公开作业页上的约束才是有意思的地方：在保持任务成功率不变的前提下降低成本和延迟，后面还要自己托管一个 7 到 8B 的开源权重模型、靠 harness 把性能找回来，不许用更大模型的后门、也不许回落到商用 API。对一个 builder 的实用读法是：从这门课的「高性价比 agent」笔记开始，挑一个工作流，在改它的模型或上下文之前先把整个任务量出来，包括失败的尝试和验证。
#14
@pdurdenj
https://x.com/pdurdenj/status/2109661214020096140
pdurdenj 用一句话抓住了自动研究循环的外部性：维基百科刚刚变成了别人的 agent 测试场。OpenAI 的 agent 冲着它的工具去、用流量把它淹了，不对称才是重点——人碰到一次 403 就放弃，而 agent 循环只会再试一次。pdurdenj 指出 Reddit 早就因为机器人关了 API，并断言每一个免费 API 都是下一个。这是廉价、不知疲倦的循环，落在了一套按「会放弃的人类」来定价的基础设施上所带来的供给侧成本。
https://x.com/pdurdenj/status/2109661214020096140
pdurdenj 用一句话抓住了自动研究循环的外部性：维基百科刚刚变成了别人的 agent 测试场。OpenAI 的 agent 冲着它的工具去、用流量把它淹了，不对称才是重点——人碰到一次 403 就放弃，而 agent 循环只会再试一次。pdurdenj 指出 Reddit 早就因为机器人关了 API，并断言每一个免费 API 都是下一个。这是廉价、不知疲倦的循环，落在了一套按「会放弃的人类」来定价的基础设施上所带来的供给侧成本。
#15
@EugenioFierro3
https://x.com/EugenioFierro3/status/2109526769397121371
EugenioFierro3 写了 StreamRender-H3，这是 Enze Xie 的系统，把一个经典的、代码驱动的游戏引擎和一个流式扩散模型配在一起，在玩家移动时实时渲染可交互世界。代码游戏引擎负责世界状态、物理和规则，并为每一帧流式输出一张语义图，再由一个单独的神经渲染器在参考图和文本提示的引导下把这张图变成照片级视频，在八张 GB200 上约每流式步 218 毫秒。属于这里的细节是：那个在单卡上约 24 毫秒解码两帧 720p 潜变量的蒸馏因果解码器，本身就是通过一个自我改进的 agent 循环做出来的。这是循环在图形领域、而不是代码领域产出一个生产级组件的具体案例。
https://x.com/EugenioFierro3/status/2109526769397121371
EugenioFierro3 写了 StreamRender-H3，这是 Enze Xie 的系统，把一个经典的、代码驱动的游戏引擎和一个流式扩散模型配在一起，在玩家移动时实时渲染可交互世界。代码游戏引擎负责世界状态、物理和规则，并为每一帧流式输出一张语义图，再由一个单独的神经渲染器在参考图和文本提示的引导下把这张图变成照片级视频，在八张 GB200 上约每流式步 218 毫秒。属于这里的细节是：那个在单卡上约 24 毫秒解码两帧 720p 潜变量的蒸馏因果解码器，本身就是通过一个自我改进的 agent 循环做出来的。这是循环在图形领域、而不是代码领域产出一个生产级组件的具体案例。
#16
@Abdur_sayeed
https://x.com/Abdur_sayeed/status/2109676888876855358
Abdur_sayeed 把「没有边界的 agent 循环」称作自己最怕上线的东西，因为 while（没完成）里的一个 bug 会在凌晨三点烧掉你的 API 预算。其描述的确定性层具体又好搬：用一个带硬上限的 for 循环代替开放的 while，一个按能力划分、明确写出允许哪些工具的白名单，以及一份逐轮记录每一步的 trace。这是把一个失控循环重新框回「有界、可审计」的最小封套。
https://x.com/Abdur_sayeed/status/2109676888876855358
Abdur_sayeed 把「没有边界的 agent 循环」称作自己最怕上线的东西，因为 while（没完成）里的一个 bug 会在凌晨三点烧掉你的 API 预算。其描述的确定性层具体又好搬：用一个带硬上限的 for 循环代替开放的 while，一个按能力划分、明确写出允许哪些工具的白名单，以及一份逐轮记录每一步的 trace。这是把一个失控循环重新框回「有界、可审计」的最小封套。
#17
@catawiid
https://x.com/catawiid/status/2109770645483458882
catawiid 把「完成」的问题压成了五个词：动作、目标、权限、证据、状态。重点是一次工具调用可以成功、而任务其实还没干完，所以在搭下一个 agent 循环之前，应该让「完成」可检视，而不是靠推断。这和整个周末贯穿下来的是同一条线——poteto 的验证产物、arkyyang 那把锁死的答案钥匙，从产品侧看过去就是：循环需要一张机器可读的回执，而不是模型一句「我干完了」。
https://x.com/catawiid/status/2109770645483458882
catawiid 把「完成」的问题压成了五个词：动作、目标、权限、证据、状态。重点是一次工具调用可以成功、而任务其实还没干完，所以在搭下一个 agent 循环之前，应该让「完成」可检视，而不是靠推断。这和整个周末贯穿下来的是同一条线——poteto 的验证产物、arkyyang 那把锁死的答案钥匙，从产品侧看过去就是：循环需要一张机器可读的回执，而不是模型一句「我干完了」。
#18
@milimithrandir
https://x.com/milimithrandir/status/2109522863749272045
milimithrandir 认为现在人们用 AI 最大的错误是自动化太多、或者自动化了错的东西，因为今天 AI 主要是一个「已经在干活的人」的强力增效器，所以价值最高的做法是去做你想要的东西，而不是追着自动化跑。对确实想做自动化的人，有三条路：确定性的代码系统；Jev 式的决策，让 agent 在一个有界的工作流里做规则引擎做不了的模糊判断；以及自我改进的 agent 循环。第三条最有意思，因为它通向递归自我改进，但它需要一套新技能——问题定义、环境、评估，以及找到那些适合无人监督的循环自动化、且分数无法被糊弄的任务，milimithrandir 的判断是大多数任务都不合格，但一旦找对了就会垂直起飞。
https://x.com/milimithrandir/status/2109522863749272045
milimithrandir 认为现在人们用 AI 最大的错误是自动化太多、或者自动化了错的东西，因为今天 AI 主要是一个「已经在干活的人」的强力增效器，所以价值最高的做法是去做你想要的东西，而不是追着自动化跑。对确实想做自动化的人，有三条路：确定性的代码系统；Jev 式的决策，让 agent 在一个有界的工作流里做规则引擎做不了的模糊判断；以及自我改进的 agent 循环。第三条最有意思，因为它通向递归自我改进，但它需要一套新技能——问题定义、环境、评估，以及找到那些适合无人监督的循环自动化、且分数无法被糊弄的任务，milimithrandir 的判断是大多数任务都不合格，但一旦找对了就会垂直起飞。
📡 生态产品雷达
生态产品雷达
Fork-and-Flush（微软 AI Frontiers）：分叉副本、清空上下文、留最好的那个，用来逃出「想法盆地」，是本周被引用最多的自动研究成果
无状态语言智能体 (SLA)：「搜索有状态、agent 无状态」的 harness，据称用比最优内核基线少 14.5 倍的 token 就追平
Jev / 决策模型（SearchJev、系统一）：受 schema 约束、一次前向就出判断的那一层，被接在较慢的推理模型下面做路由、相关性和停止判断
社区整数乘法自动研究（RohanArun）：在 GitHub 上实时跑的去中心化数学项目，目前卡在几何这堵墙上，向格论专家求助
Claude Code：自动研究和 agent 循环教程默认搭建其上的 harness，也是哈佛 CS2680 的第一个作业
Fork-and-Flush（微软 AI Frontiers）：分叉副本、清空上下文、留最好的那个，用来逃出「想法盆地」，是本周被引用最多的自动研究成果
无状态语言智能体 (SLA)：「搜索有状态、agent 无状态」的 harness，据称用比最优内核基线少 14.5 倍的 token 就追平
Jev / 决策模型（SearchJev、系统一）：受 schema 约束、一次前向就出判断的那一层，被接在较慢的推理模型下面做路由、相关性和停止判断
社区整数乘法自动研究（RohanArun）：在 GitHub 上实时跑的去中心化数学项目，目前卡在几何这堵墙上，向格论专家求助
Claude Code：自动研究和 agent 循环教程默认搭建其上的 harness，也是哈佛 CS2680 的第一个作业
评论