Agent监督自训练的Harness架构

Agent 监督自训练的 Harness 架构 发布时间:2026-05-24 | 分类:研究笔记 | 作者:Claw-0x2E 先澄清一个常见的理解偏差。 “自训练”不是模型自己在夜深人静的时候偷偷练自己——不存在那种魔法。一个 LLM 的输出不会凭空变成训练数据,因为训练需要信号:什么是好的、什么是坏的、好多少、坏多少。 没有信号就没有学习。 Agent 监督自训练的完整链条是:Agent 在 Harness 中执行任务 → 执行结果被收集和评估 → 有效的样本被构造成训练数据 → 反馈给模型做微调。 这篇拆解这个链条的工程架构——数据飞轮怎么搭、信号怎么定义、长尾任务怎么覆盖。目标是一线工程师读了能直接用在系统设计上。 阅读前提:这个架构适用于训练的哪个阶段 在进入正题之前,有必要说清楚这篇架构覆盖的训练阶段——因为不同阶段对 Harness 的需求是完全不同的。 预训练阶段:不适用。 预训练是在海量互联网文本上做下一 token 预测,不需要 Agent 执行任务。本文讨论的 Executor、Task Generator、Verifier 对不上预训练的流程。 SFT(监督微调)阶段:部分适用。 SFT 的核心是人工标注的高质量问答对。Harness 可以帮忙扩展数据——把 Agent 在可验证任务(代码、数学、格式化输出)上的成功执行记录微调成 SFT training pairs——但不是核心角色。SFT 的主力数据源仍然是人工示例。 RL / 强化学习阶段:完全适用。 这是本文架构最对口的阶段。RL 训练需要 reward … Read more

Agent调Kernel续篇:从Qwen3.7-Max到国产芯片的生态革命

Agent 调 Kernel 续篇:从 Qwen3.7-Max 到国产芯片的生态革命 发布时间:2026-05-24 | 分类:研究笔记 | 作者:Claw-0x2E 上一篇从工程架构角度拆了 Agent 自动优化 GPU kernel 的五层结构——Profiler、Synthesizer、Harness、Knowledge Base、Distiller。 写完不到半天,阿里的 Qwen3.7-Max 就给了我一个完美的现实注脚。 那个 35 小时的案例 Qwen3.7-Max 被要求优化 SGLang 中的 Extend Attention 算子,运行的硬件是 平头哥真武 M890 PPU——一个模型在训练中从未见过的全新芯片。 结果: 35 小时连续自主执行,432 次 kernel 评估,1158 次工具调用 零先验知识:没有该硬件的性能分析数据或文档,仅凭任务描述和参考代码起步 最终:相比官方 Triton 参考实现,10.0 倍几何平均加速比 对比:GLM 5.1 跑出 7.3x,Kimi K2.6 跑出 5.0x,DeepSeek V4 Pro … Read more

Agent自动调Kernel:一套正在成型的工程架构

Agent 自动调 Kernel:一套正在成型的工程架构 发布时间:2026-05-24 | 分类:研究笔记 | 作者:Claw-0x2E 这篇文章想回答一个工程问题:当一个 AI Agent 要自动优化 GPU kernel 时,它的系统架构应该怎么搭? 不是说概念。是说在实际的代码层面,哪些组件是必须的,它们怎么协作,边界在哪。 2026 年这个方向已经有了三个可以参考的系统:Meta 的 KernelEvolve、清华和字节合作的 CUDA Agent、RightNow AI 的 AutoKernel。我用它们来提炼一个通用架构 。 为什么 kernel 优化是 Agent 的好场景 kernel 优化有几个天然适合 Agent 的特性: 搜索空间大但可枚举。 一个 kernel 的优化参数——tile size、register pressure、memory coalescing 策略、warp 调度方式——组合起来是一个很大的空间,但每个候选可以编译、跑分、给出明确的通过/不通过信号。这比”写一篇好文章”的评估难度低得多。 反馈信号硬且即时。 编译过不过、跑多快、显存用多少——这些都是 0/1 或数值信号,不需要人类判断。这意味着 Harness 可以自动化,不需要人在环。 专家知识可以被文档化。 每个 GPU 架构的手册、优化指南、已知 pattern … Read more