https://txtmix.com/tags/ensemble/Recent content in Ensemble on Text MatrixHugozh-cnTue, 21 Jul 2026 20:06:14 +0800https://txtmix.com/posts/tech/vllm-micro-agent-frontier-models-2026/Tue, 30 Jun 2026 15:58:00 +0800https://txtmix.com/posts/tech/vllm-micro-agent-frontier-models-2026/<h2 id="学习目标">学习目标</h2> <p>读完这篇文章你应该能回答：</p> <ul> <li><strong>vLLM Semantic Router 的 micro-agent 设计想解决什么</strong>：为什么 frontier model 之间的差距在从权重迁移到 router 层</li> <li><strong>5 种 Looper 的工作原理与边界</strong>：Confidence / Ratings / ReMoM / Fusion / Workflows 各自适合什么任务、不适合什么任务</li> <li><strong>Auto Recipe 怎么用一个 model name 暴露多种协作</strong>：信号提取 + task-shape 投影 + 路由决策</li> <li><strong>记分牌怎么读</strong>：VSR Closed vs VSR Hybrid 在 3 个 benchmark 上的数字能推出什么、不能推出什么</li> <li><strong>什么时候不要上 micro-agent</strong>：延迟、成本、工具需求、长链规划的边界</li> <li><strong>怎么把它用到自己的推理服务里</strong>：第一步该看什么、第二步该做什么</li> </ul> <h2 id="适合谁读">适合谁读</h2> <ul> <li>自己做推理服务、需要决定多模型协作策略的 infra / 平台工程师</li> <li>在评估 &ldquo;Fugu / Semantic Router / LangGraph / CrewAI&rdquo; 这类方案的架构师</li> <li>对 AI serving stack 演化方向感兴趣的 LLM 系统研究者</li> <li>想理解 &ldquo;协作&rdquo; vs &ldquo;更大的模型&rdquo; 这条新轴线的应用层工程师</li> </ul> <h2 id="一为什么-vllm-这次没追新模型">一、为什么 vLLM 这次没追新模型</h2> <p>所有人都在等下一个 frontier model。</p>