colibrì 引擎拆解：在 25GB RAM 上跑 744B MoE 模型，纯 C 实现，比 vLLM-Moet 快 2.5 倍

Mon, 13 Jul 2026 21:55:00 +0800

一句话判断

colibrì（JustVugg/colibri）是当下把"小内存跑大模型"这件事做到工程极限的开源项目：单文件 c/glm.c 3775 行 + 一组 ~30KB 的 headers，纯 C + OpenMP + AVX2/NEON，零 Python 运行时依赖，在 12 核 + 25GB RAM 的笔记本上把 744B 参数的 GLM-5.2（每 token 激活 ~40B）跑起来——而且在 6× RTX 5090 满配机器上，它达到 6.28-6.84 tok/s 单请求解码，比同期 vLLM-Moet TP4 的 2.5-2.7 tok/s 快 2.5 倍（仓库 docs/experiments/glm52-6x5090-2026-07-12.md 实测）。

GLM-5 全家桶拆解：从 Vibe Coding 到 Agentic Engineering 的开源旗舰模型

Thu, 18 Jun 2026 21:03:00 +0800

GLM-5 全家桶拆解：从 Vibe Coding 到 Agentic Engineering 的开源旗舰模型

学习目标

阅读本文后，你应该能够：

理解 GLM-5 系列的演进路线：描述 GLM-5、5.1、5.2 三代模型的差异和核心改进
掌握 IndexShare 稀疏注意力机制：解释 IndexShare 如何降低长上下文的计算成本
了解 slime 异步 RL 基础设施：描述 slime 如何解决 RL 训练中的训练-推理耦合瓶颈
解读 benchmark 结果：理解 Terminal-Bench、SWE-bench Pro、Vending Bench 2 的测量对象和信号量
评估部署可行性：根据硬件需求和部署文档判断是否可以本地部署 GLM-5

zai-org/GLM-5 不是单模型仓库，而是智谱 AI 一次性放出的"全家桶"——GLM-5、GLM-5.1、GLM-5.2 三代同堂，并配套本地部署与异步 RL 训练工具链。整条线的口径非常一致：面向长链路（long-horizon）的 agentic 任务。换句话说，GLM 系列已经不满足于"把单个 prompt 答好"，而是要在数百轮、上千次工具调用里持续输出有效决策。

DSA on Text Matrix

colibrì 引擎拆解：在 25GB RAM 上跑 744B MoE 模型，纯 C 实现，比 vLLM-Moet 快 2.5 倍

一句话判断

GLM-5 全家桶拆解：从 Vibe Coding 到 Agentic Engineering 的开源旗舰模型

GLM-5 全家桶拆解：从 Vibe Coding 到 Agentic Engineering 的开源旗舰模型

学习目标

目录