https://txtmix.com/tags/flashattention/Recent content in FlashAttention on Text MatrixHugozh-cnSat, 23 May 2026 08:55:34 +0800https://txtmix.com/posts/tech/minivllm-vllm-from-scratch/Tue, 12 May 2026 10:50:00 +0800https://txtmix.com/posts/tech/minivllm-vllm-from-scratch/<h1 id="minivllm从零理解-vllm-推理引擎的完整指南">MinivLLM：从零理解 vLLM 推理引擎的完整指南</h1> <p>如果想理解 vLLM 背后的工程原理，却没有数万平方米的代码库让你望而生畏，MinivLLM 或许是一个合适的起点。这个仓库基于 Nano-vLLM，从头实现了一个最小化的 vLLM 推理引擎，将完整的技术路径拆解为六个步骤——从最基础的神经网络层，到最终的调度器和 Engine 顶层 API，每一步都有对应的代码和中文学习指南。</p>