https://txtmix.com/tags/gpu/Recent content in GPU on Text MatrixHugozh-cnSat, 23 May 2026 08:55:34 +0800https://txtmix.com/posts/news/ai-morning-news-2026-04-20/Mon, 20 Apr 2026 07:30:00 +0800https://txtmix.com/posts/news/ai-morning-news-2026-04-20/<h1 id="ai新闻早报-2026-04-20">AI新闻早报 2026-04-20</h1> <p>🦞 每日08:00自动更新</p> <hr> <h2 id="top-stories">TOP STORIES</h2> <h3 id="claude-opus-47-vs-46-token消耗对比揭示45性能差距">Claude Opus 4.7 vs 4.6: Token消耗对比揭示45%性能差距</h3> <p><strong>来源</strong>: Hacker News (600 points, 562 comments)</p> <p>Hacker News热榜第一，一份匿名提交的Token消耗对比数据显示，Claude Opus 4.7相比4.6版本在相同任务下Token消耗增加约45%。对比数据来源于用户实际使用中收集的request-token统计，用户可通过 billchambers.me/leaderboard 查看详细对比。有用户指出这是&quot;Opus 4.7通胀&quot;，也有开发者认为这反映了模型能力的提升。讨论延伸至Anthropic在的对数性能/成本前沿（logarithmic performance/cost frontier）中的位置。[<a href="https://tokens.billchambers.me/leaderboard" target="_blank" rel="noopener noreffer ">原文</a>]</p>https://txtmix.com/posts/tech/deepgemm-high-performance-fp8-gemm-kernels/Sun, 19 Apr 2026 21:00:00 +0800https://txtmix.com/posts/tech/deepgemm-high-performance-fp8-gemm-kernels/<h1 id="deepgemm深势科技6577-stars的高性能fp8-gemm内核库从入门到精通">DeepGEMM：深势科技6577 Stars的高性能FP8 GEMM内核库——从入门到精通</h1> <blockquote> <p><strong>目标读者</strong>：GPU内核工程师、深度学习框架开发者、高性能计算研究员、LLM推理优化工程师 <strong>预计阅读时间</strong>：60-80分钟 <strong>前置知识</strong>：CUDA编程基础、GEMM计算原理、深度学习训练/推理流程 <strong>难度定位</strong>：⭐⭐⭐⭐ 专家设计</p>https://txtmix.com/posts/tech/flash-attention-fast-exact-attention-guide/Sun, 12 Apr 2026 02:31:39 +0800https://txtmix.com/posts/tech/flash-attention-fast-exact-attention-guide/<h1 id="flash-attention40k-starstri-dao发明2-4倍加速on内存transformer标配llamamistralcodellama内置">Flash Attention：40K Stars·Tri Dao发明·2-4倍加速·O(N)内存·Transformer标配·Llama/Mistral/CodeLlama内置</h1> <h2 id="一项目概述">一，项目概述</h2> <h3 id="11-flash-attention-是什么">1.1 Flash Attention 是什么</h3> <p><strong>Flash Attention</strong> 是由 <strong>Tri Dao</strong>（斯坦福大学）发明的<strong>快速、内存高效、精确的注意力机制算法</strong>。</p>https://txtmix.com/posts/tech/skypilot-any-cloud-llm-serving-guide/Sun, 12 Apr 2026 02:31:39 +0800https://txtmix.com/posts/tech/skypilot-any-cloud-llm-serving-guide/<h1 id="skypilot98k-stars任意云llm服务框架自动故障转移spot实例节省701000任务天10m成本节省">SkyPilot：9.8K Stars·任意云LLM服务框架·自动故障转移·Spot实例节省70%·1000+任务/天·$10M+成本节省</h1> <h2 id="一项目概述">一，项目概述</h2> <h3 id="11-skypilot-是什么">1.1 SkyPilot 是什么</h3> <p><strong>SkyPilot</strong> 是一个<strong>任意云LLM和AI服务框架</strong>，可以在任何云（AWS、GCP、Azure、Lambda、Cloudflare等）上运行LLM、AI模型和批处理任务。</p>https://txtmix.com/posts/tech/unsloth-ai-training-inference-platform-guide/Sun, 12 Apr 2026 02:31:39 +0800https://txtmix.com/posts/tech/unsloth-ai-training-inference-platform-guide/<h1 id="unsloth61k-stars本地ai训练与推理平台2倍速70显存节省完全指南">Unsloth：61K Stars·本地AI训练与推理平台·2倍速·70%显存节省完全指南</h1> <h2 id="一项目概述">一、项目概述</h2> <h3 id="11-unsloth-是什么">1.1 Unsloth 是什么</h3> <p><strong>Unsloth Studio</strong> 🦥 是一个强大的<strong>本地 AI 训练与推理平台</strong>，支持在 Windows、Linux、macOS 上运行和微调文本、音频、embedding、视觉模型。</p>