1550 TFLOPS 刷屏背后：行业还欠算法优化一笔账，堆卡不如堆代码

发布时间：2026/10/26 11:58:14

【免费下载链接】DeepGEMMDeepGEMM: clean and efficient BLAS kernel library on GPU项目地址: https://gitcode.com/GitHub_Trending/de/DeepGEMM

最近科技圈有个数字被反复刷屏：1550 TFLOPS。

先别被这串字母吓到。你可以把它理解成 GPU 干活的速度表——数值越高，同一张显卡每秒能完成的计算量就越大。而一年前，这个项目跑出来的成绩还是 1350 左右。

没换卡，没换机器，就是一群人把代码重新捋了一遍，速度又往上提了一截。

这事之所以值得聊，是因为它戳中了整个行业的痛处：我们总以为 AI 拼的是谁买的卡多，其实还有一半账，记在“谁把代码写得更聪明”上。

这个项目叫DeepGEMM，是 DeepSeek 在 2025 年 2 月“开源周”第三天放出来的东西。

名字听着挺硬，其实它只干一件事：把大模型里最累、最重复的那道活儿——矩阵乘法——干到极致。

什么叫矩阵乘法？你可以想象一家巨大的中央厨房，每天要按几万份订单，把食材按配方两两组合。大模型每说一个字、每读一段话，背后都是成千上万次这样的“配菜”。这门手艺在业内有个简称，叫 GEMM。

DeepGEMM 就是那个专门练配菜手速的老师傅。它不负责想菜谱，也不负责端盘子，只负责把“配菜”这一下做到比谁都快。

有意思的是，这位老师傅的“武功秘籍”只有三百行左右的核心代码。对比英伟达自家那套动辄几十万行的专家调优库，这个体量小得有点不像话。当时很多人的第一反应是：这么点代码，凭啥？

答案就在跑分上。

第一，它把“压缩记账”玩明白了。

大模型计算时用的是 FP8 这种低精度数字格式，说白了就是把原本写得满满当当的高精度小票，换成一串压缩标签。好处是显存占用小、搬运快；坏处是容易算不准。

DeepGEMM 的巧劲儿在于：它在压缩的同时，用一套“分组校准”的办法把误差摁住，做到又快又不失真。这也是它能在 H800 这类卡上把性能推到 1350 甚至 1550 TFLOPS 的根本原因。

在官方测试里，它面对英伟达自家的商业库不但没输，一些形状下还能快上一截。有媒体当时的标题很直白——“比英伟达更懂怎么优化英伟达”。

第二，它专治 MoE 这种“偏科”模型。

现在的顶级大模型普遍用 MoE 架构，你可以理解成一家公司里养了几十个不同专业的专家，来一个任务只叫醒最对口的几位。听着高效，但工程上特别难受：每个专家分到的活儿多少不一，有的忙死，有的闲着，GPU 算力被白白晾着。

DeepGEMM 专门为这种“人多人少不固定”的场景做了分组计算，让忙的专家多干、闲的不拖后腿。这一招，直接把 MoE 模型的训练和推理成本往下拉。

第三，后面这一年，它还在不停加料。

2025 年 4 月冲到 1550 TFLOPS；7 月重构了编译方式，把调用开销压得更低；2026 年 4 月加入“超级融合”的 MoE 内核，把通信和计算叠在一起跑；到 2026 年 9 月，又补上了稀疏索引、门控融合、DeepJIT 等一堆新东西。

换句话说，这不是一次性的炫技，而是一个一直在长个儿的项目。

这里得算一笔很现实的账。

一张高端 AI 加速卡，价格够买一辆不错的车。一个中等规模的团队想跑模型，动辄几十张卡起步。过去两年，行业里的主流思路几乎是同一个字：买。买不到就租，租不到就等。

但 DeepGEMM 这类工作提醒大家：同一张卡，喂给它的代码不一样，产出能差出一大截。

打个比方，你雇了个手脚麻利的厨师，但厨房动线设计得一塌糊涂——切菜要跑到另一头拿刀，炒完菜要绕一圈才找得到盘子。厨师再快也白搭。算法优化干的就是重新设计厨房动线这件事：不换人，只改流程，出餐速度就能翻倍。

对预算有限的团队来说，这个意义太实在了。原本要 100 张卡才能扛住的推理服务，优化到位可能 60 张就够；原本排队三天的训练任务，可能一天半就跑完。省下来的不是一点点电费，是真金白银的采购预算和宝贵的时间窗口。

更关键的是，DeepGEMM 是开源的，MIT 协议，几乎不设门槛。这就等于那位老师傅把菜谱公开贴在墙上，谁都能照着练。

得先泼盆冷水：这东西不是给你家笔记本准备的。

它要求英伟达 H800、H100 这一代及更新的数据中心级显卡，普通的游戏卡、办公本、Mac 基本无缘。所以它面向的不是普通用户，而是做模型训练和推理服务的工程团队、AI 基础设施从业者、高校里跑大模型实验的研究组。

不过它有个挺体贴的设计：安装时不用提前编译，程序跑起来的那一刻，才根据你当前的显卡型号和矩阵尺寸“现场裁衣服”。这让上手流程简化成装个包、调个接口的事。

那你可能会问：我一个普通用户，关心这个干嘛？

因为你每天用的 AI 服务，成本里就有它的一份功劳。推理更快、显存更省，落到最后就是 API 更便宜、响应更快、高峰期更不容易排队。DeepSeek 自家的 V3、R1 训练和推理，就用到了这套东西。你以为自己只是在聊天，其实背后是几千张卡被这套代码拧得更紧了。

1550 这个数字本身会过时，明年大概率还会有更高的。

真正耐人寻味的是它代表的方向：在算力越堆越贵、越堆越难的今天，“把代码写到极致”这条路的性价比，被严重低估了。

同样的硬件，有人只能跑出七成实力，有人能榨到九成五。差的那部分，不是钱能直接买来的。

所以问题来了：如果你手里只有一半的预算，你会选择再想办法多买几张卡，还是先把现有这套代码翻出来，看看还有多少潜力没被榨干？

评论区聊聊你的答案。

【免费下载链接】DeepGEMMDeepGEMM: clean and efficient BLAS kernel library on GPU项目地址: https://gitcode.com/GitHub_Trending/de/DeepGEMM

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考