90分钟烧坏一根内存条：128GB内存跑35B模型的隐形成本比你想的贵

90分钟烧坏一根内存条：128GB内存跑35B模型的隐形成本比你想的贵

最近数码圈和AI圈同时被一条“硬件惨案”刷屏：有玩家用 128GB DDR4 内存的机器本地跑 35B 大模型，结果 90 分钟就烧坏一根内存条；换上新的，9 天后第二根又亮起红灯。

评论区一片哗然。有人说“这不就是给电脑做压力测试吗”，也有人不服气：“不是说 32GB 内存就能跑吗，怎么 128GB 反而烧了？”

问题恰恰出在这。能跑和能长期跑，中间隔着的不是一行命令，而是一整套被大家忽略的硬件成本。今天借这个事，把最近很火的 Ornith-1.5-35B-A3B 拉出来，掰开揉碎讲清楚：这台“人人都能拥有的私人AI”，到底要啃掉你多少东西。

一、先说清楚：这台“35B”到底是个什么来头

Ornith 是这两年在开源圈一路狂飙的模型家族，1.5 这一代最大的卖点是“自我进化”——模型自己给自己出题、自己找解法、自己变强，像个不用老师盯着的刷题狂人。它的最大号 397B 版本，部分测试成绩已经能跟 Claude Opus 4.8 掰手腕，这也是它突然出圈的原因。

而这次烧内存事件里的主角 35B-A3B，是家族里的“中号选手”，也是最适合普通人本地玩的一档。

它有个特别讨喜的设计叫 MoE，混合专家。说人话就是：这家公司有 350 个员工，但每接一单活，只叫最对口的 3 个人来干。

所以它账面上是 350 亿参数的大块头，实际每写一个字只动用约 30 亿参数。大模型的“见识”它都有，但干活的饭量只有小模型那么多。这也是为什么它能在单张消费级显卡甚至纯 CPU 上跑起来，速度还不算难看。

二、它到底有多能打？先看硬成绩

别看它只是个中号选手，成绩单拿出来挺唬人。

在程序员最看重的 SWE-bench Verified（真实修 Bug 测试）里，它拿了 79 分，同门的上一代是 75.6，同尺寸的 Qwen3.6-35B-A3B 是 73.4。在终端操作类测试 Terminal-Bench 2.1 上，它跑出 67.8，对手是 52.5，差距相当明显。

更关键的是它的“动手能力”。它不只是会聊天，还能自己拆任务、调用工具、在命令行里一步步把活干完——你可以理解成：以前你请的是一位只会给建议的顾问，现在这位顾问会自己打开电脑、翻文件、改代码，干完再跟你汇报。

三、真正的账单：模型是“住”在内存里的

很多人对本地大模型有个误解，以为它像软件一样，装完就躺在硬盘里，用的时候才拿出来。

不是的。模型运行的时候，是整包搬进内存常驻的，而且每吐出一个字，都要把这一大坨数据反复搬运、反复计算。它不是“偶尔看一眼”，是“每一秒都在疯狂翻书”。

这台 35B 在不同压缩档位下的体积，摆出来更直观：

• 原汁原味的 BF16 版本，约71GB；
• 画质几乎无损的 Q8 版本，约37.8GB；
• 折中的 Q6、Q5，分别约29.2GB和25.3GB；
• 最常用的 Q4_K_M，也要21.7GB。

注意，这只是模型的“身体”。还没算上它思考时需要的“草稿纸”——上下文缓存。这代模型支持最长 26 万 token 的上下文，相当于一次性能吞下一整本技术手册。可这本手册也是要占地方的，你聊得越长、塞的资料越多，内存占用就一路往上爬。

所以 128GB 内存不是浪费，是被上下文和系统一起吃掉的。而烧内存，恰恰就发生在“模型拼命搬数据 + 内存条长期高负荷”这个组合上。

四、烧的不是内存，是三个被忽视的细节

第一，是持续满载的散热。普通办公时内存条几乎是闲着的，跑大模型时它变成全场最忙的零件，连续几小时满负荷读写，温度一直顶在高位。很多机器的内存插槽就在显卡旁边，本来风道就差，再叠上显卡的热浪，等于给内存条盖了床被子。

第二，是内存超频。不少人装机时开了 XMP/EXPO，让内存跑到标称高频，日常用没问题。但长期高温高负载下，本来就吃紧的时序和电压裕量被一点点耗尽，稳定性最先崩的就是它。

第三，是供电和插槽的“短板效应”。四条内存插满、主板供电一般、电源又长期高负载，任何一环顶不住，先出问题的往往是最脆弱的那根。

说白了，大模型不是“吃显卡的怪兽”，它更像一个住进你家、每天24小时开着暖气还不关门的房客——你不只要给它房间，还得给它通风、供电、降温。

五、上车前的硬件体检清单，照着对一遍

如果你真想在自己电脑上跑这台 35B，别急着下载模型，先花十分钟做个体检：

内存容量：Q4 版本 21.7GB，32GB 内存能不能跑？能，但只能小心翼翼聊天，系统和其他软件一挤就爆。想舒服地用长上下文，64GB 起步，128GB 才算宽裕。

内存通道：这点最容易被忽略。同样容量，双通道比单通道快一大截，四通道更好。带宽不够，模型不是跑不动，是慢得让你怀疑人生。

散热风道：打开机箱看看内存条有没有被显卡热风直吹，机箱风扇是不是只进不出。跑模型时摸一摸内存条温度，烫手就说明该加风道了。

超频设置：第一次跑大模型，建议先把内存超频关掉，用默认频率跑稳了再说。稳定比那一点点频率值钱得多。

电源余量：整机长时间满载，电源长期贴着极限跑不是好事，留出两三成余量更安心。

硬盘速度：模型动辄二十几 GB，每次启动都要从硬盘整包读进内存。机械硬盘会让你等到怀疑人生，固态是底线。

别拿笔记本硬刚：轻薄本散热本就吃紧，长时间满载跑模型，最先喊疼的往往不是内存，是整机的温度和寿命。

六、普通人到底该不该上车？

说句实在话：如果你只是想体验一下，不必一上来就啃 35B。

官方同系列还有个 9B 的小号版本，甚至有能在手机上跑的量化版，日常问答、写文案、改代码片段完全够用。等你确认自己真的会天天用、真的需要它处理长文档和复杂任务，再考虑升级硬件上 35B，这才是理性的顺序。

至于怎么上手，现在已经非常简单：图形界面的 LM Studio 点几下就能加载，命令行工具一行指令也能起服务，完全不需要懂代码。真正花时间的从来不是“怎么装”，而是“硬件扛不扛得住”。

回到那根烧坏的内存条。它其实在提醒所有人一件事：AI 本地化最大的门槛，早就不是软件，而是你桌子底下那台机器的耐力。

省下的会员费，可能一次硬件维修就还回去了。

那么问题来了：你愿意为了一个完全属于自己、不上传任何隐私的 AI，去升级内存和散热吗？还是觉得云端随用随走更香？评论区聊聊你的选择。