富人靠科技，穷人靠变异--本地部署大模型（1）
2026年10月13日 · 3204 字 · 7 分钟
本地部署大模型，第一个门槛就是显存。24GB 的 RTX 4090 要一万多，48GB 的 A6000 更贵。预算够的话直接买就是了，不够就只能想别的办法——比如让显卡"变异"。
这个系列记录我用两张"变异"显卡搭本地大模型服务的过程：一张是魔改显存的 RTX 2080 Ti 22GB，一张是破解后的矿卡 CMP 170HX 40GB。这一篇先说说这两张卡的来历，以及我踩过的坑。
平台
先交代承载这两张卡的主机，它本身也是低成本路线的产物：华南金牌 X99-TF 主板（两条 PCIe 3.0 x16 插槽，容纳双卡加 NVLink 桥）、Xeon E5-2696 v3（18 核 36 线程，服务器拆机件）、四条 32GB DDR3 ECC REG 内存（共 128GB，1866MT/s，四通道全开，理论带宽约 60 GB/s），系统为 Ubuntu 26.04 LTS。推理的重活在显卡上，CPU 只负责调度和 offload；便宜量大的服务器内存则给后面的内存卸载方案留足了空间。
项目一：RTX 2080 Ti 22GB 显存魔改
来历
RTX 2080 Ti 是 2018 年的卡，TU102 核心，出厂 11GB GDDR6，由 11 颗 1GB 颗粒组成。2021 年，俄罗斯改装者 VIK-on 验证了扩容方案：把 1GB 颗粒全部换成 2GB 的（美光 MT61K512M32KPA-14:A），再刷修改过的 VBIOS，显存就能翻倍到 22GB。
到 2024 年，这个改造已经做成了流水线生意，国内外都有维修商公开接单：拆卡、热风枪重植 BGA 颗粒、调电阻、刷定制 VBIOS。一张二手 2080 Ti 一千三左右，加上改造费，就能得到一张 22GB 显存的推理卡。
为什么选它
本地部署选卡，容量比算力重要。我要跑的 27B 量化模型需要 20GB 上下的显存，原版 11GB 放不下，22GB 刚好够。352-bit 位宽、616 GB/s 的带宽放到今天也还能看。
代价
魔改卡最大的问题是没有统一的品质标准：颗粒靠手工拆焊，各家作坊的工艺差很多，改完也没有质保。社区的共识是认准 A 核心（TU102-300A），也就是官方开放超频的版本，体质普遍比非 A 核心好。
我先后买了两张 22GB 魔改卡，打算组双卡，还配了一只 NVLink 桥接器：
两张 2080 Ti 22GB 分别成交于 ¥1879.82 与 ¥1988.82，NVLink 桥接器 ¥401。
两张卡只差一百多块，稳定性却完全不同。便宜的那张是非 A 核心（TU102-300），到手后故障不断。拆修时发现散热背板是被暴力撬坏后重新装上去的，也就是社区说的"拼好卡"——拿故障卡的核心配上全新物料当新卡卖。更要命的是，改装商漏贴了 VRM 供电区域的导热垫：
拆去散热器后的故障卡：左上方为 GPU 核心，中部一排 LR22 电感即 VRM 供电区域。
供电长期高温，最后烧出了显存颗粒的固定物理坏点，这张卡就此退役；另一张 300A 核心的涡轮卡一直稳定用到现在。
项目二：CMP 170HX 矿卡破解
来历
CMP 170HX 是 NVIDIA 在 2021 年矿潮顶峰推出的专用矿卡（同年 9 月量产），出身不低：GA100 核心，和数据中心旗舰 A100 同款芯片，7nm 工艺、542 亿晶体管、70 个 SM、4480 个 CUDA 核心，HBM2e 显存直接封装在核心旁边。
但出厂时 NVIDIA 加了三重限制：
- 显存：只开放 8GB 或 10GB（两个版本，PCI ID 分别是 20c2 和 2082）
- PCIe：限制为 Gen1 x4（物理接口是 x16），挖矿无所谓，干别的就是瓶颈
- 算力：部分 SM 被固件关掉，FP32 乘加受限
再加上无显示输出、被动散热（依赖机架风道）、用 CPU 8pin 供电，矿难之后这卡基本没人要——破解工具出现之前，二手价一度跌到 100～250 美元。
破解：cmpunlocker
2026 年，开源项目 cmpunlocker 把局面改了。它不动硬件、不刷 VBIOS，而是利用 GA100 Falcon BootROM 的固件签名漏洞，给 nvidia-open 开源内核模块打补丁后重新编译，在驱动加载阶段重写配置：解开显存限制、释放 SM 算力、把 PCIe 恢复到 Gen2。
两个版本解锁后的结果不一样，选购时这点最关键：
| 8GB 版（20c2） | 10GB 版（2082） | |
|---|---|---|
| 解锁后显存 | 64GB | 40GB |
| HBM 显存块 | 4 块 | 5 块 |
| 显存位宽 | 4096-bit | 5120-bit |
| 显存带宽 | 约 1.2 TB/s | 约 1.5 TB/s（实测 1591 GB/s） |
看起来 8GB 版更划算（64GB > 40GB），但注意第二行：10GB 版有 5 个显存块。HBM 的带宽随堆栈数量线性增长，5 块比 4 块多出 25% 的位宽和带宽。大模型推理的 decode 阶段基本吃显存带宽，所以 10GB 版容量小一些，带宽反而更高。我手上这张就是 10GB 版。
破解流程简述：装受支持的 610 系驱动 → 用 driver/build.sh 按当前驱动版本重编补丁模块 → 配置 PCIe Gen2 重训练服务 → 断电冷启动（漏洞在加电 POST 阶段触发，reboot 没用）→ 40GB 生效。维护上有个长期的麻烦：内核或驱动一升级，补丁模块就失效，破解跟着"还原"，所以我写了个开机自检重建服务兜底。
破解的硬上限
PCIe 的限制要分两层看。代际锁在 Gen2 是熔丝决定的，软件到此为止，有效带宽约 1.6 GB/s；x4 的位宽则是另一回事——PCB 上有 12 颗交流耦合电容出厂时就没焊，属于硬件减料，理论上补回去就能恢复 x16。社区已经有人这么干了：补齐电容后跑到 Gen2 x16，实测传输约 6.6 GB/s，翻了四倍。
我也动过这个念头，电容都买回来了，最后还是作罢。一来电容封装太小，焊盘又压在散热器下面，要焊得先把整张卡拆开，手焊这种小件的难度和风险都不低；二来 Gen2 x4 对我的用法基本够用——推理时权重常驻显存，decode 不经过 PCIe，这条通道只在模型加载和内存卸载时才是瓶颈。收益对不起拆卡的风险，改装就此搁置。
图形通道则是硬件级阉割，不在解锁范围内。这些限制基本决定了 170HX 能干什么，后面的架构选型几乎都是围着这个瓶颈转的。
散热改造：暴力风扇与 ESP32 温控
170HX 是被动散热，原本靠服务器机架的强力风道，装进普通机箱就得自己想办法。我买了一套第三方双风扇（4 线 PWM 温控）：
双暴力风扇套装，4 线温控 PWM，实付 ¥82.44。
风扇装上了，还差转速控制：4 线风扇调速要一路 25 kHz 的 PWM 信号，主板上没有可用的风扇控制引脚，显卡自己也没有风扇接口。解决办法是拿一块 ESP32 来产生 PWM 波：
- 主机上的 Python 脚本每 2 秒用
nvidia-smi读一次 GPU 温度，按温度-转速曲线插值算出目标占空比（35°C 以下 30%，78°C 以上 100%），通过 USB 串口发给 ESP32； - ESP32 把占空比转成 25 kHz PWM 信号驱动风扇；超过 10 秒收不到指令（脚本异常、系统卡死之类）就自动拉到 100% 转速兜底；
- 脚本注册为 systemd 服务
fan-control.service，开机自启，异常退出自动重启。
这套"软件温控"成本不到一百块，温控效果本身和显卡原生方案没什么区别：待机时基本没有声音，满载风力也够。只是满载时的噪音确实不小——这台机器因此被挪到了别的房间，日常全部通过 SSH 访问。
矿卡是不是真的被"榨干"了？
买矿卡最大的顾虑是"挖矿 24 小时连轴转，卡早废了"。对 170HX 来说这个说法不太成立：
- 挖矿时间很短。170HX 于 2021 年 9 月量产，2022 年 9 月 15 日以太坊合并转 PoS，显卡挖矿就此终结，这张卡真正挖矿的时间至多一年。之后三年多基本没有经济价值（二手价跌到一两百美元就是证明），大量库存处于闲置状态。
- 挖矿工况没那么伤卡。矿工的成本大头是电费，所以普遍会主动限功耗运行——170HX 标称 250W TDP，实际挖矿平均功耗约 205W。Ethash 是显存密集型算法，核心负载不高，持续受压的主要是显存。
- 使用环境未必差。被动散热决定了它必须放在有强力风道的矿场机架里，正规矿场的散热条件比多数家庭机箱好。
所以 170HX 的典型履历是：限功耗挖一年，然后闲置三年。比起被玩家长期超频使用的游戏卡，体质未必更差。当然这只是概率上的判断——矿卡没质保，个体差异永远存在，到手先跑一遍显存测试（比如 memtest_vulkan）是必要的。
当前行情
cmpunlocker 在 2026 年夏天传开之后，170HX 的价格就涨起来了：8GB/10GB 版从一两百美元涨到 1000 美元以上，国内闲鱼上 64GB 解锁版的中位价到了 14000 元左右。即便如此，和正规渠道 40GB 显存的价格比，它还是低成本路线里最划算的选择之一。
我这张 10GB 版是 IDC 服务器下架卡，成交价 ¥9949.75：
小结
我的"变异"组合最终是：CMP 170HX 40GB（破解矿卡）+ RTX 2080 Ti 22GB（幸存的 300A 核心魔改卡），合计 62GB 显存，总成本不到一张 4090 的零头。