「AI」今天让AI盘点我的本地模型数量——在还未安装显卡的时候，我就在本地跑过16种模型。用CPU愣跑，试问还有谁。什么叫激情。我不玩大型游戏，也不需要渲染，自然也从没有买过显卡，但为了AI，近日又顶着涨价、被割韭菜的势头弄了一张老黄的旧卡，三零九零。就是七千的时候我没买，咣咣涨到九千时候我下单了。

选择显卡的时候我看两条线，最低24G，最好32G，这个值很重要。在这个指标下，要么魔改卡，甚至可以上到48G，但那个有点坑。要么选择苏妈的32G，但我暂时懒得用Linux，TB级的环境迁移不是开玩笑的。要么老黄的新卡，仅要4万还无保修，这一代的问题还多。所以最后就是这个了。我对它的期待就是能用一年，之后我再换更大的，或者直接新组一台AMD的。现在最重要的，是解锁全链路的本地模型，经验和学习最重要。

验收的过程非常轻松，就让AI接手全部的测试，远程就测试完了。卡刚装上我就注意到，我的32G内存也成为瓶颈了，因为涉及到模型卸载。于是又买了64G，组成48+48的双通道。我没想到DDR4竟然这么贵，单条16G和单条32G有价差。等96G内存如果也不够，我就把两个16G的再换成两个32的，128G也够了。

我这个台式机起初只是备用机，作为冷资料存储。Agent来了以后增加了跑云端模型，重做系统，C盘改2T，完全作为AI主机。现在随着电源换到1200瓦，主板换到Z790，现在根本用不完。像m2硬盘位前几年是比较紧俏的，小主板一般只带一个，现在原生支持4个，拓展起来就更多了。这样我把淘汰下来的500G硬盘作为虚拟机独立盘了，完美解决了虚拟机会在后台持续读写、伤硬盘的问题。就这样陆续改一改，这台最初的备用小主机，配件价格已经超过3万了，是顶着史上价格最高的周期逆势而为。

逆势而为是迫不得已，很多模型跑下来，云端跑个遍，我发现唯一的缺口就是本地计算了。不能真用CPU跑吧。瓶颈就是一步步发现的。就像即使在两个月前，我也不会觉得我的内存不够用；就像我一直有几十TB的存储，也不会觉得不够用；一向都是有冗余、每逢涨价甚至还可以卖一波的——假如会去卖的话——但是随着形势的变化，就不够了。

计算卡则不然。现在的开源模型非常强大，社区也非常强大。地球上有无数技术精英们致力于不断用更低的硬件资源产生更大的效能。所以同样的一张卡，你根本不知道明天能够做什么。我是一步步看着它们越来越能承担更重的任务和智能。当我主要是用云端、还用CPU跑了16种本地模型的时候，我觉得这24G能被我跑冒烟。下一个主机我锁定AMD和更大的DDR5和显存，大概率直接转向AMD，因为现在编译也不成问题，社区又如此强大。问题在于DDR5别那么贵，一万多只买个内存，或者只够一个固态，这终究有点小可爱。

云端，本地，热读取，冷存储，随着一张卡的到来和内存的升级，它彻底闭环了。把文件系统整理和写了新的规则之后，刚才我跑了一个TTS，生成的速度比语音的读速快。我感觉到上千种模型正在对我的AI挥手。是的，当然是云端AI去对本地AI发号施令，要是没什么事我不要亲自“下基层”，做规则控制就行了。

现在，已经没有理由阻挡云端和本地24小时跑模型。如果它们没有24小时运行，那就是我的责任。