【算力豪车的终极凡尔赛：本地跑 DeepSeek 到底有多快】Alec Fong 展示了在单台 GB300 规格的 DGX Station 上运行 DeepSeek V4 Flash 的性能：峰值总吞吐量达到 1875 tok/sec，单流速度 300 tok/sec，处理 128k 的超长上下文时，首字延迟仅需 5 秒。这种数据表现几乎将本地推理的性能拉到了云端服务的高速水平，意味着长文本处理不再有明显的等待感。这是一场关于算力资产化与服务租赁的典型博弈。社区评论中，理性派认为花 10 万美元买硬件不如投进标普 500 用分红付 API 费，毕竟模型迭代太快，硬件折旧惊人；而技术派则痴迷于这种“Token 自由”带来的掌控感。最值得关注的视角在于，这种设备模糊了生产力工具与奢侈品的界限。对于追求绝对隐私和极致低延迟的特殊场景来说，这种暴力美学提供的不再是性价比，而是不被云端接口限流、完全私有的数据处理主权，这也是为什么即便价格昂贵，它依然是技术圈眼中的顶级图腾。 X原文: alecqfong/status/2085484123855155295