铭鸿体育资讯网

DSpark真正值得关注的,不只是"更快",而是"更省"。大模型商业化最大的成本

DSpark真正值得关注的,不只是"更快",而是"更省"。

大模型商业化最大的成本之一就是推理,每一次用户提问都在消耗GPU资源。如果在不增加硬件的情况下,把吞吐量提升4倍,相当于同样一套服务器可以服务更多用户,企业的部署成本和运营成本都会明显下降。对于AI行业来说,训练决定模型上限,而推理效率决定商业化下限。DSpark的意义,更像是在补齐大模型落地的最后一公里。

DeepSeek新发布的DSpark有多强