旧 GPU 是否还有生意，Ornn 把问题放回模型与利用率
Ornn Data 的开放权重推理经济性研究认为，新一代 GPU 上市并不会自动消除旧硬件的经济用途。在其样本中，A100 运行特定稀疏模型的估算成本低于 H100，但密集模型比较呈现不同排序。
作者：陈墨｜OC 产业与资本编辑
Ornn Data 的开放权重推理经济性研究认为，新一代 GPU 上市并不会自动消除旧硬件的经济用途。在其样本中，A100 运行特定稀疏模型的估算成本低于 H100，但密集模型比较呈现不同排序。
一句话结论：硬件是否划算取决于能承接的工作与实际利用率，家族租金曲线也不能直接证明单卡的寿命和残值。
这份9月7日研究采用租金与吞吐量估算，属于计算资源成本口径。文中明确披露：稀疏模型的 A100/H100 数据来自不同第三方服务设置，部分密集模型数据为估算，满负载结果也不包含完整服务运营成本。
因此，不能把某个每百万 token 数字直接拿去与商业 API 报价相减，宣布差额就是利润。闲置、冗余容量、运维、软件和服务质量都会影响最终成本。
研究另有一条值得保留的限制：租用率变化没有识别出开放权重需求的独立因果作用。分析者制作的远期价格指标也不是可立即成交的报价。Ornn 同时从事数据许可与 GPU 租赁，读者应知道其商业背景。
OC 认为，运营团队可以从具体负载倒推硬件：模型是否放得下，软件支持是否成熟，任务能否容忍排队，稳定吞吐能否维持。如果工作没有严格的低延迟要求，旧硬件可能有空间；但这需要工作负载与价格共同支持，不能靠芯片年龄作判断。
关键事实
- 研究对象：模型推理成本与 GPU 家族租赁指标。
- 测量限制：部分跨硬件数据并非相同设置下的配对实验。
- 财务边界：租赁服务指标不等于设备残值、盈利寿命或折旧结论。
OC 判断
“最新就是最省钱”和“旧卡还能用所以不必换”都过于粗糙。采购与调度应围绕真实任务成本展开，并保留对利用率和服务要求的敏感性分析。任何有吸引力的低价，都需要说明成立条件。
为什么重要
- 对基础设施团队：按模型与服务要求比较成本，避免只看峰值吞吐。
- 对产业观察者：区分租金指标、可成交报价与设备资产价值。
评论
围绕这篇文章补充信息、提出问题或分享观察。