算力租赁市场里的那些二手 H100 到底能撑多久

大家都在盯着英伟达新出的架构，讨论 B200 什么时候能大规模铺货，但我最近在复盘算力租赁和数据中心资产折旧的时候，发现一个被大多数人忽视的逻辑：AI GPU 的实际生命周期可能远比大家预想的要长。

很多人有个误区，觉得大模型迭代太快，算力需求每半年就翻倍，所以手里的卡很快就会变成“电子垃圾”。但如果从硬件物理属性和算力边际效应来看，这种观点站不住脚。

首先，算力需求是金字塔结构的。顶尖的训练任务确实需要最新的 Hopper 或 Blackwell 架构来榨取每一比特的吞吐量，但全球 80% 以上的推理任务（Inference）其实根本不需要最顶级的卡。对于很多中小型企业或者做垂直领域微调的场景来说，哪怕是上一代的 A100 甚至是 V100，只要显存带宽够大、算力能跑通，它们的性价比依然极高。

其次，算力成本的逻辑正在发生偏移。

• 物理寿命： 数据中心级的 GPU 设计寿命本身就是针对高负载连续运行优化的，三年时间对于这种工业级硬件来说，仅仅是刚过“磨合期”。
• 推理侧需求爆发： 随着 AI Agent 和端侧应用的普及，全球会产生海量的推理请求。这些请求对延迟的要求很高，但对绝对算力的需求并不一定要用最贵的卡去堆，这种“算力下沉”会直接延长旧款显卡的残值。
• 租赁市场的套利空间： 当大厂在抢购 B200 时，二三线云服务商会大量收购降价的 A100/H100，构建专门针对推理任务的低成本集群。

我观察到一个现象，现在的算力部署逻辑已经从单纯的“追新”转向了“精细化配置”。如果你现在手里有存量算力，千万别觉得三年后就没用了。只要你的工作流（Workflow）能优化好显存占用，通过一些量化技术（Quantization）把模型压缩下去，旧卡的剩余价值挖掘空间其实非常巨大。

现在的市场节奏是：训练用最新的，推理用性价比最高的。这种结构性的错位，决定了 AI GPU 不会像消费级显卡那样迅速贬值。