「H100 是不是突然从所有网站上消失了？」

X 使用者 Jino Rohit 发出的这个疑问在社交媒体上迅速扩散，引发了 AI 圈的广泛共鸣。就连曾参与创立 OpenAI、被无数开发者奉为学习标杆的 Andrej Karpathy 也忍不住发声，感叹 H100 的获取难度正在成为人们参与 AI 研究和学习的真实瓶颈。

H100 为什么“消失”？

如果你在今年年初尝试从 AWS、Google Cloud 或 Azure 的标准渠道租用 H100，大概率会碰壁。

价格飙升——成本成新门槛

SemiAnalysis 在今年发布的报告用一句话类比了这种荒诞：「找 GPU 算力就像在最终一班飞机起飞前订机票 —— 价格奇高，座位几乎没有。」

数字明问题的严重程度：

• H100 SXM5 的一年期租约合同价格。从 2023 年 1 月的 $0.25 美元/小时/GPU低点，一路飙升至 2024 年 6 月的 $0.78 美元/小时/GPU涨幅接近 百分之二百一十。
• SiliconData 的 H100 超大规模指数在 5 月底进一步跳涨至 $12,000/台/月。

交付周期延长——项目被迫延期

Spheron 的数据显示，H100 SXM5 的交货周期普遍在 8–12 周之间；H200 更长，超过 16 周；而最新的 B200 已被预订至 2025 年下半年。

一家 AI 研究机构描述了切身遭遇：原本预算 $200 万美元的 Q2 训练任务，在找不到预留算力的情况下转向按需定价后成本飙升至 $400–600 万美元 —— 如果还能找到算力的话。

数据中心紧张——资源已被抢占殆尽

美国证券交易委员会文件显示。截至 2024 年初，北美数据中心空置率已降至历史最低的 1.8%。全球 AI 相关支出预计在 2025 年达到 $1.1 万亿美元。同比增长约 45%. 行业市场上所有计划在2024年7月至12月上线的算力，报道称已被全部预订一空。老实说，

是谁把算力抽走？——大买家锁定产能

微软、谷歌、Meta、亚马逊等巨头在 2023 年相继签下数十亿美元的 Blackwell GPU前置订单，将英伟达 2024 年全年乃至 2025 年初的大部分可用产能基本锁定。这种提前准备直接把中型公司和学术研究者挤出了正规采购渠道。

• Nvidia GPU 前置订单规模：
  • OpenAI 承诺部署至少 50 GW 的 Nvidia 程序。
  • An​thropic 将采用约 30 GW 的 Grace‑Blackwell 容量。
  • Morgan Stanley 预测，仅 Nvidia 网站的 AI 服务器机柜需求。将从 2024 年约 120,000 台`跃升至 2026 年至少 -250,000 台`。
• #资源不对称： 超大规模云厂商和资金雄厚实验室在危机真正爆发前的一两年里通过远期合同锁定供应，而其他所有人只能竞争未被预留的现货和按需算力。怎么说呢，

从真正的瓶颈来看，不是 GPU，而是内存与封装工艺

The HBM 短缺——高带宽内存供不应求

Spheron 指出。 这是一场「两个根本原因」导致的结构性问题：TSMC 的 CoWoS 封装产能已被全部占满，SK 海力士的 HBM 产量无法跟上需求。其实，

TSMC CoWoS 封装——卡脖子工序亦紧缺

T​SMC 的 CoWoS技术是将 HBM 键合到 GPU 基板上的关键工艺。目前该封装产能已被预订至至少 **2025** 年中期，有部分订单甚至可见度延伸至 **2026** 年。

• "CoWoS 是 GPU 出货量的最大瓶颈". 即便芯片制造工艺正常，也无法突破封装限制来提高整体供应。

Cascading Effects——连锁反应让整个环境受创

消费级 GPU 削减——行业市场干涸

Nvidia 在 2024 上半年将 RTX 系列产量削减了 **30% 至 50%**，主要因为 GDDR7 内存供应紧张还有公司战略向数据中心 SKU 倾斜。消费级玩家一样面临显卡稀缺、价格飞涨的问题。

Lending Cost Surge——租价传导成本上涨

Kubernetes 等云网站即使拥有库存。也因硬件采购成本提高而把这部分费用转嫁给使用者，使得 H100 按需租金保持高位，未因 Blackwell 出现而出现降价现象。

Ecosystem Ripple——内存紧缺波及全链路

The shortage of HBM also pushes pressure onto ordinary DRAM。LPDDR and even CPU markets. 正如《机器之心》报道，「256G 内存比 RTX5090 更贵」，普通使用者也开始为 AI 买单。

Affected Parties——谁在受伤？

从C中小团队来看。被迫重新规划项目进度

The Academic & Independent Researchers—门槛正在资本化

Karpathy 的担忧触及主要：当 H100 成为事实标准，却只向巨头开放，「参与 AI」已由技术水平转向资本实力。高校实验室、独立科研者还有早期创业团队面临的是实际不可逾越的算力壁垒。

Coping Strategies——应对办法

A. 向专属算力云迁移

AWS、Google Cloud、Azure 等通用云网站在算力紧张时优先保障自家 AI 产品和头部公司客户。对中小使用者提供的不稳定按需算力促使新型「Neo‑cloud」崛起，如 CoreWeave、Lambda、Spheron 与 Hyperstack，它们专注于 GPU 提供，没有内部业务竞争，所以库存和可用性具结构性优势。

B. 利用 Spot 实例减少成本

报道称。一支 **8 人** 团队借助 Spot 实例，将一个 **70B 参数模型** 的训练成本控制在约 **$120k** 左右。

• NVIDIA 新增 FP4 微缩放格式进一步压缩显存占用。
• 80%–90%5–10 倍. )

Avoid single‑vendor lock‑in by distributing workloads across two to three cloud providers and configuring automatic failover policies. 当某网站突发断供时可快速切换到备用节点保障业务连续性。老实说，

li> SK 海力士与美光正持续扩充 HBM³e 与 HBM⁴产能。新产能预计将在2025 年逐步爬坡并于下半年后明显缓解供应紧张。li> TSMC 同步扩大 CoWoS 高级封装线，在2025 年每月约150k片晶圆。并于2026 年底提高至200k–250k片晶圆，但仍难满足激增需求。li> NVIDIA 下一代 Rubin 架构计划于2025 下半年推出。但因 HBM⁴验证周期延长、ConnectX 网络升级适配还有液冷程序复杂度提高，其在高端GPU 出货中的占比从20% 下调至12%。li> Blackwell 系列将在短期继续担当主力，以 GB300/B300 为代表。将占 NVIDIA2024 高端GPU 出货量约55%。

li>

---

---