英伟达H100交货时间从4个月降至8-12周

H100 AI GPU的供应限制问题有望解决了。

 

据Digitimes报道，戴尔台湾地区总经理Terence Liao报告称，英伟达（Nvidia）H100 AI GPU的交付周期在过去几个月中已从3-4个月缩短到仅2-3个月（8-12周）。服务器 ODM 显示，与 2023 年相比，供应终于有所缓解，当时几乎不可能获得 Nvidia 的 H100 GPU。

尽管交货时间缩短，但Terence Liao表示，对具有人工智能功能的硬件的需求仍然非常高。具体来说，人工智能服务器的购买正在取代企业中的通用服务器购买，尽管人工智能服务器的成本非常高。但是，他认为采购时间是造成这种情况的唯一原因。

2-3 个月的交付窗口是 Nvidia H100 GPU 的最短交货时间。就在6个月前，交货时间达到了 11 个月，这意味着英伟达的大多数客户不得不等待一年才能完成他们的 AI GPU 订单。

进入2024年以来，交货时间显著缩短。首先，我们看到今年早些时候大幅减少到 3-4 个月。现在，交货时间又缩短了一个月。按照这个速度，我们可以看到交货时间在年底或更早之前完全消失。

这种行为可能是一些公司拥有过剩的 H100 GPU并转售部分供应以抵消未使用库存的高昂维护成本的连锁反应的结果。此外，AWS 使通过云租用 Nvidia H100 GPU变得更加容易，这也有助于缓解部分 H100 需求。

唯一在供应限制中苦苦挣扎的英伟达客户是像OpenAI这样的大公司，它们正在开发自己的LLM。这些公司需要数以万计的 GPU 来快速有效地训练他们的 LLM。

好消息是，这应该不会成为长期的问题。如果交货时间继续呈指数级缩短，就像过去4个月一样，英伟达最大的客户应该能够获得他们需要的所有GPU，至少在理论上是这样。

CoWoS封装产能是关键

交货时间缩短，表明台积电扩增的CoWoS封装产能开始释放。据悉，台积电要在2024年底前将相关产能从2023年中的水平增加一倍，从目前的情况来看，台积电及其合作伙伴的CoWoS产能扩增进展快于预期，使得以H100为代表的高性能GPU交货时间大幅缩短。

产业人士分析，从2023年7月到年底，台积电积极调整CoWoS封装产能，已逐步扩充并稳定量产，去年12月，台积电CoWoS月产能增加到1.4万~1.5万片。

虽然台积电在积极扩产，但只有这一家的产能还是无法满足市场需求，因此，英伟达已经在2023年向台积电以外的专业封测代工厂（OSAT）寻求帮助，主要包括日月光和安靠（Amkor），其中，安靠在2023年第四季度已开始提供相关产能，日月光投控旗下矽品也于2024年第一季度开始供应CoWoS封装产能。

2024年，AI芯片用先进封装产能依然会供不应求，包括台积电、日月光、安靠、力成、京元电在内的专业封测代工厂，将会在今年扩大资本支出，以布局先进封装产能。

根据台积电的扩产节奏，预计到今年第四季度，该晶圆代工龙头的CoWoS月产能将大幅扩充到3.3万~3.5万片。

今年，日月光的资本支出规模将同比增长40%~50%，其中，65%的投资用于封装，特别是先进封装项目。日月光投控营运长吴田玉表示，今年的先进封装与测试营收占比会更高，AI相关先进封装收入将翻倍，今年相关营收至少增加2.5亿美元。力成也在扩大先进封装产能，该公司董事长蔡笃恭表示，下半年将积极扩大资本支出，规模有望达到100亿元新台币。力成主要布局扇出型基板封装（fan out on substrate）技术，整合ASIC和HBM先进封装，在AI用HBM内存方面，力成有望在今年第四季度量产相关产品。为满足CoWoS封装后的晶圆测试需求，今年，京元电相关晶圆测试产能将扩充两倍。

H100转售潮

随着交货周期的缩短，一些之前囤积了H100的公司开始考虑转售其过剩的库存。这一现象在AWS、谷歌云和微软Azure等大型云服务提供商的影响下尤为明显。这些公司提供了便捷的芯片租赁服务，使得用户无需大量购买和囤积硬件，从而降低了成本并提高了灵活性。

尽管H100的可用性有所改善，但AI芯片的需求仍然旺盛，尤其是在训练大型语言模型（LLM）的领域。

英伟达作为全球领先的GPU制造商，在AI芯片市场占有重要地位。然而，随着AMD、Intel等公司在AI芯片领域的不断投入和发展，市场竞争愈发激烈。

随着AI技术的广泛应用，AI芯片市场正迎来快速增长期。尽管AI芯片供应问题有所缓解，但市场需求仍然旺盛，市场竞争依然激烈。英伟达等公司在扩大生产规模、提高供应链效率的同时，也需要关注竞争对手的动态和市场变化，以应对未来可能出现的挑战和机遇。