英偉達H100交貨時間從4個月降至8-12周

H100 AI GPU的供應限制問題有望解決了。

 

據Digitimes報道，戴爾臺灣地區總經理Terence Liao報告稱，英偉達（Nvidia）H100 AI GPU的交付周期在過去幾個月中已從3-4個月縮短到僅2-3個月（8-12周）。服務器 ODM 顯示，與 2023 年相比，供應終于有所緩解，當時幾乎不可能獲得 Nvidia 的 H100 GPU。

盡管交貨時間縮短，但Terence Liao表示，對具有人工智能功能的硬件的需求仍然非常高。具體來說，人工智能服務器的購買正在取代企業中的通用服務器購買，盡管人工智能服務器的成本非常高。但是，他認為采購時間是造成這種情況的唯一原因。

2-3 個月的交付窗口是 Nvidia H100 GPU 的最短交貨時間。就在6個月前，交貨時間達到了 11 個月，這意味著英偉達的大多數客戶不得不等待一年才能完成他們的 AI GPU 訂單。

進入2024年以來，交貨時間顯著縮短。首先，我們看到今年早些時候大幅減少到 3-4 個月。現在，交貨時間又縮短了一個月。按照這個速度，我們可以看到交貨時間在年底或更早之前完全消失。

這種行為可能是一些公司擁有過剩的 H100 GPU并轉售部分供應以抵消未使用庫存的高昂維護成本的連鎖反應的結果。此外，AWS 使通過云租用 Nvidia H100 GPU變得更加容易，這也有助于緩解部分 H100 需求。

唯一在供應限制中苦苦掙扎的英偉達客戶是像OpenAI這樣的大公司，它們正在開發自己的LLM。這些公司需要數以萬計的 GPU 來快速有效地訓練他們的 LLM。

好消息是，這應該不會成為長期的問題。如果交貨時間繼續呈指數級縮短，就像過去4個月一樣，英偉達最大的客戶應該能夠獲得他們需要的所有GPU，至少在理論上是這樣。

CoWoS封裝產能是關鍵

交貨時間縮短，表明臺積電擴增的CoWoS封裝產能開始釋放。據悉，臺積電要在2024年底前將相關產能從2023年中的水平增加一倍，從目前的情況來看，臺積電及其合作伙伴的CoWoS產能擴增進展快于預期，使得以H100為代表的高性能GPU交貨時間大幅縮短。

產業人士分析，從2023年7月到年底，臺積電積極調整CoWoS封裝產能，已逐步擴充并穩定量產，去年12月，臺積電CoWoS月產能增加到1.4萬~1.5萬片。

雖然臺積電在積極擴產，但只有這一家的產能還是無法滿足市場需求，因此，英偉達已經在2023年向臺積電以外的專業封測代工廠（OSAT）尋求幫助，主要包括日月光和安靠（Amkor），其中，安靠在2023年第四季度已開始提供相關產能，日月光投控旗下矽品也于2024年第一季度開始供應CoWoS封裝產能。

2024年，AI芯片用先進封裝產能依然會供不應求，包括臺積電、日月光、安靠、力成、京元電在內的專業封測代工廠，將會在今年擴大資本支出，以布局先進封裝產能。

根據臺積電的擴產節奏，預計到今年第四季度，該晶圓代工龍頭的CoWoS月產能將大幅擴充到3.3萬~3.5萬片。

今年，日月光的資本支出規模將同比增長40%~50%，其中，65%的投資用于封裝，特別是先進封裝項目。日月光投控營運長吳田玉表示，今年的先進封裝與測試營收占比會更高，AI相關先進封裝收入將翻倍，今年相關營收至少增加2.5億美元。力成也在擴大先進封裝產能，該公司董事長蔡篤恭表示，下半年將積極擴大資本支出，規模有望達到100億元新臺幣。力成主要布局扇出型基板封裝（fan out on substrate）技術，整合ASIC和HBM先進封裝，在AI用HBM內存方面，力成有望在今年第四季度量產相關產品。為滿足CoWoS封裝后的晶圓測試需求，今年，京元電相關晶圓測試產能將擴充兩倍。

H100轉售潮

隨著交貨周期的縮短，一些之前囤積了H100的公司開始考慮轉售其過剩的庫存。這一現象在AWS、谷歌云和微軟Azure等大型云服務提供商的影響下尤為明顯。這些公司提供了便捷的芯片租賃服務，使得用戶無需大量購買和囤積硬件，從而降低了成本并提高了靈活性。

盡管H100的可用性有所改善，但AI芯片的需求仍然旺盛，尤其是在訓練大型語言模型（LLM）的領域。

英偉達作為全球領先的GPU制造商，在AI芯片市場占有重要地位。然而，隨著AMD、Intel等公司在AI芯片領域的不斷投入和發展，市場競爭愈發激烈。

隨著AI技術的廣泛應用，AI芯片市場正迎來快速增長期。盡管AI芯片供應問題有所緩解，但市場需求仍然旺盛，市場競爭依然激烈。英偉達等公司在擴大生產規模、提高供應鏈效率的同時，也需要關注競爭對手的動態和市場變化，以應對未來可能出現的挑戰和機遇。