5月15日消息,近日,有傳聞顯示,為了應對市場(chǎng)對于其高性能GPU需求的增長(cháng),英偉達已向臺積電追加了1萬(wàn)片晶圓的訂單,這也意味著(zhù)到今年底前,臺積電每個(gè)月需額外提供英偉達1000至2000片基于CoWoS技術(shù)的晶圓。
受ChatGPT掀起全球生成式AI熱潮影響,中國的百度、阿里巴巴、騰訊、科大訊飛、商湯科技等眾多相關(guān)業(yè)者也在積極布局,這也使得高性能GPU芯片因供不應求,價(jià)格水漲船高.
有報道顯示,據英偉達的代理商透露,其A100芯片價(jià)格已經(jīng)從去年12月開(kāi)始上漲,截至今年4月上半個(gè)月,五個(gè)月價(jià)格累計漲幅達37.5%;同期,英偉達面向中國大陸市場(chǎng)的A800芯片的價(jià)格漲幅累計達到了20%。
另外,受去年美國限制高性能芯片出口中國的政策影響以及市場(chǎng)需求旺盛,使得GPU交貨周期被拉長(cháng)。此前拿貨大約要等一個(gè)月,現在基本都得三個(gè)月,部分新訂單甚至可能要到今年12月才能交付。
此前報道顯示,中國大陸目前可用于訓練AI大模型的A100大約有40000至50000片,供應相當吃緊。據曾擔任華為系自然語(yǔ)言處理企業(yè)的首席科學(xué)家陳巍測算,中國境內A100級別的GPU芯片缺口約在30萬(wàn)片左右。目前部份中國云端服務(wù)廠(chǎng)商已下令嚴格限制內部使用這些先進(jìn)芯片,以將其保留至需要強力運算的任務(wù)。
隨著(zhù) NVIDIA CUDA 平臺在 AI 和其他高性能工作負載中的廣泛采用,數十家主要客戶(hù)依靠該公司的硬件來(lái)運行他們的 AI 應用程序。就在昨天,谷歌宣布推出新的 A3 超級計算機,配備 26000 塊 NVIDIA H100 加速器和 26 個(gè) exaflops 的 AI 功能。
有傳聞稱(chēng),今年初百度曾緊急下單3000臺包含8片英偉達A800 GPU的服務(wù)器(相當于2.4萬(wàn)片A800芯片),預計全年會(huì )有A800和H800共5萬(wàn)片需求。同時(shí),阿里云預計今年需要約10000片GPU芯片,其中6000片是H800,4000片是A800。目前英偉達A800、H800正遭到包括服務(wù)器、互聯(lián)網(wǎng)廠(chǎng)商爭搶。