算力大戰 臺積日月光受惠

生成式AI的主體運算在於透過GPU進行機器學習後的訓練及推論,輝達2020年推出Ampere架構A100,目前已被大量運用在大型資料中心、專業繪圖、雲端及邊緣運算等領域,而輝達2022年推出新一代Hopper架構H100,配備最新的第四代NVLink互連技術,能夠支撐巨型AI語言模型、深層推薦系統、基因體學運算、及複雜的數位孿生等運算。

輝達Ampere架構A100採用臺積電7奈米制程,內含542億顆電晶體,至於Hopper架構H100採用臺積電4奈米制程,內含800億顆電晶體,特別強化AI加速運算。

業界推算,每千萬名生成式AI每日活躍用戶(Daily Active User,DAU)所需求算力,約等同於2.4~3.0萬顆資料中心GPU,換算需要350~400片12吋晶圓產能,隨着算力需求的持續提升,臺積電將直接受惠。

由於GPU運用在AI運算的關鍵在於記憶體頻寬,業界目前都是採用先進封裝技術將GPU及記憶體整合在單一封裝,臺積電提供InFO及CoWoS等先進封裝,日月光投控VIPack先進封裝平臺也推出FOPoP量產服務,可望順利承接生成式AI帶動的GPU先進封裝新訂單,包括京元電、中華精測、穎崴等亦成爲系統級測試及測試介面重要合作伙伴。

再者,生成式AI系統除了仰賴GPU提供核心運算,AI加速器及客製化演算法亦扮演重要角色,也需配合高速傳輸介面及高速網路來強化資料傳輸。

法人看好創意、世芯-KY、智原、M31、力旺等設計服務及矽智財(IP)業者可望受惠,包括提供AI系統整合的宜鼎、光通訊晶片供應商宏觀、高速網路晶片廠瑞昱及亞信、USB高速介面的創惟及威鋒等也可望順利打進供應鏈。