AI新創 搶兆美元大餅

AI新創公司另闢蹊徑搶商機,期望撼動AI晶片市場版圖。(路透)

美國晶片大廠輝達(Nvidia)成功帶起人工智慧(AI)晶片熱潮、並贏得第一輪AI大戰後,除了各家晶片大廠都想與輝達爭鋒,諸多AI晶片新創公司也另闢蹊徑,着眼提供運算管道、提高系統運算能力及節能等利基,搶食這塊規模預估1兆美元的市場大餅,期望撼動市場版圖。

道瓊社報導,過去以打造遊戲顯卡聞名的輝達,已把AI晶片市場做大,超微(AMD)執行長蘇姿豐已估算AI晶片市場到2027年時將達4,000億美元,英特爾(Intel)執行長基辛格也預測相關商機到2030年時將增至1兆美元,引發超微、英特爾及高通等大型晶片製造商,還有云端運算供應商和新創公司爭搶市場。

新創公司聚焦其他面向,例如Cerebras系統公司把所有運算能力集結到一顆龐大的半導體,再把晶片包裹到CS-3運算平臺,但不是直接賣晶片,而是銷售使用其系統的管道,客戶包括葛蘭素史克(GSK)、Mayo Clinic及Lawrence Livermore國家實驗室。

Cerebras已在3月發表該公司迄今最大的晶片-72平方英吋的WSE-3,遠大於輝達H100晶片的約0.25平方英吋。Cerebras的晶片有4兆顆電晶體,運算能力是H100的50倍。

Groq創辦人羅斯曾在開發Google AI晶片扮演重要角色,他表示,Groq系統運算Meta的Llama 2-70b等模型的速度,是輝達系統的十倍快。

Groq也不銷售晶片給硬體和雲端業者,而是根據使用運算平臺的時間收費。

d-Matrix聚焦於資料中心內的AI推論應用,使用名爲「記憶體內運算」的設計,以加快運算速度,預料明年開始銷售晶片。

SambaNova也從系統下手,除了晶片,該公司也集結54種開源碼的AI模型,客戶涵蓋銀行、醫療保健及政府等領域。

已獲OpenAI執行長奧特曼支持的Rain AI,特別聚焦於節能以及在邊緣裝置運行大型語言模型,Lightmatte則以光子技術提高AI資料中心的網路速度。

不過,這些新創公司雖擁有重大構想,卻仍小規模經營,可能要花上多年才能槓上輝達,只是若進展加速,依然有望強力吸金並賺進更多營收。