一個信號!蘋果官宣:在谷歌TPU上訓練其AI模型
財聯社7月30日訊(編輯 黃君芝)美東時間週一,蘋果公司發佈技術論文稱,支撐其人工智能(AI)系統“蘋果智能”(Apple Intelligence)的兩個AI模型,是在谷歌設計的雲端芯片上進行預訓練的。
分析人士指出,蘋果決定依賴谷歌的雲基礎設施是一個值得注意的信號,因爲在生產人工智能處理器方面目前還沒有公司能超過英偉達,英偉達佔據了大約80%的市場份額。
這表明,在訓練尖端人工智能方面,大型科技公司正在尋找英偉達以外的替代品。
蘋果在上述技術報告中詳細介紹了選擇谷歌自主開發的Tensor處理單元(TPU)進行訓練的情況。此外,蘋果還在週一爲部分設備發佈了Apple Intelligence的預覽版。
蘋果指出,其Apple Foundation Model(AFM)和AFM服務器是在“雲TPU集羣”上進行訓練的。這意味着蘋果租用了雲服務提供商的服務器來進行計算。
“這種系統使我們能夠高效且可擴展地訓練AFM模型,包括AFM設備端、AFM服務器和更大的模型。”該公司在報告中寫道。
具體而言,蘋果指出,爲了構建可以在iPhone和其他設備上運行的人工智能模型(即設備端AFM),蘋果使用了2048顆TPUv5p芯片。這是最先進的TPU,於去年12月首次推出。而在AFM服務器中,蘋果部署了8192個TPUv4處理器。
此外,在上述報告中,蘋果沒有明確表示它未使用英偉達的芯片,但它對其人工智能工具和功能的硬件和軟件基礎設施的描述中,均沒有提到英偉達的硬件。
據瞭解,與英偉達將其芯片和系統作爲獨立產品銷售不同,谷歌通過其谷歌雲平臺銷售TPU的使用權。有興趣購買訪問權限的客戶必須通過谷歌的雲平臺構建軟件才能使用這些芯片。
根據谷歌網站,最新的TPU在訂購期限爲三年時,每小時的使用成本不到2美元。谷歌於2015年首次推出TPU用於內部工作負載,並於2017年向公衆開放。它們現在是爲人工智能設計的最成熟的定製芯片之一。
而且,谷歌也是英偉達的主要客戶之一。它在訓練AI系統時使用了英偉達的GPU和自家的TPU,同時也在其雲上出售英偉達技術的使用權限。
蘋果的工程師在論文中表示,使用谷歌的芯片有可能製造出比論文中討論的兩種型號更大、更復雜的機型。該公司此前還表示,推理過程(即使用預訓練的AI模型生成內容或做出預測)將部分在其數據中心的自有芯片上進行。