AWS和輝達擴大合作 推動生成式AI創新

輝達。路透

輝達（NVIDIA）推出最新AI頂尖算力Blackwell GPU平臺，Amazon網路服務（AWS）表示，雙方合作，將AWS在生成式AI創新推向新高度。AWS將提供基於NVIDIA Grace Blackwell GPU的Amazon EC2實例和NVIDIA DGX Cloud，以提高在數萬億參數LLM（大語言模型）上建構和運行推論的效能。

NVIDIA的超強運算晶片系統與AWS強大的Elastic Fabric Adapte（EFA）網路連接能力、高級虛擬化（Amazon Nitro System）和超大規模叢集（Amazon EC2 UltraClusters）等領先技術的結合，使得該平臺在加速資源密集型、數萬億參數語言模型的推論工作負載方面實現了巨大進步。

在安全性方面，AWS的Nitro系統、AWS KMS、EFA加密和 Blackwell 加密的整合將爲客戶提供對其訓練資料和模型權重的端到端控制，進而爲客戶在AWS上的生成式AI應用程式提供更強的安全性。

AWS指出，Blackwell也加入了雙方合作的Project Ceiba，該專案專爲NVIDIA自身的AI研發工作設計，是一臺AWS上託管的採用DGX Cloud的AI超級電腦，搭載了20,736顆GB200 Superchips晶片，透過第四代EFA網路擴展，爲每個Superchip提供高達800 Gbps的低延遲、高頻寬網路傳輸量，能夠提供414 exaflops的運算能力，與之前計劃在Hopper架構上建構的Ceiba相比，效能提升了六倍。