輝達EGX EDGE AI平臺 爲所有企業的邊緣挹注智慧
NVIDIA (輝達) 今天宣佈引領全球的科技公司廣泛採用 NVIDIA EGX 人工智慧 (AI) 平臺,爲企業和邊緣資料中心帶來一波安全且經 GPU 加速的軟體、服務與伺服器。
數百傢俱有遠見的AI、5G、CloudRAN、安全與網絡公司,皆與主流的伺服器製造商合作,包括戴爾科技 (Dell Technologies)、浪潮 (Inspur)、聯想 (Lenovo) 和美超微 (Supermicro),軟體基礎架構供應商如Canonical、Cloudera、紅帽 (Red Hat)、SUSE 和 VMware 也運用NVIDIA EGX平臺來幫助企業將AI帶入邊緣。
全球規模最大的產業都將受益於 EGX 平臺,並能快速且有效率地大規模部署 AI,包括製造、醫療保健、零售、物流、農業、電信、公共安全和廣播媒體。
NVIDIA 亦宣佈 EGX 平臺將在單一 PCIe 卡上結合 NVIDIA Ampere GPU 和 BlueField-2 DPU 的功能,爲企業建構安全、加速的資料中心通用平臺。BlueField-2 DPU 包含功能強大的 Arm CPU 核心,可創造一個可信賴區域以在 GPU 中運行 AI 推論模型。
NVIDIA 創辦人暨執行長黃仁勳在 GPU 技術大會的主題演講中宣佈了此消息並表示,世界各地的公司將運用 AI 來改善其業務的各個層面。爲了支援這個大規模的轉變,NVIDIA 創造了一個加速運算平臺,協助公司將其資料中心現代化並能恣意部署 AI。
EGX 平臺的核心是 NVIDIA NGC 所提供經過優化的 AI 軟體堆疊,該軟體目錄擁有一系列專爲特定行業提供的 AI 工具包和預先訓練的模型,從而讓在 NVIDIA 認證的系統中建構和部署 AI 應用變得更加容易。
一流的 AI 軟體供應商使用 NVIDIA AI 應用程式框架,來建構並部署醫療保健、零售、物流和智慧城市解決方案,包括 Deep North、Everseen 和 Whiteboard Coordinator。
NVIDIA vGPU 軟體產品和 GPUDirectR RDMA 技術使 NVIDIA GPU 能夠以全頻寬發送和接收資料,以達到最高效能。
爲了協助企業大規模部署 AI,NVIDIA 與 Canonical、Cloudera、紅帽、SUSE 和 VMware 等一流的平臺公司合作,爲旗艦產品虛擬化、操作系統、Kubernetes 和資料分析平臺在裸機或虛擬環境中運行時,專爲 NVIDIA AI 軟體進行全面優化。
未來的企業資料中心不會在同一個地點設置 10,000 臺伺服器,而會在 10,000 個不同的地點建置一臺或多臺伺服器,包括在辦公大樓、工廠、倉庫、基地臺、學校、商店和銀行。
爲了簡化並確保在這些伺服器上大規模部署 AI 應用和模型的安全,NVIDIA 宣佈一項名爲 NVIDIA Fleet Command? 新服務的早期試用計劃,此混合雲平臺將邊緣運算的安全性和即時處理功能與遠端管理及軟體即服務 (SaaS) 相結合。
Fleet Command 透過統一的控制平臺集中管理分佈廣闊的伺服器,包括工廠、醫院、零售商店甚至城市街道。Fleet Command 的一鍵式配置、無線軟體更新、遠端管理和詳細的監控儀表板使營運團隊能更輕鬆地減輕 IT 負擔,以充分運用其 AI 應用並提高營運效率。
全球供應鏈解決方案的領導者凱傲集團 (KION Group) 是最早試用 Fleet Command 的公司,該公司使用 NVIDIA EGX AI 平臺爲其智慧倉庫系統開發 AI 應用,進而提高零售配送中心的運量和效率。
此外,在伊利諾州排名第一、全美排名前十的西北紀念醫院 (Northwestern Memorial Hospital) 正與 Whiteboard Coordinator 合作,將 Fleet Command 用於其 IoT 感測器平臺,並在其診間和醫療中心運用電腦視覺、語音辨識和藍牙追蹤功能。
Whiteboard Coordinator 執行長暨董事總經理 Andrew Gostine 表示,Whiteboard Coordinator 與引領業界的醫療保健服務供應商合作,可以隨時隨地從雲端存取他們的應用程式、伺服器和軟體部署。透過 NVIDIA Fleet Command,我們只需要點幾下即可橫跨多家醫院、遠端部署並安全地管理一整套醫療保健 AI 應用。這讓我們能用更多時間專注於爲病患提供價值,而非花費數小時在管理基礎架構。