今年三月,AWS和NVIDIA宣布,AWS將支援NVIDIA在2024年GTC大會上推出的新一代NVIDIA Blackwell GPU平台。AWS將提供NVIDIA GB200 Grace Blackwell Superchip超級晶片和B100 Tensor Core GPU,並延續雙方長期的策略合作夥伴關係,旨在為客戶提供安全、先進的基礎設施、軟體及服務,助力客戶啟動新一代生成式AI的能力。
NVIDIA與AWS將持續提供各自的領先技術,包括具備NVIDIA最新多節點系統的下一代NVIDIA Blackwell平台和AI軟體,以及AWS的Nitro系統、具備領先安全性的AWS Key Management Service(AWS KMS)金鑰管理服務、千萬億位元級的Elastic Fabric Adapter(EFA)網路和Amazon EC2 UltraCluster超大規模叢集等技術。基於上述技術打造的基礎設施和工具,使客戶能夠在Amazon EC2上以更快速度、更大規模、更低成本地對其建構和執行數萬億參數的大型語言模型(LLMs)進行即時推論,效能相較於配備前一代NVIDIA GPU的EC2執行個體有顯著改進。
AWS執行長Adam Selipsky表示:「我們雙方的深入合作可以追溯到13年前,當時我們共同推出了世界上第一個AWS上的GPU雲端執行個體,而今天我們為客戶提供了最廣泛的NVIDIA GPU解決方案。NVIDIA的下一代Grace Blackwell處理器是生成式AI和GPU運算領域的標誌性事件。當結合AWS強大的EFA網路、Amazon EC2 UltraClusters的超大規模叢集功能,以及我們獨有的AWS Nitro高級虛擬化系統及其安全功能時,我們就能夠使客戶更快、更大規模且更安全地建構和執行具有數萬億參數的大型語言模型。」
NVIDIA創辦人暨執行長黃仁勳表示:「人工智慧正在以前所未有的速度推動新應用、新商業模式和跨產業的創新。我們與AWS的合作正在加速新的生成式AI能力的發展,並為客戶提供前所未有的運算能力,以開創無限可能。」