當前位置： 首頁 > 資訊 > 生活 >

微軟Azure宣布集成了英偉達針對AI應用程序的加速計算技術

時間：2023-08-10 10:19:32

(資料圖片)

編程客棧（）8月10日消息:微軟 Azure 宣布了其與英偉達的加速計算技術的集成，為生成式 AI 應用的訓練和部署帶來了進步。通過將 Azure ND H100v5虛擬機（VM）與英偉達 H100Tensor Core GPU 和 Quantum-2InfiniBand 網絡集成，用戶可以輕松地擴展他們的生成式 AI 和高性能計算應用。

微軟 Azure 和英偉達的合作正值開發(fā)者和研究人員探索大型語言模型（LLMs）和加速計算在各種消費者和商業(yè)用例中的潛力的關鍵時刻。

英偉達的 H100GPU 提供了超級計算級的性能，它具有第四代 Tensor Cores、用于加速 LLMs 的 Transformer Engine 和用于快速 GPU 間通信的 NVLink 技術。憑借令人印象深刻的3，200Gbps 跨節(jié)點帶寬，英偉達 Quantum-2CX7InfiniBand 的集成確保了 phpGPU 之間的無縫性能，使其與先進超級計算機的計算能力相媲美。

ND H100v5VMs 的引入為訓練和推斷復雜的 LLMs 和計算機視覺模型開辟了新的可能性。這些神經網絡為諸如問答、代碼生成、音頻、視頻、圖像合成和語音識別等應用提供了動力。

ND H100v5VMs 的突出特點是它們能夠在 LJoVmUxLM 推斷方面實現(xiàn)高達2倍的加速，這一點通過 BLOOM175B 模型得到了證明。這種性能的提升優(yōu)化了 AI 應用，并在各個行業(yè)推動了創(chuàng)新。

通過英偉達和微軟 Azure 的合作，企業(yè)獲得了無與倫比的 AI 訓練和推斷能js力。英偉達 AI Enterprise 軟件套件和 Azure MAChine Learning for MLOps 的集成簡化了生產 AI 的開發(fā)和部署。

此外，合作還通過將英偉達 Omniverse 平臺與 Azure 集成而延伸，為用戶提供了工業(yè)數字化和 AI 超級計算的工具。

微軟 Azure 和英偉達的加速計算技術的集成開啟了 AI 應用的新可能性，并使企業(yè)能夠利用生成式 AI 的潛力來滿足他們的特定需求。

標簽：

來源: 站長之家編輯: FN008