8 月 8 日音讯,微软本年 3 月和英伟达协作,宣布推出 Azure ND H100 v5 VM 虚拟机预览版;通过数月的测试之后,微软今日正式推出该虚拟机,帮助企业更高效处理生成式 AI 任务。
此前报导,ND H100 v5 VM,是 Azure 迄今更强壮和高度可伸缩的 AI 虚拟机系列。
该虚拟机支撑的按需装备可达 8 至上千个通过 Quantum-2 InfiniBand 网络互连的 NVIDIA H100 GPU,使得 AI 模型的功能明显提高。相较上一代 ND A100 v4 VM,本次推出的虚拟机包括以下创新技能:
8 块 NVIDIA H100 Tensor Core GPU,通过下一代 NV Switch 和 NV Link 4.0 互连。
在无阻塞胖树网络中,每个 GPU 搭载 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的功能。
每个 VM 中的 8 块本地 GPUs 之间通过 3.8Tb / s 对切割带宽的 NV Switch 和 NV Link 4.0 互联。
第四代英特尔至强可扩展处理器。
PCIE 第 5 代主机到 GPU 互连,每个 GPU 带宽为 64Gb / s。
16 信道的 4800 MHz DDR5 内存。
新的虚拟机运用 NVIDIA 的 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络,当时仅限于美国东部和西部 Azure 企业访问。
微软弥补说,公司正在努力在明年为其虚拟机增加数十万块新的 GPU。
微软正式宣布该 Azure 虚拟机之外,还宣布扩展其 Azure OpenAI 服务,在加拿大东部、美国东部 2(East United States 2)、日本东部和英国南部地区上线。
微软表明 Azure OpenAI 服务客户已经超过 11000 名,本季度平均每天招引 100 名新客户。
这一显著的增长证明了我们的服务为渴望使用人工智能潜力满意其独特需求的企业带来的价值和可扩展性。
微软还弥补说,ChatGPT AI 渠道最强壮的版别 GPT-4 也将适用于新的 Azure OpenAI 服务区域。
相关阅览:
《微软 Azure ND H100 v5 VM 虚拟机预览发布:采用 8 至上千个 NVIDIA H100 Tensor Core GPU》