微软为人工智能工作负载扩展了Azure的GPU处理选项

微软正在向铁杆电脑游戏玩家寻求线索，并升级其图形硬件。然而，这家软件巨头并没有在电脑显示器上放置引人注目的视觉效果，而是加速了云上的人工智能(AI)工作负载。

该公司本周宣布，将微软GPU辅助虚拟机用于其AI应用的Azure客户将在今年晚些时候拥有更新、更快的性能选项。

利用计算机图形硬件制造商英伟达(Nvidia)的最新GPU创新技术，微软宣布推出全新ND系列Azure虚拟机，并承诺在当前产品上大幅提升性能。

像谷歌和其他使用图形处理单元(GPU)驱动人工智能的公司一样，微软也采用了这项技术来加速其云上的机器学习、深度学习和其他人工智能工作负载。GPU非常适合这些任务，这得益于适合AI应用的大规模并行微架构，而这些应用本质上通常是并行的。

微软Azure计算总监科里桑德斯(Corey Sanders)在5月8日发布的一份声明中表示：“这一新系列由基于新Pascal架构的Nvidia Tesla P40 GPU驱动，非常适合训练和推理。”这些例子提供了使用CNTK[微软认知工具包]、TensorFlow、Caffe等框架的AI工作负载，性能比上一代FP32(单精度浮点运算)高2倍。"

除了提高性能，新虚拟机还为具有更大AI野心的客户提供了更大的扩展空间。

“ND系列还提供了更大的GPU内存大小(24GB)，这使客户能够适应更大的神经网络模型，”Sanders继续说道。“最后，像我们的NC系列一样，ND系列将提供RDMA和InfiniBand连接，因此您可以运行跨越数百个GPU的大规模训练工作。”InfiniBand是高性能、低延迟的网络标准，受到HPC环境的青睐。

ND系列虚拟机还可用于加速一些非AI、高性能计算工作负载。桑德斯补充说，候选人包括DNA测序、蛋白质分析和绘图。

目前数控系列产品正在升级。桑德斯说，新产品很快将被称为NCv2。它们由英伟达特斯拉P100 GPU支持，计算性能是其前身的两倍。

这篇博文为即将推出的ND系列和NCv2系列虚拟机提供了技术规范。

同时，随着基于云的AI解决方案的业务需求不断上升，微软面临着更加激烈的竞争。

今年2月，谷歌宣布将允许一些地区的云客户将英伟达GPU附加到他们的谷歌计算引擎虚拟机上。一个明显的好处是，客户不再需要构建或获取自己的GPU集群，并在数据中心为其腾出空间。二是利用系统的分布式方法训练机器学习模型所需的时间大大缩短。

去年秋天，亚马逊开始提供新的EC2(弹性计算云)实例，最多有16个英伟达图形处理器。该公司还推出了一个新的深度学习AMI (Amazon Machine Image)，其中包括Caffe、MXNet、TensorFlow、antao和Torch框架。