微软为人工智能工作负载扩展了Azure的GPU处理选项

人工智能2021-08-26 10:03:30
最佳答案微软正在向铁杆电脑游戏玩家寻求线索,并升级其图形硬件。然而,这家软件巨头并没有在电脑显示器上放置引人注目的视觉效果,而是加速了云上

微软正在向铁杆电脑游戏玩家寻求线索,并升级其图形硬件。然而,这家软件巨头并没有在电脑显示器上放置引人注目的视觉效果,而是加速了云上的人工智能(AI)工作负载。

该公司本周宣布,将微软GPU辅助虚拟机用于其AI应用的Azure客户将在今年晚些时候拥有更新、更快的性能选项。

利用计算机图形硬件制造商英伟达(Nvidia)的最新GPU创新技术,微软宣布推出全新ND系列Azure虚拟机,并承诺在当前产品上大幅提升性能。

像谷歌和其他使用图形处理单元(GPU)驱动人工智能的公司一样,微软也采用了这项技术来加速其云上的机器学习、深度学习和其他人工智能工作负载。GPU非常适合这些任务,这得益于适合AI应用的大规模并行微架构,而这些应用本质上通常是并行的。

微软Azure计算总监科里桑德斯(Corey Sanders)在5月8日发布的一份声明中表示:“这一新系列由基于新Pascal架构的Nvidia Tesla P40 GPU驱动,非常适合训练和推理。”这些例子提供了使用CNTK[微软认知工具包]、TensorFlow、Caffe等框架的AI工作负载,性能比上一代FP32(单精度浮点运算)高2倍。"

除了提高性能,新虚拟机还为具有更大AI野心的客户提供了更大的扩展空间。

“ND系列还提供了更大的GPU内存大小(24GB),这使客户能够适应更大的神经网络模型,”Sanders继续说道。“最后,像我们的NC系列一样,ND系列将提供RDMA和InfiniBand连接,因此您可以运行跨越数百个GPU的大规模训练工作。”InfiniBand是高性能、低延迟的网络标准,受到HPC环境的青睐。

ND系列虚拟机还可用于加速一些非AI、高性能计算工作负载。桑德斯补充说,候选人包括DNA测序、蛋白质分析和绘图。

目前数控系列产品正在升级。桑德斯说,新产品很快将被称为NCv2。它们由英伟达特斯拉P100 GPU支持,计算性能是其前身的两倍。

这篇博文为即将推出的ND系列和NCv2系列虚拟机提供了技术规范。

同时,随着基于云的AI解决方案的业务需求不断上升,微软面临着更加激烈的竞争。

今年2月,谷歌宣布将允许一些地区的云客户将英伟达GPU附加到他们的谷歌计算引擎虚拟机上。一个明显的好处是,客户不再需要构建或获取自己的GPU集群,并在数据中心为其腾出空间。二是利用系统的分布式方法训练机器学习模型所需的时间大大缩短。

去年秋天,亚马逊开始提供新的EC2(弹性计算云)实例,最多有16个英伟达图形处理器。该公司还推出了一个新的深度学习AMI (Amazon Machine Image),其中包括Caffe、MXNet、TensorFlow、antao和Torch框架。

免责声明:本文由用户上传,如有侵权请联系删除!