首页>数码 >内容

微软开始在Azure提供Graphcore AI晶片云端服务

数码2021-02-18 20:04:00
最佳答案

图片来源:

Graphcore

英国人工智慧晶片开发商Graphcore与微软合作,开发出了一款全新智慧处理单元(IPU),这块晶片在初期会主要应用于Azure云端,解决自然语言处理和电脑视觉领域的问题上。伴随IPU释出的Poplar软体堆叠,跟深度学习函式库TensorFlow以及ONNX模型格式整合,可良好支援现有的机器学习应用。

Graphcore解释IPU跟CPU和GPU的不同之处,IPU是一种平行处理器,经过重新设计具高度灵活性,可为现在的机器学习模型提供良好的效能,用来执行模型训练以及预测,Graphcore还提到,IPU除了可高效能执行複杂的模型之外,也能推动实现人工智慧领域的创新,高效率探索新技术,并让企业建立可用较少的资料训练的机器学习系统。

微软和Graphcore合作两年多,为Azure开发专门的系统,在IPU上强化电脑视觉与自然语言处理的模型。Graphcore表示,将IPU结合专门的Poplar软体堆叠一併使用,可提供可扩展且高效率的人工智慧解决方案。研究人员使用BERT语言模型进行实验,以一台具有8片IPU处理器PCIe卡的IPU伺服器系统,在56小时完成複杂的BERT Base模型训练,应用IPU系统让BERT模型的预测吞吐量高了三倍,延迟也少了20%,能更快速地交付运算结果。

而Poplar软体堆叠是研究人员与晶片一同开发,专为机器学习设计的图工具链,Poplar与TensorFlow以及ONNX格式良好整合,开发人员可以方便地使用现有的机器学习开发工具和机器学习模型,Graphcore也为ONNX提供了完整的训练Runtime,并且与ONNX组织紧密合作,要将该Runtime纳入成ONNX的标準执行环境中。另外,对PyTorch的支援也会在2019年的第四季提供,并在2020年初提供进阶支援。

目前Azure上Graphcore IPU预览版已经可供用户申请,目前会优先开放给自然语言处理创新应用的团队使用。

免责声明:本文由用户上传,如有侵权请联系删除!