萹蓄

首页 » 常识 » 常识 » 每秒处理万张图片阿里云打破MLP
TUhjnbcbe - 2021/8/17 19:10:00
北京去哪个医院治疗白癜风比较好 http://pf.39.net/bdfyy/bdfyc/160315/4789140.html

今天,国际权威AI基准测试MLPerf公布了年最新推理测试榜单。

图像分类性能测试中,阿里云震旦异构计算加速平台在通用GPU开放规则和离线场景下以每秒处理.8万张图片的成绩,打破了此前谷歌保持的世界纪录。

这将进一步提升图像识别、自动驾驶等场景下的计算效率,也是通用GPU计算平台上首次跑出超百万级的性能测试纪录。

震旦是阿里云自研的异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云变端多场景快速部署,大幅提升AI应用开发效率。

在MLPerf最新版的图像分类测试中,震旦平台针对图像分类神经网络架构进行自动优化,在保证基准测试精度目标的同时,远超标准ResNet50v1.5的计算效率。

阿里云异构计算首席科学家、震旦加速平台负责人张伟丰博士透露,震旦对底层软件框架做了大量编译优化,可在同等硬件配置下发挥更高性能。

MLPerf推理性能的单卡测试结果显示,使用震旦加速平台的自动优化技术,在英伟达AI专用GPUA上跑出了比同级硬件高出80%的推理性能成绩;在其它AI加速芯片上,更可帮助提升超过%的性能。

震旦异构计算加速平台之所以在此次评测中取得如此优异成绩,得益于其出色的软硬件全栈优化能力:

·在顶层算法模型上,使用基于自动机器学习(AutoML)的模型设计方式,这种方式可以获得比人工设计更高效的模型。

·震旦基于MIT的先进的神经网络架构搜索算法Once-For-All,使用了基于强化学习的自研搜索算法获得了高性能子网络。

·通过INT8量化获得硬件加速继续提高性能,并在量化前进行深度重训练,以保证量化后的精度能够达到测试的精度要求。

上图为高性能子网络示意图,IRB即反转残差块(InvertedResidualBlock),是用于网络架构搜索的基本模块。每个反转残差块包括三层卷积算子,图上反转残差块的长度代表了该块的输出channel数量。

而基于震旦异构计算加速平台的机器学习模型自动优化技术,可应用在包括视觉处理在内的多个场景。

场景一:自动驾驶

以自动驾驶为例,车载计算机通过实时协同处理摄像头或雷达信息,正确感知行驶环境并据此做出反应。

目前先进的自动驾驶解决方案需要配备10路甚至更多的视觉和雷达装置,不断增加的外部传感数据处理对车机系统计算能力提出了挑战。

而采用震旦平台的软硬协同自动优化技术后,车载计算机的处理速度至少提升一倍,从而对行驶环境做出更加迅速的感知,并大幅提高自动驾驶的安全性。

场景二:电商

基于相同GPU硬件采用编译自动优化技术后,自动分类标记产品图像或者搜索图像效率大幅提升——服务器数量减少75%,通过图片关联的产品推荐速度提升5倍,用户购物体验更加流畅。

场景三:交通

目前,震旦异构计算加速平台已大规模应用于路口检测、以图搜图等场景。

应用了震旦加速平台的新一代路侧智能控制终端,交通参数检测准确率可达99%,帮助路口通行效率优化提升20%以上。

此外,该平台已通过阿里云弹性计算加速实例EAIS对外提供服务,具备配置灵活、弹性伸缩等特点,为用户提供高性价比的深度学习解决方案。

MLPerf

MLPerf是业内首套衡量机器学习软硬件性能的通用基准,由图灵奖得主DavidPatterson联合科技公司和全球顶级高校于年发起,已成为业界评测AI性能的最主流标准之一。

MLPerf基准联盟现有50多家成员,包括谷歌、阿里巴巴、微软、Facebook等及斯坦福、哈佛、多伦多大学等名校。

/END/

预览时标签不可点收录于话题#个上一篇下一篇
1
查看完整版本: 每秒处理万张图片阿里云打破MLP