今天,国际权威AI基准测试MLPerf公布了年最新推理测试榜单。
图像分类性能测试中,阿里云震旦异构计算加速平台在通用GPU开放规则和离线场景下以每秒处理.8万张图片的成绩,打破了此前谷歌保持的世界纪录。
这将进一步提升图像识别、自动驾驶等场景下的计算效率,也是通用GPU计算平台上首次跑出超百万级的性能测试纪录。
震旦是阿里云自研的异构计算加速平台,可实现AI框架及算法的无缝迁移适配,支持云变端多场景快速部署,大幅提升AI应用开发效率。
在MLPerf最新版的图像分类测试中,震旦平台针对图像分类神经网络架构进行自动优化,在保证基准测试精度目标的同时,远超标准ResNet50v1.5的计算效率。
阿里云异构计算首席科学家、震旦加速平台负责人张伟丰博士透露,震旦对底层软件框架做了大量编译优化,可在同等硬件配置下发挥更高性能。
MLPerf推理性能的单卡测试结果显示,使用震旦加速平台的自动优化技术,在英伟达AI专用GPUA上跑出了比同级硬件高出80%的推理性能成绩;在其它AI加速芯片上,更可帮助提升超过%的性能。
震旦异构计算加速平台之所以在此次评测中取得如此优异成绩,得益于其出色的软硬件全栈优化能力:
·在顶层算法模型上,使用基于自动机器学习(AutoML)的模型设计方式,这种方式可以获得比人工设计更高效的模型。
·震旦基于MIT的先进的神经网络架构搜索算法Once-For-All,使用了基于强化学习的自研搜索算法获得了高性能子网络。
·通过INT8量化获得硬件加速继续提高性能,并在量化前进行深度重训练,以保证量化后的精度能够达到测试的精度要求。
上图为高性能子网络示意图,IRB即反转残差块(InvertedResidualBlock),是用于网络架构搜索的基本模块。每个反转残差块包括三层卷积算子,图上反转残差块的长度代表了该块的输出channel数量。
而基于震旦异构计算加速平台的机器学习模型自动优化技术,可应用在包括视觉处理在内的多个场景。
场景一:自动驾驶
以自动驾驶为例,车载计算机通过实时协同处理摄像头或雷达信息,正确感知行驶环境并据此做出反应。
目前先进的自动驾驶解决方案需要配备10路甚至更多的视觉和雷达装置,不断增加的外部传感数据处理对车机系统计算能力提出了挑战。
而采用震旦平台的软硬协同自动优化技术后,车载计算机的处理速度至少提升一倍,从而对行驶环境做出更加迅速的感知,并大幅提高自动驾驶的安全性。
场景二:电商
基于相同GPU硬件采用编译自动优化技术后,自动分类标记产品图像或者搜索图像效率大幅提升——服务器数量减少75%,通过图片关联的产品推荐速度提升5倍,用户购物体验更加流畅。
场景三:交通
目前,震旦异构计算加速平台已大规模应用于路口检测、以图搜图等场景。
应用了震旦加速平台的新一代路侧智能控制终端,交通参数检测准确率可达99%,帮助路口通行效率优化提升20%以上。
此外,该平台已通过阿里云弹性计算加速实例EAIS对外提供服务,具备配置灵活、弹性伸缩等特点,为用户提供高性价比的深度学习解决方案。
MLPerf
MLPerf是业内首套衡量机器学习软硬件性能的通用基准,由图灵奖得主DavidPatterson联合科技公司和全球顶级高校于年发起,已成为业界评测AI性能的最主流标准之一。
MLPerf基准联盟现有50多家成员,包括谷歌、阿里巴巴、微软、Facebook等及斯坦福、哈佛、多伦多大学等名校。
/END/
预览时标签不可点收录于话题#个上一篇下一篇