阿里AI研究成果入选国际顶会ICML 2020,AI推理速度提升3倍

云计算
近日,人工智能国际顶会ICML 2020公布了论文收录结果,阿里巴巴7篇论文入选,是入选论文数量最多的中国科技公司。ICML是机器学习领域全球最具影响力的学术会议之一,今年接受率仅为21.8%。

 近日,人工智能国际顶会ICML 2020公布了论文收录结果,阿里巴巴7篇论文入选,是入选论文数量最多的中国科技公司。ICML是机器学习领域全球最具影响力的学术会议之一,今年接受率仅为21.8%。

根据ICML官方显示,阿里7篇论文涵盖在图像识别、自然语言处理、搜索推荐等领域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一种全新的AI推理方法,可大幅减少AI对计算和内存资源的消耗,能将推理速度提升3倍。

近年来AI模型变得越来越复杂化,尤其是类似语言AI这类复杂模型,给计算、内存资源带来了新的挑战。目前,业界通用的解决方法是采用更先进的计算性能来运行AI任务,例如采用GPU、FPGA或者NPU等异构计算,但该方法并没有从根源上解决问题。

阿里巴巴达摩院设计出了一种“AI双脑思考”的方法,能让大型神经网络像人类一样学会“快思考”与“慢思考”,从而进行高效且准确的推理过程。

阿里

该方法被称为“双模推理”, 即将一个复杂任务拆分成两个任务,例如在复杂AI推理任务过程中,可以先以很小的资源运行“小网络”,同时分析哪些网络的区域较为敏感,然后只对敏感区域在“大网络”中运行计算。

达摩院的科学家从理论上证明了双模推理的可行性,且在CPU上实现了该方法。实际效果显示,该方法能在保证模型精度的基础上,在语言模型上减小40%的访存,达到1.54倍-1.75倍的性能提升,同时可以在仅损耗0.5%精度基础上,提升3倍的推理速度。

近年来,阿里在AI领域迎来了基础研究与产业应用成果双爆发的阶段。三年前,阿里巴巴成立了内部研究机构达摩院,深入AI研究前沿。据了解,阿里AI已在国际顶级技术赛事上获得了近60项世界第一,500多篇论文入选国际顶会。同时,阿里AI落地了多项重大研究成果,全面赋能各行各业。达摩院医疗AI团队疫情期间研发的AI诊断技术,已在全球近600家医院落地,完成50余万例临床诊断。

 

责任编辑:赵立京 来源: 51CTO
相关推荐

2021-05-24 17:02:40

数字化

2020-07-30 15:14:16

AI阿里SIGIR 2020

2023-03-21 09:19:42

技术图像

2020-12-03 14:49:13

AI 技术 人工智能

2022-07-12 10:37:08

阿里巴巴达摩院机器学习

2021-07-29 18:01:27

ICML机器学习格物钛

2023-12-25 09:07:50

AI人工智能Ferret

2019-06-17 17:15:11

腾讯数据库SIGMOD

2020-10-15 17:25:39

AI 阿里多媒体

2020-07-21 15:58:21

阿里网络通信

2024-08-12 08:20:00

自动化研究

2020-03-27 13:33:21

阿里安全AIAI模型

2021-09-02 10:15:50

计算平台MaxCompute 阿里云

2024-08-09 15:50:15

点赞
收藏

51CTO技术栈公众号