达摩院无监督学习论文入选CVPR2022算法预训练节省超50%计算资源

业界
4月7日消息,国际AI顶会CVPR 2022近日公布最新论文入选结果,阿里巴巴共有48篇入选,创历年新高。

4月7日消息,国际AI顶会CVPR 2022近日公布最新论文入选结果,阿里巴巴共有48篇入选,创历年新高。其中,阿里达摩院在无监督学习领域的研究大幅提升算法训练效率,可减少50%的计算资源消耗以及59.6%的预训练时间。

CVPR与ICCV和ECCV并称计算机视觉方向的三大顶级会议

CVPR是计算机视觉领域的三大顶会之一,今年共收到全球 8100多篇论文投稿,最终2067篇被接收,接收率约为25%。官方信息显示,无监督学习是今年最热门的研究方向之一,包括Facebook、Google、卡内基梅隆大学等企业和机构都在此领域都推出了最新成果,阿里巴巴入选的48篇论文也有多篇展示了在该领域的进展。

不同于传统深度学习,无监督学习无需人力标注的数据即可完成模型的训练,让机器自动寻找数据中的规则,且具有更强的解释性。深度学习三巨头之一Yann LeCun曾表示该技术将带来下一次AI革命,然而目前业界提出的无监督算法框架需要大量机器资源,且算法性能和效率较低,极大地限制了该技术的应用。

达摩院无监督学习论文入选CVPR 2022

此次,达摩院在《Unsupervised Visual Representation Learning by Online Constrained K-Means》论文中设计了一种带约束在线聚类无监督学习框架,可解决上述难题。该算法使用图片的单一视图即可进行在线学习,从而大幅节约机器的算力、内存,并减少训练时间。

在公开数据集ImageNet上的实验结果显示,相比主流无监督算法,达摩院提出的方法可减少50%的计算资源消耗以及59.6%的预训练时间,仅需单机8卡GPU就能达到已有算法16卡的效果,同时精度逼近监督学习模型。未来该方法将应用于达摩院遥感影像分析平台AI Earth的地物分类和目标提取等任务中。

该论文作者、达摩院高级算法专家钱祺表示:“无监督学习能让AI更有洞察力,是AI走向通用人工智能的重要技术,我们希望通过「降本增效」的创新来助推这一技术的落地。”

据悉,达摩院在无监督学习、小样本学习等AI基础技术上累积的成果,将逐步通过阿里云对外输出。

责任编辑:企业商讯
相关推荐

2023-02-01 13:29:46

机器学习

2023-11-23 15:54:01

人工智能监督学习无监督学习

2020-04-28 17:26:04

监督学习无监督学习机器学习

2022-07-01 09:20:00

模型研究论文

2022-06-23 12:12:31

达摩院自动驾驶

2017-06-12 14:04:45

深度学习人工智能

2015-10-12 10:37:42

学习算法检测

2022-04-12 14:36:58

达摩院训练模型

2023-11-28 12:03:46

人工智能无监督学习算法

2022-06-14 07:07:57

网络威胁无监督数据泄露

2022-11-03 17:26:16

火山引擎

2019-03-29 14:10:35

无监督学习机器学习人工智能

2021-08-17 14:47:31

架构模型数据

2017-11-09 14:04:22

无监督学习数据缺失数据集

2023-12-01 16:27:05

机器学习无监督学习

2021-03-22 10:05:03

算法可视化大数据

2022-03-22 18:19:29

论文深度学习人工智能

2022-07-17 15:46:24

机器学习无监督学习算法

2022-05-20 15:28:25

3D算法

2022-05-13 11:05:00

网络威胁无监督学习网络攻击
点赞
收藏

51CTO技术栈公众号