4月7日消息,国际AI顶会CVPR 2022近日公布最新论文入选结果,阿里巴巴共有48篇入选,创历年新高。其中,阿里达摩院在无监督学习领域的研究大幅提升算法训练效率,可减少50%的计算资源消耗以及59.6%的预训练时间。
CVPR与ICCV和ECCV并称计算机视觉方向的三大顶级会议
CVPR是计算机视觉领域的三大顶会之一,今年共收到全球 8100多篇论文投稿,最终2067篇被接收,接收率约为25%。官方信息显示,无监督学习是今年最热门的研究方向之一,包括Facebook、Google、卡内基梅隆大学等企业和机构都在此领域都推出了最新成果,阿里巴巴入选的48篇论文也有多篇展示了在该领域的进展。
不同于传统深度学习,无监督学习无需人力标注的数据即可完成模型的训练,让机器自动寻找数据中的规则,且具有更强的解释性。深度学习三巨头之一Yann LeCun曾表示该技术将带来下一次AI革命,然而目前业界提出的无监督算法框架需要大量机器资源,且算法性能和效率较低,极大地限制了该技术的应用。
达摩院无监督学习论文入选CVPR 2022
此次,达摩院在《Unsupervised Visual Representation Learning by Online Constrained K-Means》论文中设计了一种带约束在线聚类无监督学习框架,可解决上述难题。该算法使用图片的单一视图即可进行在线学习,从而大幅节约机器的算力、内存,并减少训练时间。
在公开数据集ImageNet上的实验结果显示,相比主流无监督算法,达摩院提出的方法可减少50%的计算资源消耗以及59.6%的预训练时间,仅需单机8卡GPU就能达到已有算法16卡的效果,同时精度逼近监督学习模型。未来该方法将应用于达摩院遥感影像分析平台AI Earth的地物分类和目标提取等任务中。
该论文作者、达摩院高级算法专家钱祺表示:“无监督学习能让AI更有洞察力,是AI走向通用人工智能的重要技术,我们希望通过「降本增效」的创新来助推这一技术的落地。”
据悉,达摩院在无监督学习、小样本学习等AI基础技术上累积的成果,将逐步通过阿里云对外输出。