国科大提出CNN和Transformer双体基网模型 准确率高达84.1%

新闻 人工智能
Transformer和CNN在处理视觉表征方面都有着各自的优势以及一些不可避免的问题。因此,国科大、鹏城实验室和华为研究人员首次将二者进行了融合并提出全新的Conformer模型。

[[416636]]

Transformer和CNN在处理视觉表征方面都有着各自的优势以及一些不可避免的问题。因此,国科大、鹏城实验室和华为研究人员首次将二者进行了融合并提出全新的Conformer模型,其可以在不显著增加计算量的前提下显著提升了基网表征能力。论文已被ICCV 2021接收。

卷积运算善于提取局部特征,却不具备提取全局表征的能力。

为了感受图像全局信息,CNN必须依靠堆叠卷积层,采用池化操作来扩大感受野。

Visual Transformer的提出则打破了CNN在视觉表征方面的垄断。

得益于自注意力机制,Visual Transformer (ViT、Deit)具备了全局、动态感受野的能力,在图像识别任务上取得了更好的结果。

但是受限于计算复杂度,Transformer需要减小输入分辨率、增大下采样步长,这造成切分patch阶段损失图像细节信息。

因此,中国科学院大学联合鹏城实验室和华为提出了Conformer基网模型,将Transformer与CNN进行了融合。

Conformer模型可以在不显著增加计算量的前提下显著提升了基网表征能力。目前,论文已被ICCV 2021接收。

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

论文地址:https://arxiv.org/abs/2105.03889

项目地址:https://github.com/pengzhiliang/Conformer

此外,Conformer中含有并行的CNN分支和Transformer分支,通过特征耦合模块融合局部与全局特征,目的在于不损失图像细节的同时捕捉图像全局信息。

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

特征图可视化

对一张背景相对复杂的图片的特征进行可视化,以此来说明Conformer捕捉局部和全局信息的能力:

  1. 浅层Transformer(DeiT)特征图(c列)相比于ResNet(a列)丢失很多细节信息,而Conformer的Transformer分支特征图(d列)更好保留了局部特征;
  2. 从深层的特征图来看,DeiT特征图(g列)相比于ResNet(e列)会保留全局的特征信息,但是噪声会更大一点;
  3. 得益于Transformer分支提供的全局特征,Conformer的CNN分支特征图(f列)会保留更加完整的特征(相比于e列);
  4. Transformer分支特征图(h列)相比于DeiT(g列)则是保留了更多细节信息,且抑制了噪声。

网络结构

Conformer是一个并行双体网结构,其中CNN分支采用了ResNet结构,Transformer分支则是采用了ViT结构。

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

网络结构图

(c)展示了Conformer的缩略图:一个标准的ResNet stem结构,两条并行分支,两个分类器。

(b)展示了每个block中Trans和Conv的连接关系:以2个bottleneck为例,经过第一个bottleneck 3x3卷积后的局部特征经过特征耦合模块(FCU)传给Transformer block。

Transformer block将此局部特征与前一个Trans block的全局特征相加通过当前的trans block,运算结束后再将结果通过FCU模块反传给Conv block。

Conv block的最后一个bottleneck将其与经过1x1卷积后的局部特征相加,一起输入3x3卷积。

之所以将Transformer block夹在两个3x3卷积之间的原因有两个:

  1. bottleneck中3x3卷积的channel比较少,使得FCU的fc层参数不会很大;
  2. 3x3卷积具有很强的位置先验信息,保证去掉位置编码后的性能。

实验结果

Conformer网络在ImageNet上做了分类实验,并做为预训练模型在MSCOCO上做了目标检测和实例分割实验。

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

分类准确率对比

参数量为37.7M,计算量为10.6GFlops的Conformer-S超过了参数量为86.6M,计算量为17.6GFlops的DeiT-B 约1.6%的准确率。

当Conformer-S增大参数量到83.3M,准确率则是达到84.1%。

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

不同基网在分类速度和准确率上的对比:

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

目标检测和实例分割结果的对比

运行帧率为:

国科大提出首个CNN和Transformer双体基网模型 准确率高达84.1%

目标检测和实例分割帧率对比

在使用FPN+Faster Mask R-CNN框架时,Conformer-S/32在帧率/参数/计算量可比的情况下,目标检测精度超过Faster RCNN 3.7%,实例分割超过Mask R-CNN 3.6%。

分析总结

Conformer是第一个并行的CNN和Transformer混合网络,通过提出的特征耦合模块FCU在每个阶段的局部特征和全局特征都会进行交互,使得Conformer兼具两者的优势。

在分类上,能够以更小的参数和计算量取得更高的准确率,在目标和实例分割上也能一致地取得大幅度的提升。

目前Conformer只是在ImageNet1K数据集合上训练,其结合更大预训练数据(如ImageNet21K)集合以后将成为一种很有潜力的基网结构。

作者介绍

彭智亮、黄玮,中国科学院大学在读硕士生

顾善植,鹏城实验室工程师

王耀威,鹏城实验室研究员

谢凌曦,华为公司研究员

焦建彬、叶齐祥,中国科学院大学教授

责任编辑:张燕妮 来源: 新智元
相关推荐

2018-06-12 07:15:18

阿里巴巴技术语音识别

2023-05-04 09:39:16

AI模型

2018-06-08 15:51:56

CNN皮肤癌人工智能

2021-11-01 10:40:15

机器学习人工智能计算机

2020-10-09 08:31:00

AI

2023-12-04 13:23:00

数据训练

2023-06-21 09:15:30

AI 技术神经网络

2023-08-15 14:55:57

2023-08-08 13:54:15

2019-01-03 09:04:04

谷歌系统机器

2023-10-19 08:30:56

模型搜索

2023-09-25 10:04:37

模型AI

2017-09-26 14:07:16

2024-11-11 10:00:00

ChatGPT模型

2017-10-31 17:05:25

人工智能医疗领域诊断癌症

2022-01-10 23:57:36

人工智能语音识别技术

2023-08-07 11:41:44

2021-12-01 10:05:12

模型人工智能计算

2022-02-17 10:34:21

神经网络识别验证码
点赞
收藏

51CTO技术栈公众号