论文相关内容介绍#xff1a;

论文摘要#xff1a;学习捕捉远程关系是图像/视频识别的…原论文地址原论文地址

DoubleAttention网络结构的优点在于它能够有效地捕获图像中不同位置和不同特征的重要性从而提高了图像识别和分割的性能。

论文相关内容介绍

论文摘要学习捕捉远程关系是图像/视频识别的基础。

现有的CNN模型通常依赖于增加深度来建模这种关系这是非常低效的。

在这项工作中我们提出了“双注意块”这是一种新的组件它从输入图像/视频的整个时空空间中聚集和传播信息全局特征使后续卷积层能够有效地从整个空间中访问特征。

该组件采用双注意机制分两步进行设计第一步通过二阶注意池将整个空间的特征聚集成一个紧凑的集合第二步通过另一个注意自适应地选择特征并将其分配到每个位置。

所提出的双注意块易于采用并且可以方便地插入现有的深度神经网络中。

我们对图像和视频识别任务进行了广泛的消融研究和实验以评估其性能。

在图像识别任务上配备我们的双注意力块的ResNet-50在ImageNet-1k数据集上的性能优于更大的ResNet-152架构参数数量减少了40%以上FLOPs也减少了。

在动作识别任务上我们提出的模型在Kinetics和UCF-101数据集上取得了最先进的结果效率显著高于最近的工作。

A2-Net与SENet有点类似但是不同点在于它的第一个注意力操作隐式地计算池化特征的二阶统计并能捕获SENet中使用的全局平均池化无法捕获的复杂外观和运动相关性

2.1

在/ultralytics/nn/modules/block.py添加代码到末尾

class

in_channels,c_m128,c_n128,reconstruct

True):super().__init__()self.in_channelsin_channelsself.reconstruct

reconstructself.c_mc_mself.c_nc_nself.convAnn.Conv2d(in_channels,c_m,1)self.convBnn.Conv2d(in_channels,c_n,1)self.convVnn.Conv2d(in_channels,c_n,1)if

self.reconstruct:self.conv_reconstruct

nn.Conv2d(c_m,

nn.Conv2d):init.kaiming_normal_(m.weight,

modefan_out)if

nn.BatchNorm2d):init.constant_(m.weight,

0)elif

nn.Linear):init.normal_(m.weight,

std0.001)if

cself.in_channelsAself.convA(x)

#b,c_n,h,wtmpAA.view(b,self.c_m,-1)attention_mapsF.softmax(B.view(b,self.c_n,-1))attention_vectorsF.softmax(V.view(b,self.c_n,-1))#

step

gatingglobal_descriptorstorch.bmm(tmpA,attention_maps.permute(0,2,1))

#b.c_m,c_n#

global_descriptors.matmul(attention_vectors)

#b,c_m,h*wtmpZtmpZ.view(b,self.c_m,h,w)

#b,c_m,h,wif

self.reconstruct:tmpZself.conv_reconstruct(tmpZ)return

tmpZ

在/ultralytics/nn/modules/block.py的头部all里面将”DoubleAttention加入到末尾

__all__

(DFL,HGBlock,HGStem,SPP,SPPF,C1,C2,C3,C2f,C2fAttn,ImagePoolingAttn,ContrastiveHead,BNContrastiveHead,C3x,C3TR,C3Ghost,GhostBottleneck,Bottleneck,BottleneckCSP,Proto,RepC3,ResNetLayer,RepNCSPELAN4,ADown,SPPELAN,CBFuse,CBLinear,Silence,DoubleAttention,)2.3在/ultralytics/nn/modules/__init__.py的头部

from

(C1,C2,C3,C3TR,DFL,SPP,SPPF,Bottleneck,BottleneckCSP,C2f,C2fAttn,ImagePoolingAttn,C3Ghost,C3x,GhostBottleneck,HGBlock,HGStem,Proto,RepC3,ResNetLayer,ContrastiveHead,BNContrastiveHead,RepNCSPELAN4,ADown,SPPELAN,CBFuse,CBLinear,Silence,DoubleAttention,

2.4

https://docs.ultralytics.com/tasks/detect#

Parameters