amicConv其是CVPR2024的最新改进机制这个论文中介绍了一个名为ParameterNet的新型设计原则它旨在在大规模视觉预训练模型中增加参数数量同时尽量不增加浮点运算FLOPs所以本文的DynamicConv被提出来了使得网络在保持低FLOPs的同时增加参数量从而允许这些网络从大规模视觉预训练中获益下面的图片为V10n和利用了DynamicConv的训练精度对比图本文内容包含详细教程

专栏回顾YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备

一、本文介绍

Convolution是《DynamicConv.pdf》中提出的一种关键技术旨在增加网络的参数量而几乎不增加额外的浮点运算FLOPs。

以下是关于动态卷积的主要信息和原理

主要原理

动态卷积通过对每个输入样本动态选择或组合不同的卷积核称为experts来处理输入数据。

这种方法可以视为是对传统卷积操作的扩展它允许网络根据输入的不同自适应地调整其参数。

在动态卷积中不是为所有输入使用固定的卷积核而是有多个卷积核或参数集并且根据输入的特性动态选择使用哪个核。

这种选择通过一个学习得到的函数例如使用多层感知机MLP和softmax函数来动态生成控制各个卷积核贡献的权重。

其中表示卷积操作是通过一个小型网络如MLP动态计算得出的这个小网络的输入是全局平均池化后的特征。

参数效率高通过共享和动态组合卷积核动态卷积可以在增加极少的计算成本的情况下显著增加模型的参数量。

适应性强由于卷积核是针对每个输入动态选择的这种方法可以更好地适应不同的输入特征理论上可以提高模型的泛化能力。

资源使用优化动态卷积允许模型在资源有限的环境中如移动设备部署更复杂的网络结构而不会显著增加计算负担。

动态卷积的设计思想突破了传统卷积网络结构的限制通过动态调整和优化计算资源的使用实现了在低FLOPs条件下提升网络性能的目标这对于需要在计算资源受限的设备上运行高效AI模型的应用场景尤为重要。

三、核心代码

activation.super().__init__()self.conv

nn.Conv2d(c1,

self.act(self.bn(self.conv(x)))def

forward_fuse(self,

num_experts4):super().__init__()#

print(,

torch.sigmoid(self.routing(pooled_inputs))x

self.cond_conv(x,

Bottleneck_DynamicConv(nn.Module):#

Standard

expansionsuper().__init__()self.c

int(c2

nn.ModuleList(Bottleneck_DynamicConv(self.c,

self.c,

list(self.cv1(x).split((self.c,

self.c),

第一还是建立文件我们找到如下ultralytics/nn文件夹下建立一个目录名字呢就是Addmodules文件夹(用群内的文件的话已经有了无需新建)然后在其内部建立一个新的py文件将核心代码复制粘贴进去即可。

4.2

第二步我们在该目录下创建一个新的py文件名字为__init__.py(用群内的文件的话已经有了无需新建)然后在其内部导入我们的检测头如下图所示。

4.3

第三步我门中到如下文件ultralytics/nn/tasks.py进行导入和注册我们的模块(用群内的文件的话已经有了无需重新导入直接开始第四步即可)

从今天开始以后的教程就都统一成这个样子了因为我默认大家用了我群内的文件来进行修改

4.4

https://docs.ultralytics.com/tasks/detect#

Parameters

https://docs.ultralytics.com/tasks/detect#

Parameters

大家可以创建一个py文件将我给的代码复制粘贴进去配置好自己的文件路径即可运行。

import

warnings.filterwarnings(ignore)

from

YOLO(ultralytics/cfg/models/v8/yolov8-C2f-FasterBlock.yaml)#

loading

weightsmodel.train(datar替换数据集yaml文件地址,#

如果大家任务是其它的ultralytics/cfg/default.yaml找到这里修改task可以改成detect,

segment,

posecacheFalse,imgsz640,epochs150,single_clsFalse,

是否是单类别检测batch4,close_mosaic10,workers0,device0,optimizerSGD,

using

如果出现训练损失为Nan可以关闭ampprojectruns/train,nameexp,)

5.4

到此本文的正式分享内容就结束了在这里给大家推荐我的YOLOv10改进有效涨点专栏本专栏目前为新开的平均质量分98分后期我会根据各种最新的前沿顶会进行论文复现也会对一些老的改进机制进行补充如果大家觉得本文帮助到你了订阅本专栏关注后续更多的更新~

专栏回顾YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备