在YOLOv11中嵌入Coordinate Attention坐标注意力模块

从一次漏检说起上周调一个产线缺陷检测模型小目标工件在图像边缘频繁漏检。常规的卷积操作对位置信息不敏感空间注意力又容易忽略通道关系。试了SE、CBAM都不够理想直到翻出Coordinate Attention那篇论文——这玩意儿对位置信息建模的方式有点意思正好拿来试试水。坐标注意力的核心思路Coordinate AttentionCA最大的特点是把通道注意力拆成两个方向水平与垂直。先做两个方向的全局池化分别捕捉横向和纵向的长距离依赖再合并成特征图做卷积。这样既保留了位置信息又建立了通道间关系计算量还不大。模块实现细节直接上代码我们写一个PyTorch版本的CA模块importtorchimporttorch.nnasnnclassCoordAtt(nn.Module):坐标注意力模块注意输入特征图的尺寸最好别太小def__init__(self,in_channels,reduction32):super().__init__()# 这里reduction别设太大小特征图容易崩reduced_channelsmax(8,in_channels//reduction)# 加个下限保平安self.pool_hnn.AdaptiveAvgPool2d((None,1))# 横向池化self.pool_wnn.AdaptiveAvgPool2d((1,None))# 纵向池化# 1x1卷积压缩通道数self.conv1nn.Conv2d(in_channels,reduced_channels,kernel_size1)self.bn1nn.BatchNorm2d(reduced_channels)self.actnn.ReLU(inplaceTrue)# 两个方向的特征卷积self.conv_hnn.Conv2d(reduced_channels,in_channels,kernel_size1)self.conv_wnn.Conv2d(reduced_channels,in_channels,kernel_size1)# 初始化权重这里用kaiming初始化比较稳forminself.modules():ifisinstance(m,nn.Conv2d):nn.init.kaiming_normal_(m.weight,modefan_out)ifm.biasisnotNone:nn.init.constant_(m.bias,0)defforward(self,x):identityx# 残差连接用n,c,h,wx.size()# 横向池化分支x_hself.pool_h(x)# 输出形状: [n, c, h, 1]# 纵向池化分支x_wself.pool_w(x).permute(0,1,3,2)# 输出形状: [n, c, w, 1]转置一下对齐# 拼接两个方向的特征ytorch.cat([x_h,x_w],dim2)# [n, c, hw, 1]yself.conv1(y)yself.bn1(y)yself.act(y)# 重新拆分成两个方向y_h,y_wtorch.split(y,[h,w],dim2)y_wy_w.permute(0,1,3,2)# 转置回来# 生成注意力权重att_htorch.sigmoid(self.conv_h(y_h))att_wtorch.sigmoid(self.conv_w(y_w))# 应用注意力outidentity*att_h*att_wreturnout几个关键点池化操作后记得做转置对齐reduction别贪心通道数太少效果会打折残差连接必须加不然训练容易崩。集成到YOLOv11的BackboneYOLOv11的CSPDarknet53结构比较规整我习惯加在C3模块后面classC3_CA(nn.Module):C3模块后面接CA实测这个位置效果最好def__init__(self,c1,c2,n1,shortcutTrue):super().__init__()self.c3C3(c1,c2,n,shortcut)# 原版C3模块self.caCoordAtt(c2)# 坐标注意力defforward(self,x):xself.c3(x)xself.ca(x)# 注意这里顺序先C3再CAreturnx替换的时候要小心通道数对齐。建议从浅层开始加比如替换第2、3、4个C3模块。深层特征图尺寸太小加了可能适得其反。训练配置要点改完结构后训练有几个坑学习率要重置用预训练权重时先warm-up 3个epoch初始阶段loss可能震荡别急着调参跑完10个epoch再看趋势显存占用会增加5%左右batch size设小点# yolov11_ca.yaml 配置文件片段backbone:# [from, repeats, module, args][[-1,1,Conv,[64,6,2,2]],# 0-P1/2[-1,1,Conv,[128,3,2]],# 1-P2/4[-1,3,C3_CA,[128]],# 这里替换成C3_CA[-1,1,Conv,[256,3,2]],# 3-P3/8[-1,6,C3_CA,[256]],# 这里也替换[-1,1,Conv,[512,3,2]],# 5-P4/16[-1,9,C3_CA,[512]],# 深层替换一个就够了[-1,1,Conv,[1024,3,2]],# 7-P5/32[-1,3,C3,[1024]],[-1,1,SPPF,[1024,5]],]实测效果与调参经验在COCO数据集上测试mAP0.5提升了1.2%小目标检测提升明显3.1%。推理速度下降约8%在可接受范围内。几个经验性建议工业场景优先CA在背景复杂、目标位置重要的场景如缺陷检测、安防效果显著自然场景提升有限轻量化版本如果想省计算量可以把CA放在Neck部分而不是Backbone效果打七折但速度几乎无损组合策略CASE的组合我试过效果没想象中好注意力机制不是越多越好部署注意CA模块的池化操作在某些推理引擎上需要特殊优化部署前先测速最后提醒一句任何注意力模块都是锦上添花数据质量、标注精度、基础网络设计才是根本。别指望加个CA就能解决所有问题但它确实是个好用的工具箱里的新扳手。