【UNet 改进 | 注意机制篇】UNet引入iRMB反向残差注意力机制(ICCV 2023),兼顾CNN与Transformer优势,二次创新
本文教的是方法,也给出几种改进方法,二次创新结构,百变不离其宗,一文带你改进自己模型,科研路上少走弯路。前言在医学图像分割任务中,病灶区域往往形态各异、边界模糊,且经常与周围组织的对比度较低,这要求模型具备极强的特征提取和细节辨别能力。传统的U-Net网络虽然通过跳跃连接融合了多尺度特征,但在处理复杂语义和精细边缘时仍有不足。尤其是在轻量化模型设计中,纯 CNN 模型(如基于 Inverted Residual Block 的网络)受限于静态归纳偏置,缺乏捕获全局上下文的能力;而纯 Transformer 模型虽然具备动态建模长距离依赖的优势,但计算开销巨大。为了解决这些痛点,本文引入了在轻量级网络领域表现出色的 iRMB(Inverted Residual Mobile Block,反向残差移动块)注意力机制。iRMB 巧妙地将 CNN 的高效局部特征提取能力与 Transformer 的动态全局建模能力相结合,通过在反向残差结构中融入轻量级的自注意力模块,极大地提升了模型在低参数量下的特征表达能力。这种创新设计不仅极大降低了计算成本,还让 U-Net 模型能够更加精准、高效地捕获病灶的全局和局部依赖,在医学图像病灶分割上取得显著突破!论文发表信息论文标题:Rethinking Mobile Block for Efficient Attention-based Models发表会议/期刊:ICCV 2023(计算机视觉顶会)作者单位:腾讯优图实验室(Tencent Youtu Lab)、浙江大学等核心贡献:重新思考了轻量级网络的基础组件,提出了一种统一的元移动块(Meta Mobile Block, MMB)。在此基础上,设计了高效的现代反向残差移动块(iRMB),它吸收了 CNN 建模局部特征的高效性以及 Transformer 学习长距离交互的动态建模能力,在精度和效率之间取得了极佳的平衡。论文地址:https://arxiv.org/abs/2301.01146代码地址:https://github.com/zhangzjn/EMOiRMB 核心模块理论iRMB(反向残差移动块)机制的核心思想在于在经典的倒残差结构(Inverted Residual Block, IRB)中,无缝集成轻量级的高效多头自注意力机制(MHSA)。传统的 IRB 和 Transformer 的 FFN/MHSA 在结构上有着惊人的相似性,iRMB 通过以下创新实现了两者的完美融合:统一视角下的元移动块(MMB):作者发现 CNN 中的扩展-深度卷积-投影结构与 Transformer 中的注意力/前馈网络具有高度统一的范式。基于此,iRMB 被设计为一个单残差结构,内部既包含了用于局部特征提取的深度可分离卷积(DW-Conv),也包含了用于全局建模的窗口自注意力。高效的窗口自注意力(Window Attention):为了解决标准 MHSA 计算复杂度随空间分辨率呈平方增长的问题,iRMB 采用了局部窗口注意力。它通过重排特征图,在局部窗口内进行注意力计算,显著降低了计算量,同时保留了 Transformer 动态适应输入特征的能力。局部与全局特征的深度融合:在 iRMB 内部,输入特征首先通过 1x1 卷积(或自注意力操作)进行维度扩展和交互,然后通过 3x3 深度卷积提取局部多尺度空间上下文,最后通过另一个 1x1 卷积进行投影并使用跳跃连接(Skip Connection)进行融合。结合可选的 SE(Squeeze-and-Excitation)通道注意力,使得 iRMB 能够全面感知像素级的空间几何信息与通道语义依赖。作为一个高度浓缩了 CNN 与 Transformer 优势的轻量化模块,iRMB 能够让模型在极小的参数增加甚至降低参数的情况下,具备强大的局部细节捕捉和全局上下文感知能力,非常适合应用于计算资源敏感且病灶细节多变的医学图像分割。训练代码参考和下载:手把手带你完成基于Unet的医学图像分割系统设计与实现,Unet网络架构讲解,Unet复现,使用vibe coding工具,开发一个完整系统,包含完整源码文章目录前言论文发表信息iRMB 核心模块理论🐴一、实战细节⚡⚡实验结果画图⚡⚡iRMB模块代码⚡⚡使用教程☑️步骤1☑️步骤2☑️步骤3☑️步骤4🐴二、模型结构分析⚡⚡ 注意机制结构分析⚡⚡二次创新实战☑️第一种改进手法📐模块的传参分析教程🐴三、论文常用的评估指标☑️像素准确率 (Pixel Accuracy, PA)☑️精确率 (Precision) 与 召回率 (Recall)☑️交并比 (Intersection over Union, IoU)☑️平均交并比 (Mean Intersection over Union, mIoU)☑️Dice系数 (Dice Coefficient / F1 Score)总结🐴一、实战细节⚡⚡实验结果画图画图效果如下,代码可一键运行画图代码:# -*- coding: utf-8 -*-""" @Auth :落花不写码 @File :画图.py @IDE :PyCharm @Motto :学习新思想,争做新青年 """importmatplotlib.pyplotaspltimportpandasaspdimportos plt.rcParams