YOLO26改进 - 注意力机制 | iRMB 倒置残差移动块:硬件感知优化破解计算瓶颈,提升小目标检测鲁棒性
前言本文介绍了倒置残差移动块(iRMB)及其在YOLO26中的结合应用。现有轻量级CNN模型和Transformer模型在移动设备上存在局限性,iRMB融合了CNN和Transformer架构的优点,具有简单高效、资源消耗优化等创新点。它通过卷积多层感知器生成查询和键矩阵,利用膨胀卷积生成值矩阵,实施窗口级自注意力操作,还采用深度可分离卷积建模局部特征。基于iRMB构建的高效模型(EMO)在多个基准上表现出色。我们将iRMB集成进YOLO26,实验证明其在性能上超越了先进方法,在参数、效率和准确度上取得良好权衡。文章目录: YOLO26改进大全:卷积层、轻量化、注意力机制、损失函数、Backbone、SPPF、Neck、检测头全方位优化汇总专栏链接: YOLO26改进专栏文章目录前言介绍摘要创新点文章链接基本原理核心代码YOLO26引入代码tasks注册步骤1:步骤2配置yolo26-iRMB.yaml实验脚本结果介绍摘要本论文旨在开发现代、高效、轻量的密集预测模型,并在参数、浮点运算次数与性能之间寻求平衡。虽然倒置残差块(IRB)是轻量级卷积神经网络(CNN)的重要基础,但在基于注意力的研究中尚缺类似的构件。本研究从统一视角出发,结合高效IRB和有效的Transformer组件,重新考虑轻量级基础架构。我们将基于CNN的IRB扩展到基于注意力的模型,并提出了一种单残差元移动块(MMB)用于轻量级模型设计。基于简单而有效的设计原则,我们推出了一种新型的倒置残差移动块(iRMB),并以此为基础构建了一个类似于ResNet的高效模型(EMO),适用于下游任务。在ImageNet-1K、COCO2017和ADE20K基准上的大量实验表明,我们的EMO在性能上超越了最先进的方法,例如,EMO-1M/2M/5M在Top-1准确率上分别达到了71.5、75.1和78.4,超过了同等级别的CNN-/基于注意力的模型,同时在参数、效率和准确度上取得了良好的权衡:在iPhone14上运行速度比EdgeNeXt快2.8-4.0倍。创新点iRMB (Inverted Residual Mobile Block) 的创新点在于其结合了CNN和Transformer架构的优点,为移动端应用设计了一个简单而高效的模块。这一设计旨在解决移动设备上对存储和计算资源