注意力+循环GAN：阴影检测与去除联合优化实战

1. 阴影处理这个老问题为什么值得再写一篇论文做图像处理的人对阴影这件事又爱又恨。爱的是阴影是真实场景里天然存在的光照线索有它画面才有立体感恨的是一旦你要做图像编辑、目标检测、自动驾驶感知或者电商商品图阴影就成了纯粹的干扰项。把一张图里的阴影去掉同时保留原本被遮挡区域的纹理和颜色这件事从传统图像处理时代一直做到深度学习时代始终没有一个一劳永逸的方案。我最早接触阴影去除是在做商品图批量处理的时候那时候用的还是基于光照补偿的老方法效果只能说勉强能用遇到复杂纹理或者软阴影就彻底歇菜。后来深度学习起来了各种基于GAN的方案层出不穷但真正让我觉得思路有意思的是这篇把注意力机制和循环网络揉进GAN里的工作。它的核心主张很直接阴影检测和阴影去除这两件事不该分开做它们应该互相喂信息形成一个闭环。这篇论文要解决的问题可以拆成两个子任务。第一个是阴影检测也就是给出一张图标出哪些像素属于阴影区域本质上是一个二值分割问题。第二个是阴影去除把阴影区域的亮度提上来恢复出被遮挡的内容本质上是一个图像到图像的翻译问题。传统做法是各做各的检测归检测去除归去除中间靠一个硬性的mask来衔接。问题在于检测错了去除必然跟着错误差会累积。这篇论文的聪明之处在于它用了一个循环结构让检测和去除交替迭代每一轮去除的结果反过来帮助下一轮检测更准检测的结果又指导下一轮去除更精细。再加上注意力机制让网络在每一轮里重点关注那些还没处理好的区域。这个思路放到今天看依然不过时因为很多后续工作都在沿着迭代精修这条路走。适合读这篇内容的人我觉得有三类。一类是正在做图像修复、图像增强相关项目的工程师想找一个可复现的阴影处理baseline一类是研究GAN在底层视觉任务里怎么用的同学想看看注意力加循环能玩出什么花样还有一类是纯粹对两个任务怎么互相促进这个建模范式感兴趣的人。不管你属于哪一类下面我会把这篇论文的设计思路、关键模块、实操细节和踩坑经验都摊开讲。2. 整体设计思路为什么是注意力循环GAN这个组合2.1 把检测和去除绑在一起做联合优化先说最核心的设计决策为什么要把阴影检测和阴影去除放在一个框架里联合训练。如果你分开做检测网络只优化分割精度去除网络只优化像素重建质量两者之间没有梯度流动。检测网络不会知道我标错这一块会导致去除网络把这里搞糊去除网络也不会告诉检测网络你漏掉的这块阴影其实很影响我。联合训练之后两个任务的损失会一起回传检测网络会逐渐学会标出对去除最有帮助的区域而不是单纯追求像素级的IoU。这个思路在论文里的体现就是整个框架是一个端到端可训练的GAN生成器同时输出检测mask和去除结果判别器则从整体上判断这张去完阴影的图看起来真不真。我实测下来的感受是联合训练确实能让检测mask的边缘更贴合去除的需求。有些区域从分割指标看标不标都行但标出来之后去除网络处理起来明显更干净。这就是联合优化带来的隐性收益单看某一个任务的指标是看不出来的。2.2 循环迭代让检测和去除互相纠错循环结构是这篇论文的第二个关键设计。它不是只跑一遍检测再跑一遍去除就完事而是把检测-去除作为一个循环单元重复若干次。每一轮的输入是上一轮去除后的图像输出是新的检测mask和新的去除结果。这个设计的直觉很好理解。第一轮的时候阴影区域亮度低、对比度差检测网络可能只能标出一个大概的范围。去除网络基于这个粗糙的mask做处理处理完之后阴影区域的亮度上来了纹理也显现出来了。这时候再拿处理后的图去做第二轮检测因为亮度正常了检测网络就能更准确地判断这里到底还有没有残留阴影。第二轮去除再基于更准的mask去精修。这就像修图师干活先大范围把暗部提亮然后眯着眼看还有哪里不对再局部精修反复几轮才出片。论文里循环次数一般设2到3次再多收益就递减了而且显存和耗时都会上去。2.3 注意力机制解决哪里还没修好的问题注意力在这篇论文里承担的角色是空间维度的加权。每一轮循环里网络会生成一个注意力图告诉后续的处理哪些区域需要重点关注。这个注意力图不是凭空来的它是基于当前轮的检测结果和特征图算出来的。具体来说已经被判定为非阴影的区域注意力权重就低网络不用再花力气去处理而那些检测置信度不高、或者去除后仍然和周围不一致的区域注意力权重就高网络会把更多的特征通道和计算资源分配过去。这个机制解决了一个很实际的问题阴影分布是不均匀的有的图阴影面积大且集中有的图阴影碎且分散。如果没有注意力网络对所有区域一视同仁容易在简单区域过度处理、在困难区域处理不足。加了注意力之后困难区域会被反复关照最终结果的一致性会好很多。2.4 用GAN做底层视觉任务的取舍用GAN做阴影去除好处是能生成更锐利的纹理不会像L1/L2损失那样把结果搞得糊糊的。但坏处也很明显GAN训练不稳定容易模式崩溃生成器可能为了骗过判别器而编造出不存在的纹理。这篇论文的处理方式是混合损失。除了对抗损失还加了像素级的重建损失和感知损失。重建损失保证整体颜色和亮度不跑偏感知损失保证高层语义特征和真实图像一致对抗损失负责提升细节锐度。三者加权求和权重需要调。我自己的经验是对抗损失的权重不能给太高否则训练后期会出现明显的伪影尤其是在平滑区域。3. 核心模块拆解与实操要点3.1 生成器的结构编码器-循环体-双分支解码器生成器是整个框架里最复杂的部分。它的结构可以分成三段编码器、循环体、双分支解码器。编码器负责把输入图像下采样成特征图论文里用的是类似U-Net的卷积堆叠逐步降低空间分辨率、增加通道数。这一步没什么特别的是底层视觉任务的标准操作。循环体是核心里面包含了注意力模块和循环单元。每一轮循环特征图会先经过注意力加权然后送入检测分支和去除分支。检测分支输出一个单通道的mask去除分支输出三通道的RGB图像。去除分支的输出会和原始输入做残差连接得到这一轮的去除结果再作为下一轮的输入。双分支解码器分别对应检测和去除两个任务。检测分支最后用一个sigmoid激活输出0到1之间的概率图去除分支最后用tanh激活输出归一化后的图像。两个分支共享前面的编码器和循环体特征只在最后几层分开。这种设计既保证了两个任务能共享底层特征又保留了各自任务特有的高层表达。实操提示如果你要复现这个结构共享编码器的层数需要根据你的数据量来定。数据少的时候共享多一点防止过拟合数据多的时候可以多分一些独立层让两个任务各自学得更充分。3.2 注意力模块的具体计算方式注意力模块的输入是当前轮的特征图输出是加权后的特征图。计算过程分三步。第一步对特征图做一个通道维度的压缩通常用一个1x1卷积把通道数降到1得到一个空间注意力图的原始logits。第二步对这个logits做sigmoid归一化得到0到1之间的注意力权重。第三步把注意力权重和原特征图做逐元素相乘得到加权后的特征。这里有个细节值得说注意力图的计算不是独立的它会参考当前轮的检测结果。具体做法是把上一轮或者当前轮的检测mask作为一个额外的通道拼接到特征图上再一起送入注意力计算。这样注意力就能知道哪里已经被判定为阴影从而把权重往那些区域倾斜。我试过把检测mask直接乘到注意力图上也试过拼接实测下来拼接的效果更稳。直接乘的话如果检测mask本身不准会把注意力也带偏拼接的话网络可以自己学怎么融合这两个信息鲁棒性更好。3.3 判别器的设计全局加局部双判别判别器用的是PatchGAN的结构但做了改进。它不只判断整张图真不真还会对局部patch做判断。具体来说判别器输出一个NxN的矩阵每个元素对应原图一个感受野区域的真实性评分最后取平均作为整体判别结果。这种设计的理由是阴影去除的难点在局部。整张图看起来可能都挺正常但阴影边界处可能有一条不自然的过渡带或者某个小区域的颜色偏了。全局判别器对这种局部瑕疵不敏感PatchGAN能逼着生成器把每个局部都处理好。论文里还提到了一个细节判别器的输入是去除结果原始输入的拼接而不是单独的去除结果。这样判别器能同时看到处理前后的对比更容易判断这个处理是否合理。这个技巧在很多图像翻译任务里都通用能显著提升训练稳定性。3.4 损失函数的组成与权重调法损失函数是训练能否成功的关键。这篇论文用了四项损失对抗损失、重建损失、感知损失、检测损失。对抗损失用的是最小二乘GAN的形式比原始GAN的交叉熵损失更稳定。重建损失是去除结果和ground truth之间的L1距离L1比L2更能保留边缘。感知损失是把去除结果和ground truth分别送进一个预训练网络比较中间层特征的差异保证语义一致。检测损失是检测mask和ground truth mask之间的二值交叉熵。权重方面论文给了一组参考值但我的经验是这组值不能照搬。如果你的数据集阴影比较淡重建损失的权重可以低一点让对抗损失多发挥作用如果阴影很重、去除难度大重建损失权重要高先保证颜色和亮度对再谈细节。损失项作用权重调整建议对抗损失提升细节锐度阴影淡时调高阴影重时调低重建损失保证颜色亮度准确阴影重时调高防止跑偏感知损失保证语义一致一般固定数据差异大时可微调检测损失提升mask精度检测指标差时调高4. 完整实操流程从数据准备到模型推理4.1 数据集的准备与预处理阴影检测和去除常用的公开数据集有几个但如果你要做自己的项目大概率需要自己标注。标注的方式是给每张图配一个二值mask阴影区域为1非阴影区域为0。标注的时候有几个坑要注意。第一软阴影的边界很难标不同人标出来的结果可能差好几个像素。建议定一个统一的标注规范比如以人眼能明显感知到亮度下降的区域为准。第二阴影区域内部的纹理如果还能看清标注时不要因为这里其实能看到东西就不标只要亮度明显低于周围就算阴影。第三注意区分阴影和本来就暗的物体比如黑色的车、深色的衣服这些不是阴影不要标进去。预处理方面图像统一缩放到256x256或者512x512做归一化。mask保持二值不要做插值否则会出现0.5这种中间值影响检测损失的计算。4.2 训练配置与参数设置训练用的是Adam优化器学习率初始设2e-4每50个epoch衰减一半。batch size根据显存来8到16之间比较常见。循环次数设2到3次再多收益不明显。训练策略上论文用的是先训练检测分支若干轮等检测mask稳定了再联合训练。这个trick很实用因为如果一开始检测就是乱的去除分支会被带偏训练很难收敛。我自己的做法是前20个epoch只回传检测损失之后再加去除相关的损失。注意联合训练开始后检测损失的权重可以适当降低让去除任务主导。因为最终我们更关心去除效果检测只是中间产物。4.3 推理阶段的处理流程推理的时候把测试图送进生成器跑完设定的循环次数取最后一轮的去除结果作为输出。检测mask可以一并输出用于可视化或者后续处理。如果对速度有要求可以减少循环次数或者把生成器蒸馏成更小的模型。实测下来循环次数从3降到2PSNR大概掉0.3dB左右但推理速度快了三分之一。如果是在线服务这个取舍是值得的。推理时还有一个细节输入图像的尺寸最好和训练时一致。如果测试图尺寸不同要么缩放要么用全卷积的方式处理。缩放会损失细节全卷积会改变感受野两者都有代价。我的建议是训练时就做多尺度增强让模型适应不同尺寸。4.4 结果评估指标的选择评估阴影去除效果常用的指标有PSNR、SSIM、RMSE。PSNR衡量像素级误差SSIM衡量结构相似性RMSE衡量整体偏差。这三个指标要一起看单看一个容易误判。比如有的方法PSNR很高但SSIM低说明像素值接近但结构不对可能是把阴影区域直接涂成了周围颜色纹理全丢了。有的方法SSIM高但PSNR低说明结构对了但颜色偏了。理想情况是三个指标都高。检测方面用IoU和F1-score。IoU衡量mask的重叠程度F1综合精确率和召回率。阴影检测的难点在边界所以除了整体IoU还可以单独看边界区域的IoU更能反映实际可用性。5. 常见问题与排查技巧实录5.1 训练不收敛或者loss震荡怎么办这是GAN训练最常见的问题。首先检查判别器是不是太强了如果判别器的loss一直很低生成器的loss一直很高说明判别器碾压了生成器。解决办法是降低判别器的学习率或者减少判别器的更新频率比如生成器更新两次判别器才更新一次。其次检查损失权重。对抗损失权重太高会导致训练不稳定先把它调低等训练稳定了再慢慢加上去。重建损失权重太低会导致生成器只想着骗判别器不管输出像不像这时候要把重建损失加上去。还有一个容易被忽略的点是batch normalization。GAN里用BN有时候会导致训练不稳定尤其是batch size小的时候。可以试试用instance normalization或者spectral normalization替代。5.2 去除结果出现明显伪影或色块伪影通常来自两个地方。一个是注意力图计算错误导致某些区域被过度处理。排查方法是把注意力图可视化出来看看高权重区域是不是集中在阴影附近。如果注意力图很散说明注意力模块没学好可以增加注意力相关的监督信号。另一个是判别器的感受野太大对局部细节不敏感。解决办法是把PatchGAN的patch size调小让判别器关注更小的区域。但也不能太小太小了判别器看不到全局结构会生成局部合理但整体不协调的结果。色块问题一般是重建损失权重不够或者训练数据里阴影区域的纹理多样性不足。前者调权重后者需要补充数据。5.3 阴影边界处理不干净边界是阴影去除最难的地方。常见的问题是边界处有一条亮边或者暗边看起来像描了个边。这通常是因为检测mask的边界不够精确去除网络在边界处做了错误的插值。解决办法有两个。一是在检测损失里给边界区域更高的权重逼着检测网络把边界标准。二是用软mask代替硬mask在边界处做一个渐变过渡让去除网络平滑处理。软mask的做法是对二值mask做高斯模糊模糊半径根据阴影的软硬程度来定。我自己的经验是软mask对硬阴影效果一般对软阴影提升明显。如果你的数据里软阴影多强烈建议试试。5.4 循环次数增加后效果反而变差这个现象在循环网络里不罕见。原因是每一轮去除都会引入一定的误差循环次数多了误差累积结果反而退化。解决办法是加一个门控机制让网络自己决定每一轮要保留多少上一轮的信息。具体做法是每一轮输出一个门控图范围0到1最终结果等于门控图乘以本轮结果加上1减门控图乘以上一轮结果。这样网络可以在某些区域选择不更新保留上一轮的好结果。这个技巧在视频处理和迭代精修任务里都很常用。问题现象可能原因排查方向解决手段loss震荡判别器过强看D和G的loss曲线降D学习率或减少D更新频率伪影色块注意力散或感受野大可视化注意力图调patch size或加注意力监督边界不干净mask边界不准看边界区域IoU边界加权或软mask循环后退化误差累积对比每轮结果加门控机制6. 这套框架还能怎么扩展把这篇论文的思路抽出来其实是一个通用的迭代精修范式。检测和去除只是两个具体的任务换成别的任务组合一样能用。比如去雨加去雾去噪加超分甚至人脸修复里的关键点检测加纹理生成都可以套这个循环加注意力的结构。扩展的时候有几个方向可以试。一是把循环体换成RNN或者GRU让循环次数动态决定而不是固定跑几次。二是把注意力从空间维度扩展到通道维度做通道注意力让网络自己选择哪些特征通道更重要。三是引入多尺度循环在不同分辨率上分别做迭代粗尺度先修整体细尺度再修局部。我个人觉得最有潜力的方向是把检测分支换成更通用的质量评估分支。不一定非要检测阴影可以检测任何需要修复的区域比如划痕、噪点、模糊。这样一套框架就能处理多种退化实用性会强很多。最后分享一个我在复现时的小技巧。训练初期先把循环次数设成1等模型基本收敛了再逐步加到2和3。这样比一上来就设3次循环收敛快得多而且最终效果差不多。原因是循环次数多的时候梯度回传路径长早期随机初始化下梯度很容易爆炸或者消失。逐步增加循环次数相当于课程学习让网络先学会走再学跑。