MATLAB实现自适应CNN图像分类与特征提取系统实战

简介自适应CNN图像分类与特征提取系统是一套基于MATLAB深度学习工具箱的实践代码面向需要处理非单一图像数据、又想灵活调整网络结构的算法研究者与工程师。系统针对医学影像、卫星图像等特征复杂场景通过动态调整网络深度、卷积核大小与步长等参数改善传统CNN泛化能力不足的问题。资源包整体仅6KB共2个文件包含一个.m主程序脚本和一份.md说明文档前者展示从数据预处理、网络搭建到训练分类的完整流程后者对运行环境和关键函数作了简洁注释适合快速改写成自己的实验项目。系统设计也兼顾计算资源限制与模型鲁棒性给出可扩展的基础框架。目前已有79人学习使用可作为MATLAB深度学习入门或自适应网络研究的参考实现帮助节省搭建时间并降低调参上手门槛。1. 自适应CNN图像分类在MATLAB里的三种“自适应”与落地路径很多人在图像分类上遇到瓶颈时第一反应是把网络换大、加深结果在样本量本来就不大的森林图像、花卉图像数据集上反而过拟合得更快。真正稳定的做法是把“自适应”落到三个具体位置结构上用通道注意力让网络自己调整特征图每个通道的权重训练上用学习率调度让优化过程自动收油门特征提取上从多个卷积层抽取语义特征而不是只依赖最后的分类输出。这三个位置合起来就是这个标题里“自适应CNN图像分类与特征提取系统”的完整含义。在MATLAB里实现这套东西不需要写Python也不需要从底层实现反向传播。深度学习工具箱的layerGraph、activations、trainingOptions、gradCAM这几个接口已经把网络组装、特征抽取、训练控制和可视化全串起来了。下面按结构搭建、特征提取、训练策略、端到端验证四条线展开代码可以在R2019b之后的大多数MATLAB版本上跑通。这套流程适合两类人一类是在MATLAB里做图像分类课题或者课程设计另一类是快速验证算法思路、不想把数据来回倒腾到其他环境里的工程师。2. 用MATLAB layerGraph搭建SENet注意力残差块2.1 通道注意力比固定卷积权重“自适应”在哪里SENet的核心是通道注意力做法不复杂把一张特征图每个通道先压缩成一个标量再用两个全连接层把标量映射成0到1之间的权重最后乘回原来的特征图。这个操作放在残差块的支路上就能自动放大有用通道、抑制噪声通道。相比固定卷积核权重它相当于给每个卷积核后面加了一个可以根据输入动态调节的阀门。即便现在视觉Transformer在图像分类里很火其中的多头注意力本质上也是在动态加权不同位置、不同通道的信息SENet这个思路并没有过时。MATLAB里实现Squeeze和Excitation不需要自定义反向传播直接用globalAveragePooling2dLayer做压缩用fullyConnectedLayer加reluLayer、sigmoidLayer做激发再用multiplicationLayer做缩放。这里的压缩比例r是唯一需要手动定的超参数通常取4或8含义是第一个全连接层的输出通道数变为原来的四分之一或八分之一。r越小注意力分支参数越多拟合能力越强但也越容易过拟合在自己的数据集上我会先把r设为4观察验证集准确率不再提升后再试着改到8。这就是“自适应”第一层落地网络结构上的自适应加权。2.2 用layerGraph和connectLayers组装一个SENet残差块下面这段代码可以原样复制到MATLAB脚本里运行。它搭建的是一个输入32×32×3图像、输出64通道特征图的SENet残差块便于在小数据集上从零开始训练也方便理解连接关系。% 输出通道数 ch 64; % 主干分支两组卷积 BN ReLU最后接一个乘法层和加法层 layers [ imageInputLayer([32 32 3], Name, in) convolution2dLayer(3, ch, Padding, same, Name, conv1) batchNormalizationLayer(Name, bn1) reluLayer(Name, relu1) convolution2dLayer(3, ch, Padding, same, Name, conv2) batchNormalizationLayer(Name, bn2) multiplicationLayer(2, Name, scale) additionLayer(2, Name, res_add) reluLayer(Name, relu_out) ]; lgraph layerGraph(layers); % SE注意力分支全局平均池化 - 降维 - 升维 - sigmoid seBranch [ globalAveragePooling2dLayer(Name, gap) fullyConnectedLayer(ch/4, Name, fc_sq) reluLayer(Name, relu_se) fullyConnectedLayer(ch, Name, fc_ex) sigmoidLayer(Name, sigmoid_se) ]; lgraph addLayers(lgraph, seBranch); % 残差直连输入直接跳到最后的加法层 lgraph connectLayers(lgraph, in, res_add/in2); % 注意力分支的输入来自第一个ReLU的输出 lgraph connectLayers(lgraph, relu1, gap); % 把sigmoid输出的通道权重接到乘法层的第二个输入 lgraph connectLayers(lgraph, sigmoid_se, scale/in2); % 主干分支bn2的输出经过注意力加权后进入残差加法 lgraph connectLayers(lgraph, bn2, scale/in1); lgraph connectLayers(lgraph, scale, res_add/in1); % 检查网络结构是否合法 analyzeNetwork(lgraph);这段代码的逻辑可以拆成三条数据流来理解主干数据流从conv1一路走到res_add残差直连流把输入原封不动送到res_add的in2端口注意力流从relu1分叉出去经过globalAveragePooling2dLayer后每个通道变成一个标量全连接层之间用ReLU激活最后一层用sigmoid把权重压在0到1之间。乘法层的两个输入必须按顺序接对主干特征接in1注意力权重接in2否则会得到维度对不上的张量。注意additionLayer和multiplicationLayer的端口名格式是“层名/in1”、“层名/in2”connectLayers第二参数里能把端口写明确。如果端口写错analyzeNetwork会直接标红这是排查连接问题最快的入口。训练时在这个lgraph后面接上fullyConnectedLayer、softmaxLayer和classificationLayer就能交给trainNetwork跑。2.3 层作用对照与常见运行错误把上面每个层在SENet里的角色列成一张表方便对照着理解也方便在报错时快速定位是哪一段的职责出了问题。层名所属分支作用常见问题conv1/bn1/relu1主干第一次特征提取卷积核数过大小数据集容易过拟合conv2/bn2主干第二次特征提取忘记加Padding会导致特征图尺寸对不上gap注意力将每个通道压成标量输入尺寸变化不影响它自适应任意特征图fc_sq/relu_se注意力通道降维减少注意力参数输出通道数必须能整除否则报错fc_ex/sigmoid_se注意力通道升维并生成0~1权重不要用softmax通道之间不是互斥关系scale融合把权重乘回主干特征输入顺序in1/in2不能接反res_add残差保留原始梯度通路直连层和被直连层尺寸必须严格一致新手最常见的两个错误一是cn/4恰好不能整除fullyConnectedLayer要求输出通道是正整数ch为奇数时把ch/4四舍五入到整数再试;二是globalAveragePooling2dLayer在较新版本里输出格式是N向量后面直接接fullyConnectedLayer没问题但如果在它和全连接之间误插了一个convolution2dLayer就会报格式错误。这两个错误都能靠analyzeNetwork的诊断信息定位。3. 特征提取的两个层次CNN激活特征与HOG特征怎么选3.1 用activations把CNN变成特征提取器训练好的CNN不只有“图片分到哪一类”这个用途。把倒数第二层或更早的卷积层输出取出来每一张图片就变成了一个几千维的特征向量这个向量比最后一层softmax输出含有更完整的空间与语义信息。常见的做法是用googlenet或自己训练的SENet网络配合activations函数一次提取整个数据集的CNN特征然后喂给SVM分类器。这样分类速度和可解释性都比端到端softmax要好。% 加载预训练网络也可以换成自己训练好的net net googlenet; % 特征提取层建议用中间层而不是最后的分类层 featureLayer pool5-7x7_s1; % 批量提取训练集特征OutputAs设为columns每列是一个样本 trainFeat activations(net, augimdsTrain, featureLayer, OutputAs, columns); % 转置为N行D列N是样本数D是特征维度 X double(trainFeat); mu mean(X, 1); sg std(X, 0, 1) eps; X (X - mu) ./ sg; % 训练多分类SVM mdl fitcecoc(X, trainLabels, Learners, svm); % 测试集同样提取特征但归一化必须沿用训练集的均值和方差 testFeat activations(net, augimdsTest, featureLayer, OutputAs, columns); Xtest (double(testFeat) - mu) ./ sg; pred predict(mdl, Xtest); accuracy mean(pred testLabels);代码里有三个细节值得单独说。第一featureLayer选择决定了特征的质量选太靠近输入的层特征偏颜色和边缘对语义类别的区分度不够选最后分类层前面的池化层如googlenet的pool5-7x7_s1通常是准确率和特征维度的平衡点。第二normalization必须在训练集上算出mu和sg并保存测试集不能重新计算否则特征分布会被测试集信息污染导致SVM的评估结果虚高。第三fitcecoc在“多类别、特征已经不错”的前提下比直接用softmax分类层更稳因为它对每个二分类器单独挑决策边界。这段流程还隐含着“系统”里常见的一个扩展用法提取出来的CNN特征如果不喂SVM而是直接喂给kmeans聚类可以快速检查数据集是否存在明显的类别分团尤其适合标注不全的森林图像数据集做预分析。3.2 HOG特征提取方法及与CNN特征的取舍HOG特征提取是传统视觉里绕不开的一招。它统计图像局部区域内梯度方向的分布对光照变化和轻微形变不敏感。MATLAB里用extractHOGFeatures一行就能算下面代码同时返回特征向量和可视化结果img imread(sample.jpg); cellSize [8 8]; % 每个cell大小越小特征粒度越细 numBins 9; % 梯度方向分箱数 blockSize [2 2]; % 每个block包含几个cell [hog, vis] extractHOGFeatures(img, CellSize, cellSize, ... BlockSize, blockSize, NumBins, numBins); % 可视化HOG叠加图用来确认特征是否集中在轮廓上 plot(vis);和CNN特征相比HOG最大的优势是训练样本需求量低每类几十张图就能训练一个不错的分类器而且特征计算完全可解释。缺点是表达能力上限明显对类别间纹理和形状差异小的情况比如区分不同品种的花卉、不同树种的森林冠层效果会明显落后于CNN特征。实际项目里我一般把两者都抽出来分别训练SVM后比较交叉验证准确率再决定用哪个。这个对比从下面这张表能看得比较清楚对比维度HOG特征CNN激活特征特征来源手工设计的梯度直方图预训练或自训练卷积网络的中间层输出提取函数extractHOGFeaturesactivations所需数据量每类30~50张可启动每类100张以上效果稳定特征维度与图像尺寸和cell相关通常几万维通常1024~4096维可解释性可视化梯度方向需配合类激活图适用场景形状轮廓主导的简单任务复杂语义、类内差异大的任务3.3 多尺度特征拼接让特征提取“自适应”起来“自适应”的另一个解读是特征尺度自适应。拿googlenet这类网络来说浅层卷积关注边缘和纹理深层卷积关注语义模式两者各有盲区。做特征提取时把浅层和深层各自池化后的向量拼在一起等于同时保留了精细纹理和高层语义。代码上就是把activations的两次输出纵向拼接f_shallow activations(net, img, inception_4c-output, OutputAs, columns); f_deep activations(net, img, pool5-7x7_s1, OutputAs, columns); f_multi [f_shallow; f_deep]; % 注意层名以你自己的网络analyzeNetwork输出为准拼接后的维度是两个特征向量的和训练SVM前先做一次标准化。如果发现分类器训练时间明显变长可以先用PCA把维度降到200到500再喂给SVM。这种多尺度特征的检索式表达方式本质上就是自适应的特征融合在医学图像和遥感图像分类这类“局部特征极其重要”的任务里往往比单纯加深网络更有效。4. 自适应训练把学习率衰减和早停做成默认习惯4.1 trainingOptions里必须调的自适应参数结构搭得再好训练策略不对照样发散。MATLAB训练CNN时关键参数集中在trainingOptions这一个函数里。所谓自适应训练在工具箱里最直接的体现就是piecewise学习率调度每训练一定轮数学习率乘以一个小于1的因子。下面是一个在小数据集上比较稳妥的配置opts trainingOptions(adam, ... InitialLearnRate, 1e-3, ... LearnRateSchedule, piecewise, ... LearnRateDropPeriod, 10, ... LearnRateDropFactor, 0.3, ... MiniBatchSize, 32, ... MaxEpochs, 40, ... Shuffle, every-epoch, ... ValidationData, augVal, ... ValidationFrequency, 20, ... OutputNetwork, best-validation, ... Plots, training-progress);这段配置里InitialLearnRate用1e-3适用于从零训练小网络如果是在预训练网络上微调我会降到1e-4。LearnRateDropPeriod设为10的意思是每10个epoch把学习率降到原来的0.3倍。注意DropFactor如果设得太小比如0.1后期学习率会过早跌入极小值导致模型在验证集上长时间没有进展设得太大又起不到自适应减速的作用0.3到0.5是比较常见的取值区间。OutputNetwork选择best-validation这个参数容易被忽略它决定了训练结束后返回的是最后一个epoch的权重还是验证集上表现最好的那一版权重。训练末期模型往往已经开始过拟合最后一个epoch的权重通常不如验证集峰值时的权重因此只要设了ValidationData就建议把OutputNetwork设成best-validation。4.2 参数对比表与手动调节学习率循环不同场景下学习率策略的选择可以参照下表这是我调参时的默认起点并不是固定结论场景初始学习率调度方式注意事项从零训练小SENet1e-2~1e-3piecewise按10~15轮衰减先用少量样本跑通再放大数据集微调googlenet等预训练网络1e-4~1e-3piecewise按5~8轮衰减前几层可以冻结只训练深层类别极度不均衡1e-3不衰减或延长衰减周期配合加权交叉熵损失手动控制训练细节1e-3自定义循环中每N轮乘以因子需要dlnetwork灵活性最高如果要用自定义循环完全控制学习率MATLAB里可以用dlnetwork配合sgdmupdate来做思路如下lr 1e-3; momentum 0.9; dropPeriod 5; dropFactor 0.5; for epoch 1:maxEpochs for i 1:numIterationsPerEpoch [loss, grads] dlfeval(modelGradients, dlnet, XBatch, yBatch); dlnet sgdmupdate(dlnet, grads, lr, momentum); % 这里可以把loss值存下来画曲线 end if mod(epoch, dropPeriod) 0 lr lr * dropFactor; end end这个循环里模型参数的更新交给sgdmupdate学习率的改动只需要改lr这个变量。相比trainingOptions的优点是可以在每个epoch末尾读取当前验证集准确率然后决定学习率要不要降、降到多少相当于把ReduceLROnPlateau的逻辑自己实现了一遍需要自己写modelGradients函数返回当前batch的损失和梯度。如果不想自己维护这套循环trainNetwork的piecewise方案已经覆盖大多数场景。4.3 用验证集早停思路减少无效训练时间深度学习工具箱的trainNetwork不提供显式的early stopping参数但可以通过ValidationFrequency和OutputNetwork的组合实现类似效果。ValidationFrequency表示每多少个迭代计算一次验证集指标设得太小会拖慢训练设得太大又可能错过验证集峰值。对于几百张图的小数据集20到50是合理范围。训练过程中可以盯着training-progress图看如果验证集准确率连续多个周期不涨、而训练集准确率还在上升就是典型的过拟合信号不需要等MaxEpochs跑完直接中断后把输出网络换成best-validation权重即可。另外如果环境里装了Optimization Toolbox可以把InitialLearnRate和MiniBatchSize打包交给bayesopt做贝叶斯搜索本质上也是一种自适应调参。但要注意贝叶斯搜索每跑一组参数就是一次完整训练计算开销不小我通常在先用上面经验值把网络跑通后再做细调。5. 一个可跑的端到端示例森林图像分类里的数据增强与Grad-CAM验证5.1 数据增强流水线把前面的SENet残差块用到实际任务时需要先补上分类层再做数据准备。以三分类的森林图像分类为例假设数据按类别放在子文件夹里用imageDatastore读入后先划分训练集和验证集再套上数据增强器imds imageDatastore(forest_dataset/, ... IncludeSubfolders, true, LabelSource, foldernames); [imdsTrain, imdsVal] splitEachLabel(imds, 0.8, randomized); % 数据增强能在不增加标注成本的情况下扩充有效样本 aug imageDataAugmenter(... RandRotation, [-10 10], ... RandScale, [0.9 1.1], ... RandXReflection, true); augTrain augmentedImageDatastore([32 32], imdsTrain, DataAugmentation, aug); augVal augmentedImageDatastore([32 32], imdsVal); % 为第2章的lgraph补上分类头 lgraph addLayers(lgraph, [ ... fullyConnectedLayer(3, Name, fc) softmaxLayer(Name, softmax) classificationLayer(Name, out)]); lgraph connectLayers(lgraph, relu_out, fc); % 训练 net trainNetwork(augTrain, lgraph, opts);数据增强的参数里RandRotation幅度不要超过15度RandScale范围不要超过0.8到1.2否则会生成严重变形的图片让网络学到错误的形状特征。森林图像分类特别适合用RandXReflection树冠和枝叶在水平翻转后仍是合理的自然图像。5.2 验证阶段混淆矩阵和Grad-CAM一起看训练完成后用验证集做一次整体评估并输出混淆矩阵YPred classify(net, augVal); figure; confusionchart(imdsVal.Labels, YPred);混淆矩阵能直接看到哪些类别互相混淆。比如落叶林和针叶林这两类如果错得比较多说明用于区分的纹理特征还没有被网络重视这时候再看Grad-CAM能给出更直接的证据img imresize(readimage(imdsVal, 1), [32 32]); trueLabel imdsVal.Labels(1); scoreMap gradCAM(net, img, trueLabel); imshow(img); hold on; imagesc(imresize(scoreMap, [32 32]), AlphaData, 0.5); colormap jet;gradCAM输出的是一个与原图同尺寸的热力图值越大的地方说明模型决策越依赖该区域。用它验证端到端系统时有一个很实用的技巧单张图的gradCAM不够稳定连续抽20张预测正确的图统计热力图高亮区域是否集中在目标主体上。如果热力图大面积落在背景上那模型大概率在靠背景颜色或位置特征做判断此时与其盲目加深网络不如先扩大数据增强的RandScale范围、增加负样本背景裁剪再重新训练。这个验证顺序能在调参阶段省下大量时间。本文还有配套的精品资源点击获取