1. 从一张"找猫"的图说起：CNN到底在干什么

先说个我自己的经历。几年前刚接触深度学习的时候，我以为卷积神经网络是个特别高深的东西，直到有位前辈拿了一张猫的照片问我："你一眼就能看出这是猫，靠的是什么？"我说靠眼睛。他说："其实你的眼睛也没那么聪明，它只是先看到边缘、再看到轮廓、最后才把这些拼成'猫'这个整体概念。CNN干的就是这件事，只不过它把这三步变成了可训练的数字流程。"

这句话基本就是卷积神经网络（Convolutional Neural Network，简称 CNN）的核心思想。如果你搜过"卷积神经网络结构图"，大概率会看到一堆方块层层堆叠——输入层、卷积层、池化层、全连接层、输出层。图看得懂，但不知道每层为什么要这么设计。这篇文章我就按"一个做过图像项目的人"的视角，把这些方块一个个拆开讲，尽量不用那些让人头大的数学符号堆砌，同时把每个设计背后的"为什么"讲透。

CNN 是什么？一句话：它是专门为处理具有网格状结构数据（最典型的就是图像）而设计的一类神经网络。它能做什么？把一张原始像素图，逐步抽象成"边缘→纹理→局部形状→整体物体"的特征层级，最终输出"这是猫"或者"这是狗"的判断。它适合谁看？如果你满足下面任意一条，这篇内容就是写给你的：

• 刚学完多层感知机（前馈神经网络），好奇图像任务为什么不能直接用它；
• 看过李宏毅老师的 CNN 课程，理论听懂了但一到写代码就发懵；
• 已经会调torchvision的模型，但说不清每一层到底在算什么；
• 需要给别人讲 CNN，想找一个"通俗但不失真"的解释口径。

我会从最基础的"为什么图像不能直接喂给前馈网络"讲起，然后是卷积这个操作到底在算什么、池化层是干吗的、一个经典网络长什么样、怎么用几行代码把它跑起来，最后聊几个我在实际项目中踩过的坑。全程配场景，别怕，没有微积分。

2. 图像任务为什么不能用前馈神经网络直接硬上

2.1 一张图展平之后，空间信息就没了

先说前馈神经网络（Fully Connected Network / MLP）处理图像的常规做法：把图像拉平成一维向量。一张 224×224 的彩色图，有 224×224×3 = 150528 个像素。第一层如果是 1000 个神经元，那么光是这一个全连接层就有 150528×1000 ≈ 1.5 亿个参数。这还只是第一层。

参数多不是最要命的，要命的是展平这个动作本身就把图像的空间结构毁掉了。在图像里，相邻像素是强相关的——左上角的像素和它右边的像素共同构成了一条边，横着排的像素和竖着排的像素含义完全不同。可一旦拉平成一维数组，原本"上下左右"的位置关系就变成了一串线性序号，网络得从零开始反复学习"第 3 个像素和第 4 个像素挨着"这种它本可以直接拿到的信息。

打个比方。这就像你要认识一个人，本来可以看他的正脸（完整的二维构图），结果你把他的五官打印在一条长长的纸带上，还剪碎了打乱顺序。网络要花极大的代价才能把这些碎片重新拼回一张脸。

2.2 权重不共享带来的两个致命后果

前馈网络处理图像还有第二个问题：同一类特征在不同位置出现时，网络要分别学一遍。

假设我们要检测"竖直边缘"。在图像左上角出现的竖直边缘和右下角出现的竖直边缘，本质上是一模一样的模式。但全连接网络里，左上角的像素对应一组权重，右下角的像素对应另一组完全不同的权重，网络得用两套独立的参数去学同一个东西。这就带来了两个后果：

第一个后果是参数量爆炸，也就是上面算的那 1.5 亿。模型大到难以训练，过拟合几乎是必然的。

第二个后果更隐蔽——位置不变性极差。因为网络是在特定的位置上学到的特征，一旦物体换了个位置、挪动了几十像素，模型的判断就可能崩掉。我早期做过一个数字识别的小项目，用全连接网络训练，测试集里数字略微偏移一点，准确率就掉一大截，当时百思不得其解，后来才明白根子在这里。

2.3 局部感受野与权值共享：CNN 的两把钥匙

CNN 用两个核心设计同时解决了上面所有问题，这也是它的精髓所在，理解了这两点，CNN 就理解了一大半。

第一把钥匙是局部感受野（Local Receptive Field）。单个神经元不再一次性看整张图，而只看一个很小的局部区域，比如 3×3 或 5×5 的窗口。这符合图像的天然特性：关键的视觉模式（边缘、角点、纹理）都是局部的，没必要让一个神经元去关心整张图的所有像素。这直接把连接数从"全图"降到"局部窗口"。

第二把钥匙是权值共享（Weight Sharing）。同一个卷积核（一组权重）在整张图上滑动，走到哪里都用同一组参数。检测竖直边缘的那个核，在左上角用它，在右下角还是用它。这就把参数量从"每个位置一套参数"降到了"一个核一套参数"。

两个设计叠加起来的效果相当惊人。前面那个 150528×1000 的全连接层有 1.5 亿参数；而一个 3×3 卷积核处理同样输入的参数是 3×3×3 = 27 个（输入三通道）。即便是 64 个这样的卷积核，总共也才 27×64 = 1728 个参数。差了将近十万倍。这就是为什么 CNN 能在图像任务上碾压前馈网络——不是它更"聪明"，而是它把图像先验知识（局部性、平移不变性）编码进了网络结构里。

我把这个对比整理成表，更直观一些：

提示：如果你面试被问到"图像处理为啥用 CNN 不用前馈神经网络"，把"参数爆炸"和"丢失空间结构"两点答出来是及格，补上"权值共享带来的平移不变性"才算答到点子上。

3. 卷积这个操作，到底在算什么

3.1 卷积核是一块"特征探测器"

很多人被"卷积"这个词唬住，其实它做的事特别朴素：拿一个小窗口（卷积核）在大图上从左到右、从上到下滑动，每滑到一个位置，就把窗口覆盖的那块区域和卷积核做逐元素相乘再求和，得到一个数。滑完整张图，就得到一张新的二维图，叫特征图（Feature Map）。

举个例子最清楚。假设图像某个 3×3 局部是：

1 1 1 0 0 0 1 1 1

卷积核是：

1 0 -1 1 0 -1 1 0 -1

逐元素相乘求和：(1×1 + 1×0 + 1×(-1)) + (0×1 + 0×0 + 0×(-1)) + (1×1 + 1×0 + 1×(-1)) = 0 + 0 + 0 = 0。

换一块区域试试：

1 0 1 1 0 1 1 0 1

同样计算：(1×1 + 0×0 + 1×(-1)) + (1×1 + 0×0 + 1×(-1)) + (1×1 + 0×0 + 1×(-1)) = 3 + 3 + 3 = 9。

看出规律了吗？这个卷积核对"左边亮右边暗"的竖直边界响应很强（输出 9），对"左右对称"的区域响应为 0。它就是一台竖直边缘探测器。如果我把这个核转置一下，就变成了水平边缘探测器。这就是 CNN 最底层的工作方式——网络不需要人去设计这些核，而是通过训练自动学出来，学到的核往往就是各种方向的边缘、纹理、颜色斑块检测器。

3.2 步长、填充、通道：三个必须搞懂的参数

实际写代码时，卷积层总有三个参数绕不开：步长（stride）、填充（padding）、输出通道数。搞不清它们，你连输出尺寸都算不对。

步长（stride）是卷积核每次滑动的格数。stride=1 时逐像素滑动，输出图尺寸和输入差不多；stride=2 时每隔一个像素滑动，输出图长宽各缩小一半。步长越大，输出越小，计算越快，但可能漏掉细节。实际项目里 1 和 2 是最常用的，3 以上很少见。

填充（padding）是在图像边界外补一圈像素（通常是补 0）。为什么需要它？因为卷积核滑到边缘时，覆盖范围会超出图像，如果不填充，输出图会比输入小一圈，多层叠加后图像会越来越小。更关键的是，边缘像素参与卷积的次数远少于中心像素，边缘信息容易被"稀释"。padding=1（对 3×3 核）能让输出尺寸和输入保持一致，这个配置被叫做 "same padding"，是最常见的默认选项。

输出尺寸的计算公式必须记住，我见过太多人手写网络时在这一步出错：

输出边长 = (输入边长 + 2 × padding - 卷积核边长) / 步长 + 1

拿个例子验证：输入 224，卷积核 3，padding 1，stride 1 —— (224 + 2 - 3)/1 + 1 = 224。确实保持不变。如果换成 stride=2 —— (224 + 2 - 3)/2 + 1 = 112.5，除不尽，实际会向下取整得到 112。

输出通道数则取决于你用几个卷积核。用 64 个核，就得到 64 张特征图堆叠成的 64 通道输出。每个通道代表一种被检测出来的特征。这解释了一个常见的疑惑：为什么特征图越往后通道越多？因为浅层在检测简单特征（边缘、颜色），种类有限；深层需要组合出复杂特征（眼睛、轮子、文字笔画），需要的"特征种类"自然就多了。

3.3 激活函数：没有它，深层卷积等于白搭

每次卷积之后都会跟一个激活函数，最常用的是 ReLU（max(0, x)）。很多人把它当惯例照抄，不知道为什么。

关键在于：卷积本身是线性运算。两个线性操作堆在一起，数学上仍然等价于一个线性操作。这意味着如果卷积层之间没有非线性激活，无论你叠多少层，整个网络的能力和只有一层是一样的。加了 ReLU 这种非线性函数，网络才真正获得了"层层抽象"的能力，才能表达复杂的函数关系。

ReLU 相比早期的 Sigmoid，还有个实际好处是梯度不容易消失。Sigmoid 在输入很大或很小时导数趋近于 0，梯度反向传播几层之后就衰减到几乎为零，深层网络根本训不动。ReLU 在正区间导数恒为 1，梯度能顺畅传到底层。这也是为什么 2012 年之后几乎所有主流 CNN 都用 ReLU 家族。现在一些新网络会用 GELU、SiLU，思路类似，效果略好但差异不大，新手阶段用 ReLU 完全够。

4. 池化层和整体结构：CNN 是怎么一层层"抽象"的

4.1 池化真正解决的问题不是"降维"

池化层（Pooling）最常见的说法是"降维、减少计算量"。这话对，但只说了一半，而且不是最重要的那一半。

池化更本质的作用是带来一定程度的平移不变性和空间压缩。以最大池化（Max Pooling）为例，2×2 窗口、步长 2，就是在每个 2×2 的小块里取最大值。假设某个边缘在图像里稍微移动了一两个像素，只要它还落在同一个 2×2 窗口内，池化后的结果就完全一样。也就是说，细微的位置偏移被池化"抹平"了。

我举个生活化的类比。你在一张远景照片里找一个人，如果照片分辨率极高，人稍微挪一步结果就变；但如果先把照片按 2×2 网格缩小一半再找，人挪一两像素对缩小后的图几乎没有影响。池化就是在做这件事——用分辨率的损失，换取对位置的宽容度。

顺带说，池化也显著降低了后续层的计算量和参数量。一个 2×2 池化让特征图长宽各减半，面积变成原来的四分之一，后面所有卷积的开销都跟着降。

4.2 卷积堆叠的顺序为什么是 Conv-ReLU-Pool

看经典的 CNN 结构图，你会发现几乎都是"卷积 → 激活 → 池化"这样一组一组地重复。这个顺序不是随便定的，每一步都有它的逻辑：

先卷积，是为了提取局部特征；紧接着 ReLU，是为了引入非线性，让特征的组合能力增强；最后池化，是在当前抽象层级上做一次"空间浓缩"，把已经提取到的特征固化下来，同时缩小尺寸为下一轮更抽象的提取做准备。

重复这个组合，网络的特征抽象层级就逐级上升。第一组学到的是边缘和颜色；第二组把边缘组合成纹理和简单形状；第三组组合成物体的部件（比如眼睛、耳朵、轮子）；更深的组则组合成完整的物体概念。这跟人类视觉皮层的信息处理路径高度相似，也是 CNN 被叫做"仿生"的原因之一。

这里补一个容易被忽略的点：池化的位置不是绝对的。现在很多新式网络（比如各种 ResNet 变体）会用 stride=2 的卷积来代替池化，效果往往还更好，因为池化是固定的取最大值操作，没有可学习参数，而带步长的卷积是可学习的下采样。新手阶段用经典池化没问题，但要记住它不是唯一选择。

4.3 全连接层与 Softmax：从特征到分类结果

经过若干组"卷积+池化"，我们得到一堆特征图。最后一步要把它变成"这是几号类别"的结果，靠的是全连接层和 Softmax。

全连接层的作用是把二维的特征图拉平，然后用一组权重把所有特征综合起来做加权判断。如果说卷积层负责"看清"，全连接层就负责"下结论"。它把分散在各个通道、各个位置的特征整合成一个全局判断。

Softmax 则把全连接层输出的原始分数（logits）转换成概率分布——所有类别的概率加起来等于 1，最大的那个概率对应的类别就是预测结果。它的公式是exp(xi) / sum(exp(xj))，本质是把任意实数映射到 (0,1) 区间并且归一化。实际写代码时这一步通常和损失函数合并，用CrossEntropyLoss一句搞定，不需要单独写。

顺带说一个坑：全连接层是 CNN 中参数最密集的部分。以经典结构为例，卷积部分可能只占几十万参数，而最后的全连接层能占到上千万。这也是为什么后来的网络设计越来越倾向于用全局平均池化（Global Average Pooling）替代全连接层——直接在每个通道上求平均值，参数量为零，效果还不差。我在一个移动端项目里就吃过这个亏，全连接层让模型体积大到部署不进去，换成全局平均池化后瞬间轻松。

5. 从 LeNet-5 到代码落地：一个能跑起来的完整流程

5.1 LeNet-5：理解 CNN 的最佳标本

要理解完整的 CNN 结构，LeNet-5 是最好的起点。它是 1998 年 Yann LeCun 提出的手写数字识别网络，结构极简但五脏俱全，一共 7 层：

注意 C5 那层，输入已经是 5×5，卷积核也是 5×5，所以输出正好是 1×1，相当于用一个卷积实现了全连接。这种"卷积代替全连接"的技巧至今仍在用。

LeNet-5 用今天的眼光看很原始——平均池化早就被最大池化取代，也没有 BatchNorm、Dropout 这些现代组件。但它的层级逻辑和现代 CNN 完全一致，看懂它，再看 ResNet、VGG 只是"层数多了、技巧多了"，本质没变。

5.2 用 PyTorch 复现一个 LeNet 风格网络

理论讲完，来点能跑的。下面这段代码是我常用的 LeNet 改进版（把平均池化换成最大池化，加了 ReLU），在 MNIST 上跑几分钟就能到 99% 左右准确率：

import torch import torch.nn as nn import torch.nn.functional as F class SimpleCNN(nn.Module): def __init__(self, num_classes=10): super().__init__() # 第一组：卷积 + 激活 + 池化 self.conv1 = nn.Conv2d(in_channels=1, out_channels=6, kernel_size=5, stride=1, padding=2) self.pool = nn.MaxPool2d(kernel_size=2, stride=2) # 第二组 self.conv2 = nn.Conv2d(6, 16, kernel_size=5, stride=1, padding=0) # 全连接 self.fc1 = nn.Linear(16 * 5 * 5, 120) self.fc2 = nn.Linear(120, 84) self.fc3 = nn.Linear(84, num_classes) def forward(self, x): x = self.pool(F.relu(self.conv1(x))) # 32x32 -> 16x16 x = self.pool(F.relu(self.conv2(x))) # 16x16 -> 5x5 x = torch.flatten(x, 1) # 展平 x = F.relu(self.fc1(x)) x = F.relu(self.fc2(x)) return self.fc3(x)

跑起来非常简单：

model = SimpleCNN() criterion = nn.CrossEntropyLoss() optimizer = torch.optim.Adam(model.parameters(), lr=1e-3) for epoch in range(5): for images, labels in train_loader: optimizer.zero_grad() outputs = model(images) loss = criterion(outputs, labels) loss.backward() optimizer.step()

第一次写这段代码时，最容易错的地方是self.fc1 = nn.Linear(16 * 5 * 5, 120)里的16 * 5 * 5。这个数字必须和卷积部分输出的特征图大小严丝合缝对上，写错一个数就会在 forward 时报维度不匹配的错。后面我会专门讲怎么用打印尺寸的方式定位这类问题。

5.3 现代架构的三个关键演进

LeNet 之后的网络演进，理解了这三步基本就够用了：

第一步是"加深"——从 AlexNet 到 VGG。AlexNet（2012）把网络加深到 8 层，引入 ReLU 和 Dropout，一举拿下 ImageNet 冠军。VGG（2014）把深度加到 16-19 层，核心贡献是证明了"堆叠小卷积核（3×3）比用大卷积核（5×5、7×7）更好"——两个 3×3 卷积的感受野等于一个 5×5，但参数更少、非线性更强。这个结论至今仍是网络设计的黄金准则。

第二步是"残差连接"——ResNet 的突破。网络深到一定程度后，准确率不升反降，这不是过拟合，而是梯度传不下去导致的退化问题。ResNet（2015）引入跳跃连接（skip connection），让梯度可以绕过卷积层直接向后传，一举把网络深度推到上百层甚至上千层。这个设计的思路其实非常朴素：让网络学"残差"（输入和输出之间的差值）比学完整映射更容易，最坏情况下残差为零、网络退化成恒等映射，至少不会变差。

第三步是"结构自动化与注意力"——NAS、EfficientNet 与 Transformer 思路的引入。早期靠人手工调网络结构，后来出现了神经架构搜索（NAS），让机器自己搜；EfficientNet 提出了用统一系数同时缩放深度、宽度和分辨率的复合缩放方法；再往后，Vision Transformer 等把自注意力机制引入图像领域，挑战了卷积的统治地位。但要注意，在数据量不极端大的场景下，精心调优的 CNN 仍然非常能打，不是新架构一出现就要立刻换。

6. 我踩过的那些坑：尺寸对不上、过拟合与学习率

6.1 维度不匹配：最常见的报错，最好用的排查法

写 CNN 遇到的第一大报错就是维度不匹配，比如RuntimeError: mat1 and mat2 shapes cannot be multiplied。问题的根源永远只有一个：全连接层输入维度算错了。

我的固定排查法是这样：在 forward 函数里加一行打印，看在展平之前特征图到底是什么尺寸。

def forward(self, x): x = self.pool(F.relu(self.conv1(x))) x = self.pool(F.relu(self.conv2(x))) print(x.shape) # 调试用，看清尺寸再决定fc1的输入 x = torch.flatten(x, 1) ...

跑一遍，控制台会告诉你真实尺寸，比如[64, 16, 5, 5]，那正确答案就是16*5*5。不要靠脑子算，人脑算卷积尺寸出错率极高，直接打印最快。这个习惯我从第一次踩坑之后就一直保持，后来接手的每一个 CNN 项目开头都会先跑一次尺寸检查。

还有一个高频错误是输入图像的通道数对不上。如果你用单通道（灰度）的卷积核去接三通道（彩色）输入，或者反过来，都会报错。判断方法是看数据集加载后的张量形状——[batch, channels, height, width]，第二个维度就是通道数，千万别跟 batch 搞混。

6.2 过拟合：训练集 99%，测试集 60%

这是我做花分类项目时遇到的经典情况：训练准确率一路飙到 99% 以上，验证集死死卡在 60% 上下。典型的过拟合。

当时试了几种手段，按效果排序说说：

数据增强是性价比最高的。对图像做随机翻转、随机裁剪、轻微旋转、颜色抖动，本质上是凭空造出了大量"新"样本。我用随机水平翻转 + 随机裁剪这一招，验证准确率直接从 60% 提到了 78%，代价只是几行代码。要注意增强幅度别太夸张——你把猫的图片翻转还是猫，但你要是把它旋转 180 度，可能就变成了倒立的猫，模型反而学乱。

Dropout 也很有效。在全连接层之间加nn.Dropout(0.5)，训练时随机"关掉"一半神经元，逼着网络不要依赖某几个特定神经元，泛化能力会明显提升。但注意 Dropout 只应该在训练时开启，评估和推理时应关闭，PyTorch 里用model.eval()自动处理这一点，很多人不知道，推理时不切换模式导致结果不稳定。

权重衰减（Weight Decay）是另一种正则化思路，通过在损失里加上权重的平方和，抑制权重变得过大。配合 Adam 的weight_decay=1e-4是个不错的起点。

最后实在不行就减模型容量。如果数据量本来就小，堆一个很深的网络必然会过拟合，不如老老实实回到浅层网络。

6.3 学习率：训练不收敛的最大嫌疑犯

学习率（learning rate）设错，会表现出两种截然相反的症状，认清它们能省下大量调参时间。

症状一：损失值震荡甚至增大（NaN）。说明学习率太大，每步迈得太狠，直接跨过了最低点。我的做法是从大往下试，每次除以 10：先试 0.1，不行试 0.01，再不行试 0.001。绝大多数任务在 1e-3 附近能跑通。

症状二：损失下降极慢，几轮下来几乎不动。说明学习率太小，每步挪一点点，半天走不到最低点。这种时候通常可以往上调 3 到 10 倍。

更省心的做法是用学习率调度器，比如CosineAnnealingLR或StepLR，训练初期用大学习率快速下降，后期自动调小做精细收敛。我现在基本都会配一个调度器，手动调学习率的次数少了很多。

注意：换了优化器要重新调学习率。同一套学习率在 SGD 上合适，喂给 Adam 可能就太大。Adam 的典型起点是 1e-3，SGD 是 1e-2，这是两者更新方式差异决定的，不能直接照搬。

7. 卷积的几个进阶玩法与实际应用场景

7.1 3D 卷积：当数据多了一个维度

前面讲的都是 2D 卷积，处理的是单张图像（长、宽两个空间维度）。但有些数据的自然结构本身就是三维的，比如视频（多了一维时间）、医学 CT 扫描（多了一维深度）、点云体素。这时候就要用3D 卷积。

3D 卷积核的形状是(深度, 高, 宽)，比如 3×3×3，它在三个维度上同时滑动。相比把视频拆成一张张独立画面用 2D 卷积处理，3D 卷积能捕捉跨帧的时序信息——比如一个动作的姿态变化，单帧看不出是"挥手"还是"静止"，但连续几帧一起看就能判断。代价是计算量暴增，参数量和显存占用通常是同等的 2D 卷积的数倍。

我在做一个动作识别的小实验时对比过：同一份视频数据，2D CNN 只能靠"把多帧堆叠成通道"这种取巧方式间接利用时序，而 3D CNN 直接建模时空，准确率高了几个点，但训练时间翻倍。所以选不选 3D CNN，得看你的任务里"时间维度"重不重要，以及你的算力扛不扛得住。

7.2 CNN 不只用来做图像分类

很多人对 CNN 的印象停留在"图像分类"，其实它的应用范围要广得多，凡是数据能表示成网格状的，都有 CNN 的用武之地：

• 目标检测：不仅要判断"图里有什么"，还要框出"在哪里"。代表算法如 YOLO 系列、Faster R-CNN，核心都是 CNN 提取特征后接检测头输出边界框和类别。
• 语义分割：对图像中每个像素分类，把不同物体用不同颜色区分开。医疗影像里勾画肿瘤边界、自动驾驶里区分路面和行人，都用这类方法。
• 人脸识别：把一张人脸映射成一个特征向量，再比对两张脸的向量相似度，判断是不是同一个人。
• 非图像领域：一维 CNN（1D Conv）在文本分类、语音识别、心电图分析里也常用，因为文本序列、音频波形、心电信号本质上也是一种"一维网格"。

我印象比较深的是一个用 CNN 做设备故障诊断的项目。把振动传感器采集的时序信号转成频谱图，然后当成图像喂给 CNN 做分类，判断设备处于正常、异常还是严重故障状态。整套思路和图像分类几乎一样，只是输入换了个来源。这种"把非图像问题转换成图像问题"的思路，是 CNN 落地中非常实用的一招。

7.3 迁移学习：小数据集下的现实解法

实际项目里，你手头往往只有几百上千张图，从零训练一个 CNN 必然过拟合。这时候正确姿势是迁移学习：拿一个在大数据集上预训练好的模型（比如在 ImageNet 上训过的 ResNet），把它的卷积层权重直接搬过来，只替换和重训最后的分类层。

为什么这样做有效？因为预训练模型的浅层学到的是通用的边缘、纹理、颜色特征，这些特征对所有图像任务都适用；深层学到的是更抽象、更任务相关的特征，才需要针对你的数据微调。这就是 CNN 特征"层级通用性"带来的实际红利。

两种常见做法：

微调时有个关键细节：学习率要调小，通常设成从头训练时的 1/10 甚至 1/100。因为预训练权重已经是很优的起点，学习率太大反而会把这些宝贵的权重破坏掉。我第一次做迁移学习时没注意这点，直接沿用大学习率，结果验证准确率先掉一大截再慢慢爬回来，白折腾了几个小时。

8. 给不同阶段读者的一点个人建议

关于 CNN 的学习路径，我按自己的经验给几条实在的建议，不搞虚的。

如果你是初学者，先把 LeNet 手写一遍，别一上来就啃 ResNet。很多人卡在 CNN 门口，是因为一开始就去看上百层的网络结构图，被各种跳跃连接、分组卷积搞晕。LeNet 只有七层，把它的每一层尺寸变化手动算一遍，你就会对 CNN 有实感，后面再看深层网络只是量的积累。李宏毅老师的 CNN 课程讲到感受野和卷积核的时候，建议对照一张真实的图像做一遍手动卷积，拿纸笔算几个位置，比看十遍视频印象都深。

如果你已经能调通模型但效果一般，优先在数据和增强上花时间，而不是急着换架构。我这些年最大的体会是，CNN 项目里"数据质量 + 合理增强"带来的提升，往往超过换个新架构。见过太多人花几天调网络结构，准确率涨 1%，而认真做一遍数据清洗和增强，涨 10% 都不稀奇。

如果你在做落地的工程，记住推理效率和精度是要权衡的。课堂作业只看准确率，但真部署到手机或嵌入式设备上，模型大小、推理延迟、内存占用都是硬指标。全局平均池化替代全连接、用深度可分离卷积（MobileNet 的核心）替代普通卷积，这些技巧能在精度损失有限的前提下大幅瘦身，值得提前了解。

还有一个我反复强调的习惯：永远先用小数据、少轮次把整条链路跑通，再上全量数据和深层网络。我见过太多人一上来就设 100 个 epoch、上最深的网络，结果跑了两小时才发现数据路径写错了。先用几十张图、2 个 epoch 验证"数据加载对、前向能过、损失能降、保存能存"，这条链路确认无误后再放大规模，能省下大量等待时间。这个习惯看起来笨，但在我做过的每一个项目里都实实在在救过场。

CNN 这套东西，说到底就是把"局部看、滑着看、层层抽象"这三个直觉变成了可训练的数学结构。理解了这三点，剩下的都是工程细节和调参经验，遇到新架构也不用怕，拆开来还是这几样东西的组合。