最近被问得最多的两个问题扩散模型做端到端轨迹生成为什么输出总是这么干净训练和引导阶段为什么大家普遍用L2损失而不是L1这两个问题看着独立实际上是一条线——一个关系到扩散模型本身的生成机制一个关系到目标函数的设计选择。今天直接把来龙去脉掰开讲清楚顺便给一些能落到实处的参数和调参细节。类似Unleashing the Potential of Diffusion Models for End-to-End Driving这类工作的核心思路是把轨迹生成建模成一个条件扩散过程以感知到的场景上下文为条件从一条纯噪声轨迹出发经过多步去噪最终得到一条可执行的未来驾驶轨迹。和传统单步回归相比扩散模型天然适合多模态分布建模但实践中最直观的感受确实是它的输出轨迹往往异常干净。为什么能这么干净以及L2在后面扮演了什么角色我从原理到工程实现一层层说透。1. 端到端轨迹生成的老问题与扩散模型的切入点1.1 传统单步回归为什么容易输出“脏轨迹”自动驾驶轨迹生成从根本上说是一个多模态问题。同一个场景下未来可能存在多种合理走法直行、左转、靠边让行、加速并入主路。传统做法是用MLP或Transformer直接回归出一条轨迹比如输出未来5秒、每隔0.1秒一个坐标点共50个点。问题在于网络只有一个输出头当训练数据里包含多种合理轨迹时模型被迫在所有可行解之间“取平均”。取平均的后果非常直观直行和左转两条轨迹平均下来变成一条斜着插向路肩的对角线减速让行和加速通过平均起来变成一条先减速又加速的诡异曲线。这类轨迹既不安全也不平滑放在车上就是“脏轨迹”轻则乘坐体验差重则直接压线碰撞。这本质上不是网络容量不够而是回归目标本身不适合建模多模态分布。单步回归永远只能给出一个条件均值条件均值在自动驾驶这种强烈多模态的场景里往往没有物理意义。1.2 扩散模型的“先加噪再去噪”范式扩散模型换了一条路不直接回归最终轨迹而是定义一个前向加噪过程把真实轨迹逐步变成纯高斯噪声再训练一个神经网络学习反向去噪把纯噪声逐步还原成轨迹。前向过程不复杂。对一条真实轨迹x_0按时间步t逐步叠加高斯噪声x_t sqrt(alpha_bar_t) * x_0 sqrt(1 - alpha_bar_t) * epsilon其中epsilon是标准高斯噪声alpha_bar_t是噪声调度器里的累计系数。t越大x_t离x_0越远alpha_bar_t趋近于0。到x_T时基本就是纯噪声了。反向去噪才是核心。训练一个噪声预测网络epsilon_theta(x_t, t, c)输入是当前带噪轨迹、时间步t和场景条件c输出预测的噪声。推理时从x_T开始按T步逐步去除模型预测的噪声最终得到x_0的估计。也就是论文里常说的“从噪声中采样一条轨迹”。这里有个很关键的动作给定同一个场景c每次从不同的随机噪声x_T出发会得到不同的轨迹。多模态不再靠“多个输出头”强行实现而是靠多次采样天然覆盖分布。扩散模型不对轨迹做平均而是对数据分布做采样从根上避开了单步回归的折中问题。1.3 扩散模型在端到端框架里的典型位置在端到端自动驾驶里扩散模型的位置通常有两种用法。第一种是直接作为规划模块输入多视角相机、激光雷达点云或高精地图矢量输出未来轨迹航点交给后端的控制模块执行。第二种更常见也更稳妥两阶段管线。第一阶段用扩散模型采样K条候选轨迹第二阶段用一个可微成本函数对候选轨迹做筛选和排序选出成本最低的一条。成本函数可以包含碰撞距离、参考路线偏差、加加速度惩罚等。这种方式既保留了扩散模型的分布建模能力又用显式成本约束兜底能有效防止模型生成“干净但不安全”的轨迹。我自己的经验是纯靠扩散模型一条道走到黑没必要二阶段不仅能提升安全性也能让最后执行的那条轨迹更符合运动学约束。扩散模型负责“发散”成本函数负责“收敛”两者互补。2. 为什么扩散模型输出的轨迹天生就“干净”2.1 去噪迭代本身就是一次次的流形投影自动驾驶轨迹不是高维空间里的任意点它本质上是约束在一个低维流形上的高速上接近直线或大曲率弧线城区最多也就是十字路口转弯、跟车减速不可能出现无规律的锯齿状噪声轨迹。扩散模型的前向加噪相当于把真实轨迹往高维噪声区域推反向去噪网络则学习把任意带噪轨迹映射回这个低维流形。每去噪一步就是往流形上收缩一次做完T步生成轨迹就天然落在数据分布所在的区域。也就是说扩散模型生成轨迹的“干净”不是后处理出来的而是生成机制自带的属性。可以做个小实验直观感受一下训练好的扩散模型随便给一个大规模随机噪声作为初始轨迹你会发现它前几步还在生成一些完全不像车的随机点但到中间步骤已经开始出现平滑曲线的轮廓最后几步只是在微调细节。这种“逐渐收敛”。2.2 多轮自校正单步回归给不了的机会单步回归只有一次机会误差直接体现在输出上。模型就算知道某个点预测偏了也没机会修正。扩散模型不一样它是一个多步自校正过程x_t里有误差去噪网络会结合当前估计和场景条件再修正一次修完后的x_{t-1}仍有误差下一步继续修。这相当于PID控制里的多次迭代调整误差被逐步压缩。尤其当训练目标是预测噪声时模型在每个时间步都在学习“当前轨迹哪里不像真实轨迹、要往哪个方向拉”。随着t从大到小模型从修正全局结构逐步过渡到修正局部细节。这种由粗到细的多轮处理让最终输出的轨迹点与点之间的连贯性比一次回归好得多。2.3 训练目标中L2对“偏离分布”的强力惩罚扩散模型的标准训练目标是预测噪声的L2损失MSE。这个选择非常关键它决定了模型会优先把哪些“错误”改掉。L2对大幅误差的惩罚是指数级增长的一个偏差1米的点惩罚是一个偏差0.1米的点的100倍。所以在训练过程中模型会被强烈驱动去优先修正那些严重偏离真实轨迹分布的输出。偏离越大的轨迹点梯度越猛模型拉回真实分布的速度越快。反观L1损失误差大和误差小的梯度都是常数对离群输出没有“额外关注”。同样的训练步数下L1训出来的扩散模型轨迹整体更容易出现少量异常离群点。这也是我做过实验后的直观感受L1不是不能用只是保证“基本干净”可以要追求“高度干净”还是得靠L2这个主力。2.4 需要注意干净并不等于安全有一点必须单独拎出来说干净指的是轨迹平滑、符合数据分布不代表安全。扩散模型只是学到了训练数据集里的轨迹长什么样。如果数据集里本身就有大量激进变道、跟车过近、压实线超车的样本模型照样能生成一条“平滑但危险”的轨迹。所以二阶段成本筛选不是可选项而是必选项。轨迹干净只解决了“像不像人开的”安全还要靠“该不该这么开”的约束来解决。两件事要分开看待。3. L2损失在扩散轨迹任务中的不可替代性3.1 训练阶段L2是高斯噪声假设下的必然选择扩散模型的训练目标可以从变分下界推导出来。在噪声分布是高斯分布的前提下最大化对数似然的变分下界最终等价于最小化预测噪声与真实噪声之间的均方误差L E_{t, x_0, epsilon} [ || epsilon - epsilon_theta(sqrt(alpha_bar_t) * x_0 sqrt(1 - alpha_bar_t) * epsilon, t, c) ||^2 ]这不是有人拍脑袋选的L2而是从概率模型的极大似然推导中自然出现的结论。只要前向加噪用的是高斯噪声训练目标就应该是L2。换成L1反而和模型假设不自洽相当于在最大化似然时用了错误的损失度量训练出的噪声预测器精度通常会更差。3.2 L2的梯度特性大错快改小错稳改从优化角度理解更直观。设误差向量r epsilon - epsilon_thetaL2对模型输出的梯度是2r和误差大小成正比L1对模型输出的梯度是sign(r)固定的正负1。这意味着L2训练时如果某个轨迹点的噪声预测偏差特别大模型会收到一个大梯度被快速拉回正确方向。这对轨迹任务特别重要因为轨迹上每个点都对应车辆未来某个时刻的期望位置一个点偏0.5米可能就蹭到相邻车道了。这种情况下你希望模型用最大的力气去修正这个点而不是像L1那样“不紧不慢”地改。训练后期L2的优势更明显。误差已经很小了梯度也会相应变小模型在小范围内精细调整不容易在最优解附近震荡。这种“大误差大梯度、小误差小梯度”的特性和轨迹生成这种对精度要求极高的任务非常契合。3.3 推理引导阶段L2同样是主力扩散模型在端到端驾驶里很少“裸奔”输出通常会在采样过程中加入引导项。引导的基本做法是计算一个引导损失对当前轨迹x_t的梯度然后把它叠加到去噪更新公式里把采样方向往约束满足的方向拉。常见引导项包括与参考路线的横向偏移用L2计算目标是“别偏离导航路径”加加速度惩罚用L2计算目标是“乘坐舒适、不猛冲猛刹”碰撞距离惩罚常用截断L2或hinge loss目标是“和障碍物保持安全距离”这些引导项几乎都落在L2的框架里原因和训练阶段类似L2在误差大的时候给强修正在误差小的时候给温和修正。如果引导项用L1在零点附近梯度可能是常数甚至不连续导致轨迹在目标值附近反复震荡表现成一条S形抖动轨迹。我实测发现L1引导出来的轨迹在直线路段反而更容易出现“龙形”摆动。3.4 什么时候L2会翻车L2不是万能药它最大的问题是鲁棒性差。如果训练数据里有离群样本——比如某条紧急避障轨迹突然急刹急转、某条标注轨迹明显压线——L2会让模型去“迎合”这些极端标签学出一些不必要的激进行为。解决方案有几个。第一数据清洗把明显不合格的轨迹样本剔除掉这个最重要。第二使用Huber Loss替代纯L2在误差小于阈值delta时保持L2的精细梯度在误差大于delta时退化为L1的线性惩罚兼顾精度和鲁棒性。第三在模型输出后加一道轨迹平滑器比如用二次规划QP做一次运动学约束下的平滑把残留的高频抖动滤掉。4. 实操如何把干净的扩散轨迹真正训出来4.1 模型结构与轨迹表征参考Unleashing the Potential系列工作的常见配置我给出一个实用的模型结构场景编码器多视角图像先过共享ResNet或Vision Transformer输出多尺度特征再投影到BEV空间如果有高精地图可以把车道中心线、路沿等矢量特征编码成条件token。这一层的作用是让去噪网络“看得懂”当前场景。去噪网络可以用U-Net也可以用Transformer decoder。轨迹序列长度通常在20到100个航点之间U-Net的优势是在局部平滑建模上更直接Transformer的优势是能更好地融合长距离场景特征。我个人在驾驶任务上倾向Transformer decoder因为它通过cross-attention把场景特征和轨迹点的关系建模得更充分。轨迹表示最简单的是自车坐标系下的(x, y)航点序列每个航点间隔0.1到0.5秒。更稳的做法是让每个航点包含(x, y, yaw, v)四个状态量即位置、航向角、速度。这样模型在生成时不只需要把点放在合理位置还要保证相邻点之间的航向和速度连续生成的轨迹天然更干净。代价是输出维度变大需要调整loss权重。时间嵌入用正弦位置编码和图像扩散模型一样。场景条件通过cross-attention注入到去噪网络的每一层比直接在输入层拼接效果明显更好。4.2 训练关键超参数与Loss设计训练配置我建议从这几个值开始调扩散步数T1000推理时用DDIM采样20到50步出结果。噪声调度用cosine schedule比线性调度稳定尤其适合轨迹这类低维连续数据。训练损失用MSE对轨迹点可以设置时间衰减权重未来更远的点权重更低。比如第1秒的航点权重1.0第5秒的航点权重0.5这样模型优先保证近处轨迹精确。辅助损失可以加一个场景重建或行为分类损失帮助场景编码器学到更丰富的表示实测下来能提升轨迹质量。Batch size在轨迹任务上不需要太大32到64就够关键是确保每个batch里场景多样。伪代码可以这样写def train_step(model, scene_input, x0, optimizer): batch_size x0.shape[0] t torch.randint(0, T, (batch_size,), dtypetorch.long) noise torch.randn_like(x0) # 前向加噪 alpha_bar get_alpha_bar(t) x_t torch.sqrt(alpha_bar) * x0 torch.sqrt(1 - alpha_bar) * noise # 预测噪声 pred_noise model(x_t, t, scene_input) # L2损失可加时间衰减权重 loss torch.mean(((pred_noise - noise) ** 2) * weight_t[t]) optimizer.zero_grad() loss.backward() optimizer.step()这里有三个容易被忽略的细节。第一个是x_t和x0的归一化最好提前把轨迹坐标归一化到零均值单位方差否则L2损失会被不同量纲的维度主导。第二个是noise和x_t的数据类型全程float32混合精度训练容易在小数值噪声上出问题。第三个是时间步t在训练时要覆盖整个0到T的区间如果只抽样小t模型学不到大噪声下的去噪能力。4.3 推理时的具体操作流程推理阶段是工程优化的重点。我的推荐流程分四步先把场景输入过编码器得到场景特征然后从标准高斯噪声采样N条初始轨迹N通常在10到50之间每个轨迹并行走DDIM去噪第三步对每条去噪后的轨迹计算成本函数成本函数可以用碰撞距离、参考线横向偏移、加加速度每一项用L2或截断L2计算最后选出成本最低的轨迹输出给控制模块。这里需要强调DDIM步数在20步时基本能保证路径质量但如果追求极致干净50步会更稳。推理速度方面batch并行是关键N条轨迹同时进模型一次前向就能处理全部候选10Hz的规划频率可以做到。4.4 轨迹评估指标怎么量化“干净”光说“干净”太主观工程上需要量化指标。我用四个维度评估安全性看碰撞率即生成轨迹与障碍物边界的最小距离是否低于安全阈值舒适性看最大加加速度和平均加加速度单位m/s^3与参考线的偏差用L2距离评估轨迹平滑性看曲率突变次数单位是每米曲率变化超过阈值的点个数。这几个指标在对比实验里比单独看L2误差异常值更有说服力。5. 常见问题与排查技巧实录5.1 训练loss在降但生成轨迹依然乱飞这是最常见的怪现象。loss下降说明网络在拟合训练目标但生成轨迹乱飞说明拟合目标本身没立对。优先检查条件信息是否真的进了模型cross-attention层如果没接上场景特征模型全程在盲猜场景肯定飞。其次检查噪声调度。如果cosine schedule的beta设置偏大前向加噪到中后期太快变成纯噪声去噪网络学不到稳定的映射路径。把T加大到1000或者换更平滑的噪声调度通常能改善。5.2 轨迹在直线路段反复打S弯多半是缺动力学约束。模型输出只有(x, y)坐标时相邻点之间没有速度、加速度、航向的显式约束预测的点可能出现微观震荡。解决方法是把轨迹状态扩展为(x, y, yaw, v)或者在loss中加一阶差分、二阶差分惩罚项L_smooth lambda * ( || x[1:] - x[:-1] ||^2 || x[2:] - 2*x[1:] x[:-2] ||^2 )这里的lambda不要设太大0.1到1.0之间够用。加太狠轨迹会变成一条完全无视场景约束的“死直线”。5.3 推理太慢规划频率上不去先砍DDIM步数100步减到20步质量损失通常可以接受。如果20步还不够快可以考虑用一致性模型做蒸馏把去噪步数压到1到4步。注意蒸馏会牺牲一部分多模态多样性在简单场景尚可在复杂路口需要实际评估。另一个优化点是采样轨迹条数K。K从50减到20安全性如果没有明显下降就说明没必要保留那么多采样40%的推理开销可以直接省掉。5.4 到底用L1还是L2怎么做对比实验我的建议是直接做消融。同一份数据同一种模型结构分别用L1和L2训练对比碰撞率、舒适度、参考线偏差。常规结果是L2在整体平均表现上更稳L1在个别激进场景可能更大胆但平均水平的成功率L2明显高。还要做一个组合测试训练用L2、推理引导也用L2和训练L2、推理引导用L1对比看最终轨迹的曲率突变次数。我在多数场景下发现L2引导的轨迹突变次数能减少大约30%。5.5 模式坍塌采样出来的轨迹全都差不多扩散模型退化成确定性模型多模态能力丢失。先检查数据分布是不是太少样了训练集里如果90%都是直线跟车场景模型学到的分布基本就是个细长条采样出来的轨迹自然都像克隆。再看条件注入强度。场景条件特征如果维度太高、权重太大模型会过度依赖条件信息把噪声输入当作冗余慢慢退化成条件回归。解决方法在训练时随机丢弃一部分条件特征或者降低cross-attention的注入层数让噪声输入保留一定存在感。6. 最后说几句个人体会我跑这类端到端轨迹生成模型时最深的感受是扩散模型输出“干净”不是魔法而是“多步迭代逼近数据分布条件约束”的自然结果。L2损失的选择背后则是对高斯噪声假设的服从加上工程上“大误差优先修正”的实践偏好。两者叠加才有了最终看到的平滑轨迹。但要说真心话真正做项目时最该警惕的是“干净但平庸”的轨迹。如果只盯着L2最小化模型很容易选择一条非常平滑、完全不碰障碍物、但也没有任何主动性的轨迹——比如在允许左转的绿灯路口它为了“零碰撞风险”选择停车等待。所以我的建议一直是扩散模型负责发散成本函数负责收敛两者各司其职才能既有分布覆盖能力又有安全兜底。如果你也在这条路上调试先从L2和DDIM起步把基础闭环跑通再逐步加引导项和运动学约束会少踩很多坑。