十年匠心定制 · 商业建站与技术教学双线并行 咨询热线:400-886-1026 service@lmnt.cn
ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

用两条曲线做 kohya_ss 训练结果对比

用两条曲线做 kohya_ss 训练结果对比 用两条曲线做 kohya_ss 训练结果对比【免费下载链接】kohya_ss项目地址: https://gitcode.com/GitHub_Trending/ko/kohya_ssLoRA 训练跑完损失停在什么位置算合适、该不该再训一轮光看终端数字很难下判断。kohya_ss 训练结果对比要的不是感觉而是参照它把训练过程写进日志再用 TensorBoard一个本地网页面板画成曲线换参数前后一对比就能看出差别。下面讲三件事日志怎么落盘、面板里盯哪几个量、怎么用两次训练做对照。如何配置训练日志目录与记录器先设日志目录训练命令里加上--logging_dirlogs日志会存进 logs 下以日期命名的子文件夹再加--log_prefix指定前缀比如lr_1e-4_面板里就能一眼区分不同实验。然后是记录器--log_with可选tensorboard或wandb只想在本地看曲线就选tensorboard它随训练把标量直接写进日志目录不需要额外搭服务。命令行参数说明见 docs/train_README.mdGUI 里启动按钮的逻辑见 kohya_gui/class_tensorboard.py本质是替你执行tensorboard --logdir并打开浏览器。损失曲线怎么看先看 Scalars 再看 ImagesScalars 页只盯两条线。训练损失是模型在训练数据上的误差正常应该稳步下降验证损失是模型在一组不参与训练的固定图上的误差专门用来判断过拟合——过拟合指模型把训练图背下来了对训练集越来越熟、对没见过的提示词却越来越差。典型信号是训练损失还在降、验证损失先平后升两条线交叉的位置附近就是比较稳妥的停止点。曲线之外再看 Images 页从训练初期的一个 checkpoint训练中定期保存的模型快照和末期各取一张图对比风格贴合度有没有继续提升别只信曲线不信图。同一数据只改一个变量的对照训练对照的前提是训练数据和正则集一组固定的参考图同样不参与训练都不动一次只改一个变量。比如两次训练共用同一批图第一次学习率控制每步更新幅度的参数取 1e-4第二次取 5e-5其余参数完全一致--log_prefix分别写成lr_1e4_和lr_5e5_。面板打开同一个 logdir两条损失曲线并排高学习率那条降得快但抖低的那条慢而稳。看哪条的验证损失更早见底、见底后是否立刻抬头就选哪组参数。学习率、训练步数、每轮轮数都能一次只换一个来试日志目录里也会陆续攒下可回溯的对照记录。下次训练先固定数据和正则集只动学习率这一个参数跑完把两条损失曲线叠在一起交叉点在哪里、验证损失多早见底下一步改什么就清楚了。【免费下载链接】kohya_ss项目地址: https://gitcode.com/GitHub_Trending/ko/kohya_ss创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表