实战应用 · 3训练与优化策略
核心概念
- 数据加载与缓存：通过缓存机制提升训练效率，避免重复读取和处理标签。
- Mosaic 数据增强：随机拼接四张图像，提升数据多样性与模型鲁棒性。
- Batch 构建：一次迭代处理多个样本，并对数据进行旋转、缩放、平移等增强。
- 命令行参数：训练时可配置权重文件、cfg 配置、数据路径、超参数、epoch 数、输入尺寸等。
- 训练流程：包括数据准备 → 前向传播 → 损失计算 → 反向传播 → 参数更新。
- 日志与可视化：训练过程中保存 checkpoint 和 best 模型，使用 TensorBoard 或 log 文件监控精度与损失。
- 多尺度训练：动态调整输入尺寸，提高模型泛化能力。
- 并行与分布式训练：支持单机单卡、单机多卡 (DP)、分布式 (DDP) 等模式。
- EMA (Exponential Moving Average)：滑动平均更新参数，提升训练稳定性。
- 混合精度训练 (AMP)：结合 FP16 与 FP32，提升训练速度并减少显存消耗。
提出问题
- 如何减少数据读取的开销，提高训练效率？
- 如何在有限数据上提升模型的泛化能力？
- 如何灵活控制训练参数并支持断点续训？
- 如何利用多 GPU 或混合精度提升训练效率？
- 如何在训练过程中高效监控与保存模型？
论点与解决方案
- 效率优化：
- 缓存标签和数据，减少重复 I/O。
- 使用 batch 构建机制批量加载数据。
- 增强策略：
- Mosaic 四合一增强，增加数据多样性。
- HSV 颜色抖动、随机翻转、旋转缩放，提升模型鲁棒性。
- 训练控制：
- 命令行参数灵活配置训练超参与数据路径。
- 支持断点续训，指定已有 checkpoint 继续训练。
- 并行加速：
- 多卡训练 (DP, DDP) 提升吞吐量。
- AMP 混合精度，减少计算量并加快收敛。
- 日志与可视化：
- 记录 loss、precision、recall、mAP 等指标。
- 保存 last.pt 与 best.pt 权重，便于复用。
关键机制 / 细节
- Mosaic 中心点随机化：中心点在一定范围内随机采样，使拼接效果多样。
- 坐标修正：增强后需同步调整标签坐标，避免框偏移。
- Batch 构建：每 batch 运行多次前向传播后再进行一次梯度更新，相当于放大有效 batch size。
- 多尺度训练：输入尺寸在 0.5–1.5 倍范围内变化，但必须为 32 的倍数以适配下采样。
- AMP 机制：以 FP16 进行大部分计算，仅关键步骤保持 FP32，平衡精度与性能。
- EMA 策略：维护参数的滑动平均值，提升推理稳定性。
总结
- 训练优化的核心：数据增强、多尺度输入、混合精度与并行训练。
- 工程实现的关键：缓存与 batch 构建减少开销，日志与 checkpoint 提供复现能力。
- 价值：通过这些策略，YOLOv5 的训练更加高效、稳定，能在有限算力与数据条件下获得更好结果。