学习率太大:loss 震荡甚至发散;太小:收敛极慢。常用策略包括学习率衰减、warmup 和自适应优化器(Adam)。
实践与应用 · 第 1 章路径 7/8本章完成 0%数据增强学习率早停
可用 ← → 键切换主题
学习率
收敛速度 · 震荡 · 发散
训练与调参检查点
学完演示后来检验一下。全部答对即可标记本章测验通过。
1. 早停(early stopping)依据的是?
2. 过拟合的典型曲线特征是?
3. 学习率过小通常导致?
实践清单
- 数据划分:train / val / test,绝不偷看 test set 调参。
- 实验记录:超参数、随机种子、数据版本一并记录。
- 从小做起:小模型、小数据先验证 pipeline,再放大规模。