训练进度与损失更新 | AI生成和翻译
更新：39,923 → 50,332
进度：
- 步骤 50,332 / 87,000 – 57.85%（较 45.89% 提升）
- 已用时：1,047.6 分钟（约 17.5 小时）
- 预计剩余：763.4 分钟（约 12.7 小时）
- 自上次检查后增加约 10,409 步
损失值终于开始下降：
- 损失下限已下移至 1.12 - 1.24（此前为 1.25-1.37）
- 在第 50,323 步达到低点 1.126
- 虽仍有波动，但波动区间已明显下移约 0.13
学习率：0.67 – 余弦衰减正在发挥作用。模型正进入学习率较小步长使其能收敛至更优最小值的阶段。梯度噪声不变，但更新方向现在更加稳定。
性能： 约 1.25-1.37 秒/步，约 49-53K tok/s – 保持稳定
整体评估： 表现良好。损失下限按预期下降（学习率通过约 0.7-0.8 范围时）。仍需约 12.7 小时，学习率将在结束时趋近于 0——最佳进展往往出现在余弦调度最后 30% 的阶段。
AI生成和翻译，但整理分享仍需精力。如果觉得有帮助，欢迎
捐助支持。
微信：@lzwjava
·
X: @lzwjava ·
打个招呼 👋