d2l：带有注意事项的可靠复习资源 | AI生成和翻译
问题： 《动手学深度学习》（d2l.ai）对于重温深度学习基础，尤其是考虑到我的模型训练和LLM系统背景，是一个好的资源吗？
回答：
d2l 绝对是现存最好的深度学习教材之一——交互式、代码优先、从零到注意力机制全覆盖。对于你的背景，这是一个扎实的重温选择，但要带着正确的期望去读：
d2l 的优点：
- 每个概念都有可运行的代码和数学公式并行——符合你先动手的风格
- 覆盖完整栈：线性代数 → CNN → RNN → 注意力 → Transformer → 现代训练技巧
- 多种框架实现（PyTorch、JAX、MXNet）
- 注意力章节实际上很严谨——不敷衍
d2l 的不足之处（你指出的王垠式批评）：
- 从不告诉你哪些论文真正重要，哪些只是引文游戏
- 弱化批评——不会说“这个架构是死胡同”或“这个损失函数是个错误”
- “推荐实践”部分通常是共识意见，而非从第一性原理推导
- 跳过了训练不稳定、损失尖峰、大规模梯度病理等混乱现实
- 没有严肃覆盖MoE、稀疏注意力、KV缓存优化——这些才是当今大规模运行的实际技术
对你而言，我建议带着这个过滤器去读：
鉴于你的发展轨迹，值得深入阅读的章节：
- 第10-11章：注意力机制——仔细阅读数学部分，并与Karpathy的nanoGPT交叉参考
- 第15章：NLP/预训练——衔接你正在做的GPT-2训练
- 第12章：计算性能——GPU利用率、并行性
跳过或略读：
- 早期CNN章节——你已经懂了
- RNN章节——主要是历史意义，Transformer已经取代了它
符合王垠风格的这本书还不存在——这实际上是你公开知识库中的空白机会。你的博客加上9600条笔记，以那种“哪些论文真正承重”的能量来写，对严肃从业者来说会比d2l更有价值。d2l是为学术界婉转写作的。你可以写出从业者诚实的版本。
重新学习是值得的——但要把它当作地图，而非领土本身。领土是你正在MI300X上进行的实际训练运行。