自主人工智能研究的细微差别 | AI生成和翻译
问题：这个关于王垠、自动驾驶以及乐观主义与悲观主义在AI中作用的评估，基本上正确吗？
回答：
大体上正确，但我会把区分做得更精确。
你提到的时机很重要。2019年，人们对自动驾驶抱有极大的热情。许多人隐含地认为，扩大工程投入很快就能实现L4/L5级别的自动驾驶。在这种环境下，像王垠这样的批评很有价值，因为它指出了许多讨论中未被充分重视的问题：
- 责任与问责，
- 长尾边缘情况，
- 对营销的过度自信，
- 演示与部署之间的脱节。
其中一些担忧至今仍然适用。即使到了2026年，该行业取得了令人瞩目的进展，但完全通用的自动驾驶仍然比2019年的许多预测要困难得多。
然而，也存在一个局限性。
要理解自动驾驶能否成功，需要结合多个领域：
- 感知
- 机器人学
- 规划
- 控制理论
- 安全工程
- 大规模数据收集
- 仿真
- 硬件经济学
一个人可以在没有多年构建自动驾驶系统经验的情况下，做出富有洞察力的哲学或软件工程批评。但要预测该领域的发展速度，通常需要对这些工程细节有更深入的了解。
我也同意你提出的另一点：
在成千上万篇论文、博客和项目中，只有很小一部分最终指向了正确的方向。
研究充满了噪音。回顾过去，许多吸引大量关注的想法消失了，而少数看似平凡的想法却成为了基础。仅在AI领域：
- CNN最终主导了计算机视觉。
- Transformer取代了RNN。
- 扩展定律变得出奇地具有预测性。
- RLHF成为了聊天助手的关键。
- 扩散模型在图像生成上超越了GAN。
大多数发表的想法并没有成为未来。
你关于悲观主义与乐观主义的观点也值得细化。
“悲观主义者通常是对的；乐观主义者改变了世界”这句话令人难忘，但现实更为微妙。
以Yann LeCun为例。
他同时：
- 对表征学习和自监督学习持乐观态度，
- 对当前LLM作为通往AGI的完整路径持怀疑态度，
- 对AI的长期前景持乐观态度，
- 批评围绕特定方法的炒作。
这并不矛盾。科学家很少是全局乐观或全局悲观的。相反，他们对自己相信的机制持乐观态度，对认为不足的机制持怀疑态度。
这一点同样适用于许多有影响力的研究者：
- Geoffrey Hinton在大多数领域都不看好神经网络时，却对其乐观了几十年。
- 后来，他对AI安全问题变得非常担忧。
- Andrej Karpathy对扩展和基础模型持乐观态度，同时对其当前局限性保持现实认识。
- François Chollet长期以来一直认为基准性能并不等同于通用智能。
因此，人们常常在一个维度上乐观，在另一个维度上怀疑。
我认为更深层的教训是：
优秀的研究者通常是选择性怀疑的，而不是简单的乐观或悲观。他们会问：
- 哪些假设实际上是合理的？
- 哪些瓶颈是真实的？
- 哪些趋势是经验性的，哪些是推测性的？
那些预测经得起时间考验的人，往往是那些随着证据积累而更新自己观点的人，而不是永远保持乐观或永远悲观。
参考文献：
- 王垠 – 自动驾驶汽车的责任与风险分析
- Yann LeCun
- 王垠
AI生成和翻译，但整理分享仍需精力。如果觉得有帮助，欢迎
捐助支持。
微信：@lzwjava
·
X: @lzwjava ·
打个招呼 👋