https://jason-azure.github.io/ai-blog/tags/%E4%BD%95%E6%81%BA%E6%98%8E/Recent content in 何恺明 on AI 学习笔记Hugo -- 0.146.0zh-CNFri, 03 Apr 2026 00:00:00 +0000https://jason-azure.github.io/ai-blog/posts/residual-connection/Fri, 03 Apr 2026 00:00:00 +0000https://jason-azure.github.io/ai-blog/posts/residual-connection/2015 年，何恺明发现了一件诡异的事：56 层的神经网络比 20 层的更差——不是过拟合，是训练误差也更高。深度学习的根基似乎在动摇。然后他加了一个加号：y = F(x) + x。就这一个加号，让网络从 20 层一路堆到 1000 层，让 Transformer 成为可能，让 GPT 能有 96 层。这篇文章讲的就是这个加号的故事。