March 21, 2026 March 21, 2026 March 21, 2026 March 21, 2026 Attention Residuals（AttnRes）：Transformer 残差连接的深度注意力重构 Attention Residuals：Transformer 残差连接正在从“固定累加”走向“按深度选择性检索” 核心解读 今天在 Hacker News 和 GitHub 上同时值得关注的一个 AI 研究项目，是 MoonshotAI 的 Attention Residuals（AttnRes） 。如果只看标题，它 transformerresidual-connectionattention-mechanismmoonshotaillm-architecture