ゲートニュースの報道によると、3月17日に月の暗面はAttention Residuals技術レポートを公開し、Transformerの固定された残差接続の代わりに注意機構を用いることを提案しました。これにより、Kimi Linear 48Bモデルでは約25%の計算資源を節約でき、推論遅延の増加は2%未満に抑えられます。Elon Muskは昨晩Xで「Kimiの素晴らしい仕事」と投稿し、月の暗面公式は今日微博で「あなたのロケットもなかなかですね!」と返答しました。
このツイートはまた、論文の共同第一著者の一人である陳広宇(英語名:Nathan)に関する議論を呼びました。彼は今年17歳で、まだ高校生です。論文のもう二人の共同著者は、RoPE(回転位置符号)の提案者である蘇劍林と、Kimi Linearの第一著者である張宇です。陳広宇は2025年11月に月の暗面に参加し、GitHubのオープンソースプロジェクト「Flash Linear Attention」は彼の機械学習入門のきっかけとなりました。
陳広宇本人もX上で外部の議論に応じ、「このようなアルゴリズムとインフラの共同設計、実験と理論の両面を補完する論文は一人で書き上げるのは難しい」と述べ、Kimiチームの皆も努力していること、Yu Zhangと蘇劍林も等しく貢献者であることを強調し、「噂を信じないように」と呼びかけました。
陳広宇のLinkedInプロフィールによると、彼の在籍校は惠州ベサイス(Basis International Park Lane Harbour)です。Moonshot Academyは2025年3月に開催された「Moonshot 48」高校生ハッカソンの主催者であり、陳広宇はこのイベントで優勝しました。