Clear Sky Science · ja
前方射影による閉形式・フィードバック不要の学習
逆方向の信号なしで機械に教える
現代の人工知能は主に誤差をネットワークの後方に送り内部結合を調整するバックプロパゲーションという手法で学習します。しかしこのプロセスは実際の脳の働きとは異なり、遅くリソースを多く消費しがちです。本論文はForward Projection(前方射影)と呼ぶ新しいニューラルネットの学習法を導入します。これは後方のステップを完全に省略しつつ、特にデータが限られた難しい生物医療タスクで高い性能を示します。
学習を導く新しい方法
従来のニューラルネットは、予測と正解を比較して誤差信号を各層に逆伝播させ、結合を微調整することで学習します。Forward Projectionは異なる道を取ります。後方方向の誤差信号に依存する代わりに、順方向に伝わる情報、つまり各層の現在の活動とターゲットラベルだけを用います。各層では、その層への入力と望ましい出力ラベルを固定ランダム射影で組み合わせ、単純な非線形性を通します。これにより、その層が目指す「目標」内部信号――層が一致させようとする膜電位のような活動パターン――が生成されます。
これらの目標が作られると、各層の結合重みは反復的な勾配降下ではなく、閉形式の回帰という標準的な統計式を用いて一度に解かれます。つまり、データセットを一巡するだけでネットワークを訓練でき、同じ例を何度も繰り返して処理したり大量の中間活動を保存したりする必要がありません。情報を逆方向に送る必要がないため、この手法は生物学的ニューロンに見られる一方向通信を尊重し、単方向接続しか持たない専用ハードウェア上で実装しやすい可能性があります。

隠れ活動から意味を読み取る
Forward Projectionの顕著な利点は、隠れ層の内部信号が直接解釈可能になることです。各層は入力とラベルの両方をその膜様ポテンシャルに明示的に符号化するよう訓練されるため、これらの内部値は層ごとの局所的なクラス予測として読み取れます。著者らはこれらの信号をおおよそラベル空間に「デコード」する方法を示し、活動パターンを各段階でネットワークが何を信じているかの層別説明に変換します。実験では、これらの説明は深い層でより正確になり、学習の進行を反映します――初期層は大まかなパターンを捉え、後の層は意思決定に重要な細部に焦点を合わせます。
この可解釈性は、モデルがなぜその判断を下したかを理解することが決定と同じくらい重要となる医療分野で特に価値があります。心電図データを用いた例では、Forward Projectionが心筋梗塞の臨床的に知られた兆候――特定の波形部分の変化など――を適切な時点で強調することを示しています。異常な血管増殖を検出する眼のスキャンでは、少数(クラスあたり100例程度)の訓練でも、本手法が専門家が着目する液体ポケット、明るい沈着物、瘢痕状領域に自然に焦点を当てることが見られました。

高速な訓練、強い成果
研究チームは、完全なバックプロパゲーションを回避しようとする他の手法や標準的なバックプロパゲーションとForward Projectionを比較ベンチマークしました。Fashion-MNISTの画像、DNAプロモーターの認識、心電図からの心筋梗塞検出、物体認識といった画像や系列タスクで、新しい手法は他の局所学習ルールの性能に匹敵またはそれを上回りました。標準的な設定では依然としてバックプロパゲーションが全体的に優位でしたが、Forward Projectionの精度は単一の訓練パスのみを用いながら驚くほど迫りました。
利点はラベル付き例がごく少ない「少数ショット」シナリオでより明瞭になりました。臨床現場でよくあるように数例しかない場合、Forward Projectionは胸部X線、網膜スキャン、小規模な画像サブセットで、しばしばバックプロパゲーションや他の局所手法より良く一般化しました。バックプロパゲーションは小さなデータセットで過学習しやすいか、十分に豊かな特徴を学べず失敗する傾向がありましたが、Forward Projectionはより安定で再利用可能な内部表現を生みました。計算面では、大きな層を訓練する際の乗算蓄積(MAC)操作数は多くのエポックにわたるバックプロパゲーションより桁違いに少なく、これが大幅な高速化と低いエネルギーコストにつながります。
今後のAIと脳に着想を得た計算にとっての意義
平たく言えば、本研究はニューラルネットが有用で解釈可能な内部表現を学ぶために、生物学的に不自然な重いフィードバックループに頼る必要はないことを示しています。入力とラベルを巧妙に混ぜた単一の順方向走査と、重みを閉形式で解く手法により、Forward Projectionはモデルを素早く訓練し、その内部動作を解釈し、小さくノイズの多い生物医療データセットを扱う道を提供します。大規模タスクでは依然としてバックプロパゲーションが標準であり続けるでしょうが、このフィードバック不要のアプローチは、次世代の効率的で説明可能なAIシステムを支える、より脳に近い・ハードウェアに優しい学習戦略への道を示しています。
引用: O’Shea, R., Rajendran, B. Closed-form feedback-free learning with forward projection. Nat Commun 17, 2414 (2026). https://doi.org/10.1038/s41467-026-69161-1
キーワード: フィードバック不要学習, ニューラルネットワーク, 少数ショット学習, 生体医療向けAI, 説明可能な深層学習