Clear Sky Science · ja
ニューヘッブ型シナプスがニューロモルフィックハードウェアのオンライン学習を加速する
経験から学ぶようにチップを教える
現代の人工知能は驚くほど強力ですが、例えば「街中のどの抜け道が本当に時間を節約したか」を覚えるような、まばらで遅れてくるフィードバックから学ぶ脳の能力にはまだ遠く及びません。本論文は、ニューロモルフィックチップがより脳に近いオンライン学習を行いつつ、小型で省エネルギーを維持できる新しい種類の人工『シナプス』を提示します。将来のAIハードウェアに関心のある読者にとって、本研究は熱そのものを微小なメモリ素子内の学習用信号として活用できることを示しています。
なぜニューロモルフィック脳にはより優れたシナプスが必要か
ニューロモルフィックコンピューティングは、スパイキングニューラルネットワークのように脳が情報を処理する方式を模倣することを目指します。ここでは短い電気スパイクが多数のシナプス網を通じて伝わります。今日のハードウェアは、電気伝導度を調整して重みを格納できるReRAMのようなメムリスタ素子を用いてシナプスを実装できます。しかし、スパイクの局所的なタイミングだけでシナプスを強化/減弱する単純なヘッブ則は、時間的に離れた出来事を結び付ける必要のある現実的なタスク(音声理解やナビゲーション問題など)では難航します。標準的な深層学習の手法は時間に渡る逆伝播(BPTT)でこれを扱いますが、これは脳に近いハードウェアにはメモリと電力の面で過大な負担になります。そこで研究コミュニティは、“三因子”学習則やe‑prop(エリジビリティ伝播)のようなアルゴリズムに注目しており、これらは各シナプスに遅延するグローバル報酬信号でも正しい接続を調整できるように、追加の局所的なメモリ痕跡を導入します。

熱に消える記憶を格納する
本研究の中核は、長期の結合重みと最近の活動を記憶する短期のエリジビリティ(適格度)トレースという二つの内部状態変数を持つ「ネオヘッブ」型シナプスです。重みは従来どおりReRAMの伝導度に符号化されます。一方でエリジビリティトレースは、その素子の局所温度に格納され、素子の上または隣に統合されたナノスケールの抵抗加熱器によって制御されます。通常のスパイク処理中、ReRAMは保存された重みで入力スパイクを単純に乗算します。学習時には、「どちらが先に発火したか」に対応する信号と「現在のポストシナプス側の感受性」に対応する信号が小さなヒーターに電流を流します。ヒーターとReRAMが熱的に結合しているため、この電力は両信号の積に比例して素子温度を上げます。これはe‑propアルゴリズムで求められる数学的なエリジビリティトレースと同じ構造です。
熱が記憶をどう変えるか
短い入力列(本文ではデータフレームと呼ぶ)が処理されると、蓄積した温度上昇がそのシナプスがどれだけ変化しやすいかを符号化します。その後、ReRAMに対して固定のプログラミングパルスが印加されます。重要なのは、詳細な実験により得られた結果として、得られる伝導度変化が温度に強く依存することが示された点です:素子が高温であるほど変化は大きく、変化の方向と大きさは初期伝導度状態や高伝導度側/低伝導度側へ駆動しているかに依存します。パルス振幅を慎重に選び、この温度感受性を利用することで、著者らは重み変化が保持されたエリジビリティに概ね比例するように設計します。3D統合されたヒーター+ReRAM積層の熱流動の数値モデルは、温度を上昇させて調整可能な時間スケールで減衰させることができ、自己加熱を強めつつ隣接シナプスへの熱的“クロストーク”を制限できるよう構造を設計できることを確認しています。

熱シナプスを試験する
この異色のシナプスが実際に有用かどうかを評価するため、著者らは温度減衰、素子間ばらつき、不完全な精度といった現実的なデバイス挙動を含む完全なニューロモルフィックシステムをシミュレートしました。1つのデモでは、スパイキングネットワークが仮想のネズミを制御し、罠を避けながら迷路状のグリッドでチーズを見つけることを学習します。ここで自然な熱冷却は蓄積されたエリジビリティをゆっくりと風化させ、強化学習でお馴染みの「割引率」のように働きます:最近の状態–行動の組が古いものより重要になります。シミュレーションは、この減衰が速すぎても遅すぎても学習が遅く、ReRAM挙動のばらつきは性能を徐々に劣化させるにとどまることを示しました。より負荷の高い第二の試験では、熱ネオヘッブシナプスを持つ再帰型スパイキングネットワークをTIMITフォネーム分類ベンチマーク(標準的な音声認識タスク)でオンライン学習させました。十分な伝導度分解能(約8ビット相当)があれば、ハードウェアを考慮したモデルは理想的な浮動小数点実装に比べて数パーセントの差に収まる精度を達成します。
将来のAIハードウェアにとっての意義
総じて、この研究は局所温度が高度な学習則のための現実的で制御可能な内部メモリとして機能し、大規模なデジタルオーバーヘッドなしで高速なオンチップ学習を可能にすることを示しています。提案されたシナプスは従来のReRAMセルとほぼ同等のフットプリントを占めながら、安定した重みと消えゆくトレースの両方を実装し、学習ステップあたりのエネルギーコストはピコジュール級です。熱を利用することには実際の課題も伴います—温度は直接測りにくく、素子の劣化を促進する可能性があります—が、この研究は電気熱効果を敵視するのではなく受け入れて活用することで、小型で学習可能なハードウェアの新たなクラスを切り開けることを示唆しています。非専門家向けの結論としては、将来のAIチップは単に電子を運ぶだけでなく、精巧に設計された熱パターンでも計算を行い、人間の脳の効率性と適応力に一歩近づく可能性がある、ということです。
引用: Pande, S., Bezugam, S.S., Bhattacharya, T. et al. NeoHebbian synapses to accelerate online training of neuromorphic hardware. Sci Rep 16, 6836 (2026). https://doi.org/10.1038/s41598-026-35641-z
キーワード: ニューロモルフィックコンピューティング, スパイキングニューラルネットワーク, ReRAMシナプス, オンライン学習, ハードウェア効率の高いAI