不確実性較正のためのランダムノイズによる脳に着想を得たウォームアップ訓練

賢いAIほど「誤る可能性」を知る必要がある理由

現代の人工知能システムは、画像を認識し、自動運転を行い、自然言語で会話するという点で目覚ましい能力を示します。しかし、これらはしばしば危険な盲点を持っています。非常に高い確信を示しながら完全に間違っていることがあるのです。確信度と正確さの不一致は、医療の誤判断や安全性に欠ける自動運転の挙動、事実を巧妙に捏造するチャットボットなどの原因になります。論文「Brain-inspired warm-up training with random noise for uncertainty calibration」は、AIモデルに人間の重要な習慣、すなわち本当にわからないときに不確実性を表明することを教える、驚くほど単純で生物学的に着想を得た方法を探ります。

確信と現実が乖離するとき

著者らはまず、現代のニューラルネットワークがどのように確信度を報告するかを調べます。自然画像で訓練された分類器は、見たものを予測するだけでなく、その答えが正しい確率も出力します。理想的には、モデルが80％の確信を示すなら、約80％の確率で正しいはずです。実際には、研究者たちは、ネットワークが深くなり、限られたデータで訓練されるほど、確信度が過大になることを示します。すなわち、誤答に対して非常に高い確信をしばしば割り当てるのです。この問題は、モデルが訓練で見たことのない画像、つまり分布外データに直面したときにさらに悪化します。その場合でもモデルは不確実性を認める代わりに過度に確信した振る舞いを続けます。

発達中の脳から借りたウォームアップ

これに対処するため、研究は生物学に目を向けます。出生前、動物の脳はすでに活動しており、有意味な視覚や聴覚が到来するずっと前から自発的な電気活動のパターンを発火させます。神経科学者は、この初期の「ノイズ」が回路を接続し、実際の感覚経験に備えるのを助けると考えています。これに着想を得て、著者らは人工ネットワークのためのウォームアップ段階を提案します：実際の画像やラベルを見る前に、モデルを完全にランダムな入力パターンとランダムで意味を持たないラベルで短時間だけ訓練するのです。一見すると無意味に思えます—純粋なノイズから有用なことを学べるはずがないからです。しかしこの短い段階で、内部の応答は安定して出力確率が均等に広がる状態に落ち着き、過度な確信ではなく偶然に近い分布を示すようになります。

ランダムノイズが確信を正直にする仕組み

簡略化したおもちゃモデルと完全な画像分類器を用いて、研究者たちはこのウォームアップが内部で何をしているかを示します。標準的なランダム初期化されたネットワークでは、最終決定層直前の数値信号が大きく振れることが多く、それをソフトマックス関数がゼロや一に近い極端な確率に変換してしまいます。つまり、未学習のモデルは何も知らないにもかかわらず非常に確信があるかのように振る舞うのです。ランダムノイズでの訓練はこれらの内部信号を穏やかに再スケールし、出力確率が偶然水準の近くに集まる範囲へ引き寄せます。重み自体はほとんど変わりません。代わりに、活動の全体パターンが「事前較正」され、実際の学習が始まる前から未知の入力に対して最大の不確実性を自然に示すようになるのです。

実データと未知データでのより良い振る舞い

この脳に着想を得たウォームアップが完了した後、同じネットワークは通常の方法で実際の画像データセットに対して訓練されます。単純なフィードフォワードネットワークから人気のあるResNet、DenseNet、ビジョントランスフォーマーモデルまで、多くのアーキテクチャで、ノイズで訓練されたネットワークは学習を通じて確信度と実際の精度の一致をより良く保ちます。標準的なテストセットでの性能は従来の初期化ネットワークと同等かわずかに良好ですが、確信スコアの信頼性は大きく向上します。重要なのは、本当に見慣れない画像を示したとき、これらの事前較正されたモデルは偶然水準付近で低い確信を割り当て、確信を持って誤ラベルをつけることを避ける点です。この単純な性質が、入力が「未知」であることを検出する能力を劇的に改善します。これは実世界で安全に運用するための重要な要件です。

より信頼できるAIのための基盤

平たく言えば、本研究は短時間で低コストのランダムノイズによるウォームアップがニューラルネットワークに出発点での一種の謙虚さを教えられることを示しています。過度に自信満々な推測者として始まるのではなく、モデルはまず自分が知らないことを認める慎重な状態から開始し、実際の証拠を蓄積するにつれてのみ確信を高めていきます。このアプローチは追加の後処理を不要にし、多くのモデルタイプやデータサイズで機能し、生物学的な脳が出生前に自らを準備する様子を反映しています。広く採用されれば、このような脳に着想を得たウォームアップ訓練は、AIシステムを正確であるだけでなく、自らの限界を適切に認識するものに近づける可能性があり、日常の意思決定においてより安全で信頼できるパートナーにするための重要な一歩となるでしょう。

引用: Cheon, J., Paik, SB. Brain-inspired warm-up training with random noise for uncertainty calibration. Nat Mach Intell 8, 602–613 (2026). https://doi.org/10.1038/s42256-026-01215-x

キーワード: 不確実性の較正, ニューラルネットワーク, ランダムノイズ・ウォームアップ, 分布外検知, 脳に着想を得たAI