意思決定における人間の人工知能依存を検証する

なぜ賢い機械への信頼が重要なのか

映画の推薦から求人選考、刑事司法に至るまで、人工知能（AI）は意思決定を支援する場面が増えています。多くの人はコンピュータの方が偏りが少なく、より正確だと想定しがちです。しかし、実際に人々がAIシステムから助言を受けたとき、賢く使うのか、それとも頼り過ぎてしまうのか――この研究は、人がAIの助言にどう反応するかを他の人間からの助言と比較し、日常の意思決定におけるAIの増大する役割が何を意味するかを探ります。

本物と偽物の顔で実際の人々をテストする

研究者は295人の成人に一見単純な課題を与えました。画面に表示された顔が実際の人物の写真か、AIが生成した偽物かを判断するというものです。参加者は80枚の顔（半分が実物、半分が合成）を見ました。これらは以前の研究から、ほとんどの人がかなり正しく判定できるが完璧ではないよう慎重に選ばれたものです。各顔に対して、「実物」か「合成」かを示す短い助言が添えられました。参加者にはその助言が人間の専門家グループから来たものかAIシステムから来たものかと告げられましたが、実際にはすべての助言は事前にプログラムされており、正しいのは半分だけでした。

助言を使うが盲目的ではない

中心的な問いは、人々が単に助言に従うのか、それとも自分で考えるのかという点でした。結果は参加者が受動的なボタン押し機ではなかったことを示しています。助言が正しかった場合にはそれに従う傾向が強く、間違っていた場合には無視する傾向が強く見られ、これは助言が人間から来たとされてもAIから来たとされても変わりませんでした。実物と合成を見分ける全体の正答率は約3分の2で、助言なしで同じ課題を行った別の先行グループと非常に近い結果でした。言い換えれば、AIという“補助”があることは平均的な成績を劇的に向上させもしなければ、台無しにもしていませんでした。

AIに好意的な態度が裏目に出るとき

しかし平均値の下には、より微妙なパターンが現れました。参加者は他人をどれほど信用するかやAIに対する感情についての調査にも答えました。AIに対してより肯定的な態度を持つ人は、AIからの助言を受けたときに実物と偽物の識別がむしろ悪化する傾向がありました。彼らは慎重または否定的な見方をする参加者よりも本物と合成を区別する能力が低くなりました。この効果は助言が人間から来たと信じている場合には見られず、AIの助言が特に我々の意思決定を形成し、時に歪める可能性があることを示唆しています。常に助言に依存していると答えた人は、たまにあるいは全く使わないと答えた人よりも成績が悪かったという結果も得られました。

最終判断は人が下す

研究者は人々が自分の判断と助言とをどのように折り合いをつけたかをさらに詳しく調べました。平均的に参加者は顔を「実物」とラベル付けする傾向があり、そのバイアスは他者を信頼する傾向が強いと報告した人ほどわずかに大きくなりました。それでも助言の使い方は「戦略的」に見え、確信が低いときに特に助言に頼るようでした。自信の評価は成績と概ね一致しており、自分がより自信を持ったときは一般に正確であることから、AIが介在していても参加者は自分が正しいか間違っているかをある程度見当がついていたことが示されます。

日常のAIツールにとっての意味

一般読者への要点は、AIが魔法のように人間の偏見を消し去るわけでも、勝手に我々の判断を圧倒するわけでもないということです。人々はしばしばAIの助言を人間の助言と同じように扱い、役に立たないと見なせば無視することができます。しかし、すでにAIに非常に好意的な人は、精度を下げる形でAIに頼りがちになる可能性があります。医療、セキュリティ、司法といった重要分野にAIが広がるにつれ、設計者や政策立案者はこうした人間の傾向を理解する必要があります。この研究は、効果的なAI活用には単により良いアルゴリズムだけでなく、機械をいつ信頼すべきか、そしていつ自分自身を信じるべきかを知る知識ある人々が必要であることを示唆しています。

引用: Pearson, J., Dror, I., Jayes, E. et al. Examining human reliance on artificial intelligence in decision making. Sci Rep 16, 5345 (2026). https://doi.org/10.1038/s41598-026-34983-y

キーワード: 人工知能, 人間の意思決定, AIへの信頼, オートメーションバイアス, ディープフェイクの顔