人間–AIチームの意思決定における社会的同調の要因と影響

将来の医師がAIの同僚に耳を傾けるかもしれない理由

病院で患者の診断や治療を支援する人工知能が導入されるにつれ、医師は人間とAIの「同僚」が混在するチームで働くことが増えています。ここで意外に人間らしい問いが生じます：人は他人の助言に従うときに感じる微妙な社会的圧力を、AIからの助言に対しても同じように感じるのでしょうか？いつ機械に従い、いつ無視し、その理由は何かを理解することは、私たちの健康や財務などに関わる意思決定の安全性と公平性にとって重要です。

二種類の圧力：正しさを求めるものと馴染もうとするもの

心理学の数十年にわたる研究は、人が他者に同調する主な理由が二つあることを示しています。一つは情報的影響で、不確かさがあるときに他者が自分の知らないことを知っているかもしれないと考えて助言を参照します。もう一つは規範的影響で、私的には賛成していなくても承認を得たり目立たないようにするために合わせることです。本研究は、これらの力が人間とAIの両方を含むチームにも働くかを問いました。著者らは現実的な状況、つまり一目で正解が分からない不確実性のある医療診断に焦点を当て、実際の情報利用と社会的圧力を区別するのに適した設定としました。

人とAIが助言を出す模擬病院

二つのオンライン実験で、参加者は若手医師の役割を担い、二つの腹部疾患のいずれかを診断しました。各症例について、参加者は個人的な手がかり（症状）と、人間の臨床医またはAIシステムとラベル付けされた複数の助言者からの公的な助言を受け取りました。見た目に反応するのを避けるため、すべての情報は抽象的に提示され、ロボットの顔や写真は使われませんでした。研究1では、すべての情報源が同等に正確でした。研究2では精度が異なり、一部の助言者は他より信頼でき、これが棒グラフで明示されました。各症例の後、参加者は診断を選び、自分の自信度を評価しました。研究者らはその選択を理想的な統計的規則（ベイズモデル）が推奨するものと比較しました。

AIは情報源としては人と同等に見えても、社会的にはやや弱い

両研究を通じて、参加者は良い判断をしようと真剣に努めているかのように振る舞いました。結合された証拠がある疾患をより支持するほど、その疾患を選ぶ傾向が強まり、自信も高まりました。これはその証拠が人間からであれAIからであれ同様でした。統計的には、人間とAIの助言は非常に似た情報的影響を及ぼしており、人々は両者を有用な証拠源として扱っていました。しかし研究1では、別のパターンが現れました。人間の助言者が参加者自身の初期印象と一致したとき、参加者はその共有された見解により強く依拠し、同じ一致がAIから来た場合よりも高い自信を示しました。詳細なモデリングにより、参加者はAIよりわずかに人間の助言に重みを置き、外部の助言よりも自分の私的情報により重みを置いていることが示されました。精度だけでは説明できないこの人間の一致への追加的な引力は、規範的影響――同胞の人間と同調することに伴う微妙な安心感――を反映しています。

精度に関する複雑な手がかりは人間の優位性を消すことがある

研究2では、各助言者の正確さを変え、その確率を提示することで状況をより現実的かつ認知的に負荷の高いものにしました。こうした豊かな条件下では、人間の助言の特別な優位性は概ね消えました。参加者は依然として全体として自分の私的情報を優先しましたが、人間とAIの助言者はほぼ同等の重みを持つようになりました。人も機械も含めたすべての助言は理想的なベイズ基準と比べて過小利用されており、複数の精度手がかりと多数意見を扱うことで参加者の認知資源が消耗されたことを示唆しています。多くの助言者が意見を述べる場合、参加者は群衆に盲目的に従うわけではありませんでした。彼らは多数意見が統計的によりありそうしい診断と一致する場合にのみ従う傾向があり、多数が数値と対立するときは従いたくなくなりました。これは、参加者が賛成する助言者の数とその助言者の信頼性の両方を統合しようとしたことを示しています。

現実の人間–AIチームにとっての含意

この発見は、人々がAIを情報源として信頼する意欲がある一方で、AIは他の人間の同僚ほど自然に同調させる社会的圧力を喚起しないことを示唆します。その人間の優位性は脆弱で、助言者の精度が異なりその差が明示されると、人々は誰が話しているかよりも情報的手がかりに注目するようになります。しかし、この複雑さは人間とAIの双方からの有益な助言が過小利用される原因にもなり得ます。意思決定支援システムの設計者への教訓は、精度情報を圧倒させるのではなく助ける形で提示すること、そして機械は正確で一貫した証拠を提供する役割、人間はその証拠に基づいて行動を促す社会的影響を担うなど、役割分担を考えることです。

引用: Zhong, H., McKinlay, J., Yoon, J. et al. Drivers and influence of social conformity on decision making in human-AI teams. Sci Rep 16, 13438 (2026). https://doi.org/10.1038/s41598-026-43042-5

キーワード: 人間とAIの協働, 社会的同調, 医療における意思決定, アルゴリズム嫌悪, 意思決定の自信