Clear Sky Science · zh

社会从众对人机团队决策的驱动因素与影响

· 返回目录

为什么你未来的医生可能会听AI同事的意见

随着医院采用人工智能来协助诊断和治疗,医生越来越多地在由人类与AI“同事”混合组成的团队中工作。这提出了一个出人意料的人类问题:人们是否会像听从其他人的建议那样,受到与AI建议一致的微妙社会压力?理解我们何时服从机器、何时忽视它们以及原因,对于保障健康、财务等决策的安全性与公平性至关重要。

Figure 1
Figure 1.

两种压力:想要正确与想要融入

几十年的心理学研究表明,人们出于两类主要原因会从众。一是信息性影响:当我们不确定时,会参考他人,因为他们可能知道我们不知道的事。二是规范性影响:为了获得认同或避免突出,即便内心不同意也会随大流。本研究考察当团队成员既有人类也有AI时,这两种力量是否仍然起作用。作者把焦点放在一个现实情境——医疗诊断——该情境存在不确定性且没有显而易见的“立刻正确”答案,因而适合区分真实的信息利用与社会性压力。

一个模拟医院:人类与AI都给出建议

在两项在线实验中,志愿者扮演初级医生,诊断患者的两种腹部疾病之一。每个病例中,他们获得一条私有线索(症状)和若干被标注为人类临床医生或AI系统的公开建议。所有信息都以抽象方式呈现——没有可爱的机器人面孔或照片——以避免单纯对外观作出反应。在研究1中,每个信息源的准确性相同。在研究2中,准确性有所不同:某些顾问比其他顾问更可靠,并且用柱状图明确显示这些差异。每例病例后,参与者选择诊断并评估自己的信心。研究者随后将这些选择与理想统计规则(贝叶斯模型)的建议进行比较。

当AI在信息性上与人类相当——但在社会吸引力上较弱

在两项研究中,参与者的行为显示他们确实在努力做出良好决策。随着综合证据越来越倾向于某种疾病,他们更有可能选择该疾病并变得更有信心,无论这些证据来自人类还是AI。从统计上看,人类与AI顾问施加了非常相似的信息性影响:人们将两者都视为有用的证据来源。然而,在研究1(所有顾问同样可靠)中,出现了另一种模式。当人类顾问与参与者自身的初步印象一致时,参与者更倾向于依赖这种共同观点并感到更有信心,而当相同的一致性来自AI时,这种效应较弱。详细的建模显示,人们对人类建议赋予的权重略高于对AI建议的权重,而且对自己的私有信息的权重高于任何外部建议。超出准确性所能解释的人类一致性的额外吸引力反映了规范性影响:与人类同伴站在一边带来的那种微妙的安慰。

Figure 2
Figure 2.

复杂的准确性信号可以抹去人类优势

研究2通过让每位顾问的准确性不同并展示这些概率,使情境更现实也更需认知负荷。在这些更复杂的条件下,人类建议的特殊优势在很大程度上消失了。总体上人们仍更信任自己的私有信息,但人类和AI顾问现在承载的权重几乎相同。与理想的贝叶斯基准相比,所有建议——无论人类还是机器——都被低估使用,这表明在同时处理多个准确性线索和多数意见时,参与者的认知资源受到拉扯。当许多顾问发表意见时,参与者并没有盲目随大流。他们倾向于仅在多数意见与统计上更可能的诊断一致时才跟随多数意见;当多数意见与数据相冲突时,他们变得不太愿意跟随。这表明人们试图综合考虑有多少顾问同意以及这些顾问有多可靠。

这对真实的人机团队意味着什么

研究结果表明,人们愿意将AI作为信息来源信任,但AI并不会自然地引发像人类同伴那样的从众社会压力。这种人类优势是脆弱的:一旦顾问之间的准确性差异被显式呈现,人们就更多地关注信息性线索而较少在意发言者身份。然而,这种额外的复杂性也可能导致对人类和AI的良好建议均被低估。对于决策支持系统的设计者来说,教训是以帮助而非淹没用户的方式呈现准确性信息,并认识到人类与AI可能适合不同角色——机器适合提供精确、一致的证据,而人类则提供能够激励他人根据这些证据采取行动的社会影响力。

引用: Zhong, H., McKinlay, J., Yoon, J. et al. Drivers and influence of social conformity on decision making in human-AI teams. Sci Rep 16, 13438 (2026). https://doi.org/10.1038/s41598-026-43042-5

关键词: 人机协作, 社会从众, 医疗决策, 算法厌恶, 决策信心