Fattori e influenza della conformità sociale nelle decisioni di team umano-AI

Perché il tuo futuro medico potrebbe ascoltare colleghi AI

Man mano che gli ospedali adottano l’intelligenza artificiale per aiutare a diagnosticare e curare i pazienti, i medici lavorano sempre più spesso in team misti con «colleghi» sia umani sia AI. Questo solleva una domanda sorprendentemente umana: le persone subiscono la stessa sottile pressione sociale a seguire i consigli dell’AI come accade con i suggerimenti di altri esseri umani? Capire quando seguiamo le macchine, quando le ignoriamo e perché è importante per la sicurezza e l’equità delle decisioni che riguardano la nostra salute, le nostre finanze e altro ancora.

Due tipi di pressione: avere ragione vs. integrarsi

Decenni di studi psicologici mostrano che le persone si conformano agli altri per due ragioni principali. Una è l’influenza informativa: guardiamo agli altri perché potrebbero sapere qualcosa che noi non sappiamo, soprattutto quando siamo incerti. L’altra è l’influenza normativa: seguiamo gli altri per ottenere approvazione o evitare di distinguersi, anche quando in privato non siamo d’accordo. Questo studio ha chiesto se queste stesse forze operano quando i nostri compagni di squadra includono sia sistemi AI sia esseri umani. Gli autori si sono concentrati su un contesto realistico—la diagnosi medica—dove c’è incertezza e non esiste una risposta ovvia “corretta a prima vista”, rendendolo ideale per distinguere l’uso genuino dell’informazione dalla pressione sociale.

Un ospedale simulato in cui persone e AI danno consigli

In due esperimenti online, i volontari hanno assunto il ruolo di medici junior che diagnosticavano pazienti con una di due malattie addominali. Per ogni caso hanno ricevuto un indizio privato (un sintomo) e consigli pubblici da diversi consiglieri etichettati come clinici umani o sistemi AI. Tutte le informazioni sono state presentate in modo astratto—niente facce robotiche amichevoli o foto—per evitare reazioni basate sull’aspetto. Nello Studio 1, ogni fonte di informazione era ugualmente accurata. Nello Studio 2, le accuratezze variavano: alcuni consiglieri erano più affidabili di altri, e questi dati erano mostrati esplicitamente con grafici a barre. Dopo ogni caso, i partecipanti sceglievano una diagnosi e valutavano quanto fossero fiduciosi. I ricercatori hanno poi confrontato quelle scelte con quanto raccomanderebbe una regola statistica ideale (un modello bayesiano).

Quando l’AI sembra informativa quanto le persone—ma meno socialmente persuasiva

In entrambi gli studi, i partecipanti hanno agito come se cercassero sinceramente di prendere buone decisioni. All’aumentare delle prove combinate a favore di una malattia, erano più propensi a sceglierla e diventavano più sicuri, sia che le prove provenissero da umani sia dall’AI. Statisticamente, i consiglieri umani e AI esercitavano un’influenza informativa molto simile: le persone trattavano entrambi come fonti utili di evidenza. Tuttavia, nello Studio 1—dove tutti i consiglieri erano ugualmente affidabili—emerse un altro schema. Quando i consulenti umani concordavano con l’impressione iniziale del partecipante, le persone si affidavano maggiormente a quella visione condivisa e si sentivano più sicure rispetto a quando lo stesso tipo di accordo proveniva dall’AI. Un approccio di modellizzazione dettagliato ha mostrato che le persone davano un peso leggermente maggiore ai consigli umani rispetto a quelli dell’AI, e un peso maggiore alle proprie informazioni private rispetto a qualsiasi consiglio esterno. Questo surplus di attrazione verso l’accordo umano, oltre a quanto l’accuratezza da sola giustificherebbe, riflette l’influenza normativa: il sottile conforto di schierarsi con altri esseri umani.

Segnali di accuratezza complessi possono annullare il vantaggio umano

Lo Studio 2 ha reso la situazione più realistica—e più impegnativa dal punto di vista cognitivo—variando quanto fosse accurato ciascun consigliere e mostrando quelle probabilità. In queste condizioni più ricche, il vantaggio speciale del consiglio umano è in gran parte svanito. Le persone continuavano a preferire complessivamente le proprie informazioni private, ma i consiglieri umani e AI ora avevano un peso quasi identico. I consigli di tutti—umani e macchine—erano sottoutilizzati rispetto al benchmark bayesiano ideale, suggerendo che destreggiarsi tra molteplici segnali di accuratezza e opinioni di maggioranza ha messo sotto sforzo le risorse cognitive dei partecipanti. Quando molti consiglieri si esprimevano, i partecipanti non seguivano ciecamente la folla. Tendevano a seguire la maggioranza solo quando questa coincideva con la diagnosi statisticamente più probabile e diventavano molto meno propensi a farlo quando la maggioranza era in conflitto con i numeri. Ciò indica che le persone cercavano di integrare sia il numero di consiglieri concordi sia l’affidabilità di quei consiglieri.

Cosa significa questo per i team reali umano-AI

I risultati suggeriscono che le persone sono disposte a fidarsi dell’AI come fonte di informazioni, ma l’AI non evoca naturalmente la stessa pressione sociale a conformarsi che genera un collega umano. Questo vantaggio umano è fragile: una volta che i consiglieri differiscono in accuratezza e tali differenze vengono rese esplicite, le persone si concentrano di più sugli indizi informativi e meno su chi parla. Tuttavia, questa complessità aggiuntiva può anche portare a sottoutilizzare buoni consigli sia da umani sia da AI. Per i progettisti di sistemi di supporto alle decisioni, la lezione è presentare le informazioni di accuratezza in modi che aiutino invece di sopraffare, e riconoscere che umani e AI possono essere impiegati al meglio per ruoli diversi—le macchine per prove precise e coerenti, gli esseri umani per l’influenza sociale che può motivare le persone ad agire su quelle prove.

Citazione: Zhong, H., McKinlay, J., Yoon, J. et al. Drivers and influence of social conformity on decision making in human-AI teams. Sci Rep 16, 13438 (2026). https://doi.org/10.1038/s41598-026-43042-5

Parole chiave: collaborazione uomo-AI, conformità sociale, presa di decisioni mediche, avversione agli algoritmi, fiducia decisionale