AI‑desinformationens påverkan på diagnostisk noggrannhet och kalibrering av självförtroende hos nybörjarstuderande i medicin

Varför smarta maskiner fortfarande kan vilseleda nybörjare

Artificiell intelligens tar snabbt plats i klassrum och kliniker och lovar snabbare inlärning och klokare beslut. Men när studenter förlitar sig på AI för att förstå komplexa medicinska problem—vad händer om förklaringen låter övertygande men är felaktig? Denna studie prövar det dilemman i verkliga situationer bland tidiga läkarstudenter och finner ett oroande svar: vilseledande AI‑förklaringar kan aktivt skada lärandet, medan helt korrekta förklaringar ofta hjälper mycket mindre än man kan hoppas.

Test av tre typer av AI‑hjälp

Forskare i Kina genomförde en randomiserad studie med 111 tidiga läkarstudenter som hade grundläggande naturvetenskaplig utbildning men liten klinisk erfarenhet. Alla studenter besvarade 25 svåra flervalsfrågor i stil med licensprov. En grupp såg endast frågorna. En andra grupp såg noggrant granskade, expert‑godkända AI‑förklaringar som pekade dem mot rätt svar. En tredje grupp såg AI‑liknande förklaringar som var polerade och plausibla men avsiktligt stödde ett specifikt felaktigt val. Efter varje fråga valde studenterna ett svar och bedömde hur säkra de kände sig.

När felaktig vägledning är värre än ingen hjälp

Resultaten visade en tydlig obalans mellan nytta och skada. Studenter som fick de vilseledande förklaringarna presterade betydligt sämre än de som inte fick några förklaringar alls: deras träffsäkerhet sjönk från ungefär en av fem rätt till mindre än en av tio. Däremot presterade studenter som såg de korrekta AI‑förklaringarna endast marginellt bättre än kontrollgruppen, och skillnaden var inte statistiskt säkerställd. Med andra ord drev polerade men felaktiga förklaringar studenterna avgörande åt fel håll, medan polerade och korrekta förklaringar inte pålitligt förbättrade deras prestation jämfört med att arbeta på egen hand.

Säkra misstag och ”plausibilitetsfällan”

Bilden blev ännu mer bekymmersam när forskarna granskade självförtroendet. Alla AI‑förklaringar—rätta som felaktiga—gjorde att studenter kände sig mer säkra än de som arbetade utan hjälp. Endast gruppen med korrekta förklaringar visade dock sund ”kalibrering”, där självförtroendet var högre för rätta svar än för felaktiga. I den vilseledande gruppen förblev förtroendet högt oavsett om studenterna hade rätt eller fel, vilket innebar att de inte kunde använda sin egen känsla av säkerhet för att skilja god resoneringsförmåga från dålig. Detaljerade analyser visade att de bedrägliga förklaringarna ofta kanaliserade studenter mot ett specifikt felaktigt svar: i den vilseledande gruppen utgjorde mer än 70 % av de felaktiga svaren just det alternativ AI subtilt hade förespråkat. Vissa förklaringar fungerade som ”halvsanningar”, där korrekta detaljer användes för att stödja en felaktig slutsats som nybörjare hade svårt att ifrågasätta.

Varför detta spelar roll för medicinsk utbildning

Dessa fynd speglar oro kring ”automationsbias”, där människor förlitar sig för mycket på datorgenererat innehåll istället för att kontrollera information noggrant. I ett kunskapsintensivt fält som medicin är faran inte bara ett felaktigt svar—det är ett felaktigt svar som känns fullständigt motiverat. Studien tyder på att det är riskabelt att bara släppa in konverserande AI i studenters studier som en vänlig handledare, särskilt när lärande är för oerfarna för att upptäcka subtila brister. Författarna argumenterar för att medicinska lärosäten bör gå från att betrakta AI som en allvetande lärare till att använda den som material i strukturerade ”AI‑granskning”‑övningar. I dessa övningar skulle studenter öva på att dissekera AI‑förklaringar, verifiera påståenden mot betrodda källor och lära sig känna igen skillnaden mellan flytande resonemang och verkligt hållbart resonemang.

Vad detta betyder för framtida läkare och deras verktyg

I klartext är studiens slutsats tydlig: för nybörjarstudenter i medicin gör dåliga AI‑förklaringar mer skada än vad goda AI‑förklaringar gör nytta. Vilseledande vägledning minskar inte bara deras chanser att få rätt svar utan lämnar dem också felaktigt säkra i sina misstag. För att skydda framtida patienter behöver utbildare och AI‑utvecklare bygga system och läroplaner som får studenter att sakta ner, exponera vanliga AI‑felmönster och uppmuntra kritisk kontroll istället för blind tillit. Målet är inte att förkasta AI, utan att träna nästa generation läkare att ifrågasätta den genomtänkt, så att smarta verktyg blir partners i säker vård snarare än källor till övertygande desinformation.

Citering: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

Nyckelord: AI i medicinsk utbildning, desinformation, diagnostiskt resonemang, studentförtroende, automationsbias