Wpływ dezinformacji generowanej przez SI na dokładność diagnoz i kalibrację pewności u początkujących studentów medycyny

Dlaczego inteligentne maszyny wciąż mogą wprowadzać początkujących w błąd

Sztuczna inteligencja szybko wchodzi do sal wykładowych i klinik, obiecując szybszą naukę i lepsze decyzje. Ale co się dzieje, gdy studenci polegają na SI, by zrozumieć złożone problemy medyczne, a wyjaśnienie brzmi przekonująco, lecz jest błędne? To badanie bada ten realny dylemat wśród młodych studentów medycyny i daje niepokojącą odpowiedź: mylące wyjaśnienia SI mogą aktywnie szkodzić procesowi uczenia się, podczas gdy całkowicie poprawne wyjaśnienia często pomagają znacznie mniej, niż moglibyśmy oczekiwać.

Testowanie trzech rodzajów pomocy od SI

Naukowcy w Chinach przeprowadzili losowe badanie kontrolowane na 111 młodych studentach medycyny, którzy mieli podstawowe wykształcenie naukowe, ale niewielkie doświadczenie kliniczne. Wszyscy uczniowie odpowiadali na 25 trudnych, przypominających egzaminy państwowe pytań wielokrotnego wyboru. Jedna grupa widziała tylko pytania. Druga grupa otrzymała starannie sprawdzone, zatwierdzone przez ekspertów wyjaśnienia SI wskazujące właściwą odpowiedź. Trzecia grupa widziała wyjaśnienia w stylu SI, które były dopracowane i wiarygodne, lecz celowo wspierały konkretną błędną odpowiedź. Po każdym pytaniu studenci wybierali odpowiedź i oceniali swoją pewność.

Kiedy błędne wskazówki są gorsze niż brak pomocy

Wyniki pokazały wyraźną dysproporcję między korzyścią a szkodą. Studenci, którzy otrzymali mylące wyjaśnienia, radzili sobie znacznie gorzej niż ci, którzy nie mieli żadnych wyjaśnień: ich dokładność spadła z około jednej na pięć pytań poprawnych do mniej niż jednej na dziesięć. Natomiast studenci, którzy widzieli poprawne wyjaśnienia od SI, wypadli tylko nieznacznie lepiej niż grupa kontrolna, a różnica nie była statystycznie istotna. Innymi słowy, wypolerowane, lecz błędne wskazówki zdecydowanie pchały studentów w złą stronę, podczas gdy poprawne, równie dopracowane wyjaśnienia nie podnosiły wiarygodnie ich wyników ponad poziom pracy samodzielnej.

Pewne błędy i „pułapka wiarygodności”

Obraz stał się jeszcze bardziej niepokojący, gdy badacze przyjrzeli się poziomowi pewności. Jakiekolwiek wyjaśnienie SI — poprawne czy błędne — sprawiało, że studenci czuli się pewniejsi niż ci, którzy pracowali bez pomocy. Jednak tylko grupa z poprawnymi wyjaśnieniami wykazywała zdrową „kalibrację”, czyli sytuację, w której pewność była wyższa dla poprawnych odpowiedzi niż dla błędnych. W grupie, która otrzymała mylące wyjaśnienia, pewność pozostawała wysoka niezależnie od tego, czy studenci mieli rację, czy nie, co oznaczało, że nie mogli wykorzystać własnego poczucia pewności, by odróżnić dobre rozumowanie od złego. Szczegółowe analizy wykazały, że zwodnicze wyjaśnienia często ukierunkowywały studentów na konkretną błędną opcję: w grupie z mylącymi wyjaśnieniami ponad 70% błędnych odpowiedzi stanowiła właśnie ta opcja, którą SI subtelnie poparła. Niektóre wyjaśnienia działały jak „półprawdy”, wykorzystując poprawne szczegóły do uzasadnienia błędnego wniosku, który początkujący mieli trudności zakwestionować.

Dlaczego to ma znaczenie dla szkolenia medycznego

Te ustalenia potwierdzają obawy dotyczące „uprzedzenia automatyzacyjnego”, czyli nadmiernego polegania na wynikach komputerowych zamiast starannego weryfikowania informacji. W obszarze wymagającym dużej ilości wiedzy, takim jak medycyna, niebezpieczeństwo to nie jest tylko błędna odpowiedź — to błędna odpowiedź, która wydaje się w pełni uzasadniona. Badanie sugeruje, że zwykłe wprowadzenie konwersacyjnej SI do rutyn nauki studentów jako przyjaznego nauczyciela jest ryzykowne, zwłaszcza gdy uczący się są zbyt niedoświadczeni, by dostrzec subtelne błędy. Autorzy proponują, by szkoły medyczne przestawiły się z traktowania SI jako wszechwiedzącego nauczyciela na wykorzystanie jej jako materiału do ustrukturyzowanych ćwiczeń „audytu SI”. W tych ćwiczeniach studenci ćwicyliby rozkładanie wyjaśnień SI na części, weryfikowanie twierdzeń wobec zaufanych źródeł i naukę rozróżniania płynnego rozumowania od rzeczywiście solidnego rozumowania.

Co to oznacza dla przyszłych lekarzy i ich narzędzi

Mówiąc wprost, wniosek z badania jest surowy: dla początkujących studentów medycyny złe wyjaśnienia SI szkodzą bardziej, niż dobre wyjaśnienia SI robią dobrze. Wprowadzające w błąd wskazówki nie tylko obniżają ich szanse na poprawną odpowiedź, lecz także dają im mylną pewność co do własnych błędów. Aby chronić przyszłych pacjentów, edukatorzy i projektanci SI będą musieli tworzyć systemy i programy nauczania, które spowalniają proces myślenia studentów, ujawniają typowe wzorce błędów SI i zachęcają do krytycznej weryfikacji zamiast ślepego zaufania. Celem nie jest odrzucenie SI, lecz wytrenowanie następnego pokolenia lekarzy, by potrafili ją przemyślanie kwestionować, tak by inteligentne narzędzia stały się partnerami w bezpiecznej opiece, a nie źródłami przekonującej dezinformacji.

Cytowanie: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

Słowa kluczowe: Sztuczna inteligencja w edukacji medycznej, dezinformacja, rozumowanie diagnostyczne, pewność studenta, uprzedzenie automatyzacyjne