Impacto de la desinformación de la IA en la precisión diagnóstica y la calibración de la confianza en estudiantes de medicina noveles

Por qué las máquinas inteligentes aún pueden inducir a error a los principiantes

La inteligencia artificial está entrando rápidamente en aulas y clínicas, prometiendo un aprendizaje más rápido y decisiones más acertadas. Pero cuando los estudiantes dependen de la IA para comprender problemas médicos complejos, ¿qué ocurre si la explicación suena convincente pero es errónea? Este estudio aborda ese dilema en estudiantes de medicina de cursos iniciales y ofrece una respuesta preocupante: las explicaciones engañosas de la IA pueden dañar activamente el aprendizaje, mientras que las explicaciones perfectamente correctas suelen ayudar mucho menos de lo que podríamos esperar.

Evaluando tres tipos de ayuda de la IA

Investigadores en China realizaron un ensayo aleatorizado con 111 estudiantes de medicina de los primeros años que tenían formación en ciencias básicas pero poca experiencia clínica. Todos los estudiantes respondieron 25 preguntas de opción múltiple de estilo examen de certificación, diseñadas para ser difíciles. Un grupo vio solo las preguntas. Un segundo grupo vio explicaciones generadas por IA que habían sido revisadas y aprobadas por expertos, y que señalaban la respuesta correcta. Un tercer grupo vio explicaciones al estilo IA que eran pulidas y plausibles pero deliberadamente apoyaban una opción incorrecta concreta. Tras cada pregunta, los estudiantes elegían una respuesta y valoraban cuánta confianza sentían.

Cuando una guía equivocada es peor que ninguna ayuda

Los resultados mostraron un marcado desequilibrio entre beneficio y daño. Los estudiantes que recibieron las explicaciones engañosas obtuvieron puntuaciones mucho peores que los que no recibieron explicaciones: su precisión cayó de aproximadamente una de cada cinco preguntas correctas a menos de una de cada diez. En contraste, los estudiantes que vieron las explicaciones correctas de la IA apenas mejoraron respecto al grupo de control, y la diferencia no fue estadísticamente concluyente. En otras palabras, la guía pulida pero errónea empujó a los estudiantes decisivamente en la dirección equivocada, mientras que la guía pulida y correcta no elevó de forma fiable su rendimiento por encima de la línea base de trabajar sin ayuda.

Errores confiados y la "trampa de la plausibilidad"

El panorama se volvió aún más inquietante al analizar la confianza. Cualquier explicación de la IA—correcta o errónea—hizo que los estudiantes se sintieran más seguros que aquellos que trabajaron sin ayuda. Sin embargo, solo el grupo con explicaciones correctas mostró una "calibración" saludable, en la que la confianza era mayor para las respuestas correctas que para las incorrectas. En el grupo engañoso, la confianza permaneció alta tanto si los estudiantes acertaban como si no, lo que significa que no podían usar su propia sensación de certeza para distinguir un buen razonamiento de uno malo. Análisis detallados mostraron que las explicaciones engañosas a menudo canalizaban a los estudiantes hacia una opción incorrecta específica: en el grupo engañoso, más del 70% de las respuestas erróneas correspondieron precisamente a la opción que la IA había respaldado sutilmente. Algunas explicaciones actuaron como "medias verdades", usando detalles precisos para sustentar una conclusión defectuosa que los noveles les costaba refutar.

Por qué esto importa para la formación médica

Estos hallazgos hacen eco de las preocupaciones sobre el "sesgo de automatización", donde las personas confían en exceso en la salida de las computadoras en lugar de verificar la información con cuidado. En un campo tan basado en el conocimiento como la medicina, el peligro no es solo una respuesta incorrecta: es una respuesta errónea que se siente completamente justificada. El estudio sugiere que simplemente introducir la IA conversacional en las rutinas de estudio de los estudiantes como un tutor amistoso es arriesgado, especialmente cuando los aprendices son demasiado inexpertos para detectar fallos sutiles. Los autores sostienen que las facultades de medicina deberían dejar de tratar la IA como un profesor omnisciente y pasar a usarla como material para ejercicios estructurados de "auditoría de IA". En estas prácticas, los estudiantes ejercitarían cómo desmontar explicaciones de la IA, verificar afirmaciones frente a fuentes de confianza y aprender a reconocer la diferencia entre un razonamiento fluido y un razonamiento realmente sólido.

Qué significa esto para futuros médicos y sus herramientas

En términos claros, la conclusión del estudio es contundente: para estudiantes de medicina noveles, las explicaciones erróneas de la IA hacen más daño del que las explicaciones correctas hacen bien. La guía engañosa no solo reduce sus probabilidades de obtener la respuesta correcta, sino que también les deja con una confianza equivocada en sus errores. Para proteger a futuros pacientes, educadores y diseñadores de IA deberán construir sistemas y planes de estudio que desaceleren a los estudiantes, expongan patrones comunes de fallo de la IA y fomenten la verificación crítica en lugar de la confianza ciega. El objetivo no es rechazar la IA, sino formar a la próxima generación de médicos para que la cuestione con criterio, de modo que las herramientas inteligentes se conviertan en aliadas de una atención segura en lugar de en fuentes de desinformación convincente.

Cita: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

Palabras clave: IA en la educación médica, desinformación, razonamiento diagnóstico, confianza del estudiante, sesgo de automatización