Impact de la désinformation par l’IA sur la précision diagnostique et la calibration de la confiance chez des étudiants en médecine débutants

Pourquoi des machines intelligentes peuvent encore induire les débutants en erreur

L’intelligence artificielle s’invite rapidement dans les salles de classe et les cabinets, promettant un apprentissage plus rapide et des décisions plus éclairées. Mais lorsque des étudiants s’appuient sur l’IA pour comprendre des problèmes médicaux complexes, que se passe-t-il si l’explication paraît convaincante mais est incorrecte ? Cette étude teste ce dilemme réel chez des étudiants en début de formation médicale et apporte une réponse préoccupante : des explications trompeuses fournies par l’IA peuvent nuire activement à l’apprentissage, tandis que des explications parfaitement correctes aident souvent bien moins que prévu.

Tester trois types d’aide par l’IA

Des chercheurs en Chine ont mené un essai randomisé auprès de 111 étudiants en début de cursus médical, ayant une formation scientifique de base mais peu d’expérience clinique. Tous les étudiants ont répondu à 25 questions à choix multiple difficiles, de type examen de licence. Un groupe n’a vu que les questions. Un deuxième groupe a reçu des explications d’IA vérifiées et approuvées par des experts, les orientant vers la bonne réponse. Un troisième groupe a reçu des explications au style « IA » soigné et plausible mais délibérément conçues pour soutenir un choix erroné spécifique. Après chaque question, les étudiants ont choisi une réponse et évalué leur niveau de confiance.

Quand une mauvaise orientation vaut mieux que pas d’aide

Les résultats ont montré un net déséquilibre entre bénéfice et préjudice. Les étudiants qui ont reçu les explications trompeuses ont obtenu des scores bien plus faibles que ceux qui n’avaient aucune explication : leur précision est passée d’environ une question sur cinq correcte à moins d’une sur dix. En revanche, les étudiants ayant vu les explications correctes ont fait un peu mieux que le groupe contrôle, mais la différence n’était pas statistiquement fiable. Autrement dit, une orientation soignée mais erronée a poussé les étudiants résolument dans la mauvaise direction, tandis qu’une orientation soignée et correcte n’a pas réussi de manière fiable à améliorer leurs performances par rapport au fait de travailler seuls.

Erreurs confiantes et le « piège de la plausibilité »

Le tableau est devenu encore plus troublant lorsque les chercheurs ont examiné la confiance. Toute explication d’IA — juste ou fausse — a rendu les étudiants plus sûrs d’eux que ceux qui travaillaient sans aide. Cependant, seul le groupe ayant reçu des explications correctes a montré une « calibration » saine, c’est‑à‑dire une confiance plus élevée pour les bonnes réponses que pour les mauvaises. Dans le groupe trompeur, la confiance est restée élevée que les étudiants aient raison ou tort, ce qui signifie qu’ils ne pouvaient pas se fier à leur propre sentiment de certitude pour distinguer un bon raisonnement d’un mauvais. Des analyses détaillées ont montré que les explications trompeuses canalisaient souvent les étudiants vers un choix incorrect spécifique : dans le groupe trompeur, plus de 70 % des réponses fausses correspondaient à l’option que l’IA avait subtilement favorisée. Certaines explications fonctionnaient comme des « demi‑vérités », utilisant des détails exacts pour soutenir une conclusion erronée que les novices avaient du mal à contester.

Pourquoi cela compte pour la formation médicale

Ces constats font écho aux inquiétudes concernant le « biais d’automatisation », où les personnes s’appuient trop sur des résultats informatiques au lieu de vérifier soigneusement l’information. Dans un domaine riche en connaissances comme la médecine, le danger n’est pas seulement une mauvaise réponse — c’est une mauvaise réponse qui semble pleinement justifiée. L’étude suggère que l’intégration simple d’une IA conversationnelle dans les routines d’étude des étudiants comme tuteur amical est risquée, surtout lorsque les apprenants sont trop inexpérimentés pour repérer des défauts subtils. Les auteurs plaident pour que les facultés de médecine cessent de traiter l’IA comme un enseignant omniscient et l’utilisent plutôt comme matière à des exercices structurés d’« audit d’IA ». Dans ces exercices, les étudiants s’entraîneraient à démonter les explications de l’IA, à vérifier les affirmations auprès de sources fiables et à apprendre à reconnaître la différence entre un raisonnement fluide et un raisonnement véritablement solide.

Ce que cela signifie pour les futurs médecins et leurs outils

En termes simples, la conclusion de l’étude est nette : pour les étudiants en médecine novices, de mauvaises explications d’IA causent plus de tort que ce que de bonnes explications d’IA peuvent apporter. Une orientation trompeuse diminue non seulement leurs chances de trouver la bonne réponse, mais la laisse aussi à tort confiante dans ses erreurs. Pour protéger les patients de demain, les enseignants et les concepteurs d’IA devront mettre au point des systèmes et des programmes qui ralentissent les étudiants, exposent les schémas d’échec courants de l’IA et encouragent la vérification critique plutôt que la confiance aveugle. L’objectif n’est pas de rejeter l’IA, mais de former la prochaine génération de médecins à la questionner avec discernement, afin que ces outils intelligents deviennent des partenaires d’une prise en charge sûre plutôt que des sources de désinformation convaincante.

Citation: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

Mots-clés: IA dans l’éducation médicale, désinformation, raisonnement diagnostique, confiance des étudiants, biais d’automatisation