Yapay zekâ yanlış bilgisinin tanısal doğruluk ve güven kalibrasyonu üzerindeki etkisi: acemi tıp öğrencilerinde

Neden akıllı makineler başlangıç düzeyindekileri yine de yanıltabilir

Yapay zekâ hızla dersliklere ve kliniklere giriyor; daha hızlı öğrenme ve daha akıllı kararlar vaat ediyor. Ancak öğrenciler karmaşık tıbbi sorunları anlamak için yapay zekâya dayandıklarında, açıklama inandırıcı gözüküp yanlışsa ne olur? Bu çalışma bu gerçek dünya ikileminden genç tıp öğrencilerinde şüphe verici bir sonuca ulaşıyor: yanıltıcı yapay zekâ açıklamaları öğrenmeye aktif olarak zarar verebilirken, tamamen doğru açıklamalar çoğu zaman umduğumuz kadar yardımcı olmuyor.

Üç tür yapay zekâ yardımını test etmek

Çin’deki araştırmacılar, temel bilim eğitimi almış ama klinik deneyimi az olan 111 genç tıp öğrencisiyle rastgele kontrollü bir çalışma yürüttü. Tüm öğrenciler, gerçek lisans sınavlarını taklit eden 25 zorlu, sınav tarzı çoktan seçmeli soruyu yanıtladı. Bir grup yalnızca soruları gördü. İkinci grup, doğru yanıta yönlendiren, özenle kontrol edilmiş ve uzman onaylı yapay zekâ açıklamalarını gördü. Üçüncü grup ise cilalanmış ve makul görünen ama kasıtlı olarak belirli yanlış seçeneği destekleyen yapay zekâ tarzı açıklamalar aldı. Her sorudan sonra öğrenciler bir cevap seçti ve ne kadar kendilerine güvendiklerini puanladı.

Yanlış yönlendirme, yardımcı olmamaktan daha kötü olduğunda

Sonuçlar fayda ile zarar arasında keskin bir dengesizlik gösterdi. Yanıltıcı açıklamalar alan öğrenciler, hiçbir açıklama almayanlara göre çok daha kötü puan aldı: doğrulukları yaklaşık beşte bir doğrudan onda bire kadar düştü. Buna karşılık, doğru yapay zekâ açıklamalarını gören öğrenciler kontrol grubundan yalnızca biraz daha iyi performans gösterdi ve bu fark istatistiksel olarak güvenilir değildi. Başka bir deyişle, cilalanmış fakat yanlış yönlendirme öğrencileri kararlı biçimde yanlış yöne çekti, oysa cilalanmış ve doğru yönlendirme onların tek başına çalışma temel düzeyinin üstüne güvenilir şekilde çıkardı diyemeyiz.

Kendinden emin hatalar ve “inandırıcılık tuzağı”

Araştırmacılar güvene baktıklarında tablo daha da rahatsız ediciydi. Hangi yapay zekâ açıklaması olursa olsun—doğru ya da yanlış—öğrencilerin, yardımsız çalışanlara göre kendilerini daha emin hissetmelerine neden oldu. Ancak yalnızca doğru açıklamalar grubunda sağlıklı bir "kalibrasyon" görüldü; yani doğrular için güvenin yanlışlara göre daha yüksek olması. Yanıltıcı grupta güven, öğrenciler doğru ya da yanlış olsun yüksek kaldı; bu da kendi kesinlik duygularını iyi akıl yürütmeyi kötü olandan ayırt etmek için kullanamadıkları anlamına geliyor. Ayrıntılı analizler, aldatıcı açıklamaların sıklıkla öğrencileri belirli bir yanlış seçeneğe yönlendirdiğini gösterdi: yanıltıcı grupta yanlış cevapların %70’inden fazlası, yapay zekânın örtük olarak desteklediği seçenekti. Bazı açıklamalar, yeni başlayanların sorgulamakta zorlandığı hatalı bir sonuca destek sağlamak için doğru ayrıntıları “yarı-doğru” şekilde kullandı.

Bu durum tıp eğitiminde neden önemli

Bu bulgular, insanların bilgisayar çıktısına aşırı derecede güvenmesine dayanan "otomasyon yanlılığı"na dair kaygıları yineliyor. Bilgi yüklü bir alan olan tıpta tehlike yalnızca yanlış bir yanıt değil—aynı zamanda tamamen haklı gösterilmiş gibi hissedilen yanlış bir yanıttır. Çalışma, konuşma biçimli yapay zekâyı öğrencilerin çalışma rutinlerine dost bir eğitmen olarak yerleştirmenin riskli olduğunu; özellikle öğrenciler ince hataları fark edecek kadar deneyimli değilse bunun tehlikeli olduğunu öne sürüyor. Yazarlar, tıp fakültelerinin yapay zekâyı her şeyi bilen bir öğretmen olarak görmekten ziyade yapılandırılmış “yapay zekâ denetimi” alıştırmaları için bir malzeme olarak kullanmaya geçmesi gerektiğini savunuyor. Bu egzersizlerde öğrenciler yapay zekâ açıklamalarını parçalamayı, iddiaları güvenilir kaynaklarla doğrulamayı ve akıcı görünen akıl yürütme ile gerçekten sağlam akıl yürütme arasındaki farkı tanımayı pratiğe dökeceklerdir.

Geleceğin doktorları ve araçları için anlamı

Düz ifadeyle, çalışmanın sonucu nettir: acemi tıp öğrencileri için kötü yapay zekâ açıklamaları, iyi yapay zekâ açıklamalarının sağladığından daha fazla zarar veriyor. Yanıltıcı yönlendirme yalnızca doğru cevabı bulma olasılıklarını düşürmekle kalmıyor, aynı zamanda hatalarında yanlış bir güven bırakıyor. Gelecekteki hastaları korumak için eğitimciler ve yapay zekâ tasarımcıları, öğrencileri yavaşlatacak, yaygın yapay zekâ hata desenlerini açığa çıkaracak ve kör güven yerine eleştirel doğrulamayı teşvik edecek sistemler ve müfredatlar geliştirmek zorunda olacak. Amaç yapay zekâyı reddetmek değil; akıllı araçların ikna edici yanlış bilgi kaynakları olmaktan ziyade güvenli bakımda ortaklar haline gelmesi için yeni nesil doktorları bunları düşünceli biçimde sorgulamaya eğitmektir.

Atıf: Teng, D., Tan, L., Cao, Q. et al. Impact of AI misinformation on diagnostic accuracy and confidence calibration in novice medical students. npj Digit. Med. 9, 356 (2026). https://doi.org/10.1038/s41746-026-02547-z

Anahtar kelimeler: Tıpta eğitimde yapay zekâ, yanlış bilgi, tanısal akıl yürütme, öğrenci güveni, otomasyon yanlılığı