Sistematik bir derlemeye dayalı kapsamlı bir olgunluk modeli ile sağlık hizmetlerinde yapay zeka yönetişimini ilerletmek

Tıbbi yapay zeka için daha akıllı kurallar neden önemli

Hastaneler, hastalıkları daha erken tespit etmek, evrak işlerini azaltmak ve bakımın verimini artırmak için yapay zekayı hızla kullanmaya çalışıyor. Ancak bu araçlar yanlış seçilir veya kötü yönetilirse, sessizce hatalar yapabilir, eşitsizlikleri derinleştirebilir veya kıymetli kaynakları boşa harcayabilir. Bu makale, araştırmacıların tıbbi yapay zeka için mevcut düzinelerce kural kitabını nasıl incelediklerini ve küçük bir klinikten önde gelen araştırma hastanesine kadar herhangi bir sağlık kuruluşunun yapay zekayı güvenli ve adil biçimde uygulamasına yardımcı olacak pratik bir yol haritasını nasıl oluşturduklarını anlatıyor.

Yoğun tavsiye ortamını anlamlandırmak

Son yıllarda dünyanın dört bir yanındaki uzmanlar, yapay zekanın sağlık hizmetlerinde nasıl kullanılacağına dair kontrol listeleri, kılavuzlar ve denetim yapıları önerdiler. Yazarlar, 2019 ile 2024 arasında yayımlanmış bu tür 35 çerçeveyi sistematik olarak incelediler ve yalnızca etik gibi tek bir konuya odaklanmak yerine somut, çok adımlı rehberlik sunan 29 belgeye indirdiler. Geliştirme veya zaman içinde izleme konularını ele alan birçok belge bulunurken, kuruluşsal gerçekliklere—kim sorumlu olmalı? Hastaneler rakip ürünler arasında nasıl seçim yapmalı? Daha az kaynağa sahip sağlık sistemleri nasıl ayak uydurabilir?—daha az dokunulduğu görüldü. Genellikle büyük akademik merkezler düşünülerek kaleme alınmış bu karma tavsiyeler, daha küçük kuruluşları net bir yol olmadan bıraktı.

İyi yapay zeka gözetimi için yedi yapı taşı

İncelemelerinden çıkan sonuç, yapay zekanın hasta bakımına sorumlu bir şekilde entegre edilebilmesi için ele alınması gereken yedi temel alanı özetledi. Bunlar arasında net bir liderlik yapısına sahip olmak, teknolojiye başvurmadan önce klinik sorunu dikkatle tanımlamak, algoritmanın nasıl oluşturulduğunu ve eğitildiğini anlamak, satın alma öncesi dış ürünleri kontrol etmek, aracın yerel hasta popülasyonunda nasıl çalıştığını test etmek, günlük klinik iş akışlarına düşünülerek entegre etmek ve canlıya alındıktan sonra performansını izlemek yer alır. Literatürde problem formülasyonu, model geliştirme ve sürekli izleme gibi görevlere kuvvetli vurgu vardı. Ancak yazarlar, dış ürünleri nasıl değerlendirecekleri ve klinisyenler, teknik uzmanlar, hastalar ile hukuk ve etik profesyonellerinin bakış açılarını yansıtan yönetişim organlarını nasıl tasarlayacakları konusunda daha zayıf bir kapsama olduğunu gözlemlediler.

Teoriden kademeli bir yol haritasına

Dağınık rehberliği daha kullanılabilir bir şeye dönüştürmek için ekip, Sağlık Hizmetleri Yapay Zeka Yönetişimi Hazırlık Değerlendirmesi ya da HAIRA’yı oluşturdu—yükselen sofistikasyon aşamalarında yetkin yönetişimin nasıl göründüğünü tanımlayan beş seviyeli bir “olgunluk modeli”. Seviye 1’de, bir kuruluş sadece temel farkındalığa sahiptir ve genellikle raf ürünleri için tedarikçi güvencelerine dayanır; iç test veya entegrasyon minimaldir. Seviye 2’de, belgelenmiş prosedürler, basit bir denetim komitesi, daha yapılandırılmış araç seçimi ve temel performans izleme bulunur. Seviye 3, modelleri bağımsız olarak doğrulayabilen, önyargı gibi riskleri değerlendirebilen, yapay zekayı kalite iyileştirme programlarıyla entegre edebilen ve araçlar klinik uygulamaya girdikçe değişimi sistematik olarak yönetebilen bölgesel veya topluluk sistemlerini tanımlar.

Gelişmiş ve öncü uygulamalara doğru büyümek

Seviye 4 ve 5, yazarların gelişmiş ve öncü saydığı yönetişimi yakalar. Genellikle büyük akademik tıp merkezlerinde görülen Seviye 4’te, kuruluşların yapay zekaya adanmış yürütme liderleri, sağlam etik yapıları, gelişmiş veri altyapısı ve gerçek zamanlı izleme dahil güçlü iç geliştirme ve değerlendirme kabiliyetleri vardır. Seviye 5, sadece yapay zekayı iyi yöneten değil aynı zamanda sektörde standartların belirlenmesine katkı sağlayan kurumları temsil eder. Bu kuruluşlar güvenlik ve faydayı kanıtlamak için çok merkezli çalışmalar yürütür, yeni yapay zeka uygulaması türleriyle deney yapar ve edindikleri bilgileri mükemmellik merkezleri ve iş birlikleri aracılığıyla paylaşır. Önemli olarak, model bir “en zayıf halka” kuralı kullanır: yedi alandan en az gelişmiş olanı kuruluşun genel seviyesini sınırlar; bu, yetersiz izleme gibi tek bir eksik güvencenin aksi halde sofistike çabaları baltalayabileceği gerçeğini yansıtır.

Bu hastalar ve sağlayıcılar için ne anlama geliyor

Hastalar için HAIRA modeli, yapay zeka araçlarının gizli riskler eklemek yerine gerçekten bakımı iyileştirecek biçimde tanıtılmasını sağlamayı amaçlıyor. Klinikler ve sağlık sistemi yöneticileri için ise gerçekçi bir merdiven sunuyor: küçük bir uygulama, ilk olarak tedarikçi araçlarını nasıl seçip kontrol ettiğini belgelendirerek Seviye 2’ye ulaşmayı hedefleyebilir; daha büyük bir sistem ise veri ekiplerine, adil değerlendirme yöntemlerine ve sürekli izlemeye yatırım yaparak daha yüksek seviyelere çalışabilir. Yazarlar her hastanenin en son teknolojik kabiliyetlere sahip olması gerekmediğini, ancak hepsinin güvenlik, eşitlik ve hesap verebilirlik açısından temel standartları karşılaması gerektiğini vurguluyor. Yönetişim beklentilerini mevcut kaynaklarla eşleştirerek, çerçeveleri en iyi finanse edilen kurumlarla sınırlamak yerine çeşitli sağlık ortamlarında güvenilir tıbbi yapay zekayı ulaşılabilir kılmayı hedefliyorlar.

Atıf: Hussein, R., Zink, A., Ramadan, B. et al. Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digit. Med. 9, 236 (2026). https://doi.org/10.1038/s41746-026-02418-7

Anahtar kelimeler: sağlık hizmetlerinde yapay zeka, Yapay Zeka yönetişimi, klinik karar desteği, dijital sağlık politikası, algoritmik adalet