Jeneratif Yapay Zekâ ile tıbbi cihazlar için küresel düzenleyici çerçevelerin yenilenmesi acil bir önceliktir

Sağlığınız için neden önemli

Gelişmiş sohbet botları gibi jeneratif yapay zekâ hızla muayenehanelere ve hastanelere giriyor. Bu sistemler klinik notlar hazırlayabilir, sağlık sorularını cevaplayabilir ve hatta tanı önerebilir. Bu derleme, mevcut tıbbi cihaz düzenlemelerimizin bu kadar esnek ve öngörülemez teknolojilere hazır olmadığını ve bunların güvenli, adil ve güvenilir bakım için güncellenmesinin neden gerekli olduğunu açıklıyor.

Bir işletten çok daha fazlasını yapan yeni araçlar

Eski tıbbi yazılımlar, örneğin görüntüde tümörü tespit etmek gibi tek, net tanımlı bir görevi yerine getirmek üzere tasarlanmıştı. Buna karşılık jeneratif yapay zekâ ve büyük dil modelleri, tıbbi kayıtları özetlemekten tedavi seçenekleri hakkında tavsiye vermeye kadar birçok farklı işi yapabiliyor. Bunlar çevrimiçi metinler, görüntüler ve diğer büyük veri koleksiyonları üzerinde eğitildikleri için güçlü ama aynı zamanda tam olarak anlaması veya kontrol etmesi zor. Yanıtları kullanım arasında değişebildiği ve kendinden emin hatalar veya "halüsinasyonlar" içerebildiği için, daha öngörülebilir araçlar için tasarlanmış mevcut tıbbi cihaz kategorilerine kolayca sığmıyorlar.

Mevcut güvenlik kuralları neden yetersiz

Düzenleyiciler, bir cihazı tasarımdan gerçek dünya kullanımına kadar izleyen "toplam ürün yaşam döngüsü" yaklaşımıyla ayak uydurmaya çalıştı. Bu birçok tür yapay zekâ için yardımcı oluyor, ancak makale bunun büyük dil modelleri için yeterli olmadığını savunuyor. Eğitim verilerindeki hataları veya gizli kişisel bilgileri tek tek denetlemek neredeyse imkânsız. Bu sistemlerin ne kadar iyi çalıştığını değerlendirmek de zordur, çünkü uzun ve açık uçlu yanıtları basit doğruluk testleriyle puanlamak güç. Araştırmalar bazı modellerin sınav tarzı sorularda iyi performans gösterip dağınık gerçek hayat vakalarında zorlandığını ve bazı kilit görevlerde klinisyenlerden daha kötü olabildiğini gösteriyor. Buna ek olarak, önyargıyı ölçme veya izleme konusunda üzerinde uzlaşılmış bir yöntem yok; bu da sistemlerin belirli hasta grupları için sessizce daha az iyi çalışabileceği anlamına geliyor.

Dağıtımdan sonra gizli riskler

Büyük dil modeli araçları piyasaya sürüldüğünde, güvenliklerini izlemek daha da karmaşık hale geliyor. Birçok model paylaşılan temel sistemler üzerine inşa ediliyor, sonra farklı şirketler tarafından ayarlandı veya yeniden eğitiliyor; bunun altında hangi verilerin ve değişikliklerin yattığını bilmek zorlaşıyor. Bazı araçlar resmi onay olmaksızın doğrudan sağlık tavsiyesi uygulamaları olarak hastalara ulaşıyor. Özellikle bir yapay zekâ katibi tarafından hazırlanmış uzun klinik notlarda hatalar gömülü olduğunda sorunlar bildirilmeden kalabiliyor. Mevcut onay yolları, eski ürünlerle "benzerlik" gösterme temeline dayanıyor ve bu, aslında oldukça farklı olan araçlar için kötüye kullanılabilir. Aynı zamanda gizlilik, özerklik, güven ve hekim-hasta ilişkisindeki etkiler gibi etik meseleler mevcut düzenlemelerde yalnızca kısmen ele alınıyor.

Daha akıllı ve daha adil denetim inşa etmek

Yazarlar düzenlemeyi daha esnek ve etkili kılmaya yönelik ortaya çıkan fikirleri vurguluyor. "Düzenleyici kum havuzları" yeni yapay zekâ araçlarının sınırlı ortamlarda gözetim altında test edilmesine izin veriyor; böylece düzenleyiciler ve geliştiriciler deneyimden öğrenip kuralları hızla ayarlayabiliyor. "Hizmet olarak yazılım" gibi yeni kavramlar, yüksek düzeyde otomatikleştirilmiş yapay zekâ ajanlarını sabit ürünler yerine devam eden sağlık hizmetleri gibi ele almayı amaçlıyor. Makale ayrıca veri toplama ve model oluşturma ile bulut barındırma ve donanım dahil olmak üzere tüm tedarik zincirinin anlaşılmasının önemini vurguluyor; böylece dijital araçlar başarısız olduğunda veya saldırıya uğradığında sağlık sistemleri dirençli kalabilir. Düzenleyiciler, araştırmacılar ve sağlık sistemlerinden oluşan küresel ağlar, çabalarını uyumlu hale getirmek için kontrol listeleri, test standartları ve gözetim laboratuvarları paylaşıyor.

Eşitliği merkeze almak

Büyük bir endişe, jeneratif yapay zekânın zengin ve yoksul bölgeler arasındaki sağlık uçurumunu genişletme veya daraltma ihtimali. Modeller ağırlıklı olarak yüksek gelirli ülkelerin verileriyle eğitilirse, düşük kaynaklı ortamlarda veya temsil edilmemiş topluluklarda kötü performans gösterebilirler. Makale, düşük ve orta gelirli ülkelerden perspektiflerin ve verilerin kasıtlı olarak dahil edilmesini ve bu bölgelerin kendi yapay zekâ araçlarını güvenli şekilde geliştirmeleri ve kullanıma sokmalarına destek verilmesini çağırıyor. Sağlık eşitliğine odaklı raporlama standartları ve değerlendirme araçları gizli önyargıları gün yüzüne çıkarabilirken, iş birlikleri başarılı yapay zekânın pilot projelerden gerçek klinik uygulamalara aktarılmasına, savunmasız grupları geride bırakmadan yardımcı olabilir.

İleriye dönük anlamı

Düz ifadeyle, makale tıpta jeneratif yapay zekânın mevcut kural kitapları için çok hızlı ilerlediği sonucuna varıyor. Hastaları korumak ve güven kazanmak için ülkelerin, gizlilik, güvenlik ve adaleti korurken değişen modellere ayak uydurabilecek yeni, uyarlanabilir düzenleyici çerçeveler üzerinde birlikte çalışması gerekiyor. Yazarlar, siber güvenlik için var olanlarla benzer şekilde paylaşılan standartlar belirleyecek bağımsız küresel kurumların öngörüsünü yapıyor; böylece hastaneler ve hastalar dünyanın her yerinde bu araçlardan kaçınılabilir zararlara maruz kalmadan yararlanabilir.

Atıf: Ong, J.C.L., Ning, Y., Liu, M. et al. Innovating global regulatory frameworks for generative AI in medical devices is an urgent priority. npj Digit. Med. 9, 364 (2026). https://doi.org/10.1038/s41746-026-02552-2

Anahtar kelimeler: jeneratif yapay zekâ, tıbbi cihazlar, sağlık düzenlemesi, büyük dil modelleri, sağlık eşitliği