Hastaya odaklı yapay zeka sistemlerinin gerçek dünyada uygulanmasına ilişkin hasta, sağlık çalışanı ve geliştirici bakış açılarını araştıran nitel görüşme çalışması

Günlük aileler için neden önemli

Bilgisayarlar daha akıllı hale geldikçe, birçok kişi yapay zekanın (YZ) doktorların sağlık sorunlarını erken tespit etmesine ve bakımı bireye göre uyarlamasına yardımcı olmasını umuyor. Yine de, çok doğru olan YZ araçları bile araştırma laboratuvarından çıktıktan sonra insanların yaşamlarında gerçek bir fark yaratmakta başarısız olabiliyor. Bu çalışma, hamilelik sırasında doğum sonrası depresyon riskini tahmin eden bir aracı gerçek dünya örneği olarak kullanarak, hasta odaklı YZ’yi günlük bakıma sokmanın ne gerektireceğini hastalar, sağlık uzmanları ve YZ geliştiricilerinin bakış açıları üzerinden yakından inceliyor.

Üç grubu aynı anda dinlemek

Araştırmacılar 36 kişiyle görüşme yaptı: hamile veya yakın zamanda hamile kalmış hastalar, onlara bakım veren sağlık profesyonelleri ve ruhsal ya da üreme sağlığı konusunda deneyimli YZ geliştiricileri. Algoritmanın doğruluğunu ölçmenin ötesinde, ekip aracın insanların yaşamlarına ve klinik rutinlere nasıl gerçekten uyacağını mercek altına aldı. Her gruba doğum sonrası depresyon için YZ tarafından üretilen risk puanlarını görme veya kullanma konusunda nasıl hissettikleri, bu bilgilerin nasıl paylaşılması gerektiği ve bir şeyler ters gittiğinde kimin sorumlu olması gerektiği soruldu. Bu sesleri tek bir çerçevede birleştirerek, yalnızca bir grup sorulduğunda görmek zor olan gerilimleri ve ortak noktaları ortaya koydular.

Zarar korkuları ve gerçek yardıma dair umutlar

Genel olarak katılımcılar, herhangi bir hasta odaklı YZ’nin zarar vermekten çok fayda sağlaması gerektiği konusunda hemfikirdi. Hastalar, yüksek bir depresyon risk puanının damgalamayı derinleştirebileceği veya çocuk koruma hizmetlerinin müdahalesini tetikleyebileceğinden endişe duydu. Sağlık profesyonelleri özellikle belirli ırksal veya sosyal grupların yeterince temsil edilmemesi durumunda yanlı veya düşük kaliteli verinin tehlikesine odaklandı. Geliştiriciler ise bu sorunların araçlar dağıtıma girmeden, geliştirme aşamasında tespit edilip azaltılması gerektiğini vurguladı. Aynı zamanda herkes, aracın sadece grafikte bir sayı olmaktan ziyade açık ve faydalı eylemlere—örneğin ruh sağlığına veya sosyal desteğe daha kolay yönlendirmelere—yol açması gerektiğini vurguladı. Risk puanları açıkça bir sonraki adımı göstermeden sunulduğunda hem hastalar hem de klinisyenler nasıl yanıt vereceklerinden emin olamıyordu.

Bilginin nasıl paylaşılması gerektiği

İnsanların YZ sonuçlarının hastalara nasıl ulaşması gerektiğine dair güçlü ve çeşitli görüşleri vardı. Bazıları randevulardan önce çevrimiçi bir portaldan risk puanlarını görüp sorularını hazırlamak ve duyguları özel olarak işlemek istedi. Diğerleri ise sonuçları yalnızca güvenilir bir klinisyenle yapılan bir görüşmede öğrenmeyi tercih etti; böylece ne anlama geldiği açıklanabilirdi. Tüm gruplar, açıklamaların tıbbi veya teknik jargondan uzak, sade bir dille yapılması ve hastaların belirli bir yüzde ya da risk bandının yaşamları için gerçekte ne anlama geldiğini yorumlamasına yardımcı olacak rehberliğe ihtiyaç duyacağı konusunda hemfikirdi. Birçok hasta, puanlarını hangi spesifik etkenlerin—örneğin geçmiş sağlık öyküsü veya mevcut stres—sürüklediğini bilmek istedi; böylece bakım ekibiyle nelerin değiştirilebilir olduğunu konuşabilirdi.

Güven, gizlilik ve paylaşılmış sorumluluk

YZ’ye duyulan güven, gizlilik ve hesap verebilirlik sorularıyla sıkı şekilde bağlantılı çıktı. Katılımcılar, özellikle hassas akıl sağlığı ve gebelik bilgileri olmak üzere kişisel verilerin güvenli bir şekilde saklanacağı ve kullanılacağı konusunda teminat istediler. Hastalar genellikle çevrimiçi kayıtlarındaki her şeyin zaten doğrulanmış ve doğru olduğunu varsayıyordu; bu da hataların sonuçlarını ağırlaştırıyor. Sağlık profesyonelleri, daha sonra kötü sonuçlanan bir YZ önerisini izlediklerinde—veya takip etmeme kararı verdiklerinde—suçlanma endişesi taşıdı. Geliştiriciler sorumluluğun paylaşılması gerektiğini savundu: sağlık sistemleri, düzenleyiciler, klinisyenler ve YZ üreticileri, yanlılığı kontrol etme, performansı zaman içinde izleme ve araçların bakımda nasıl ve ne zaman kullanılacağına karar verme konusunda ortak rol oynamalıdır.

Sırada neyin değişmesi gerekiyor

Bu konuşmalardan hareketle yazarlar, YZ’yi gerçekten hasta odaklı hale getirmek için birkaç pratik adım özetliyor. Sağlık profesyonellerinin YZ çıktısını yorumlamak ve bunu hastalarla tartışmak için eğitim, zaman ve destekleyici araçlara ihtiyacı var. Hastalar ve ön saftaki klinisyenler, adalet, fayda ve iletişim konuları baştan ele alınacak şekilde YZ sistemlerinin tasarım ve test süreçlerine erken dahil edilmelidir. YZ çıktıları, yalnızca risk düzeylerini göstermek yerine eylem seçeneklerini vurgulayan esnek, anlaşılması kolay formatlarda sunulmalıdır. Son olarak, gizliliği korumak ve kurumlar, düzenleyiciler ve geliştiriciler arasında sorumluluğu paylaşmak için açık, çok katmanlı kurallar ve denetim mekanizmaları gereklidir. Bu değişiklikler bir arada, YZ’yi etkileyici laboratuvar sonuçlarından hamilelik ve sonrası süreçlerde aileler için daha güvenli, daha anlamlı bir destek haline getirmeye yardımcı olabilir.

Atıf: Benda, N., Desai, P., Reza, Z. et al. A qualitative interview study investigating patient, health professional, and developer perspectives on real-world implementation of patient-centered AI systems. npj Digit. Med. 9, 352 (2026). https://doi.org/10.1038/s41746-026-02587-5

Anahtar kelimeler: sağlık hizmetlerinde yapay zeka, doğum sonrası depresyon, hasta odaklı bakım, dijital sağlık etiği, akıl sağlığı taraması