Fortschritte in der Governance von Gesundheits‑KI durch ein umfassendes Reifegradmodell basierend auf einer systematischen Übersichtsarbeit

Warum klügere Regeln für medizinische KI wichtig sind

Krankenhäuser eilen voran, künstliche Intelligenz zu nutzen, um Krankheiten früher zu erkennen, den Papieraufwand zu reduzieren und die Versorgung effizienter zu gestalten. Werden diese Werkzeuge jedoch schlecht ausgewählt oder unzureichend verwaltet, können sie unbemerkt Fehler machen, Ungleichheiten verstärken oder wertvolle Ressourcen verschwenden. Dieser Artikel erklärt, wie ein Forscherteam Dutzende vorhandener Regelwerke für medizinische KI durchforstet und eine praktische Roadmap entwickelt hat, die jede Gesundheitseinrichtung – von einer kleinen Praxis bis zum führenden Forschungszentrum – nutzen kann, um KI sicher und fair einzusetzen.

Den dichten Ratgebungsmarkt verstehen

In den letzten Jahren haben Fachleute weltweit Checklisten, Leitlinien und Aufsichtsstrukturen dafür vorgeschlagen, wie KI im Gesundheitswesen eingesetzt werden sollte. Die Autorinnen und Autoren haben 35 solche Rahmenwerke, veröffentlicht zwischen 2019 und 2024, systematisch überprüft und auf 29 eingeengt, die konkrete, mehrstufige Anleitungen boten, statt sich nur auf ein einzelnes Thema wie Ethik zu konzentrieren. Sie stellten fest, dass zwar viele Dokumente abdeckten, wie ein Algorithmus entwickelt oder über die Zeit überwacht werden sollte, deutlich weniger sich jedoch mit organisatorischen Realitäten befassten: Wer sollte die Verantwortung tragen? Wie sollten Krankenhäuser zwischen konkurrierenden Produkten wählen? Und wie können weniger ausgestattete Gesundheitssysteme mithalten? Dieses Flickwerk an Empfehlungen, oft mit großen akademischen Zentren im Blick verfasst, ließ kleinere Organisationen ohne klaren Weg zurück.

Sieben Bausteine guter KI‑Aufsicht

Aus ihrer Überprüfung destillierten die Forschenden sieben wesentliche Bereiche, die adressiert werden müssen, damit KI verantwortungsvoll in die Patientenversorgung integriert werden kann. Dazu gehören eine klare Führungsstruktur, die sorgfältige Definition des klinischen Problems bevor zur Technik gegriffen wird, das Verständnis wie der Algorithmus aufgebaut und trainiert wurde, die Prüfung externer Produkte vor dem Kauf, Tests zur Leistungsfähigkeit in der lokalen Patientenpopulation, die durchdachte Einbettung in den klinischen Alltag sowie die Nachverfolgung der Performance nach dem Einsatz. In der Literatur lag starker Fokus auf Aufgaben wie Problemformulierung, Modellentwicklung und fortlaufendem Monitoring. Schwächer wurden dagegen die Bewertung externer Produkte und die Gestaltung von Governance‑Gremien abgedeckt, die die Perspektiven von Klinikerinnen und Klinikern, technischen Expertinnen und Experten, Patientinnen und Patienten sowie Rechts‑ und Ethikfachleuten widerspiegeln.

Von der Theorie zu einer schrittweisen Roadmap

Um diese verstreuten Empfehlungen in etwas Gebrauchstaugliches zu überführen, entwickelte das Team die Healthcare AI Governance Readiness Assessment, kurz HAIRA – ein fünfstufiges «Reifegradmodell», das beschreibt, wie fähige Governance auf zunehmenden Stufen der Ausgereiftheit aussieht. Auf Stufe 1 verfügt eine Organisation nur über grundlegendes Bewusstsein und verlässt sich weitgehend auf Zusicherungen der Anbieter für fertige Produkte, mit minimalen internen Tests oder Integration. Auf Stufe 2 gibt es dokumentierte Verfahren, ein einfaches Aufsichtsgremium, eine strukturiertere Auswahl von Werkzeugen und grundlegendes Leistungsmonitoring. Stufe 3 beschreibt regionale oder kommunale Systeme, die Modelle eigenständig validieren, Risiken wie Verzerrungen bewerten, KI in Qualitätsverbesserungsprogramme integrieren und Veränderungen systematisch managen, wenn Werkzeuge in die klinische Praxis eingeführt werden.

Zum fortgeschrittenen und führenden Praxisniveau wachsen

Die Stufen 4 und 5 erfassen das, was die Autorinnen und Autoren als fortgeschrittene beziehungsweise führende Governance ansehen. Auf Stufe 4, typischerweise in großen akademischen Medizinzentren zu finden, haben Organisationen Führungskräfte mit Zuständigkeit für KI, robuste Ethikstrukturen, fortgeschrittene Dateninfrastruktur sowie starke interne Entwicklungs‑ und Evaluationskapazitäten, einschließlich Echtzeitüberwachung. Stufe 5 repräsentiert Einrichtungen, die KI nicht nur gut managen, sondern auch zur Setzung von Branchenstandards beitragen. Solche Institutionen führen Multi‑Site‑Studien zur Sicherstellung von Sicherheit und Nutzen durch, experimentieren mit neuen KI‑Anwendungsformen und teilen Erkenntnisse über Zentren der Exzellenz und Kooperationen. Wichtig ist, dass das Modell eine „Schwachstellenregel“ anwendet: Das Gesamtniveau einer Organisation wird durch den am wenigsten entwickelten der sieben Bereiche begrenzt – ein Umstand, der widerspiegelt, dass eine fehlende Schutzmaßnahme, etwa unzureichendes Monitoring, sonst ausgefeilte Bemühungen untergraben kann.

Was das für Patientinnen, Patienten und Leistungserbringer bedeutet

Für Patientinnen und Patienten soll das HAIRA‑Modell sicherstellen, dass KI‑Werkzeuge so eingeführt werden, dass sie die Versorgung tatsächlich verbessern und nicht versteckte Risiken hinzufügen. Für Kliniker und Führungskräfte im Gesundheitswesen bietet es eine realistische Stufenleiter: Eine kleine Praxis könnte zunächst Stufe 2 anstreben, indem sie dokumentiert, wie sie Anbieterwerkzeuge auswählt und prüft, während ein größeres System auf höhere Stufen hinarbeiten könnte, indem es in Datenteams, faire Evaluationsmethoden und kontinuierliches Monitoring investiert. Die Autorinnen und Autoren betonen, dass nicht jedes Krankenhaus hochmoderne Fähigkeiten benötigt, wohl aber alle grundlegende Standards zu Sicherheit, Gerechtigkeit und Rechenschaftspflicht erfüllen sollten. Indem Governance‑Erwartungen an verfügbare Ressourcen angepasst werden, zielt ihr Rahmenwerk darauf ab, vertrauenswürdige medizinische KI in unterschiedlichsten Versorgungssettings möglich zu machen – und nicht nur in den bestfinanzierten Institutionen.

Zitation: Hussein, R., Zink, A., Ramadan, B. et al. Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digit. Med. 9, 236 (2026). https://doi.org/10.1038/s41746-026-02418-7

Schlüsselwörter: künstliche Intelligenz im Gesundheitswesen, KI‑Governance, klinische Entscheidungsunterstützung, Digitalgesundheitspolitik, algorithmische Fairness