Främjande av styrning för AI inom sjukvården genom en omfattande mognadsmodell baserad på systematisk översikt

Varför smartare regler för medicinsk AI spelar roll

Sjukhus skyndar sig att använda artificiell intelligens för att upptäcka sjukdomar tidigare, minska pappersarbete och göra vården mer effektiv. Men om dessa verktyg väljs eller hanteras dåligt kan de i det tysta göra misstag, fördjupa ojämlikheter eller slösa värdefulla resurser. Den här artikeln förklarar hur ett forskarteam gick igenom flera dussin befintliga regelverk för medicinsk AI och byggde en praktisk färdplan som vilken vårdorganisation som helst — från en liten klinik till ett ledande forskningssjukhus — kan använda för att sätta AI i arbete på ett säkert och rättvist sätt.

Att skapa ordning i ett rikt men splittrat rådgivningslandskap

Under de senaste åren har experter världen över föreslagit checklistor, riktlinjer och tillsynsstrukturer för hur AI bör användas inom sjukvården. Författarna genomförde en systematisk översikt av 35 sådana ramverk publicerade mellan 2019 och 2024 och smalnade av till 29 som erbjöd konkreta, flerstegsrekommendationer snarare än att enbart fokusera på en enskild fråga som etik. De fann att medan många dokument behandlade hur man utvecklar en algoritm eller övervakar den över tid, tog långt färre upp organisatoriska realiteter: Vem bör ha ansvar? Hur bör sjukhus välja mellan konkurrerande produkter? Och hur kan resurssvagare vårdsystem hänga med? Detta lapptäcke av råd, ofta utformat med stora akademiska centra i åtanke, lämnade mindre organisationer utan en tydlig väg framåt.

Sju byggstenar för god AI-övervakning

Ur sin översikt destillerade forskarna sju väsentliga områden som måste hanteras för att AI ansvarsfullt ska kunna vävas in i patientvården. Dessa inkluderar att ha en tydlig ledningsstruktur, att noggrant definiera det kliniska problemet innan man tar till teknik, att förstå hur algoritmen är byggd och tränad, att granska externa produkter före inköp, att testa hur väl ett verktyg fungerar i den lokala patientpopulationen, att omsorgsfullt integrera det i dagliga kliniska arbetsflöden och att följa upp dess prestanda när det väl är i bruk. I litteraturen betonades särskilt uppgifter som problembeskrivning, modellutveckling och löpande övervakning. Författarna såg däremot svagare täckning av hur man utvärderar externa produkter och hur man utformar styrande organ som speglar perspektiven hos kliniker, tekniska experter, patienter samt juridiska och etiska yrkespersoner.

Från teori till en stegvis färdplan

För att omvandla denna splittrade vägledning till något mer användbart skapade teamet Healthcare AI Governance Readiness Assessment, eller HAIRA — en femnivåig "mognadsmodell" som beskriver hur kompetent styrning ser ut på ökande nivåer av mognad. På Nivå 1 har en organisation endast grundläggande medvetenhet och förlitar sig mest på leverantörers försäkringar för färdiga verktyg, med minimal intern testning eller integration. På Nivå 2 finns dokumenterade procedurer, en enkel tillsynskommitté, mer strukturerat urval av verktyg och grundläggande övervakning av prestanda. Nivå 3 beskriver regionala eller samhällsbaserade system som självständigt kan validera modeller, bedöma risker som partiskhet, integrera AI med kvalitetsförbättringsprogram och systematiskt hantera förändring när verktyg tas i klinisk drift.

Att växa in i avancerad och ledande praxis

Nivåerna 4 och 5 fångar vad författarna betraktar som avancerad och ledande styrning. På Nivå 4, vanligen i stora akademiska medicinska centra, har organisationer exekutiva ledare dedikerade till AI, robusta etiska strukturer, avancerad datainfrastruktur samt starka interna utvecklings- och utvärderingskapaciteter, inklusive realtidsövervakning. Nivå 5 representerar institutioner som inte bara hanterar AI väl utan också hjälper till att sätta branschstandarder. Dessa organisationer driver tvärplatsstudier för att bevisa säkerhet och nytta, experimenterar med nya typer av AI-tillämpningar och delar sina erfarenheter genom centrum för spetskompetens och samarbeten. Viktigt är att modellen använder en "svagaste länk"-regel: en organisations övergripande nivå begränsas av det minst utvecklade av de sju domänerna, vilket speglar verkligheten att en enda saknad skyddsåtgärd — som bristfällig övervakning — kan undergräva annars sofistikerade insatser.

Vad detta betyder för patienter och vårdgivare

För patienter är HAIRA-modellen avsedd att säkerställa att AI-verktyg införs på sätt som verkligen förbättrar vården snarare än att lägga till dolda risker. För kliniker och ledare inom vårdsystem erbjuder den en realistisk stege: en liten praktik kan först sikta på att nå Nivå 2 genom att dokumentera hur den väljer och kontrollerar leverantörsverktyg, medan ett större system kan arbeta mot högre nivåer genom att investera i datateam, rättvisa utvärderingsmetoder och kontinuerlig övervakning. Författarna betonar att inte varje sjukhus behöver toppmodernt kapacitet, men att alla bör uppfylla grundläggande standarder för säkerhet, rättvisa och ansvarsskyldighet. Genom att matcha styrningsförväntningar med tillgängliga resurser syftar deras ramverk till att göra pålitlig medicinsk AI möjlig i olika vårdmiljöer, istället för endast på de mest välfinansierade institutionerna.

Citering: Hussein, R., Zink, A., Ramadan, B. et al. Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digit. Med. 9, 236 (2026). https://doi.org/10.1038/s41746-026-02418-7

Nyckelord: artificiell intelligens inom sjukvård, AI-styrning, kliniskt beslutsstöd, digital hälsopolitik, algoritmisk rättvisa