Avanzando la gobernanza de la IA en salud mediante un modelo de madurez integral basado en una revisión sistemática

Por qué importan reglas más inteligentes para la IA médica

Los hospitales se apresuran a usar la inteligencia artificial para detectar enfermedades antes, reducir la carga administrativa y hacer la atención más eficiente. Pero si estas herramientas se eligen o gestionan de forma deficiente, pueden cometer errores silenciosos, profundizar desigualdades o malgastar recursos valiosos. Este artículo explica cómo un equipo de investigadores analizó decenas de marcos normativos existentes para la IA médica y construyó una hoja de ruta práctica que cualquier organización sanitaria —desde una pequeña clínica hasta un hospital universitario de primer nivel— puede usar para aplicar la IA de manera segura y justa.

Poniendo orden en un panorama de consejos fragmentado

En los últimos años, expertos de todo el mundo han propuesto listas de verificación, guías y estructuras de supervisión sobre cómo debería usarse la IA en el ámbito sanitario. Los autores revisaron sistemáticamente 35 de esos marcos publicados entre 2019 y 2024, y se centraron en 29 que ofrecían orientaciones concretas y por etapas, en lugar de abordar un único aspecto como la ética. Encontraron que, aunque muchos documentos trataban cómo desarrollar un algoritmo o cómo monitorizarlo con el tiempo, muchos menos abordaban las realidades organizativas: ¿quién debe liderar? ¿cómo deberían los hospitales elegir entre productos competidores? ¿y cómo pueden los sistemas de salud con menos recursos mantenerse al día? Este mosaico de recomendaciones, a menudo redactado pensando en grandes centros académicos, dejaba a organizaciones más pequeñas sin un camino claro a seguir.

Siete pilares para una buena supervisión de la IA

De su revisión, los investigadores extrajeron siete áreas esenciales que deben abordarse para integrar la IA de manera responsable en la atención al paciente. Estas incluyen tener una estructura de liderazgo clara; definir cuidadosamente el problema clínico antes de recurrir a la tecnología; entender cómo se construye y entrena el algoritmo; revisar productos externos antes de comprarlos; probar el rendimiento de una herramienta en la población local; incorporarla de forma reflexiva en los flujos de trabajo clínicos diarios; y supervisar su desempeño una vez en funcionamiento. En la literatura hubo un énfasis fuerte en tareas como la formulación del problema, el desarrollo del modelo y la monitorización continua. Sin embargo, los autores observaron una cobertura más débil en cómo evaluar productos externos y en el diseño de órganos de gobernanza que reflejen las perspectivas de clínicos, expertos técnicos, pacientes y profesionales legales y de ética.

De la teoría a una hoja de ruta por etapas

Para convertir esta guía dispersa en algo más utilizable, el equipo creó la Evaluación de Preparación para la Gobernanza de la IA en Salud, o HAIRA —un “modelo de madurez” de cinco niveles que describe cómo se ve una gobernanza capaz en etapas crecientes de sofisticación. En el Nivel 1, una organización tiene solo una conciencia básica y depende mayormente de las garantías del proveedor para herramientas comerciales, con pruebas internas mínimas o integración limitada. En el Nivel 2 existen procedimientos documentados, un comité de supervisión simple, una selección de herramientas más estructurada y monitorización básica del rendimiento. El Nivel 3 describe sistemas regionales o comunitarios que pueden validar modelos de forma independiente, evaluar riesgos como sesgos, integrar la IA con programas de mejora de la calidad y gestionar el cambio de manera sistemática a medida que las herramientas entran en la práctica clínica.

Crecimiento hacia prácticas avanzadas y líderes

Los Niveles 4 y 5 recogen lo que los autores consideran gobernanza avanzada y de vanguardia. En el Nivel 4, típicamente presente en grandes centros médicos académicos, las organizaciones cuentan con líderes ejecutivos dedicados a la IA, estructuras éticas sólidas, infraestructura de datos avanzada y capacidades internas robustas de desarrollo y evaluación, incluida la monitorización en tiempo real. El Nivel 5 representa instituciones que no solo gestionan bien la IA, sino que también contribuyen a fijar estándares de la industria. Estas organizaciones realizan estudios multicéntricos para demostrar seguridad y beneficio, experimentan con nuevos tipos de aplicaciones de IA y comparten sus aprendizajes mediante centros de excelencia y colaboraciones. Es importante que el modelo aplica la regla del “eslabón más débil”: el nivel general de una organización queda limitado por el dominio menos desarrollado entre los siete, reflejando la realidad de que una sola salvaguarda ausente —como una monitorización deficiente— puede socavar esfuerzos por lo demás sofisticados.

Qué significa esto para pacientes y proveedores

Para los pacientes, el modelo HAIRA pretende garantizar que las herramientas de IA se introduzcan de formas que realmente mejoren la atención en lugar de añadir riesgos ocultos. Para los clínicos y los líderes de los sistemas de salud, ofrece una escalera realista: una práctica pequeña puede proponerse primero alcanzar el Nivel 2 documentando cómo elige y verifica las herramientas de los proveedores, mientras que un sistema más grande podría avanzar hacia niveles superiores invirtiendo en equipos de datos, métodos de evaluación justos y monitorización continua. Los autores subrayan que no todos los hospitales necesitan capacidades de última generación, pero todos deberían cumplir estándares básicos de seguridad, equidad y responsabilidad. Al ajustar las expectativas de gobernanza a los recursos disponibles, su marco busca hacer que la IA médica confiable sea alcanzable en entornos sanitarios diversos, en lugar de limitarse a las instituciones con más financiación.

Cita: Hussein, R., Zink, A., Ramadan, B. et al. Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digit. Med. 9, 236 (2026). https://doi.org/10.1038/s41746-026-02418-7

Palabras clave: inteligencia artificial en salud, gobernanza de la IA, soporte a la decisión clínica, política de salud digital, equidad algorítmica