Продвижение управления ИИ в здравоохранении с помощью всесторонней модели зрелости на основе систематического обзора

Почему важны более разумные правила для медицинского ИИ

Больницы спешат внедрять искусственный интеллект, чтобы выявлять заболевания на ранних стадиях, сократить бюрократию и повысить эффективность ухода. Но если эти инструменты выбирают или управляют ими неправильно, они могут незаметно допускать ошибки, усиливать неравенство или тратить ценные ресурсы. В этой статье объясняется, как группа исследователей проанализировала десятки существующих руководств по медицинскому ИИ и создала практическую дорожную карту, которую любая организация здравоохранения — от небольшой клиники до крупного исследовательского госпиталя — может использовать, чтобы внедрять ИИ безопасно и справедливо.

Разобраться в перегруженном ландшафте рекомендаций

В последние годы эксперты по всему миру предложили контрольные списки, руководства и структуры надзора за использованием ИИ в здравоохранении. Авторы систематически рассмотрели 35 таких рамок, опубликованных в период с 2019 по 2024 год, сократив выборку до 29 документов, которые предлагали конкретные многошаговые рекомендации, а не концентрировались только на одной проблеме, например на этике. Они установили, что хотя многие документы описывали, как разрабатывать алгоритм или отслеживать его работу со временем, гораздо меньше материалов касались организационной практики: кто должен нести ответственность? Как больницы должны выбирать между конкурирующими продуктами? Как системам с меньшими ресурсами успевать за изменениями? Это разношерстное руководство, часто ориентированное на крупные академические центры, оставляло более мелкие организации без ясного пути вперед.

Семь строительных блоков хорошего надзора за ИИ

Из своего обзора исследователи выделили семь ключевых областей, которые необходимо учитывать, чтобы ИИ ответственно интегрировался в уход за пациентами. К ним относятся четкая структура руководства, тщательное определение клинической задачи до обращения к технологиям, понимание того, как алгоритм построен и обучен, проверка внешних продуктов перед покупкой, тестирование того, насколько инструмент работает на локальном пациентском контингенте, продуманная интеграция в повседневные клинические процессы и отслеживание его эффективности после внедрения. В литературе уделялось большое внимание таким задачам, как формулирование проблемы, разработка модели и постоянный мониторинг. Вместе с тем авторы отметили слабое освещение оценки внешних продуктов и проектирования органов управления, которые отражали бы мнения клиницистов, технических экспертов, пациентов, а также юридических и этических специалистов.

От теории к пошаговой дорожной карте

Чтобы превратить разрозненные рекомендации во что-то более применимое, команда создала Оценку готовности управления ИИ в здравоохранении (HAIRA) — модель зрелости из пяти уровней, описывающую, как выглядит адекватное управление на разных стадиях развития. На Уровне 1 организация имеет лишь базовую осведомленность и в основном полагается на заверения поставщиков для готовых решений, с минимальным внутренним тестированием или интеграцией. На Уровне 2 появляются документированные процедуры, простой комитет по надзору, более структурированный отбор инструментов и базовый мониторинг производительности. Уровень 3 описывает региональные или общественные системы, способные самостоятельно валидацировать модели, оценивать риски, такие как предвзятость, интегрировать ИИ с программами повышения качества и системно управлять изменениями по мере внедрения инструментов в клиническую практику.

Рост до продвинутой и передовой практики

Уровни 4 и 5 отражают то, что авторы считают продвинутым и лидирующим управлением. На Уровне 4, как правило, в крупных академических медицинских центрах, организации имеют руководителей на уровне исполнительной власти, ответственных за ИИ, прочные этические структуры, развитую инфраструктуру данных и сильные внутренние возможности по разработке и оценке, включая мониторинг в реальном времени. Уровень 5 представляет учреждения, которые не только эффективно управляют ИИ, но и помогают формировать отраслевые стандарты. Такие организации проводят многоцентровые исследования для подтверждения безопасности и пользы, экспериментируют с новыми типами приложений ИИ и делятся опытом через центры передового опыта и сотрудничество. Важной особенностью модели является правило «слабого звена»: общий уровень организации ограничивается наименее развитой из семи областей, что отражает реальность — отсутствие единственной меры защиты, например слабый мониторинг, может подорвать в остальном продуманные усилия.

Что это означает для пациентов и работников здравоохранения

Для пациентов модель HAIRA призвана гарантировать, что инструменты ИИ внедряются так, чтобы действительно улучшать уход, а не добавлять скрытые риски. Для клиницистов и руководителей систем здравоохранения она предлагает реалистичную лестницу: небольшая практика может сначала стремиться достичь Уровня 2, документируя процесс выбора и проверки инструментов поставщиков, тогда как крупная система может работать над более высокими уровнями, инвестируя в команды по работе с данными, методы справедливой оценки и постоянный мониторинг. Авторы подчеркивают, что не каждая больница должна иметь передовые возможности, но все должны соответствовать базовым стандартам безопасности, равенства и подотчетности. Сопоставляя ожидания управления с доступными ресурсами, их рамка стремится сделать надежный медицинский ИИ достижимым в самых разных условиях здравоохранения, а не только в самых хорошо обеспеченных учреждениях.

Цитирование: Hussein, R., Zink, A., Ramadan, B. et al. Advancing healthcare AI governance through a comprehensive maturity model based on systematic review. npj Digit. Med. 9, 236 (2026). https://doi.org/10.1038/s41746-026-02418-7

Ключевые слова: искусственный интеллект в здравоохранении, управление ИИ, поддержка клинических решений, политика цифрового здравоохранения, алгоритмическая справедливость