Обеспечение целостности моделей ИИ: подход на основе блокчейна для защиты обучающих данных медицинской визуализации

Почему важно защищать медицинские снимки

Когда врачи используют искусственный интеллект для выявления опухолей мозга по МРТ‑снимкам, они возлагают огромную степень доверия на данные и программное обеспечение. Но что, если кто‑то тайно изменил эти снимки так, что ИИ усвоил неправильные выводы — или стал ошибочно считать опухоль безвредной? В этой статье рассматривается, как сочетание блокчейн‑технологий и распределённого хранения файлов может «запереть» медицинские изображения с момента их создания, помогая гарантировать, что решения, от которых зависит жизнь людей, не будут основаны на повреждённых данных.

Скрытая угроза в медицинских изображениях

Современные системы ИИ, особенно модели глубокого обучения, способны выявлять тонкие закономерности на МРТ‑снимках мозга, которые человеку могут быть незаметны, повышая точность и облегчая работу врачей. Но эти модели заслуживают доверия только в той мере, в какой доверительны изображения, на которых они обучались. Злоумышленники могут проводить «отравление данных», подмешивая в обучающие наборы слегка изменённые МРТ‑снимки. Изменения настолько малы, что их не видит человек, но они могут склонить модель ИИ к опасным ошибкам, например к систематической неверной классификации типа опухоли. Аналогичные подмены можно провести и на этапе тестирования: атакующий незаметно модифицирует один снимок, чтобы обмануть уже развернутую модель и получить неверный диагноз. Поскольку современные конвейеры медицинской визуализации часто не дают жёстких гарантий происхождения данных и их неизменности, такие атаки трудно выявить, и они могут иметь смертельно опасные последствия.

Почему существующие защиты недостаточны

Исследователи пытались применять разные методы защиты моделей ИИ, но большинство из них лечат симптомы, а не причины. Адвёрсариальное обучение (adversarial training) подвергает модели множеству модифицированных примеров, чтобы они научились противостоять определённым атакам, но это требует больших вычислительных ресурсов и обычно защищает только от известных приёмов. Методы «очистки» изображений, такие как сжатие или шумоподавление, могут убрать часть возмущений, но они не всегда эффективны против более изощрённых атак и не фиксируют происхождение данных. Другие подходы — цифровые водяные знаки или специальное защищённое оборудование — дают полезные свойства, например детекцию вмешательства или защищённые вычисления, но предполагают, что поступающие в систему изображения уже надёжны. Ни один из этих методов не обеспечивает сквозной учёт каждого медицинского изображения от момента съёмки на сканере до хранения, обмена и использования при обучении ИИ.

Новый конвейер данных на основе общей модели доверия

Авторы предлагают архитектуру, которая начинает защищать изображения с момента их создания в диагностическом центре. В их схеме участвуют три роли: ВладелецДанных (DataOwner), например отделение радиологии больницы, которое генерирует МРТ‑снимки; ХранительДанных (DataCustodian), управляющий безопасным хранением и правами доступа; и ИсследовательскийЦентр (ResearchCenter), обучающий модели ИИ. Вместо того чтобы хранить сами изображения в блокчейне — что было бы медленно и ресурсоёмко — исходные файлы МРТ размещаются в частной, изолированной сети распределённых узлов хранения, называемой Private IPFS. Каждому изображению присваивается уникальный криптографический отпечаток или идентификатор содержимого, который меняется даже при изменении одного пикселя. Этот отпечаток вместе с информацией о том, кто загрузил изображение и когда, записывается в разрешённый (permissioned) блокчейн на базе Hyperledger Fabric, доступный только утверждённым организациям.

Как система предотвращает подделки

Когда исследователь хочет получить доступ к изображениям, он отправляет цифровую подписанную заявку, которая фиксируется в блокчейне. Только уполномоченные лица могут одобрить такую заявку, и само одобрение становится частью неизменяемой записи. Затем исследователь извлекает изображение из приватной сети хранения и повторно вычисляет его отпечаток. Если новый отпечаток не совпадает с тем, что хранится в блокчейне, изображение помечается как подменённое и блокируется от попадания в конвейер обучения ИИ. Это создаёт доказуемую и подлежащую аудиту цепочку: каждая загрузка, запрос на доступ, одобрение и извлечение логируются на множестве независимых компьютеров, что делает скрытую манипуляцию значительно сложнее. Авторы реализовали этот подход на реальных МРТ‑снимках опухолей мозга, оценили его производительность с помощью инструмента Hyperledger Caliper и показали, что система способна обеспечивать безопасные, почти в реальном времени загрузки с низкими показателями отказов и управляемыми задержками.

Что это значит для безопасного ИИ в больницах

Проще говоря, предложенная система действует как запираемый прозрачный сейф для медицинских изображений. Все видят, когда снимок попал в сейф или покинул его, а любая попытка изменить снимок оставляет явные следы. Комбинируя разрешённый блокчейн с приватным распределённым хранением и строгим контролем доступа, эта схема решает корень проблемы: она не допускает отравленные или поддельные изображения до модели ИИ. Хотя остаются практические задачи — например, интеграция решения с существующим больничным ПО и соблюдение сложных нормативов по приватности — подход открывает перспективный путь к инструментам ИИ, которым смогут доверять врачи и пациенты, особенно в критичных областях, таких как диагностика опухолей мозга.

Цитирование: Shinde, R., Patil, S., Kotecha, K. et al. Ensuring the integrity of AI models: a blockchain-based approach for protecting medical imaging training data. Sci Rep 16, 13989 (2026). https://doi.org/10.1038/s41598-026-44040-3

Ключевые слова: безопасность медицинской визуализации, блокчейн в здравоохранении, противодействие атакам, МРТ опухоли мозга, надежный ИИ