Количественное сравнение методов объяснимого ИИ для интерпретации классификации 3D-кинематики походки на основе глубокого обучения

Почему это исследование по ходьбе и ИИ имеет значение

Многие дети с такими состояниями, как церебральный паралич или нервно-мышечные заболевания, ходят так, что их трудно диагностировать и классифицировать только визуально. Врачи уже используют 3D-захват движений при ходьбе для планирования лечения, но недавние достижения в области искусственного интеллекта способны выявлять тонкие закономерности, недоступные человеческому восприятию. Проблема в том, что эти мощные инструменты глубокого обучения часто ведут себя как «чёрные ящики», давая ответы без понятных причин. В этом исследовании поставлен простой, но важный вопрос: можно ли заставить модели показывать, на каких частях походки они основываются, чтобы клиницисты могли понять и доверять их советам?

От захвата движения к интеллектуальному поиску паттернов

В течение более 15 лет лаборатория походки при больнице во Франции записывала детальные 3D-движения бедер, колен, голеностопов и ступней детей во время ходьбы. Каждый цикл походки был преобразован в временные кривые, описывающие 22 угла суставов на более и менее поражённых сторонах. Команда уже обучила несколько моделей глубокого обучения отличать обычно развивающихся детей от тех, у кого односторонний или двусторонний церебральный паралич, нервно-мышечное заболевание или идиопатическая ходьба на носках, достигая точности вплоть до высоких 90 процентов. В этой новой работе вместо разработки очередной модели они сосредоточились на том, чтобы «открыть капот» существующих систем и выяснить, какие углы суставов и паттерны действительно управляют решениями компьютера.

Обучение «чёрных ящиков» объяснять свои решения

Исследователи сравнили четыре метода объяснимого ИИ, каждый из которых предлагает свой способ проследить предсказание до входных признаков. Три из них (LIME, DeepLift и Integrated Gradients) анализируют, как небольшие изменения во входных данных влияют на выход модели для конкретного испытания ходьбы. Четвёртый метод, последовательный отбор признаков, неоднократно обучает модели, поочерёдно добавляя или удаляя углы суставов, чтобы увидеть, как меняется точность. Применяя эти инструменты к трём разным наборам данных по походке и трём архитектурам глубокого обучения, команда составила ранжированные списки наиболее значимых суставов для каждой диагностической задачи и затем проверила устойчивость и достоверность этих ранжировок.

Что модели говорят о нашей походке

Во всех методах и наборах данных проявилась чёткая закономерность. Сгибание и разгибание бедра, колена и голеностопа, особенно на более поражённой стороне, стабильно входили в число наиболее важных углов. Именно эти суставы клинические эксперты по походке давно считают ключевыми для понимания церебрального паралича и родственных расстройств. При тестировании устойчивости каждого метода объяснимости к небольшим вариациям в данных и оценке того, насколько ухудшается производительность модели при удалении «важных» признаков, Integrated Gradients оказался наиболее надёжным в целом. Он генерировал объяснения, которые мало менялись для похожих циклов походки и хорошо коррелировали с теми признаками, удаление которых действительно снижало работу модели.

Делать больше с меньшим числом, но лучше выбранных сигналов

Исследование также рассмотрело, что происходит, если модели глубокого обучения подавать только самые критичные углы вместо всех 22. С помощью прямого (forward) отбора признаков команда обнаружила, что во многих случаях единичный угол сустава мог обеспечить точность всего на несколько процентных пунктов ниже, чем полная модель. С набором из нескольких верхних по рангу углов производительность иногда даже превосходила исходную модель, использующую все признаки. Это указывает на то, что удаление шумных или менее релевантных данных может сфокусировать модель, сделав её проще и точнее, а также выделить компактный набор признаков походки, который клиницисты могут легко интерпретировать и отслеживать со временем.

Что это значит для будущих визитов в клинику

Для неспециалистов главный вывод состоит в том, что инструменты глубокого обучения для анализа походки не просто «угадывают»; они опираются на те же ключевые движения суставов, за которыми специалисты уже внимательно наблюдают. Показав, что один из методов объяснимости, Integrated Gradients, даёт устойчивые и клинически значимые объяснения, исследование приблизило диагностiku походки на основе ИИ к повседневному применению. Врачи могут увидеть, какие движения бедра, колена и голеностопа привели к предложенному диагнозу, и даже строить упрощённые модели на основе этих критичных признаков. Такое сочетание высокой производительности и прозрачного обоснования может помочь этим инструментам стать надёжными помощниками при принятии решений о том, как лучше поддерживать детей с нарушениями ходьбы.

Цитирование: Lan, Z., Lempereur, M., Aïssa-El-Bey, A. et al. Quantitative comparison of explainable AI methods for interpreting deep learning–based classification of 3D gait kinematics. Sci Rep 16, 15560 (2026). https://doi.org/10.1038/s41598-026-46243-0

Ключевые слова: анализ походки, церебральный паралич, глубокое обучение, объяснимый ИИ, кинематика суставов