可解释人工智能方法在基于深度学习的三维步态运动学分类中的定量比较

这项关于行走与人工智能的研究为何重要

许多患有脑性瘫痪或神经肌肉疾病的儿童行走方式难以仅凭肉眼诊断和分类。医生已经使用三维运动捕捉来指导治疗，但最近的人工智能进展能够发现超出人类感知的细微模式。问题在于，这些强大的深度学习工具常常像黑箱一样工作，给出结论却没有明确的理由。本研究提出了一个简单但意义重大的问题：我们能否让这些模型展示它们依赖步态的哪些部分，从而使临床医生能够理解并信任它们的建议？

从运动捕捉到智能模式发现

在过去15年里，法国一家医院的步态实验室记录了儿童行走时髋关节、膝关节、踝关节和足部的详细三维运动。每个步态周期被转换成描述较受影响侧和较不受影响侧22个关节角随时间变化的曲线。研究团队此前已经训练出若干深度学习模型，用于区分发育正常儿童与单侧或双侧脑性瘫痪、神经肌肉疾病或特发性足尖步行的儿童，准确率曾达到90%多以上。在这项新工作中，研究者没有设计新的模型，而是着力打开现有系统的“盖子”，查看哪些关节角度和模式真正驱动计算机的决策。

教会黑箱解释自己

研究者比较了四种可解释人工智能方法，每种方法都提供了将预测追溯到输入特征的不同路径。其中三种（LIME、DeepLift 和 Integrated Gradients）通过分析输入的微小变化如何影响模型在给定步态试验中的输出来工作。第四种称为顺序特征选择，通过反复训练模型、逐步添加或移除关节角来观察准确率如何变化。通过将这些工具应用于三个不同的步态数据集和三种深度学习架构，团队为每个诊断任务创建了关节重要性排名列表，并检验了这些排名的稳定性和忠实度。

模型如何看待我们的行走

在所有方法和数据集中，出现了一个清晰的模式。髋关节、膝关节和踝关节的屈伸，尤其是较受影响侧的这些角度，始终出现在最重要的关节之列。这些正是临床步态专家长期认为对理解脑性瘫痪及相关疾病至关重要的关节。当研究者测试各可解释方法对数据微小变动的鲁棒性以及在移除“重要”特征时模型性能的下降程度时，Integrated Gradients 在总体上表现出最可靠的特性。它产生的解释在相似步态周期间变化很小，并且与移除这些特征时对模型造成的真实影响相吻合。

用更少但更精确的信号做更多事情

研究还探讨了如果仅将最关键的关节角度输入深度学习模型而不是全部22个角，会发生什么。使用前向特征选择，团队发现许多情况下单个关节角的性能就能接近完整模型的准确率几个百分点。用一小组排名靠前的角度，模型性能甚至可以超过使用所有特征的原始模型。这表明去除噪声或相关性较低的信息可以使模型更聚焦，使其既更简单又更准确，同时突出一组临床医生可以轻松解释并随时间监测的紧凑步态特征。

对未来门诊的意义

对非专业人士来说，主要信息是用于步态分析的深度学习工具并非仅凭猜测；它们依赖于人类专家已经密切关注的相同关键关节运动。研究证明了一种可解释方法——Integrated Gradients——能提供稳健且具有临床意义的解释，这使基于AI的步态诊断更接近日常应用。医生可以看到哪些髋、膝和踝的运动导致了建议的诊断，甚至可以仅基于这些关键特征构建简化模型。这种强性能与透明推理的结合，可能有助于这些工具成为在决定如何最好支持行走困难儿童时值得信赖的伙伴。

引用: Lan, Z., Lempereur, M., Aïssa-El-Bey, A. et al. Quantitative comparison of explainable AI methods for interpreting deep learning–based classification of 3D gait kinematics. Sci Rep 16, 15560 (2026). https://doi.org/10.1038/s41598-026-46243-0

关键词: 步态分析, 脑性瘫痪, 深度学习, 可解释人工智能, 关节运动学