SSG–CAM : améliorer l’interprétabilité visuelle via des gradients du second ordre affinés et une fusion multi‑couche évolutive

Pourquoi il est important de voir à l’intérieur des IA

Les systèmes modernes de reconnaissance d’images peuvent repérer des tumeurs, des panneaux de signalisation ou de minuscules parasites dans les globules rouges à une vitesse surhumaine — mais ils montrent rarement précisément pourquoi ils ont pris une décision. Ce comportement de « boîte noire » est particulièrement préoccupant en médecine et dans les domaines critiques pour la sécurité, où une erreur peut avoir de graves conséquences. Cet article présente une nouvelle méthode pour rendre les modèles d’apprentissage profond plus clairs et plus fiables visuellement, aidant les humains à voir quelles parties d’une image ont réellement motivé le choix de l’IA.

De cartes floues à des explications plus nettes

Une famille d’outils populaire, les cartes d’activation de classe (CAM), transforme les mécanismes internes d’un réseau de neurones en cartes thermiques colorées superposées à l’image d’origine. Les régions lumineuses indiquent où le modèle « a regardé » pour décider, par exemple, qu’une image contient un oiseau ou une cellule malade. Les méthodes CAM existantes reposent souvent sur des signaux de gradient de premier ordre simples à l’intérieur du réseau. Ces signaux peuvent être bruyants ou « saturés », c’est‑à‑dire cesser d’évoluer même lorsque les détails de l’image restent pertinents. En conséquence, les cartes peuvent illuminer de larges portions d’arrière‑plan, manquer des détails fins ou fournir des explications incohérentes d’une couche à l’autre.

Un second regard plus lisse sur ce que voit le réseau

Les auteurs proposent Smooth Second-Order Gradient CAM, ou SSG–CAM. Plutôt que de dépendre uniquement de la poussée initiale des gradients, SSG–CAM examine aussi la façon dont ces gradients changent eux‑mêmes — l’information du second ordre. Ce niveau supplémentaire de sensibilité aide à révéler sur quelles caractéristiques la décision du réseau repose réellement, réduisant le risque que des preuves importantes soient effacées. Pour maîtriser le bruit aléatoire, SSG–CAM lisse doucement les gradients avec un filtre gaussien, à la manière d’un flou d’appareil photo qui supprime les taches tout en préservant les formes. Enfin, il combine les signaux lissés de premier et second ordre de façon à mettre en avant les réponses fortes et fiables et à supprimer les réponses faibles ou incohérentes, produisant des cartes thermiques plus nettes et mieux focalisées.

Laisser les algorithmes choisir les meilleures couches

Les réseaux profonds ne « pensent » pas en une seule étape : les premières couches captent arêtes et textures, tandis que les couches plus profondes encodent des objets ou des concepts entiers. De nombreuses méthodes CAM tentent de fusionner l’information de plusieurs couches, mais souvent selon des règles fixes ou choisies manuellement. L’étude montre qu’empiler naïvement toutes les couches peut en fait nuire aux performances, en ajoutant du bruit de bas niveau qui brouille l’explication finale. Pour résoudre cela, les auteurs associent SSG–CAM à une stratégie d’optimisation appelée évolution différentielle, créant le cadre DE–SSG–CAM. Cet algorithme recherche automatiquement des combinaisons de couches de caractéristiques et quelques paramètres clés, afin de trouver le mélange qui correspond le mieux aux formes réelles des objets sur un petit ensemble annoté. Une fois ces paramètres trouvés, ils peuvent être réutilisés, offrant des explications multi‑couches solides sans réglages manuels coûteux.

Mettre la méthode à l’épreuve

Les chercheurs ont soumis SSG–CAM et DE–SSG–CAM à une série de tests exigeants. Sur des jeux de référence d’images standards, la nouvelle méthode a rendu la localisation d’objets faiblement supervisée — dessiner des boîtes autour d’objets en n’utilisant que des étiquettes au niveau de l’image — plus précise que plusieurs variantes CAM populaires. Elle a également amélioré la segmentation sémantique faiblement supervisée, qui demande au modèle d’étiqueter chaque pixel sans fournir de masques d’entraînement détaillés. Dans une expérience de « perturbation d’image », l’équipe a flouté les régions mises en évidence par chaque méthode. Lorsque les zones sélectionnées par SSG–CAM ont été supprimées, la précision du réseau a chuté le plus, indiquant que ces régions étaient réellement cruciales pour la décision du modèle, et non de simples points chauds décoratifs.

Trouver de minuscules parasites dans les globules rouges

L’application la plus marquante vient de l’imagerie biomédicale. Les auteurs ont utilisé leur approche pour localiser des parasites du paludisme à l’intérieur d’images de globules rouges, une tâche où les régions infectées peuvent être minuscules et irrégulières. En n’utilisant que des étiquettes d’image indiquant l’infection pour l’entraînement, DE–SSG–CAM a produit des pseudo‑masques qui correspondaient étroitement aux contours dessinés par des experts, atteignant un IoU moyen (Intersection over Union) de 62,38 % — un résultat solide pour un problème aussi difficile et faiblement annoté. Le cadre s’est aussi bien transféré à un autre type de réseau, ResNet34, montrant que la technique n’est pas liée à une architecture unique et peut s’adapter à différents designs.

Ce que cela signifie pour les utilisateurs quotidiens

Pour les non‑spécialistes, le message clé est que ces méthodes rendent le « raisonnement » de l’IA plus visible et plus digne de confiance. SSG–CAM offre des cartes thermiques plus nettes et moins bruitées qui correspondent mieux à ce qu’un humain considérerait comme l’objet ou la lésion réelle, tandis que DE–SSG–CAM apprend automatiquement comment combiner l’information provenant de différentes profondeurs du réseau. Ensemble, ils rapprochent les explications visuelles d’un niveau sur lequel médecins, ingénieurs et régulateurs peuvent s’appuyer lorsqu’ils demandent : « Pourquoi le modèle dit‑il que cette image montre une maladie — ou un danger ? »

Citation: Chen, Z., Zhang, Y.J., Pan, L. et al. SSG–CAM: enhancing visual interpretability through refined second-order gradients and evolutionary multi-layer fusion. Sci Rep 16, 6848 (2026). https://doi.org/10.1038/s41598-026-37278-4

Mots-clés: IA explicable, cartes d’activation de classe, visualisation en apprentissage profond, analyse d’images médicales, localisation d’objets