PS-SNN : apprentissage par séparation de motifs pour réseaux neuronaux à impulsions extensibles en apprentissage incrémental de classes

Pourquoi apprendre aux machines à « se souvenir » est important

Les systèmes d’IA modernes sont impressionnants, mais ils présentent une faiblesse majeure : lorsqu’ils apprennent quelque chose de nouveau, ils ont tendance à oublier ce qu’ils savaient auparavant. Cette « amnésie » est un obstacle important pour les robots, les téléphones et autres appareils qui doivent continuer à apprendre d’un monde changeant sans être réentraînés depuis zéro. L’article sur PS-SNN propose une solution inspirée du cerveau pour aider les réseaux neuronaux à impulsions, économes en énergie, à apprendre de nouvelles catégories au fil du temps tout en conservant leurs connaissances antérieures, ouvrant la voie à des IA plus intelligentes et plus fiables pouvant fonctionner sur du matériel basse consommation.

Le problème de l’oubli au fil du temps

La plupart des modèles d’IA sont entraînés une fois sur un jeu de données fixe puis déployés. Dans la réalité, toutefois, les données arrivent par vagues : une caméra peut voir le mois prochain des types d’objets jamais étiquetés auparavant. Lorsqu’un réseau neuronal standard est mis à jour sur ces nouvelles catégories, son « espace de caractéristiques » interne se reconfigure, et les performances sur les catégories antérieures s’effondrent souvent — un phénomène appelé oubli catastrophique. Cela est particulièrement difficile en apprentissage incrémental de classes, où le système doit reconnaître toutes les catégories vues jusque-là sans qu’on lui indique de quelle phase d’entraînement elles proviennent. Les réseaux neuronaux à impulsions, qui communiquent par brèves décharges électriques comme les neurones biologiques et sont attrayants pour les puces à faible consommation, souffrent du même problème et ont reçu beaucoup moins d’attention que les réseaux profonds conventionnels.

Apprendre par croissance et séparation dans le cerveau

Les neurosciences suggèrent deux idées complémentaires pour l’apprentissage tout au long de la vie. D’abord, le cerveau peut générer de nouveaux neurones, notamment dans une région appelée hippocampe, ce qui lui permet de stocker de nouveaux souvenirs sans écraser les anciens. Ensuite, une autre partie de l’hippocampe, le gyrus denté, serait un « séparateur de motifs » : même des expériences similaires sont mappées en motifs d’activité distincts et non chevauchants pour qu’elles n’interfèrent pas entre elles. Les méthodes existantes d’apprentissage continu pour les réseaux à impulsions se concentrent généralement sur la modification de la structure du réseau ou la réutilisation de données anciennes, mais elles reposent toujours sur des couches de sortie initialisées aléatoirement, ce qui peut provoquer la dérive et le chevauchement des représentations internes des catégories au fur et à mesure de l’arrivée de nouvelles tâches. Les auteurs soutiennent que ce choix de conception du classifieur, souvent négligé, est une source clé d’instabilité.

Comment PS-SNN reconfigure le processus d’apprentissage

PS-SNN combine ces deux idées inspirées du cerveau dans un réseau à impulsions conçu pour l’apprentissage incrémental de classes. À l’arrivée de nouveaux groupes de classes, le réseau grandit en ajoutant de nouveaux modules d’extraction de caractéristiques, tandis que les modules antérieurs sont figés, faisant écho à la neurogenèse et préservant les connaissances précédentes. Parallèlement, au lieu d’apprendre à chaque fois une nouvelle couche de sortie depuis zéro, la méthode assigne à chaque classe possible une direction précalculée dans l’espace des caractéristiques. Ces directions sont construites pour être mutuellement orthogonales : chaque classe est ainsi ancrée dès le départ à une position distincte et non chevauchante. Lors de la première phase d’entraînement, appelée apprentissage par séparation de motifs, le classifieur est maintenu fixe et seuls les extracteurs de caractéristiques s’adaptent, obligeant la représentation par impulsions de chaque classe à se regrouper étroitement autour de sa direction assignée et réduisant les conflits entre anciennes et nouvelles tâches.

Ajuster les décisions sans effacer les souvenirs

Les ancres orthogonales améliorent grandement la stabilité, mais elles sont aussi rigides. Pour retrouver de la flexibilité, PS-SNN ajoute une seconde phase appelée apprentissage de raffinement des motifs. Ici, les extracteurs de caractéristiques sont figés et seul le classifieur est ajusté, en utilisant un mélange soigneusement équilibré d’exemples anciens et nouveaux pour qu’aucun groupe de classes ne domine. Cette étape façonne subtilement les frontières de décision entre les directions de classes déjà bien séparées, améliorant la discrimination — notamment pour des catégories visuellement similaires — sans perturber les représentations sous-jacentes stabilisées lors de la première phase. Le système conserve également une petite mémoire de rejouage d’échantillons passés, qui aide à guider les deux phases tout en maintenant un stockage modeste.

Ce que les résultats signifient pour l’avenir de l’IA

Évalué sur des bancs d’essai d’images standard où les classes arrivent en plusieurs étapes, PS-SNN surpasse nettement les méthodes précédentes d’apprentissage continu basées sur les impulsions et rivalise même, voire dépasse, plusieurs réseaux profonds conventionnels de pointe, tout en conservant les avantages énergétiques du calcul par impulsions. En combinant une structure de réseau extensible avec des ancres de classes fixes et bien séparées, l’approche réduit fortement la dérive lente des représentations internes qui compromet habituellement l’apprentissage à long terme. Pour les non-spécialistes, la conclusion est que ce travail rapproche l’IA de la capacité du cerveau à continuer d’apprendre sans oublier, dans une forme qui pourrait fonctionner efficacement sur de futures puces neuromorphiques intégrées aux objets du quotidien.

Citation: Hu, K., Wen, L., Zhang, T. et al. PS-SNN: pattern separation learning for expandable spiking neural networks in class-incremental learning. Sci Rep 16, 12653 (2026). https://doi.org/10.1038/s41598-026-42970-6

Mots-clés: apprentissage continu, réseaux neuronaux à impulsions, oublie catastrophique, informatique neuromorphique, separation de motifs