Signaux d'instruction vectorisés dans les dendrites corticaux

Comment le cerveau apprend grâce à ses propres neurones

Les programmes d'intelligence artificielle modernes apprennent en ajustant finement des millions de connexions de sorte que chaque neurone du réseau reçoive son propre signal d'enseignement. Les neuroscientifiques se demandent depuis longtemps si le cerveau biologique dispose d'un mécanisme comparable pour indiquer à chaque neurone comment changer pendant l'apprentissage. Cette étude montre que la réponse est oui : il semble que les souris utilisent des signaux spécifiques dans les fines branches de leurs cellules cérébrales pour guider l'apprentissage, offrant un pendant biologique à des idées centrales de l'apprentissage machine.

Transformer la pensée en image animée

Pour rendre le processus d'apprentissage visible, les chercheurs ont construit une interface cerveau–ordinateur pour souris. Pendant qu'une souris courait sur un petit tapis roulant, un microscope observait une zone de son cerveau impliquée dans la navigation et la mémoire. Les scientifiques ont choisi deux petits ensembles de neurones dans cette région et ont lié leur activité à un motif rayé défilant sur un écran. Quand un groupe de neurones devenait plus actif que l'autre, le motif tournait vers une orientation « cible » spécifique, et la souris recevait une récompense sucrée. De cette manière, les expérimentateurs ont défini une règle précise qui attachait l'activité de chaque neurone au succès ou à l'échec.

Deux populations, fonctions opposées

Les deux groupes de neurones étaient mêlés dans le même patch de cortex, mais ils avaient des effets opposés sur le stimulus : l'un poussait le motif vers l'angle récompensé, l'autre l'éloignait. Sur environ deux semaines d'entraînement, les souris ont appris à obtenir plus de récompenses par minute et à réussir une plus grande fraction d'essais. Dans le même temps, les neurones « aidants » avaient tendance à maintenir une forte activité, tandis que les neurones « non aidants » diminuaient progressivement leur activité. Ce changement ne reflétait pas simplement une modification globale de l'éveil ou de la vitesse de course ; au contraire, il correspondait à la manière dont l'activité de chaque neurone influençait la performance de la tâche, suggérant que le cerveau résolvait un problème d'attribution de crédit à grain fin.

Écouter les extrémités cachées des neurones

De façon cruciale, l'équipe n'a pas observé seulement les corps cellulaires principaux de ces neurones, mais aussi leurs longues branches arborescentes appelées dendrites apicales. Ces branches se trouvent plus près de la surface du cerveau et reçoivent des entrées différentes de celles du soma. En changeant rapidement de plan d'imagerie entre des plans profonds et superficiels, les chercheurs ont enregistré l'activité des deux sites dans le même neurone. Ils ont constaté que lorsqu'un neurone déchargeait, l'amplitude du signal dans ses dendrites pouvait être soit plus importante soit moindre que ce qu'on attendrait d'après le signal au soma, et que ces désaccords étaient en partie prévisibles à partir du motif d'activité des neurones voisins. Cela signifie que les dendrites n'étaient pas de simples échos passifs du soma ; elles recevaient des informations distinctes du réseau environnant.

Les dendrites portent des signaux de récompense et d'erreur

La question suivante était de savoir ce que signifiaient ces signaux dendritiques. En analysant le timing des événements par rapport à la distribution de la récompense et au résultat des essais, les auteurs ont montré que les motifs d'amplification dendritique à travers de nombreux neurones pouvaient distinguer les essais récompensés des essais non récompensés, et les tentatives réussies des tentatives infructueuses, même avant que le résultat n'apparaisse. Autrement dit, les signaux dendritiques portaient de l'information à la fois sur la récompense et sur l'erreur en cours de la tâche qui pourrait, en principe, servir de signaux d'enseignement. Fait frappant, le signe de ces signaux dépendait du rôle causal du neurone : les dendrites des neurones qui contribuaient à réduire l'erreur étaient amplifiées lorsque l'erreur diminuait, tandis que les dendrites des neurones qui poussaient le motif dans la mauvaise direction étaient amplifiées lorsque l'erreur augmentait. Ce schéma « vectorisé » reflète la façon dont les réseaux artificiels envoient différents messages d'erreur à différentes unités.

Couper la voie d'enseignement

Pour tester si ces motifs dendritiques avaient de l'importance pour l'apprentissage, les chercheurs ont utilisé des protéines sensibles à la lumière pour activer une classe spécifique de cellules inhibitrices qui résident dans la couche la plus externe du cortex et ciblent les dendrites apicales. L'activation de ces cellules inhibitrices a fortement affaibli les désaccords dendritiques par rapport à l'activité somatique. Dans ces conditions, la population de dendrites n'indiquait plus de façon fiable la récompense ou le résultat des essais, et les souris n'ont pas réussi à progresser dans la tâche cerveau–ordinateur, bien que la configuration de base soit restée inchangée. Des effets similaires se sont produits sous anesthésie, lorsque les entrées top-down sont connues pour être atténuées, soutenant encore l'idée que ces signaux dendritiques dépendent de voies de rétroaction spécialisées.

Ce que cela signifie pour la compréhension de l'apprentissage

Pris ensemble, les résultats suggèrent que le cerveau utilise des compartiments électriques séparés au sein de neurones individuels pour acheminer des signaux d'enseignement, un peu comme les réseaux artificiels dirigent des signaux d'erreur vers des unités particulières. Les dendrites apicales des neurones corticaux semblent porter des informations spécifiques à chaque neurone sur les changements de récompense et d'erreur, et perturber cette voie bloque l'apprentissage. Pour un non-spécialiste, le message clé est que l'apprentissage dans le cerveau peut dépendre non seulement de quels neurones sont actifs, mais de la manière dont leurs branches cachées intègrent le retour d'information du reste du réseau — fournissant un plan biologique pour certaines des idées fondamentales de l'apprentissage machine moderne.

Citation: Francioni, V., Tang, V.D., Toloza, E.H.S. et al. Vectorized instructive signals in cortical dendrites. Nature 652, 1254–1263 (2026). https://doi.org/10.1038/s41586-026-10190-7

Mots-clés: calcul dendritique, attribution de crédit, interface cerveau–ordinateur, apprentissage cortical, neurofeedback