Aprendizaje en línea con memoria lineal e independiente del modelo en redes neuronales de pulsos

Por qué es tan difícil entrenar ordenadores inspirados en el cerebro

Las redes neuronales de pulsos son una clase de redes artificiales que se comunican mediante breves pulsos eléctricos, muy parecido a las células cerebrales reales. Prometen cómputo ultraficiente inspirado en el cerebro y simulaciones más realistas de circuitos neuronales. Pero enseñar a estas redes a realizar tareas complejas, especialmente a lo largo de largos periodos, suele exigir enormes cantidades de memoria del ordenador y código hecho a mano. Este artículo presenta BrainTrace, un sistema diseñado para hacer que el entrenamiento de redes de pulsos sea práctico y ampliamente utilizable.

Enseñar a redes que aprenden en tiempo real

Los métodos de entrenamiento más potentes para redes tipo cerebral funcionan reproduciendo toda una secuencia de actividad y propagando señales de error hacia atrás a través de cada paso temporal. Este enfoque, conocido como retropropagación a través del tiempo, puede ser muy preciso pero pronto encuentra problemas cuando las secuencias son largas o las redes son grandes: cada estado intermedio debe almacenarse, lo que provoca un crecimiento de memoria que escala con el tiempo y el tamaño de la red. Los métodos «en línea» alternativos actualizan las conexiones paso a paso conforme los datos llegan, lo que reduce mucho las necesidades de almacenamiento. Sin embargo, las reglas en línea existentes o bien funcionan solo para modelos de neurona muy simplificados o bien requieren memoria que crece de forma cuadrática con el tamaño de la red, lo que dificulta su aplicación a sistemas realistas a escala cerebral.

Una receta general para muchos tipos de redes de pulsos

BrainTrace aborda esto describiendo primero las redes de pulsos de forma unificada. Los autores muestran que muchos tipos de neuronas y sinapsis pueden expresarse como dos partes que interactúan: dinámica interna que describe cómo cambia el estado de cada neurona a lo largo del tiempo, y dinámica de interacción que convierte los pulsos entrantes en corrientes que fluyen entre células. Además introducen dos puntos de vista de modelado, llamados AlignPre y AlignPost, que organizan las sinapsis alrededor de la neurona emisora o de la neurona receptora. Esta abstracción permite manejar una amplia variedad de modelos biológicos e ingenieriles con la misma maquinaria matemática, desde neuronas filtradas simples hasta células más complejas con umbrales adaptativos y sinapsis intrincadas.

Una manera que ahorra memoria para seguir causa y efecto

El desafío central en el aprendizaje en línea es seguir cómo pequeños cambios en cada conexión afectarían finalmente al comportamiento de la red, una cantidad capturada por las llamadas «trazas de elegibilidad». En principio, mantener la información completa de elegibilidad requiere seguir enormes matrices que escalan con el cubo del número de neuronas. BrainTrace explota tres propiedades clave de las redes de pulsos: la mayoría de las neuronas están inactivas la mayor parte del tiempo; la propia fuga y el reinicio de cada neurona dominan cómo cambia su estado; y los pulsos y las conductancias sinápticas son siempre positivas. Usando estos hechos, los autores muestran que las pesadas matrices de elegibilidad pueden aproximarse estrechamente por el producto de solo dos trazas compactas por sinapsis, una que resume la actividad presináptica y otra que resume la actividad postsináptica. Esta regla de propagación pre‑post, denominada pp‑prop, utiliza memoria que crece solo de forma lineal con el tamaño de la red, y aun así produce gradientes que se alinean bien con los de la retropropagación completa.

Herramientas automáticas que ocultan las matemáticas

Más allá de la regla de aprendizaje en sí, BrainTrace proporciona un compilador que juega un papel similar al de las librerías de diferenciación automática en aprendizaje profundo. Un usuario escribe la dinámica de su modelo de pulsos en un lenguaje de alto nivel. El compilador de BrainTrace analiza entonces cómo se conectan estados y parámetros, construye las trazas de elegibilidad necesarias y genera código optimizado que ejecuta pp‑prop u otro algoritmo relacionado de forma eficiente en CPU, GPU o aceleradores especializados. Esto permite que los modeladores se centren en preguntas científicas en lugar de elaborar código de gradiente delicado a mano, al tiempo que se benefician del aprendizaje en línea y eficiente en memoria.

Desde sensores diminutos hasta todo un cerebro de mosca

Los autores prueban BrainTrace en benchmarks neuromórficos estándar, donde las redes de pulsos clasifican versiones basadas en eventos de imágenes, sonidos y gestos. En múltiples conjuntos de datos y arquitecturas, pp‑prop iguala la precisión de la retropropagación completa mientras usa órdenes de magnitud menos memoria y corre más rápido que otros métodos en línea. De manera crucial, el sistema también escala a problemas exigentes de neurociencia. En un ejemplo, una red de pulsos biológicamente detallada con poblaciones excitatorias e inhibitorias separadas aprende una tarea de acumulación de evidencia para toma de decisiones y desarrolla patrones de actividad que se parecen a los registrados en la corteza de ratón. En otro, un modelo de pulsos con más de 125.000 neuronas, conectado según el conectoma de la mosca de la fruta, se entrena para reproducir la actividad en estado de reposo registrada en todo el cerebro de la mosca, una hazaña que supera la capacidad de memoria del entrenamiento convencional en una única tarjeta gráfica.

Qué significa esto para la informática inspirada en el cerebro

Para los no expertos, el mensaje principal es que BrainTrace convierte un sueño antaño poco práctico —entrenar redes de pulsos ricas y a escala cerebral en tiempo real— en una posibilidad realista. Al encontrar una manera ingeniosa de llevar la cuenta de causa y efecto con solo una pequeña cantidad de memoria, y al envolver esto en herramientas automatizadas, el trabajo acerca la informática inspirada en el cerebro a un uso cotidiano tanto en inteligencia artificial como en neurociencia básica. Sugiere un camino hacia máquinas que aprenden y se adaptan con la eficiencia y la precisión temporal de los sistemas nerviosos reales, sin exigir recursos a nivel de supercomputadora.

Cita: Wang, C., Dong, X., Ji, Z. et al. Model-agnostic linear-memory online learning in spiking neural networks. Nat Commun 17, 1745 (2026). https://doi.org/10.1038/s41467-026-68453-w

Palabras clave: redes neuronales de pulsos, aprendizaje en línea, informática neuromórfica, simulación cerebral, entrenamiento basado en gradientes