PS-SNN: mönsterseparationsinlärning för expanderbara spikande neurala nätverk i klass‑inkrementell inlärning

Varför det är viktigt att lära maskiner att ”komma ihåg”

Moderna AI‑system är imponerande, men de har en allvarlig svaghet: när de lär sig något nytt tenderar de att glömma det de kunde tidigare. Denna ”amnesi” är ett stort hinder för robotar, telefoner och andra enheter som måste fortsätta lära sig från en föränderlig omvärld utan att tränas om från grunden. Artikeln om PS‑SNN presenterar ett hjärninspirerat sätt att hjälpa energieffektiva spikande neurala nätverk att lära sig nya klasser över tid samtidigt som de behåller tidigare kunskaper, vilket pekar mot smartare och mer pålitlig AI som kan köras på låg‑effektshårdvara.

Problemet med att glömma över tid

De flesta AI‑modeller tränas en gång på en fast dataset och distribueras sedan. I verkligheten anländer dock data i vågor: en kamera kan se nya slags objekt nästa månad som aldrig var märkta tidigare. När ett standardneuronalt nät uppdateras på dessa nya klasser omformas dess interna ”features‑rum” och prestandan på tidigare klasser kollapsar ofta — ett fenomen som kallas katastrofalt glömska. Detta är särskilt utmanande i klass‑inkrementell inlärning, där systemet måste känna igen alla klasser som setts hittills utan att få veta i vilken träningsfas de introducerades. Spikande neurala nätverk, som kommunicerar med korta elektriska spikar likt biologiska neuroner och är attraktiva för låg‑energi chip, lider av samma problem men har fått betydligt mindre uppmärksamhet än konventionella djupa nätverk.

Att lära genom tillväxt och separation i hjärnan

Neuroscience föreslår två kompletterande idéer för livslång inlärning. För det första kan hjärnan växa nya neuroner, särskilt i en region som kallas hippocampus, vilket gör det möjligt att lagra nya minnen utan att skriva över de gamla. För det andra antas en annan del av hippocampus, dentate gyrus, fungera som en ”mönsterseparatör”: även liknande upplevelser kartläggs till distinkta, icke‑överlappande aktivitetsmönster så att de inte stör varandra. Befintliga metoder för kontinuerlig inlärning för spikande nätverk fokuserar vanligtvis på att ändra nätverksstruktur eller återanvända gamla data, men de förlitar sig fortfarande på slumpmässigt initierade utgångslager, vilket kan få interna representationer av klasser att driva isär och överlappa när nya uppgifter kommer. Författarna hävdar att denna förbisedda klassifierardesign är en nyckelkälla till instabilitet.

Hur PS‑SNN omformar inlärningsprocessen

PS‑SNN kombinerar dessa två hjärninspirerade idéer i ett spikande nätverk utformat för klass‑inkrementell inlärning. När nya grupper av klasser anländer växer nätverket genom att lägga till nya funktions‑extraktionsmoduler, medan tidigare moduler låses, vilket speglar neurogenes och bevarar tidigare kunskap. Samtidigt, istället för att lära ett nytt utgångslager från noll varje gång, tilldelar metoden varje möjlig klass en förberäknad riktning i features‑rummet. Dessa riktningar konstrueras för att vara ömsesidigt ortogonala, vilket betyder att varje klass från början är förankrad i ett distinkt, icke‑överlappande fack. Under det första träningsstadiet, kallat mönsterseparationsinlärning, hålls klassificeraren fast och endast funktionsextraktorerna anpassas, vilket tvingar varje klass spike‑baserade representation att klustra tätt kring sin tilldelade riktning och minskar konflikter mellan gamla och nya uppgifter.

Finjustera beslut utan att förstöra minnen

Ortogonala ankare förbättrar stabiliteten avsevärt, men de är också stela. För att återfå flexibilitet lägger PS‑SNN till ett andra stadium kallat mönsterförfiningsinlärning. Här fryses funktionsextraktorerna och endast klassificeraren justeras, med en noggrant balanserad blandning av gamla och nya exempel så att ingen grupp av klasser dominerar. Detta stadium formar subtilt om beslutsgränserna mellan redan välseparerade klassriktningar och förbättrar diskriminering — särskilt för visuellt lika kategorier — utan att störa de underliggande representationer som stabiliserades i det första stadiet. Systemet behåller också ett litet uppspelningsminne med tidigare prover, vilket hjälper till att styra båda stadierna samtidigt som lagringen hålls måttlig.

Vad resultaten innebär för framtidens AI

Testat på standardbildbenchmarkar där klasser anländer i flera steg, överträffar PS‑SNN tidigare kontinuerlig‑inlärningmetoder baserade på spikar avsevärt och konkurrerar till och med med eller överträffar flera ledande konventionella djupa nätverk, samtidigt som fördelarna med energisnål spik‑baserad beräkning bevaras. Genom att kombinera expanderbar nätverksstruktur med fasta, välseparerade klassankare minskar tillvägagångssättet kraftigt den långsamma drift av interna representationer som vanligtvis underminerar långsiktig inlärning. För icke‑specialister är slutsatsen att detta arbete för AI ett steg närmare hjärnans förmåga att fortsätta lära utan att glömma, i en form som skulle kunna köras effektivt på framtida neuromorfa kretsar inbyggda i vardagsapparater.

Citering: Hu, K., Wen, L., Zhang, T. et al. PS-SNN: pattern separation learning for expandable spiking neural networks in class-incremental learning. Sci Rep 16, 12653 (2026). https://doi.org/10.1038/s41598-026-42970-6

Nyckelord: kontinuerlig inlärning, spikande neurala nätverk, katastrofalt glömska, neuromorf beräkning, mönsterseparation