Computing-in-memory-architectuur voor Kolmogorov-Arnold-netwerken gebaseerd op afstelbare Gaussiaans-achtige geheugencellen

Waarom dit nieuwe computerchip-idee ertoe doet

De huidige kunstmatige-intelligentiesystemen, van spelprogramma’s tot chatbots, vertrouwen op enorme netwerken van eenvoudige rekeneenheden die veel energie verbruiken en krachtige grafische chips vereisen. Dit artikel introduceert een ander soort AI-hardware die geheugen en berekening in dezelfde kleine elementen combineert en is afgestemd op een nieuwe klasse neurale netwerken, de Kolmogorov–Arnold-netwerken. Het resultaat is een chipconcept dat probeert meer als een brein te leren — flexibel en efficiënt — terwijl het veel minder vermogen verbruikt dan de gangbare hardware van vandaag.

Een frisse manier voor neurale netwerken om te leren

De meeste neurale netwerken die tegenwoordig gebruikt worden, zoals multilayer perceptrons, vertrouwen op vaste wiskundige recepten waarbij leren voornamelijk plaatsvindt door het aanpassen van de sterkte van verbindingen tussen kunstmatige neuronen. Kolmogorov–Arnold-netwerken volgen een andere benadering: in plaats van alleen verbindingssterkten te tunen, leren ze de gedetailleerde vorm van de functies die inputs naar outputs transformeren. Deze aangeleerde krommen werken als aanpasbare bouwstenen, waardoor het netwerk zich kan aanpassen aan complexe datapatronen en, belangrijker, oude taken kan onthouden terwijl het nieuwe leert. Het implementeren van deze rijke functies op gewone chips is echter duur qua schakelingen en energie, omdat het veel herhaalde en onregelmatige berekeningen vereist die standaardprocessors en grafische chips niet efficiënt afhandelen.

Een nieuw soort geheugencel

Om de kloof tussen algoritme en hardware te overbruggen, ontwierpen de onderzoekers een basiselektronisch bouwblok dat zij een Gaussiaans-achtige geheugencel noemen. Elke cel combineert twee nanoschaalcomponenten in serie: een speciale transistor waarvan de elektrische respons op en neer gaat in een vloeiende klokvormige kromme, en een memristor, een apparaat waarvan de weerstand permanent kan worden afgesteld met elektrische pulsen. Door de memristor aan te passen, kan het team de klokvormige respons van de transistor verschuiven en schalen, en zo effectief de hoogte en breedte van een Gaussiaans-achtige kromme rechtstreeks in de hardware programmeren. Metingen tonen aan dat deze cellen herhaaldelijk kunnen worden geherprogrammeerd, hun toestand lange tijd behouden en uniform gedrag vertonen over veel cycli en apparaten — allemaal cruciaal voor het bouwen van betrouwbare grote arrays.

Cellen omzetten in een in-memory-brein

De volgende stap is het rangschikken van duizenden van deze geheugencellen in roosterachtige kruisboordschakelingen. In deze lay-out kruisen rijen en kolommen van draden elkaar bij elke cel, en signalen die langs de kolommen worden aangelegd sturen het gedrag van de cellen terwijl stromen die langs de rijen worden verzameld zich natuurlijk optellen volgens basiswetten van de elektronica. Dit betekent dat de chip de kernbewerkingen van een Kolmogorov–Arnold-netwerk kan uitvoeren — het optellen van vele Gaussiaans-achtige functies om een flexibele activeringskromme te vormen — direct op de plek waar de informatie is opgeslagen, zonder data heen en weer te hoeven slepen tussen aparte processor en geheugen. Extra schakeling maakt het mogelijk positieve en negatieve bijdragen te representeren en op te tellen, en optionele residuele paden verhogen de stabiliteit van diepe netwerken zonder de kern van de in-memory-berekening te vervangen.

De architectuur op de proef stellen

Met gedetailleerde simulaties gekoppeld aan gemeten apparaatgedrag laten de auteurs zien dat netwerken opgebouwd uit deze geheugencel-arrays een breed scala aan taken aankunnen. Ze passen met succes ingewikkelde eendimensionale functies zonder eerder geleerde functies te vergeten, herkennen handgeschreven cijfers en kledingstukken, lossen partiële differentiaalvergelijkingen op en voorspellen chaotische tijdreeksen. In al deze gevallen behouden de Gaussians-celnets de belangrijkste voordelen van Kolmogorov–Arnold-netwerken: sterke prestaties met relatief weinig parameters en een uitgesproken vermogen om catastrophaal vergeten te vermijden bij training op nieuwe taken. Vergeleken met conventionele neurale netwerken geïmplementeerd met vergelijkbare memristieve hardware, behaalt de nieuwe architectuur vaak betere nauwkeurigheid en generalisatie terwijl ze kleinere tussenliggende lagen gebruikt.

Energiebesparing en praktische belofte

Omdat de berekening plaatsvindt binnen dezelfde elementen die de aangeleerde parameters opslaan, omzeilt de voorgestelde architectuur grotendeels het kostbare verkeer tussen geheugen en processor dat de huidige AI-hardware belemmert. De auteurs schatten dat hun Gaussiaans-achtige geheugencelsysteem de kernbewerkingen van Kolmogorov–Arnold-netwerken kan uitvoeren met ruwweg twee orde van grootte betere energie-efficiëntie dan moderne grafische chips die equivalente algoritmen draaien. Simpel gezegd schetst het werk hoe chips te bouwen waarbij elk klein apparaat zowel kan onthouden als flexibele klokvormige responsen kan berekenen, en waarbij veel van zulke apparaten parallel samenwerken. Dit wijst op toekomstige neuromorfe hardware die continu leert, vergetelheid weerstaat en krachtige AI-modellen uitvoert met veel minder energie dan bestaande platforms.

Bronvermelding: Wen, Z., Zhang, Q., Chen, J. et al. Computing-in-memory architecture for Kolmogorov-Arnold networks based on tunable Gaussian-like memory cells. Nat Commun 17, 3496 (2026). https://doi.org/10.1038/s41467-026-69592-w

Trefwoorden: neuromorfe computing, in-memory computing, Kolmogorov-Arnold-netwerken, memristorapparaten, energie-efficiënte AI-hardware