Clear Sky Science · nl

Voorgetrainde multi-schaal RWKV-GCN voor multivariate tijdreeksvoorspelling

· Terug naar het overzicht

Waarom slimere voorspellingen ertoe doen

Van het voorspellen van filedrukte tijdens de spits tot het balanceren van het elektriciteitsnet: veel moderne systemen vertrouwen op kijken naar de toekomst. Deze systemen verzamelen gelijktijdig stromen metingen uit veel bronnen—temperaturen, weg-sensoren, elektriciteitsmeters, wisselkoersen en meer. Uit deze verwarde wirwar van signalen nauwkeurige voorspellingen halen is lastig: elke reeks verandert in de tijd en de reeksen beïnvloeden elkaar ook. Dit artikel introduceert een nieuwe voorspellingsmethode, PMSRWKV-GCN, die is ontworpen om deze relaties te ontwarren zodat computers nauwkeurigere en stabielere voorspellingen over de toekomst kunnen maken.

Veel signalen, veel verborgen patronen

In echte toepassingen hebben voorspellers zelden te maken met slechts één curve. Het verkeersnet van een stad, een energiesysteem of de wereldwijde valutamarkten produceren tegelijk vele tijdreeksen. Om te voorspellen wat er hierna gebeurt, moet een model begrijpen hoe elk individueel signaal zich in de tijd ontwikkelt en hoe verschillende signalen elkaar beïnvloeden. Klassieke statistische middelen werken goed voor één reeks tegelijk, maar hebben moeite wanneer tientallen of honderden reeksen met elkaar verstrengeld zijn. Nieuwere deep-learningmodellen, zoals recurrente netwerken en Transformers, hebben de situatie verbeterd maar vragen vaak veel rekencapaciteit en kunnen verward raken door lange geschiedenissen en ruisige relaties tussen signalen.

Ritmes vinden voordat verbindingen worden geleerd

De auteurs stellen dat een belangrijk probleem in timing zit: als een model te vroeg probeert relaties tussen reeksen te leren, kunnen zwakke of schijnbare verbanden de echte ritmes die in elk signaal verborgen zitten overstemmen. Hun oplossing is de taak in twee fasen te splitsen. Eerst richt de methode zich op het blootleggen van zuivere temporele patronen binnen elke individuele reeks. Dat gebeurt door een snel wiskundig hulpmiddel (de Fast Fourier Transform) toe te passen, dat dominante cycli—dagelijkse, wekelijkse of seizoensritmes—in de data onthult. Geleid door deze cycli bekijkt een herontworpen "time-mixing" component elke reeks tegelijk op meerdere tijdschalen, van korte rimpelingen tot lange golven. In deze pre-trainingsfase wordt elk kanaal onafhankelijk behandeld zodat onderlinge cross-talk tussen reeksen geen ruis kan injecteren.

Figuur 1
Figuur 1.

Het netwerk een invloedkaart laten leren

Zodra het model betrouwbare temporele patronen voor elke reeks heeft geleerd, gaat het naar de tweede fase, waarin relaties tussen reeksen eindelijk worden geïntroduceerd. Hier behandelt de methode de verzameling signalen als een netwerk: elke reeks is een knoop en de verbindingen geven aan hoe sterk twee reeksen elkaar beïnvloeden. In plaats van een vaste kaart van links aan te nemen, leert het model deze kaart direct uit de data met een graafgebaseerd neuraal netwerk. Cruciaal is dat dit gebeurt op meerdere tijdschalen die overeenkomen met de eerder ontdekte cycli. Voor elke schaal verfijnt het netwerk zowel de knoopkenmerken als het patroon van verbindingen, en combineert ze daarna met gewichten die zijn afgeleid van de sterkte van de onderliggende cycli. Dit multi-schaal graafontwerp stelt het model in staat de meest informatieve relaties te benadrukken en zwakkere, minder nuttige relaties te onderdrukken.

De methode in de praktijk testen

De onderzoekers evalueerden PMSRWKV-GCN op acht openbare datasets die praktische voorspellingsuitdagingen weerspiegelen: elektriciteitsvraag van honderden klanten, snelwegverkeer in Californië, weersmetingen, temperaturen van stroomtransformatoren en wisselkoersen tussen grote economieën. Over een reeks voorspellingshorizonnen—van enkele stappen vooruit tot langetermijnvoorspellingen—leverde het nieuwe model doorgaans lagere fouten op dan verschillende sterke basismodellen, waaronder Transformer-gebaseerde en andere graafgebaseerde benaderingen. Een ablatiesanalyse toonde aan dat beide fasen belangrijk waren: het verwijderen van de multi-schaal time-mixing verzwakte het modelgevoel voor temporele structuur, terwijl het weglaten van de multi-schaalgraaf de prestaties sterk schaadde op datasets met sterke interacties tussen reeksen. Het voortrainen van de temporele module op zichzelf verbeterde de nauwkeurigheid en stabiliteit verder met een paar procentpunten over de datasets heen.

Figuur 2
Figuur 2.

Wat dit betekent voor alledaagse voorspellingen

Voor niet-specialisten is de kernboodschap dat de auteurs een voorspellingssysteem hebben gebouwd dat "wat elk signaal doorgaans doet" scheidt van "hoe signalen elkaar beïnvloeden", en deze inzichten daarna op een zorgvuldig gecontroleerde manier opnieuw combineert. Door eerst zuivere ritmes voor elke reeks te leren en pas daarna een flexibel netwerk van invloeden te leren, voorkomt PMSRWKV-GCN dat het misleid wordt door ruisige of zwak gerelateerde data. Het resultaat is een model dat betrouwbaarder scherpe veranderingen en complexe cycli kan volgen in domeinen zoals energie, vervoer, weer en financiën. Deze stapsgewijze, multi-schaal benadering biedt een blauwdruk voor toekomstige voorspellingsinstrumenten die zowel nauwkeuriger als robuuster zijn bij het omgaan met de rommelige data van de echte wereld.

Bronvermelding: Hao, J., Liu, F. & Zhang, W. Pre-trained multi-scale RWKV-GCN for multivariate time series forecasting. Sci Rep 16, 10250 (2026). https://doi.org/10.1038/s41598-026-41091-4

Trefwoorden: tijdreeksvoorspelling, multivariate gegevens, deep learning, graph neural networks, tijdelijke patronen