Wyjaśnialne, oparte na uwadze modele few-shot LSTM do wykrywania włamań w niezrównoważonych sieciach systemów cyber-fizycznych

Dlaczego inteligentniejsze zabezpieczenia są ważne dla połączonych maszyn

Od sieci energetycznych i zakładów wodociągowych po roboty przemysłowe i urządzenia szpitalne — nasz świat fizyczny coraz częściej działa dzięki połączonym maszynom znanym jako systemy cyber‑fizyczne. Jedno ukryte włamanie do takich sieci może przerwać usługi, uszkodzić sprzęt lub nawet zagrażać życiu. Tymczasem wiele narzędzi bezpieczeństwa nadal nie wykrywa rzadkich, lecz niebezpiecznych ataków albo zasypuje operatorów nieinterpretowalnymi fałszywymi alarmami. W tej pracy przedstawiono nowe podejście do wykrywania włamań, HeXAI-AttentionCPS, zaprojektowane tak, by wykrywać zarówno powszechne, jak i rzadkie zagrożenia w tych krytycznych sieciach, a jednocześnie wyjaśniać ludziom, dlaczego wygenerowano alert.

Ukryte zagrożenia w ruchu cyfrowym

Systemy cyber‑fizyczne nieustannie wymieniają ogromne ilości danych, z których większość ma charakter rutynowy. Ruch związany z atakiem przypomina kilka nitek w innym kolorze wplecionych w ogromną tkaninę. Tradycyjne systemy wykrywania włamań zwykle koncentrują się na najczęściej występujących wzorcach. W efekcie dobrze rozpoznają częste zdarzenia, ale pomijają rzadkie i pojawiające się ataki, takie jak zaawansowane przechwytywanie pośrednie (man‑in‑the‑middle). Gdy badacze próbują naprawić to przez sztuczne powiększanie próbek rzadkich ataków, często wprowadzają szum, co sprawia, że modele stają się mniej stabilne i wolniejsze, a mimo to nie do końca niezawodne wobec nowych typów zagrożeń.

System uczący się z uwagą na rzadkie i istotne zdarzenia

Proponowane ramy HeXAI-AttentionCPS rozwiązują te problemy, zmieniając zarówno sposób uczenia, jak i to, na co system zwraca uwagę w ruchu sieciowym. Najpierw korzysta z modelu sekwencyjnego opartego na LSTM, który odczytuje dane w czasie — podobnie jak rozumiemy sens zdania, analizując sekwencję słów, a nie izolowane wyrazy. Na tym nakłada się mechanizm uwagi, działający jak reflektor, wyróżniający najbardziej informacyjne momenty w sekwencji ruchu zamiast traktować każdy punkt danych jednakowo. Model jest trenowany w trybie „few‑shot”: podczas nauki wielokrotnie ćwiczy rozpoznawanie typów ataków na podstawie zaledwie kilku przykładów, co odzwierciedla rzeczywiste sytuacje, gdy dostępnych jest tylko kilka opatrzonych etykietami próbek nowego ataku.

Wyrównywanie szans bez fałszowania danych

Zamiast generować syntetyczne ataki, by naprawić nierównowagę klas, system używa specjalnej funkcji straty zwanej focal loss, która celowo podkreśla błędy popełniane na rzadkich klasach, jednocześnie słabiej traktując łatwe decyzje dotyczące powszechnego ruchu. To przesuwa proces uczenia w stronę trudniejszych do wykrycia ataków bez zniekształcania samego zbioru danych. Przed uczeniem dane są też skompresowane za pomocą analizy głównych składowych (PCA), która zachowuje najbardziej informacyjne wzorce, odrzucając nadmiarowość. To połączenie zmniejsza obciążenie obliczeniowe i pomaga mechanizmowi uwagi skupić się na naprawdę istotnych wariacjach w ruchu, poprawiając zarówno szybkość, jak i dokładność.

Zmiana czarnej skrzynki alertów w zrozumiałe wskazówki

Główną barierą do zaufania automatycznym obronom jest to, że wiele z nich zachowuje się jak czarne skrzynki, zgłaszając alerty bez wyjaśnień. HeXAI-AttentionCPS integruje metodę wyjaśniania znaną jako SHAP, która rozkłada każdą prognozę na wkłady poszczególnych cech, takich jak porty źródłowe i docelowe, adresy IP, czas trwania ruchu czy stan połączenia. Dla operatora oznacza to, że gdy system wykryje atak man‑in‑the‑middle, może jednocześnie pokazać, które porty, wzorce IP lub zachowania czasowe przesunęły decyzję w stronę „złośliwe”. Na przestrzeni wielu alertów taki obraz ujawnia, które aspekty sieci są konsekwentnie angażowane w ataki, dostarczając wskazówek do wzmocnienia zabezpieczeń.

Co wyniki znaczą w praktyce

Autorzy przetestowali swoje rozwiązanie na realistycznym zestawie danych odzwierciedlającym współczesne sieci przemysłowe z dziewięcioma różnymi typami ataków. W porównaniu z kilkoma bazowymi modelami głębokiego uczenia HeXAI-AttentionCPS osiągnął bardzo wysoką dokładność i miary F1, przy jednoczesnym utrzymaniu wyjątkowo niskiego poziomu fałszywych alarmów, nawet dla rzadkich ataków, które inne systemy często pomijają. Dla zespołów ds. bezpieczeństwa oznacza to mniej przeoczonych poważnych włamań i mniej rozpraszających fałszywych alarmów, a także jasny wgląd w to, dlaczego system reaguje w dany sposób. Mówiąc prościej, badanie pokazuje, że można zbudować strażnika dla krytycznych infrastruktur, który nie tylko lepiej dostrzega nietypowe zagrożenia, ale też potrafi wyjaśnić swoje rozumowanie w sposób przydatny dla ludzi.

Cytowanie: Abdulganiyu, O.H., Fadi, O., Moukafih, Y. et al. Explainable attention based few shot LSTM for intrusion detection in imbalanced cyber physical system networks. Sci Rep 16, 7217 (2026). https://doi.org/10.1038/s41598-026-38668-4

Słowa kluczowe: wykrywanie włamań, systemy cyber-fizyczne, niezrównoważone dane, wyjaśnialna sztuczna inteligencja, uczenie few-shot