PS-SNN: sınıf-artımlı öğrenmede genişleyebilir patlayıcı sinir ağları için örüntü ayrımı öğrenmesi

Makinelere “hatırlamayı” öğretmenin önemi

Günümüz yapay zekâ sistemleri etkileyici, ancak ciddi bir kör noktaları var: yeni bir şey öğrendiklerinde daha önce bildiklerini unutma eğilimindeler. Bu “amnezi”, yeniden baştan eğitilmeden değişen bir dünyadan öğrenmeye devam etmesi gereken robotlar, telefonlar ve diğer cihazlar için büyük bir engel oluşturuyor. PS-SNN üzerine olan makale, enerji verimli patlayıcı sinir ağlarının zaman içinde yeni kategoriler öğrenirken mevcut bilgilerini korumasına yardımcı olacak beyin esinli bir yaklaşım sunuyor; bu da düşük güçlü donanımda çalışabilecek daha akıllı ve güvenilir yapay zekâya doğru bir işaret.

Zaman içinde unutma sorunu

Çoğu yapay zekâ modeli sabit bir veri kümesi üzerinde bir kez eğitilip konuşlandırılıyor. Oysa gerçek hayatta veriler dalgalar hâlinde gelir: bir kameranın gelecek ay daha önce etiketlenmemiş yeni nesne türleri görmesi mümkündür. Standart bir sinir ağı bu yeni kategoriler üzerinde güncellendiğinde, içsel “özellik uzayı” yeniden şekillenir ve önceki kategorilerdeki performans genellikle çöker — buna yıkıcı unutma denir. Bu, sistemin hangi eğitim aşamasında görüldükleri söylenmeden şimdiye kadar görülen tüm kategorileri tanıması gereken sınıf-artımlı öğrenmede özellikle zordur. Biyolojik nöronlar gibi kısa elektriksel atımlarla iletişim kuran ve düşük enerji çipleri için çekici olan patlayıcı sinir ağları da aynı sorundan muzdarip olup, geleneksel derin ağlara kıyasla çok daha az ilgi gördü.

Beyinde büyüme ve ayrımdan öğrenme

Nörobilim, yaşam boyu öğrenme için tamamlayıcı iki fikir öneriyor. Birincisi, beyin yeni nöronlar üretebilir; özellikle hipokampus adlı bir bölgede bu gerçekleşir ve böylece eski anıların üzerine yazmadan yeni anılar saklanabilir. İkincisi, hipokampusun başka bir bölümü olan dentat girus, bir “örüntü ayırıcı” gibi davranır: benzeyen deneyimler bile çakışmayacak şekilde birbirinden ayrılmış, örtüşmeyen etkinlik örüntülerine eşlenir. Patlayıcı ağlar için mevcut sürekli-öğrenme yöntemleri tipik olarak ağ yapısını değiştirmeye veya eski verileri yeniden kullanmaya odaklanır, ancak yine de rastgele başlatılmış çıktı katmanlarına dayanırlar; bu da yeni görevler geldikçe kategorilerin içsel temsillerinin kaymasına ve örtüşmesine yol açabilir. Yazarlar, bu göz ardı edilen sınıflandırıcı tasarımının istikrarsızlığın önemli bir kaynağı olduğunu savunuyor.

PS-SNN öğrenme sürecini nasıl yeniden şekillendiriyor

PS-SNN, sınıf-artımlı öğrenme için tasarlanmış bir patlayıcı ağda bu iki beyin esinli fikri birleştirir. Yeni sınıf grupları geldikçe, ağ yeni özellik çıkarım modülleri ekleyerek büyür; önceki modüller dondurularak nörogenezi andırır ve önceki bilgiyi korur. Aynı zamanda, her seferinde yeni bir çıktı katmanı sıfırdan öğrenmek yerine, yöntem her olası sınıfa özellik uzayında önceden hesaplanmış bir yön atar. Bu yönler birbirine dik (ortogonal) olacak şekilde inşa edilir; yani her sınıf baştan itibaren ayrı, örtüşmeyen bir yuvaya sabitlenir. Örüntü ayrımı öğrenmesi olarak adlandırılan ilk eğitim aşamasında, sınıflandırıcı sabit tutulur ve yalnızca özellik çıkarıcılar uyarlanır; bu da her sınıfın atım tabanlı temsillerinin atanan yön etrafında sıkı bir şekilde kümelenmesini zorunlu kılar ve eski ile yeni görevler arasındaki çatışmaları azaltır.

Anıları bozmadan kararları ince ayarlama

Ortogonal çapa noktaları kararlılığı büyük ölçüde iyileştirir, ancak aynı zamanda katıdır. Esnekliği yeniden kazanmak için, PS-SNN ikinci bir aşama olan örüntü rafine öğrenmesini ekler. Burada özellik çıkarıcılar dondurulur ve yalnızca sınıflandırıcı ayarlanır; bu ayarlama, hiçbir sınıf grubunun baskın olmamasını sağlayan dikkatle dengelenmiş eski ve yeni örneklerin bir karışımı kullanılarak yapılır. Bu aşama, birinci aşamada stabilize edilen temel temsilleri bozmadan, zaten iyi ayrılmış sınıf yönleri arasındaki karar sınırlarını ince bir şekilde yeniden şekillendirir; özellikle görsel olarak benzer kategoriler arasındaki ayırımcılığı iyileştirir. Sistem ayrıca her iki aşamada da rehberlik eden ve depolamayı makul tutan küçük bir geçmiş örnek tekrarı belleğini muhafaza eder.

Sonuçların geleceğin yapay zekâsı için anlamı

Sınıfların birden fazla adımda geldiği standart görüntü kıyaslama setlerinde test edilen PS-SNN, önceki patlayıcı tabanlı sürekli-öğrenme yöntemlerini önemli ölçüde geride bırakır ve enerji tasarrufu sağlayan atım tabanlı hesaplamanın avantajlarını korurken birkaç önde gelen geleneksel derin ağla bile rekabet eder veya onları aşar. Genişleyebilir ağ yapısını sabit, iyi ayrılmış sınıf çapaları ile birleştirerek, yaklaşım genellikle uzun vadeli öğrenmeyi baltalayan içsel temsillerin yavaş kaymasını keskin biçimde azaltır. Uzman olmayanlar için alınacak ders şu: bu çalışma, unutmadan öğrenmeye devam etme konusunda beynin yeteneğine bir adım daha yaklaştırıyor ve günlük cihazlara gömülebilecek geleceğin neuromorfik çiplerinde verimli bir şekilde çalışabilecek bir form sunuyor.

Atıf: Hu, K., Wen, L., Zhang, T. et al. PS-SNN: pattern separation learning for expandable spiking neural networks in class-incremental learning. Sci Rep 16, 12653 (2026). https://doi.org/10.1038/s41598-026-42970-6

Anahtar kelimeler: süreklilikçi öğrenme, patlayıcı sinir ağları, yıkıcı unutma, neuromorfik hesaplama, örüntü ayrımı