Modelden bağımsız doğrusal bellekli çevrimiçi öğrenmeyle çakışan sinir ağlarında

Beyne benzeyen bilgisayarları eğitmenin neden bu kadar zor olduğu

Çakışan (spiking) sinir ağları, gerçek beyin hücrelerine benzer şekilde kısa elektriksel darbelerle iletişim kuran yapay ağların bir sınıfıdır. Son derece verimli, beyin ilhamlı hesaplama ve sinir devrelerinin daha gerçekçi simülasyonlarını vaat ederler. Ancak, özellikle uzun zaman aralıkları boyunca karmaşık görevleri öğretmek, genellikle çok büyük miktarda bilgisayar belleği ve el işçiliğiyle yazılmış kod gerektirir. Bu makale, çakışan ağların eğitimini hem pratik hem de geniş kullanıma uygun hale getirmeyi amaçlayan BrainTrace adlı bir sistemi tanıtıyor.

Gerçek zamanlı öğrenen ağları öğretmek

Beyin benzeri ağlar için en güçlü eğitim yöntemlerinin çoğu, bir etkinlik dizisini baştan sona yeniden oynatarak hata sinyallerini her zaman adımı boyunca geriye göndermeye dayanır. Zaman içinde geri yayılım (backpropagation through time) olarak bilinen bu yaklaşım çok doğru olabilir, fakat diziler uzadığında veya ağlar büyük olduğunda hızla sorun çıkar: her ara durum saklanmak zorundadır ve bu da zaman ve ağ boyutuyla artan bellek gereksinimine yol açar. Alternatif “çevrimiçi” yöntemler, veri akışı sırasında bağlantıları adım adım günceller ve depolama ihtiyaçlarını büyük ölçüde azaltır. Ancak mevcut çevrimiçi kurallar ya çok basitleştirilmiş nöron modelleri için çalışır ya da yine ağ boyutunun karesine ölçeklenen bellek gerektirir; bu da gerçekçi beyin ölçeğindeki sistemlere uygulanmasını zorlaştırır.

Çeşitli çakışan ağlar için genel bir tarif

BrainTrace bunu, önce çakışan ağları birleşik bir şekilde tanımlayarak ele alır. Yazarlar, birçok nöron ve sinaps türünün iki etkileşen parçayla ifade edilebileceğini gösteriyor: her nöronun durumunun zamanla nasıl değiştiğini tanımlayan iç dinamikler ve gelen darbeleri hücreler arasında akan akıma dönüştüren etkileşim dinamikleri. Ayrıca, sinapsları gönderen nöron etrafında veya alan nöron etrafında düzenleyen AlignPre ve AlignPost adını verdikleri iki modelleme bakış açısını tanıtırlar. Bu soyutlama, basit sızıntılı nöronlardan uyarlanabilir eşiklere ve karmaşık sinapslara sahip daha zengin hücrelere kadar çeşitli biyolojik ve mühendislik modellerinin aynı matematiksel mekanizma ile ele alınmasına izin verir.

Neden-sonuç ilişkisini az bellekle izlemek

Çevrimiçi öğrenmedeki temel zorluk, her bağlantıdaki küçük değişikliklerin sonunda ağ davranışını nasıl etkileyeceğini izlemektir; bu nicelik, “uygunluk izleri” (eligibility traces) olarak yakalanır. Teoride, tam uygunluk bilgisini tutmak, nöron sayısının küpüyle ölçeklenen muazzam matrislerin izlenmesini gerektirir. BrainTrace, çakışan ağların üç ana özelliğinden yararlanır: çoğu nöronun çoğu zaman sessiz olması; her nöronun durum değişiminde kendi sızıntısı ve sıfırlamasının baskın olması; ve darbelerin ile sinaptik iletkenliklerin her zaman pozitif olması. Bu gerçekleri kullanarak, yazarlar ağır uygunluk matrislerinin, sinaps başına sadece iki kompakt izlerin çarpımıyla yakın bir şekilde yaklaşıklanabileceğini gösterir—biri presinaptik etkinliği, diğeri postsinaptik etkinliği özetler. pp‑prop adını verdikleri bu pre‑post yayılım kuralı, bellek gereksinimini yalnızca ağ boyutuyla doğrusal olarak artırır, ancak yine de tam geri yayılımdan elde edilen gradyanlarla iyi hizalanan sonuçlar üretir.

Matematiği gizleyen otomatik araçlar

Öğrenme kuralının ötesinde, BrainTrace, derin öğrenmedeki otomatik türev alma kütüphanelerine benzer bir rol oynayan bir derleyici sağlar. Kullanıcı, çakışan modelinin dinamiklerini yüksek seviyeli bir dilde yazar. BrainTrace derleyicisi daha sonra durumların ve parametrelerin nasıl bağlandığını analiz eder, gerekli uygunluk izlerini oluşturur ve pp‑prop veya ilişkili bir algoritmayı CPU, GPU veya özel hızlandırıcılarda verimli çalıştıran optimize edilmiş kodu üretir. Bu, modelleyicilerin hassas gradyan kodunu elle yazmak yerine bilimsel sorulara odaklanabilmesini sağlar ve aynı zamanda çevrimiçi, bellek açısından verimli öğrenmeden yararlanmalarını mümkün kılar.

Minik sensörlerden tüm bir sinek beynine

Yazarlar, çakışan ağların olay tabanlı görüntü, ses ve jest versiyonlarını sınıflandırdığı standart nöromorfik kıyaslarda BrainTrace’i test eder. Birden çok veri seti ve mimaride pp‑prop, tam geri yayılımın doğruluğuna denk sonuçlar verirken, çok daha az bellek kullanır ve diğer çevrimiçi yöntemlerden daha hızlı çalışır. Kritik olarak, sistem zorlu nörobilim problemlerine de ölçeklenir. Bir örnekte, ayrı uyarıcı (eksitatör) ve baskılayıcı (inhibitör) popülasyonlara sahip biyolojik açıdan ayrıntılı bir çakışan ağ, kanıt‑biriktirme karar görevini öğrenir ve fare korteksinde kaydedilenlere benzeyen etkinlik desenleri geliştirir. Başka bir örnekte ise meyve sineği konnektomu doğrultusunda bağlanmış 125.000’den fazla nörona sahip bir çakışan model, tüm sinek beyninde kaydedilen dinlenim halindeki etkinliği yeniden üretmek üzere eğitilir—tek bir grafik kartında geleneksel eğitimle mümkün olan bellek kapasitesini aşan bir başarı.

Geleceğin beyne benzeyen hesaplaması için ne anlama geliyor

Uzman olmayanlar için ana mesaj şudur: BrainTrace, bir zamanlar uygulanması pratik olmayan bir hayali—gerçek zamanlı olarak zengin, beyin ölçeğinde çakışan ağları eğitmeyi—gerçekçi bir olasılığa dönüştürür. Neden‑sonuç ilişkisini az bir bellekle takip etmenin zekice bir yolunu bularak ve bunu otomatik araçlarla sararak, çalışma beyin ilhamlı hesaplamayı hem yapay zekâ hem de temel nörobilimde günlük kullanıma daha yakın hale getirir. Gerçek sinir sistemlerinin verimliliği ve zamansal hassasiyetiyle öğrenip uyum sağlayan makineler yolunda, süperbilgisayar düzeyinde kaynaklar gerektirmeyen bir yola işaret eder.

Atıf: Wang, C., Dong, X., Ji, Z. et al. Model-agnostic linear-memory online learning in spiking neural networks. Nat Commun 17, 1745 (2026). https://doi.org/10.1038/s41467-026-68453-w

Anahtar kelimeler: çakışan sinir ağları, çevrimiçi öğrenme, nöromorfik hesaplama, beyin simülasyonu, gradyana dayalı eğitim