Model uyarlaması kullanarak karışık hassasiyetli donanıma derin öğrenme uygulamalarının süper ağ tabanlı verimli haritalanması

Daha akıllı yapay çiplerin önemi

Günümüz yapay zekası, sesli asistanlardan tıbbi görüntü analizine kadar pek çok alana güç veriyor, ancak bu sistemleri çalıştıran bilgisayarlar yük altında zorlanıyor. Modeller büyüdükçe tahmin yapmak için daha fazla enerji, bellek ve zaman gerektiriyorlar. Bu makale, yazılımı özelleştirilmiş donanımla daha iyi eşleştirmenin yeni bir yolunu araştırıyor; böylece sistemler daha hızlı ve daha az enerjiyle çalışırken doğruluklarını koruyor. Çalışma, analog ve dijital olmak üzere iki hesaplama biçimini birleştirmeye ve bir sinir ağının hangi parçalarının hangi biçimi kullanacağına otomatik olarak karar vermeye odaklanıyor.

Tek bir makine için iki tür beyin

Bugünün yapay zeka çipleri, geleneksel dijital birimleri analog “bellek içi” motorlarla karıştırmaya başlıyor; bunlar belleğin içinde büyük matematik bloklarını gerçekleştirebiliyor. Analog birimler son derece hızlı ve enerji açısından verimli, ancak aynı zamanda gürültülü ve daha düşük hassasiyetli olabiliyor. Dijital birimler ise daha yavaş ve daha az verimli ama yüksek güvenilirliğe sahip. Temel zorluk, bir sinir ağı katmanının katman bazında nerede analogda çalıştırılacağı ve nerede dijitalde kalacağına karar vermek; böylece tüm sistem iyi çalışsın. Çok fazla katman analogda çalıştırılırsa doğruluk düşer; çok fazla katman dijitalde kalırsa enerji tasarrufu ve hız kazanımları büyük ölçüde kaybolur.

Olası birçok ağın haritası

Yazarlar, aynı sinir ağının birçok olası versiyonunu aynı anda içeren Büyük Karışık-Hassasiyet Süper Ağı’nı tanıtıyor. Her katman için bu süper ağ birkaç seçenek içeriyor: farklı bit hassasiyetlerinde bir dijital versiyon, gerçekçi gürültüyü içeren bir analog versiyon ve hatta katmanları atlama veya yeniden şekillendirme olanağı. Eğitim sırasında sistem, ağın sıradan ağırlıklarını öğrenmenin ötesinde, her katman için her donanım seçeneğinin ne kadar iyi olduğunu da öğreniyor. Özel bir sıralama yöntemi daha sonra bu seçenekler uzayında arama yaparak üç hedefi aynı anda dengeleyen katman bazlı “haritalamalar” buluyor: görev doğruluğu, analog donanımda yapılan iş miktarı ve gereken dijital bellek miktarı.

Modeli donanıma uydurmayı öğretmek

Analog ve dijital arasında seçim yapmanın ötesinde, çerçeve ağı donanıma daha doğal uyacak şekilde nazikçe yeniden şekillendirebiliyor. Örneğin, bir transformer veya evrişim bloğunun belirli iç katmanlarını genişleterek bir analog karoyu daha tam dolduracak şekilde satır ve sütunların daha fazlasını kullanabilir, gecikme eklemeden. Bu donanıma duyarlı adaptasyonlar bazı katmanlardaki parametre sayısını artırıyor, ancak bunlar analog donanımın verimli olduğu yerlere yerleştirildiği için toplam enerji maliyeti düşük kalıyor. Sistem aşamalı olarak eğitiliyor: önce tüm yollar adil şekilde ele alınıyor, sonra kademeli olarak gerçek kuantizasyon ve analog gürültü tanıtılıyor ve son olarak doğruluk ile verimlilik arasındaki en iyi takasları korumak için seçimler ince ayar yapılıyor.

Daha hızlı aramalar ve daha iyi takaslar

Ekip yaklaşımını birkaç standart görevde test etti: CIFAR‑10 üzerinde görüntü sınıflandırma, COCO veri setinde nesne segmentasyonu ve SQuAD üzerinde soru yanıtlama. Bu testlerin tamamında, MPS ve daha gelişmiş olan MPAAS adlı yöntemleri, yaygın karşılaştırma yöntemlerine kıyasla doğruluğu korurken veya hafifçe iyileştirirken yüksek oranda analog işlem kullanan haritalamalar buldu. Ortalama olarak, haritalamaları rakip yöntemlere göre yaklaşık 2,2 kat daha hızlı keşfettiler ve tüm‑analog tasarıma kıyasla görev performansında yaklaşık %3,4 artış sağladılar. Donanım simülasyonları, ortaya çıkan tasarımların tam hassasiyetli dijital sistemlere kıyasla gecikmeyi yaklaşık 2,4 kata kadar ve tahmin başına enerjiyi yaklaşık 2,6 kata kadar azaltabileceğini gösterdi.

Geleceğin yapay zeka donanımı için ne anlama geliyor

Uzman olmayanlar için ana mesaj, bir AI modelinin bir çip üzerinde nasıl yerleştirildiğinin modelin kendisi kadar önemli olduğudur. Bu çalışma, otomatik, donanıma duyarlı bir “planlayıcının” ağın hangi parçalarının hızlı ama gürültülü analog donanımda, hangilerinin hassas dijital birimlerde çalıştırılacağını belirleyebileceğini ve bazen modeli çipe daha sıkı sığdırmak için yeniden şekillendirebileceğini gösteriyor. Sonuç, benzer doğruluk sunarken çok daha az enerji ve zaman kullanan yapay zeka; bu, güçlü modelleri yalnızca büyük veri merkezlerinde değil, telefonlar, araçlar ve uç sunucular gibi cihazlarda da pratik hale getirme yönünde önemli bir adım.

Atıf: Benmeziane, H., Lammie, C., Boybat, I. et al. Supernetwork-based efficient mapping of deep learning applications to mixed-precision hardware using model adaptation. Nat Commun 17, 4501 (2026). https://doi.org/10.1038/s41467-026-71071-1

Anahtar kelimeler: karışık hassasiyetli donanım, analog bellek içi hesaplama, sinir ağı haritalaması, donanıma duyarlı yapay zeka, enerji verimli çıkarım