Kısa vadeli yük tahmini için derin rezidüel ağlarda mini-batch boyutu duyarlılığı: ampirik bir çalışma

Bu araştırma günlük elektrik kullanıcıları için neden önemli

Işıkların adil bir fiyata açık kalması, enerji şirketlerinin yarının elektrik talebini ne kadar iyi tahmin edebildiğine bağlıdır. Bu çalışma, talebi tahmin eden modern yapay zeka modellerinin içinde şaşırtıcı derecede basit bir eğitim seçeneğini inceliyor: modele aynı anda kaç örnek gösterileceği. Bu “mini-batch boyutu”nu dikkatle test ederek yazarlar, bu detayı doğru belirlemenin tahminleri daha doğru ve çok farklı iklimlerde daha güvenilir kılabileceğini gösteriyor.

Bugün enerji talebi nasıl tahmin ediliyor

Elektrik talebi günün saatine, mevsime ve havaya göre değişir ve tahmin doğruluğunda sağlanan küçük iyileşmeler bile büyük işletmelere yılda milyonlarca dolar tasarruf sağlayabilir. Eski tahmin yöntemleri, bugünün karmaşık kullanım desenleriyle baş etmekte zorlanan istatistiksel formüllere dayanıyordu. Yeni derin öğrenme modelleri, karmaşık ve doğrusal olmayan davranışları daha iyi yakalar, ancak eğitilmeleri zor olabilir. Özellikle bilgi iletimi için kısayol yolları kullanan derin rezidüel ağlar, derin desenleri kararlı bir şekilde öğrenebildikleri için kısa vadeli talep tahminlerinde popüler hale geldi.

İki şebeke, iki iklim, tek soru

Eğitim tercihlerinin bu modelleri nasıl etkilediğini görmek için yazarlar iki gerçek dünya enerji sistemini inceledi. Biri ABD’nin New England bölgesinde, kış ısınması ve yaz soğutması nedeniyle güçlü mevsimsel dalgalanmaların olduğu bir sistem. Diğeri ise mevsimlerin daha az belirgin olduğu ve kısa süreli hava olayları ve yağışların daha önemli olduğu tropikal Malezya’da. New England için geçmiş talep ve sıcaklığı alan bir rezidüel ağ kullanıldı. Malezya için ise bu modelin yanı sıra çok sayıda hava ölçümünü matematiksel bir teknikle birkaç ana birleşik özniteliğe sıkıştıran, gereksiz tekrarları azaltırken iklim bilgisi çoğunluğunu koruyan bir varyant test edildi.

Mini-batch boyutu gerçekte neyi kontrol ediyor

Bir derin öğrenme modelini eğitmek, tahmin edilen ile gerçek talep arasındaki farkı azaltmak için milyonlarca iç ayarı değiştirmek anlamına gelir. Mini-batch boyutu, her ayardan önce modelin gördüğü zaman noktası sayısıdır. Küçük batchler güncellemeleri gürültülü ve rastgele yapar; bu, modelin keşif yapmasına yardımcı olabilir ama eğitimi oynaklaştırır. Çok büyük batchler daha düzgün güncellemeler sağlar ancak modeli eğitim verisine fazla uyan ve genelleme kabiliyeti zayıf çözümlere itebilir. Kilit soru, enerji tahmini için kullanılan bu rezidüel ağlarda bir tatlı nokta (sweet spot) olup olmadığı ve bu noktanın farklı iklimlerde ve daha zengin hava girdileriyle aynı kalıp kalmadığıdır.

Deneylerin ortaya koydukları

Sadece mini-batch boyutu değiştirilerek sıkı kontrollü bir kurulum altında yazarlar çok küçükten çok büyüğe kadar değerleri denediler. Hem New England hem de Malezya sistemlerinde orta büyüklükteki batchlerin en iyi tahminleri verdiği bulundu. Pratikte, 64'lük bir batch boyutu tutarlı şekilde en düşük hataları üretti; 32 ise yakın sonuçlar verdi. Daha küçük batchler eğitimi daha az stabil ve daha az doğru hale getirirken, daha büyük batchler performansı giderek kötüleştirdi. Rezidüel ağlarını konvolüsyonlar, tekrarlayan birimler, dikkat (attention) ya da bunların hibritlerine dayanan diğer popüler derin öğrenme tasarımlarıyla karşılaştırdıklarında, rezidüel modeller öne çıktı. Tropikal durumda birden çok hava ölçümünü kompakt bir özet halinde birleştiren versiyon en iyi performansı gösterdi.

Yazarlar sonuçlarını nasıl doğruladı

Bu desenlerin sadece şans eseri olmadığından emin olmak için çalışma, bootstrapping adı verilen bir yeniden örnekleme tekniği kullandı. Bu yöntem, hataların karıştırılmış versiyonlarını kullanarak performans farklarını tekrar tekrar hesaplayıp gözlenen iyileşmelerin rastlantısal gerçekleşme olasılığını tahmin ediyor. Analiz, 32 yerine 64 batch kullanmanın sağladığı kazanımların istatistiksel olarak anlamlı olduğunu ve aynı eğitim koşulları altında hava sıkıştırılmış modelin temel rezidüel ağı istikrarlı ve güvenilir biçimde geride bıraktığını gösterdi.

Enerji planlaması için bunun anlamı

Uzman olmayanlar için temel mesaj, yapay zeka modellerinin içindeki görünüşte küçük eğitim tercihlerinin yarının elektrik talebini ne kadar iyi tahmin edebileceğimizi belirgin şekilde değiştirebileceğidir. Bu çalışma, kısa vadeli yük tahmini için kullanılan derin rezidüel ağlarda orta düzey batch boyutlarının öğrenme kararlılığı ile esnekliği arasında iyi bir denge sunduğunu ve iyi sıkıştırılmış hava bilgilerinin tahminleri daha da keskinleştirebileceğini gösteriyor. Bu içgörüler, modelleri baştan tasarlamadan daha akıllı ve daha verimli şebekeler kurmayı hedefleyen enerji şirketleri ve mühendisler için pratik rehberlik sunuyor.

Atıf: Liu, J., Ahmad, F.A., Samsudin, K. et al. Mini-batch size sensitivity in deep residual networks for short-term load forecasting: an empirical study. Sci Rep 16, 14996 (2026). https://doi.org/10.1038/s41598-026-45002-5

Anahtar kelimeler: kısa vadeli yük tahmini, derin rezidüel ağlar, mini batch boyutu, elektrik talebi, hava verisi