Clear Sky Science · zh
短期负荷预测中深度残差网络对迷你批量大小的敏感性:一项实证研究
这项研究为何与日常用电用户相关
以合理的价格保持电力供应依赖于电力公司对明日用电需求的预估能力。该研究考察了现代用于负荷预测的人工智能模型中一个出人意料却很简单的训练选择:一次向模型提供多少样本(即迷你批量大小)。通过对这个“迷你批量大小”进行细致测试,作者展示了把这项细节调对可以使预测更准确、更可靠,并在截然不同的气候条件下均表现良好。
当前的用电需求预测方式
电力需求随日间时段、季节和天气变化,即便是微小的预测精度提升也能为大型公用事业每年节省数百万美元。早期的预测方法依赖统计公式,难以应对如今复杂的用电模式。较新的深度学习模型能更好地处理混乱且非线性的行为,但训练起来可能具有挑战性。尤其是深度残差网络通过捷径通路向前传递信息,因其能够学习更深层模式而不至于不稳定,已成为短期负荷预测中的流行选择。
两张电网、两种气候、一个问题
为评估训练选择如何影响这些模型,作者研究了两个真实世界的电力系统。其一位于美国的新英格兰,冬季采暖与夏季制冷导致显著的季节性波动;另一处在热带的马来西亚,季节性较弱但短时天气与降雨波动影响更大。对于新英格兰,他们使用了以历史负荷和温度为输入的残差网络;对于马来西亚,他们既测试了该模型,也测试了一个变体,该变体通过一种数学方法将多种天气测量压缩为若干个关键的组合特征,以削减冗余并保留大部分有用的气候信息。 
迷你批量大小实际上控制了什么
训练深度学习模型意味着调整数以百万计的内部参数,以缩小预测与真实需求之间的差距。迷你批量大小是指模型在每次参数更新前看到的时间点数量。小批量使得更新更噪声化且随机,这有助于模型探索但也会使训练振荡。非常大的批量则带来更平滑的更新,但可能推动模型趋向过度拟合训练数据、泛化能力下降。关键问题在于,对于用于电力预测的残差网络是否存在一个最佳区间,以及该区间在不同气候与更丰富的天气输入下是否一致。
实验揭示了什么
在仅改变迷你批量大小的严格对照设置下,作者尝试了从非常小到非常大的数值。在新英格兰和马来西亚系统上,他们均发现中等大小的批量产生了最优的预测结果。实际上,批量大小为64时始终带来最低误差,32紧随其后。较小的批量令训练不稳定且准确性降低,而较大的批量则随着规模增大性能持续变差。当将残差网络与基于卷积、循环单元、注意力机制或这些方法混合的其他流行深度学习结构比较时,残差模型表现更好。在热带情形下,将多种天气测量压缩为紧凑摘要的那一版本表现最好。 
作者如何检验其结果
为确保这些模式不是偶然结果,研究采用了一种称为自助法(bootstrapping)的重采样技术。该方法通过对误差的置换版本反复重新计算性能差异,来估计观察到的改进有多大概率是偶然发生的。分析显示,使用批量大小64而非32所带来的改进具有统计显著性,并且在相同训练条件下,天气压缩模型持续且可靠地优于基础残差网络。
对电力规划的意义
对非专业读者而言,核心结论是:人工智能模型内部看似微小的训练选择会显著影响我们对明日用电需求的预测能力。该研究表明,对于用于短期负荷预测的深度残差网络,中等范围的批量大小在学习稳定性与灵活性之间提供了良好平衡;将天气信息进行恰当压缩还能进一步提升预测精度。这些见解为公用事业公司和工程师在不必从头重设计模型的前提下,构建更智能、更高效的电网提供了可操作的指导。
引用: Liu, J., Ahmad, F.A., Samsudin, K. et al. Mini-batch size sensitivity in deep residual networks for short-term load forecasting: an empirical study. Sci Rep 16, 14996 (2026). https://doi.org/10.1038/s41598-026-45002-5
关键词: 短期负荷预测, 深度残差网络, 迷你批量大小, 电力需求, 天气数据