Clear Sky Science · zh

用于无冲突边缘–云流调度的协商增强联邦强化学习

· 返回目录

为什么智能应用需要幕后更顺畅的流量管理

从实时交通地图到工厂传感器,许多现代应用依赖必须在毫秒级内处理的连续数据流。为了跟上这种需求,企业将计算分散到附近的边缘设备和远端的云服务器上。但是当网络中许多部分同时自行决策时,会发生冲突,导致数字拥堵、成本上升和响应变慢。本文探讨了一种新的协调方式,使流式应用即便在需求剧烈变化时也能保持快速、稳定和高效。

Figure 1. 边缘与云计算机如何平滑共享流处理任务而不拖慢应用
Figure 1. 边缘与云计算机如何平滑共享流处理任务而不拖慢应用

边缘与云协作的成长痛点

智能摄像头、车辆和工业传感器如今不断发送需要实时分析的数据流。靠近用户的边缘计算减少延迟,而云数据中心提供额外算力。然而决定每项工作应在哪运行并不简单,因为任务相互依赖且负载可能突然激增。传统调度方法依赖固定规则或离线规划,在较平稳的场景下有效,但在数千个任务和机器需跨多个区域每秒调整时就显得吃力。纯中心化控制容易成为瓶颈,而完全独立的本地控制器则常常为共享资源发生争夺。

学会调度,但别踩别人脚

近期方法允许软件智能体通过试错学习出良好的调度策略,这就是强化学习。联邦学习使得多个智能体能在保持原始数据本地的同时共同训练,这对隐私和带宽都很重要。然而,当每个边缘集群自主学习并仅偶尔同步模型时,它们的动作仍可能冲突。两个集群可能同时将任务卸载到同一云服务器,或在彼此之间不断迁移任务,造成额外延迟和能量浪费。作者认为,当前缺少的是一种在行动前让这些智能体彼此沟通并协商的明确机制。

为数字调度器设立协商台

所提出的框架 FedNeg-RL 在联邦强化学习之上增加了一层轻量级的协商机制。每个边缘设备集群都有一个代表性智能体,负责监测本地负载、预测近期流量,并跟踪哪些任务对延迟最敏感。在可能影响共享链路或云节点的变更之前,这些代表交换简要摘要,例如预期负载和其动作可能带来的影响,而不是共享原始数据。通过简单的论证式协议,它们协商出一个避免冲突的联合计划,然后各集群在本地执行商定的动作。随着时间推移,学习过程被引导去偏好那些能保持低延迟、合理能耗和成本、并减少冲突的方案。

Figure 2. 邻近边缘集群如何协商以平衡任务并避免对共享资源的冲突
Figure 2. 邻近边缘集群如何协商以平衡任务并避免对共享资源的冲突

在繁忙的虚拟城市中测试该方法

为了评估 FedNeg-RL,作者构建了详细的物联网风格工作负载仿真,包括数百个互联任务和类似智慧城市交通监控中难以预测的突发数据流。他们将该方法与基于规则的调度器、进化算法、标准本地强化学习、纯联邦学习以及单一中心化学习代理进行了比较。在多种情形下,FedNeg-RL 将因冲突触发的破坏性重配置次数最多减少了约 41%,将高端延迟(最慢 10% 的响应)降低了约 20% 至 28%,并将适应开销降低了大约 35%。它还使能耗分布更均衡,并在任务和机器数量增加时具有良好扩展性。

这对未来互联系统意味着什么

简而言之,FedNeg-RL 表明,让软件控制器不仅从经验中学习,而且在行动前与同行协商,可以使共享的边缘与云基础设施运行得更顺畅。集群不再各自为政地争夺资源,而是通过适度协调保持流式应用的响应性、稳定性和效率,同时不泄露私有数据,也不依赖单一的中央大脑。随着现实部署规模和复杂性增长,这种具备协商意识的学习方法可帮助确保支撑智慧城市、工厂与服务的隐形计算结构在需求不断变化时仍能平稳运行。

引用: Kang, X., Hua, C. Negotiation-augmented federated reinforcement learning for conflict-free edge–cloud stream scheduling. Sci Rep 16, 15158 (2026). https://doi.org/10.1038/s41598-026-45004-3

关键词: 边缘云调度, 联邦强化学习, 物联网流处理, 多智能体协商, 延迟降低