一种用于有向网络上复合受约束优化的新型分布式梯度算法

无需中央指挥的更聪明决策

从电网和传感器网络到无人机编队，现代技术常常依赖大量设备在没有单一中央控制器的情况下协同工作。每个设备只能看到局部信息，但整个群体必须就一个良好且安全的运行点达成一致。本文提出了一种用于此类分布式系统的新方法，使其即便在底层通信为单向且问题包含复杂约束与尖锐“代价拐角”时，也能高效且可靠地联合决策。

为何众多小脑胜过一台大脑

集中式优化——由一台强计算机汇总所有数据、求解大型问题并下发指令——脆弱且难以扩展。若中央单元故障或在大型系统中遇到通信延迟，系统可能崩溃或性能受限。分布式优化则颠倒了这一模式：每个节点（或智能体）保留自己的数据、更新局部决策，并仅与邻居交换有限信息。挑战在于设计更新规则，使得尽管通信部分且为单向，所有节点仍能就网络总体最优解达成一致。

带尖角与真实约束的艰难问题

作者关注一类难度较高的问题，其中总体代价由平滑项（变化平缓）和非平滑项（可能产生尖锐拐角）共同构成，例如常用的 l1 范数。这些非平滑项在压缩感知、信号去噪和模型拟合等应用中对于促进稀疏性和鲁棒性至关重要。此外，每个节点必须满足局部的等式与不等式约束并保持在允许的范围内。所有这些都要在有向通信网络上处理，在这种网络中信息可能从节点 A 流向节点 B，但不一定反向。现有方法通常假设无向链路、更简单的约束或难以调整且不够灵活的固定步长。

节点通信与达成一致的新方式

为应对这些困难，本文提出了一种针对复合受约束问题且适用于有向网络的新型分布式梯度算法。每个节点反复通过投影梯度步调整其局部决策：先沿能降低总体代价的方向移动，然后将结果投影回允许区域以保持约束满足。额外变量类似内部账本，帮助网络强制执行等式与不等式约束并处理非平滑的 l1 项。一个关键创新是修正机制，它补偿单向链路造成的不平衡，且仅使用行随机权重——这意味着每个节点只需知道如何接收信息，而不必知道它的信息被谁接收。

具有收敛保证的灵活步长

该方法的另一显著特点是采用可随时间变化但为常数的步长：每个节点可以在证明安全的范围内选择自己的步长，而不是共享一个固定值。这种灵活性在实践中更易调优，并允许算法更好地适应不同的局部条件。作者使用稳定性理论的工具构建了一个李雅普诺夫函数——一种数学能量度量，并证明只要步长满足明确的上界，该能量在每次迭代中都下降。这保证了从任意初始点出发，即便存在非平滑项和混合约束，所有节点的决策也能收敛到相同的全局最优解。

方法的实证检验

研究者通过两个数值案例验证了他们的理论。第一个案例中，十个节点协同求解带有 l1 正则的受约束二次问题，类似于资源分配或传感器融合的任务。结果表明，所有局部变量都迅速与集中式最优解一致，并且在适当选择常数步长时，相比于递减步长能实现更快、近似线性的收敛。在第二个案例中，该方法处理了病态的最小绝对偏差问题，这类问题对于标准求解器而言已知较为困难。即便在仅有五个节点且数据高度不平衡的情况下，算法仍能可靠地引导所有智能体朝真实解收敛。

对实际系统的意义

简而言之，本文提供了一套稳健方案，使网络化设备群体在没有主控器的情况下联合解决棘手的优化问题，同时满足实际限制并能在单向通信链路上运行。该方法可用于电力系统、传感器网络和对约束与稀疏性有要求的分布式机器学习任务。由于它仅需局部邻居信息并为步长选择提供明确规则，因此非常适合实际部署。作者建议将该方法扩展到时变网络，以更贴近现实中不断变化的通信环境。

引用: Ou, M., Zhang, H., Yan, Z. et al. A novel distributed gradient algorithm for composite constrained optimization over directed network. Sci Rep 16, 5185 (2026). https://doi.org/10.1038/s41598-026-36058-4

关键词: 分布式优化, 有向网络, 多智能体系统, 稀疏正则化, 受约束凸优化问题