高渗透的分布式能源和快速变化的电动汽车充电会导致配电网电压和线路负荷频繁违限,安全且低成本的运行变得尤为困难。为此,本文提出一种物理信息驱动的安全深度强化学习框架,旨在通过社区电池储能系统协同调度,降低约束违例并最小化运行成本。
我们首先构建双层物理信息图:上层利用线路阻抗和容量对空间信息传播进行约束,下层通过功率平衡、节点电压和潮流重构损失将潜在状态正则化,使其保持与控制相关的物理一致性。该图能够捕获非局部的时空交互,确保学习过程充分利用网络拓扑和物理规律。
在此基础上,本文设计了拉格朗日专用评论家 PPO(LDCPPO)。LDCPPO 将奖励价值函数和约束代价值函数分别用独立的评论家网络进行估计,形成约束特定的价值分解。两类评论家仅在拉格朗日策略更新阶段合并,从而既保留电压违例和线路过载的异构学习信号,又利用拉格朗日乘子实现约束的软惩罚。
仿真在高屋顶光伏渗透和大量 EV 充电的配电网中进行。结果显示,LDCPPO 将关键电压违例程度降低至基线的 19.5%,同时实现最少的违例次数和最小的线路过载程度,且运行成本保持竞争力。
点评