Page 43 - 《中国电力》2026年第5期
P. 43
张怀天等:基于 Transformer-集成学习的配电网短期负荷预测方法 2026 年第 5 期
①前向传播:以丢弃率 p 对输入数据进行一 围理论上可延伸至正无穷,导致其在回归预测等
次前向传播,得到模型输出 y pred ; 实际应用中缺乏数值稳定性与可比性。为此,引
② 损 失 计 算 : 将 模 型 预 测 y pre d 与 真 实 标 签 入 分 位 数 裁 剪 与 线 性 归 一 化 方 法 , 对 原 始 不 确
y 输入指定的损失函数 LossFunction 中,计算得到 定性进行标准化处理,以提升其解释性与数值稳
标量损失值 loss; 定性。
③参数更新:清空优化器中的历史梯度,随 首先,计算全部样本原始方差分布的 95% 分
后执行损失的反向传播以计算当前梯度,进而调 位数 q ;随后,依据该值对方差进行上截断处
95
用优化器的更新方法“step()”完成本轮参数更新; 理,得到样本方差 95% 分位值 V clip (y)为
④保存模型:在完成针对当前概率 p 的所有 V clip (y) = min(V ar (y),q 95 ) (19)
训练迭代后,将该训练好的模型“model_p”保存
采用 95% 分位数的主要理论支撑源于稳健统
至模型集合“Models”中,以备后续集成使用。
计,该分位数常用于有效约束极端值,同时保留
4) 算 法 返 回 : 当 遍 历 并 完 成 集 合 P 中 所 有
数据的主要分布特征。在此基础上,将截断后的
Dropout 概率的训练后,算法终止,并返回由所有
方差值线性映射至区间 [0, 1],以实现标准化。
训练好的子模型组成的最终集合“Models”。
V clip (y)
3.2.2 模型预测流程 U(y) = ∈ [0,1] (20)
q 95
给定验证数据集 X val = {x t } T ,一组已训练完
t=1 由此最终得到的 U(y) 可作为标准化后的预测
成的子模型集合“Models”={model_p model_p , ···, 不确定性指标,该指标兼具稳定性、可比性与良
1,
2
model_p },以及蒙特卡洛采样次数 M,算法初始 好的可解释性。
k
化一个空的结果列表“Y pred_final ”={}。
对 ∀x t ∈ X val ,执行如下步骤。
4 实例分析
1)初始化中间存储:创建一个空列表“all_
model_means”,用于保存每个子模型在蒙特卡洛 为验证所提方法的有效性,本文采用 AESO
采样下的预测均值。 ( alberta electric system operator) 发 布 的 加 拿 大 阿
2)遍历子模型集合:对每个子模型“model_p” 尔伯塔省 2011—2024 年小时级负荷数据作为基
∈“Models”,执行以下操作。 准数据集 [35] 。该数据集覆盖 42 个供电区域,包含
①初始化一个空列表“mc_outputs”,用于记 连续 14 年共 5 150 880 个采样点,完整表征了负荷
录该模型在 M 次前向传播中的输出; 的日周期、周周期、年周期及长期趋势性变化特
② 启 用 Dropout, 以 当 前 子 模 型 的 Dropout 概 征,具备充分的统计显著性,可为模型验证提供
率 p 执行一次前向传播,得到输出 y (m) ,将 y (m) 添 可靠依据。实验设计基于纯历史负荷序列,模型
pred pred
加至“mc_outputs”,此步骤重复 M 次; 的输入为经过预处理与降维后的时序数据,未包
③计算该子模型的预测均值 μ 和方差 σ ,将 含气象或节假日等外部信息。
p
p
均值 μ 加入“all_model_means”。 4.1 评估指标
p
3)集成最终预测:综合各子模型的预测结 在现有研究中,平均绝对误差 E MA 、均方根
果,计算其平均值 y fina l 作为该样本的最终输出, 误差(root mean square error,RMSE)E RM S 和平均绝
并将 y fina l 添加至“Y pred_final ”。 对百分误差(mean absolute percentage error,MAPE)
4)当所有验证样本处理完毕后,返回完整的 E MA P 是评估负荷预测模型精度的常用指标。各评
预测结果集合“Y pred_final ”。 估指标的数学表达式为
3.3 预测结果的不确定性估计 1 n ∑
E MA = |y i − ˆy i | (21)
在基于蒙特卡洛 Dropout 的预测不确定性估计 n
i=1
中 , 通 过 式 ( 13) 可 计 算 预 测 方 差 V (y), 作 为 v
ar
t
模型原始的不确定性度量。然而,由于回归模型 E RMS = 1 n ∑ (y i − ˆy i ) 2 (22)
n
的输出空间在实数域上无界,所得方差的取值范 i=1
39

