Page 131 - 《中国电力》2026年第5期
P. 131
周专等:基于动态权重混合专家模型的超短期电力负荷预测 2026 年第 5 期
段)误差显著小于 LightGBM、GRU 等对比模型, 合相比,RMSE 降低 1.15 MW、MAE 降低 0.39 MW、
直观验证了其在时序动态捕捉与异常场景下的鲁棒 MAPE 降低 0.03%。XGBoost 通过二阶泰勒展开优
性,与表 3 中 RMSE、MAE 等量化指标优势一致。 化目标函数、引入正则化项控制模型复杂度的技
3.4.2 不同组合模型对比 术 特 性 , 使 其 在 挖 掘 气 象 因 子 ( 温 度 、 水 汽 压
本 小 节 通 过 构 建 不 同 的 专 家 模 型 组 合 验 证 等)与日期属性(节假日、季节)对负荷的非线
BiLSTM、XGBoost 和 GAN 作为 DW-MoE 专家模型 性影响时,能够更高效地处理特征交互与避免过
的优势。研究设计 6 组典型模型组合进行对比实验, 拟合,较 CatBoost 的对称树结构和 LightGBM 的单
各组模型基于负荷预测领域的应用广泛性和技术 边梯度采样策略,在多特征耦合场景下展现出更
代表性选取,具体组合如下。组合一为 BiGRU+ 优的建模精度。
XGBoost+GAN,组合二为 SALSTM(Self-Attention 3)异常专家替换。GAN 相比于 VAE 和 GMM
LSTM) +XGBoost+GAN, 组 合 三 为 BiLSTM+Cat- 表 现 更 优 , 与 BiLSTM+XGBoost+VAE 组 合 相 比 ,
Boost+GAN, 组 合 四 为 BiLSTM+LightGBM+GAN, RMSE 降 低 5.49 MW、 MAE 降 低 3.72 MW、 MAPE
组合五为 BiLSTM+XGBoost+VAE(Variational Auto- 降低 0.61%;与 BiLSTM+XGBoost+GMM 组合相比,
encoder),组合六为 BiLSTM+XGBoost+ GMM(Ga- RMSE 降 低 7.84 MW、 MAE 降 低 5.65 MW、 MAPE
ussian Mixture Model)。对比结果如表 4 所示。 降低 0.84%。这验证了 GAN 通过生成对抗网络学
习正常负荷分布的优势,其通过判别器与生成器
表 4 不同组合模型对比
的动态博弈,能够更精准地量化负荷数据的异常
Table 4 Comparison of different combination models
程度,相较于 VAE 的变分推断和 GMM 的概率密
组合 RMSE/MW MAE/MW MAPE/%
度拟合,在捕捉设备故障、极端天气等非典型负
一 36.84 26.57 2.63
荷突变场景时具有更强的鲁棒性,为动态权重修
二 35.92 25.89 2.51
正提供了更可靠的异常检测依据。
三 34.15 24.36 2.35
3.4.3 消融实验对比
四 33.87 24.12 2.31
本小节通过消融实验验证所提 MoE 框架各核
五 38.21 27.45 2.89
心 组 件 的 必 要 性 与 技 术 贡 献 , 并 阐 释 BiLSTM、
六 40.56 29.38 3.12
XGBoost 和 GAN 作 为 基 础 专 家 模 型 的 不 可 替 代
本文 32.72 23.73 2.28
性。研究采用控制变量法设计 组消融实验,通
6
表 4 通过专家模型替换实验验证了各专家的 过逐步移除或替换关键模块分析模型性能衰减规
技术贡献。 律,具体实验设计如下。
1)时序专家对比。BiLSTM 较 BiGRU 和 SAL- 1)模型一为单一时序模型(BiLSTM)。仅
STM 表现更优,与 BiGRU+XGBoost+GAN 组合相比, 采用双向长短期记忆网络捕捉负荷序列的时间依
RMSE 降 低 4.12 MW、 MAE 降 低 2.84 MW、 MAPE 赖性,验证时序特征的基础建模能力。
降低 0.35%;与 SALSTM+XGBoost+GAN 组合相比, 2) 模 型 二 为 单 一 非 线 性 模 型 ( XGBoost) 。
RMSE 降 低 3.20 MW、 MAE 降 低 2.16 MW、 MAPE 单独使用 XGBoost 处理气象及日期因子与负荷的
降低 0.23%。这表明 BiLSTM 的双向循环结构与长 非线性映射关系,评估非线性特征的建模效能。
短期记忆单元更适合捕捉电力负荷序列的双向时 3)模型三为 BiLSTM+XGBoost 静态融合模型
序 依 赖 特 性 , 相 较 于 BiGRU 的 单 向 门 控 结 构 和 ( 固 定 权 重 ) 。 采 用 固 定 权 重 融 合 BiLSTM 与
SALSTM 的自注意力机制,在处理超短期负荷预 XGBoost 输出,验证多源特征协同建模的可行性。
测的强时序性任务时具有更强的特征表达能力。 4)模型四为 BiLSTM+XGBoost+GAN 静态融合
2)非线性关联专家替换。XGBoost 相比 CatBoost 模型(固定权重)。该模型在 BiLSTM+XGBoost
和 LightGBM 表现更优,与 BiLSTM+CatBoost+GAN 静 态 融 合 模 型 的 基 础 上 引 入 GAN 异 常 检 测 模
组合相比,RMSE 降低 1.43 MW、MAE 降低 0.63 MW、 块,采用固定权重(1∶1∶1)融合时序专家、非
MAPE 降低 0.07%;与 BiLSTM+LightGBM+GAN 组 线性专家与异常专家的输出。
127

