Page 125 - 《中国电力》2026年第5期
P. 125
周专等:基于动态权重混合专家模型的超短期电力负荷预测 2026 年第 5 期
开始 结束
负荷数据超短期预测
原始数据集 预
测
层
将测试集输入DW-MoE模型
数
据 特征选择 测试集
输
入 分专家增量微调策略 在
层 线
学
数据预处理 习
误差缓存与动态更新机制 层
处理后数据
贝叶斯不确定性校准
动
态
异常情况下权重修正机制及融合策略 权
数据集划分 重
层
滑动窗口误差统计及初始权重设置
训练集
初步 初步 初步
预测 预测 预测 专
值1 值2 值3 家
建
验证集 模
时序专家 非线性专家 异常专家 层
BiLSTM XGBoost GAN
图 1 整体预测框架
Fig. 1 Overall prediction framework
时序维度的基础支撑。 Ω(f ) 为第 k 棵树的复杂度正则化项;K 为决策树
k
2.2.2 非线性关联专家 的数量;γ 为叶子节点数量惩罚系数;T 为叶子节
XGBoost 是一种基于梯度提升框架的集成学 点数量;λ 为 L2 正则化系数; ω j 为第 j 个叶子节
习算法,通过迭代训练多个决策树并累加其预测 点的权重。
结果,实现对复杂非线性关系的建模。其核心特 模型采用前向分步训练,每次迭代添加一棵
点是引入正则化项控制模型复杂度,并利用二阶 新树 g 来拟合当前残差,即
泰勒展开优化目标函数,显著提升了训练效率和 (t) (t−1)
ˆ y = ˆy +g(x i ) (9)
i i
泛化能力。
式中:t 为迭代次数; x i 为第 i 个训练样本的输入
XGBoost 的目标函数由损失函数和正则化项
特征。
组成,即
在 决 策 树 构 建 过 程 中 , 通 过 计 算 分 裂 增 益
I ∑ K ∑
O(θ) = l(y i , ˆy i )+ Ω(f k ) (7) G ai n 选择最优分裂点,即
i=1 k=1 2 2
1 G L G R (G L +G R )
2
G ain = + − −γ (10)
1 T ∑ 2 2 H L +λ H R +λ H L + H R +λ
Ω( f k ) = γT + λ ω T (8)
j
2
j=1 式中: G 、H 和 L G 、H 分别为左右子树的一
R
R
L
式中:O(θ) 为目标函数; l(y i , ˆy i )为第 i 个样本的损 阶和二阶导数累加值。
失函数,y 为第 i 个样本的真实值, ˆ y i为第 i 个样 作为非线性关联专家,XGBoost 聚焦于挖掘
i
本的预测值;I 为样本数量;f 为第 k 棵决策树; 负荷与气象及日期之间的非线性关联。通过学习
k
121

