Page 276 - 《软件学报》2026年第6期

薛大暄 等: 基于差分隐私的通信高效联邦推荐方法 2595

( ) ( )
C ∆f
6. 梯度扰动: ˜ g item = g item ×min 1, + Lap
||g item || ϵ 2 /e
˜ g item 至服务器
7. 上传
8. end for
9. end for
5.2 基于差分隐私的通信高效联邦深度学习推荐算法

矩阵分解模型在联邦推荐中具有较低的计算和通信开销, 但其仅能建模用户与物品之间的线性关系, 难以有
效表达更复杂的交互模式, 导致在部分实际场景下推荐性能受限. 为弥补其建模能力不足, 深度学习推荐模型因其
更强的特征表达与非线性建模能力, 成为更具潜力的替代方案. 本节将在前述隐私保护与通信优化框架基础上, 进
一步适配深度模型结构, 并提出结构化划分与分层优化策略, 以提升其在联邦训练中的通信效率和实用性.
5.2.1 浅层网络的子模型选择策略
在深度学习推荐系统中, 神经网络通常由多个层级组成, 根据其在网络结构中的位置和功能, 可以大致划分为
浅层网络与深层网络, 其中浅层网络主要包括嵌入层以及紧随其后的 1–2 层浅层全连接层 (如第 1 层和第 2 层
MLP), 这些层在模型中承担着特征表示的关键作用. 嵌入层将高维稀疏的用户和物品数据映射到低维稠密的向量
空间, 而浅层神经元层负责捕捉基础的用户偏好和物品特征. 然而, 随着用户和物品种类的增长, 嵌入层参数量随
之成倍增加, 浅层神经元层的参数规模也会显著扩大. 这种情况下, 完整传输浅层网络的参数会导致通信开销过
高, 尤其是在带宽受限或计费网络环境下, 这一问题尤为突出.
为了解决浅层网络通信开销过大的问题, 本文将 DP-SUB 算法扩展至基于深度学习的联邦推荐算法中, 提出
了一种浅层网络的子模型选择策略, 以减少需要上传的参数量, 从而降低通信开销. 具体而言, 该策略在每轮训练
中动态选择浅层网络的关键参数与更新, 避免传输整个浅层网络的所有参数. 客户端基于本地数据更新嵌入层和

浅层神经元层, 并生成局部更新 ∆X sub . 中心服务器接收到子模型 ∆X sub , 更新后通过 FedSubAvg 算法进行聚合和校
正, 确保全局模型更新的稳定性和准确性.
如图 6 所示, 服务器接收到客户端上传的子模型更新后, 通过 FedSubAvg 算法进行聚合和校正. FedSubAvg
算法通过对参与客户端上传参数的加权平均实现模型参数的整合, 具体公式如下:

1 N ∑
E C [∆X] = ∆X i,m (11)
n m
i=1
其中, n m 表示参与更新的客户端数量. 通过引入系数校正这种精细的调整, FedSubAvg 算法进一步保证了模型更
新的准确性和效率, 使得浅层网络的通用信息能够得到更加高效的学习和利用.

4 1 3 3 0 模型更新平均
×
1.5 3 3 1 0 系数矫正

中心服务器 6 3 9 3 0 聚合模型更新

7 0 0 1 0 5 0 9 2 0 0 3 0 6 0
用户 A 本地模型更新 用户 B 本地模型更新 用户 C 本地模型更新
图 6 基于 FedSubAvg 的子模型聚合优化