Page 274 - 《软件学报》2026年第6期
P. 274

薛大暄 等: 基于差分隐私的通信高效联邦推荐方法                                                        2593



                                p 00 −1     ˜ ρ j
                 5.   根据  ˆ ρ j =      +          估计真实交互频率      ˆ ρ
                              p 00 + p 11 −1  p 00 + p 11 −1
                 6. end for
                                         ˆ ρ, 筛选出交互频率超过阈值的子向量, 并将其          ID               U  ′
                 7. 根据阈值   p 和真实交互频率                                          添加至子模型集合
                 8. return  U  ′


                  5   基于不同场景下的联邦推荐模型适配设计
                    矩阵分解方法因其结构简洁与通信代价低, 长期作为联邦推荐系统的基础建模手段, 然而其线性建模能力难
                 以捕捉复杂用户行为. 相比之下, 基于深度学习的推荐模型具备更强的表达能力, 但在联邦环境下面临更高的通信
                 与计算开销. 为兼顾推荐性能与系统效率, 本文将所提出的差分隐私通信高效框架分别应用于上述两类主流模型,
                 并进行适配与优化. 第      5.1  节介绍基于子模型的联邦矩阵分解推荐算法. 第              5.2  节介绍基于差分隐私的通信高效联
                 邦深度学习推荐算法, 其中包含浅层网络的子模型选择策略与深层网络的梯度压缩策略.
                  5.1   基于子模型的联邦矩阵分解推荐算法
                    矩阵分解推荐算法是一种广泛应用的推荐系统方法, 通过将用户-物品交互矩阵分解为用户特征矩阵和物品
                 特征矩阵, 捕捉用户与物品之间的潜在偏好关系. 设用户-物品交互矩阵为                      R, 其维度为  m×n, 其中  m 表示用户数,   n
                                                        U ∈ R m×d  和  V ∈ R n×d , 使得    U  表示用户的隐含特
                 表示物品数. 矩阵分解的目标是找到两个低秩矩阵                                    R ≈ U ·V, 其中
                                                                                                       T
                                                                         i
                 征矩阵,  V  表示物品的隐含特征矩阵,        d  为隐含特征维度. 对于任意用户   和物品          j, 预测评分  ˜ r i j  表示为:  ˜ r i j = u i v ,
                                                                                                       j
                                i
                                      j
                 u i  和  v j  分别为用户   和物品   的特征向量. 在训练过程中, 通过最小化以下目标函数来学习这些特征矩阵.

                                                    ∑
                                                       (    )
                                                                  2
                                                min    r i j − ˜r i j +λ||U|| +µ||V|| 2               (9)
                                                 U,V              2     2
                                                   (i,j)∈D
                 其中,  D 表示有评分记录的用户-物品对集合,           λ、µ 是正则化参数, 用于防止过拟合. 在联邦矩阵分解框架下, 直接
                 传输完整的物品特征矩阵         V  会导致通信开销过大, 并可能引发隐私问题. 为此, 本文采用                DP-SUB  子模型优化策
                                                                       V sub , 并将其下发到客户端, 客户端仅更新与
                 略, 中心服务器为每个客户端选择其交互历史相关的物品子特征矩阵
                 自身交互相关的子模型部分, 以此降低通信成本.
                    如图  5  所示, 中心服务器在每轮迭代中根据客户端的交互记录, 选择对应的物品子特征矩阵                          V sub  下发至各客
                 户端. 客户端接收到      V sub  后, 与其本地的用户特征向量     u i  结合, 进行局部更新, 计算出新的梯度       ˜ g item . 更新后的梯度
                 经差分隐私处理后上传至中心服务器, 服务器聚合所有客户端上传的梯度信息以更新全局模型                                V. 通过子模型优
                 化策略, 客户端仅需传输相关的子模型部分, 有效减少了数据传输量, 提高了通信效率, 增强了隐私保护能力.

                                                                        V sub
                                   中心服务器




                                          V sub           V sub        V sub
                                               ~                ~              ~
                                               g item          g item          g item


                                 客户端                         …

                                      Local data   u 1                Local data   u n
                                         图 5 基于子模型的联邦矩阵分解推荐算法框架图
   269   270   271   272   273   274   275   276   277   278   279