Page 269 - 《软件学报》2026年第6期
P. 269

2588                                                       软件学报  2026  年第  37  卷第  6  期


                 过隐私保护的模型更新方法和图扩展协议, 充分利用去中心化的图数据进行个性化推荐, 但高阶图信息的利用效
                 率和通信开销问题仍有待进一步解决. 总体而言, 现有联邦推荐系统中的隐私保护方法可大致归为                                3  类: 其一, 基
                 于差分隐私的扰动机制, 通过在用户数据或模型更新中引入噪声实现个体级或群体级隐私保护; 其二, 基于加密机
                 制的隐私保护方法, 包括同态加密与秘密共享技术有效防止中间值泄露; 其三, 混合机制, 结合结构设计与保护策
                 略, 如  MetaMF  在服务器端生成私有项目嵌入, FedPerGNN        则融合图扩展与隐私更新协议实现去中心化推荐. 相
                 比加密机制带来的计算与通信负担, 差分隐私具备实现成本低、可调节性强等优势, 尤其适合资源受限设备场景.
                  2.3   联邦推荐中的通信优化技术

                    为应对高频率模型同步所带来的带宽消耗与系统负担, 文献                    [38] 提出了深度梯度压缩机制, 通过梯度稀疏化、
                 动量修正、局部裁剪等技术实现高达              600  倍的梯度压缩比, 在不降低模型精度的前提下显著减少通信负担. 文
                 献  [39] 进一步提出  FetchSGD  算法, 采用可合并的    Count Sketch  结构压缩模型更新, 并将动量与误差累积迁移至
                 服务端执行, 使得在客户端参与率低或模型大规模时仍可实现高效、鲁棒的通信压缩. 在模型结构优化方面, 文献                                [40]
                 提出  SlimFL  方法, 将可调宽度的可瘦身神经网络与联邦学习结合, 并引入叠加编码与叠加训练策略, 以实现不同
                 模型宽度配置下的高效参数共享. 文献            [41] 则提出  FedSVD  方法, 通过局部梯度压缩与全局特征共享策略, 在保
                 证精度无损的前提下完成亿级规模数据上的联邦奇异值分解任务, 为超大规模联邦推荐提供了通信可控的建模方
                 案. 客户端选择与调度策略也是降低通信成本的重要路径. 文献                    [42] 提出  HiCS-FL  框架, 基于客户端上传的输出
                 层更新估计其数据异质性, 并通过层次化聚类方式筛选代表性客户端参与模型更新, 减少冗余通信. 文献                                 [43] 针
                 对联邦学习中客户端响应时延不一致的问题, 引入一种缓冲式异步聚合机制, 通过仅对先到达的一部分客户端更
                 新进行分批聚合, 避免等待全部设备完成通信, 从而在保证训练稳定性的同时有效提升系统效率. 在编码与信息传
                 输机制方面, 文献     [44] 提出  GossipFL  框架, 通过稀疏化通信与去中心化结构设计, 使每个客户端仅与一个邻居通
                 信并交换高度稀疏化的模型参数, 同时构造自适应带权通信矩阵, 缓解中心化瓶颈. 文献                           [45] 的  FedBoost 方法则
                 从模型训练机制入手, 采用集成学习策略, 在客户端训练多个轻量级预测子模型, 服务器端再进行加权集成, 有效
                 规避了训练完整大模型所需的高通信成本. 此外, 文献                [46] 提出  FAST  框架, 通过自适应数据采样与本地训练联合
                 优化机制, 引导客户端根据本地类别重构训练数据集, 在给定时间预算下加速模型收敛, 并在保证通信资源受限下
                 取得良好的性能表现. 总体而言, 现有通信优化方法大多聚焦于深度神经网络结构的通信压缩与局部训练策略, 其
                 核心在于通过模型剪枝、梯度稀疏化或客户端调度等方式缓解大规模模型训练过程中的带宽瓶颈. 然而, 这些方
                 法普遍建立在复杂模型结构基础上, 难以适应如矩阵分解等浅层轻量模型的特点, 且部分方法在非                                IID  数据分布
                 下稳定性不高.
                    综上所述, 现有的联邦推荐系统通过矩阵分解和深度学习等方法在隐私保护与推荐性能方面取得了一定进
                 展, 但仍面临多重挑战. 一方面, 矩阵分解方法虽然计算复杂度较低, 但在隐式反馈数据处理和通信效率优化方面
                 存在不足; 另一方面, 基于深度学习的方法在推荐准确性和个性化方面表现出色, 但由于模型复杂性和参数量大,
                 带来了显著的通信和计算负担. 针对这些问题, 进一步研究如何在保护隐私的同时优化通信效率、提升模型性能
                 是联邦推荐系统未来的重要研究方向.
                  3   基础知识

                  3.1   差分隐私
                    差分隐私    [47] 是一种数学机制, 旨在在数据分析中保障个体隐私, 通过向输出结果中引入随机噪声, 减少单个
                 个体对分析结果的影响, 防止攻击者推断出个体信息. 该机制广泛应用于大数据分析和机器学习中, 尤其是在处理
                 敏感数据时, 能够有效提供隐私保护. 具体定义如下.
                    定义  1. 差分隐私. 设   M  为随机算法, 若对于任意两个相邻数据集           D 1  和  D 2  (即仅相差一个元素) 以及任意输出
                 子集  S , 如果概率  P 满足公式   (1):
   264   265   266   267   268   269   270   271   272   273   274