Page 228 - 《软件学报》2026年第2期
P. 228

秦者云 等: 基于结构关系建模的自监督图表示学习                                                         707


                 邻节点具有相似特征的假设之上            [24,32,33] , 忽略了全局节点特征相似性在知识传递过程中的重要性. 为了减轻节点
                 扰动导致的性能波动, 本文致力于连续迭代中生成的全局特征保持相似, 以确保模型权重在训练过程中不会过快
                                                                                             i
                 变化. 具体来说, 由于    i−1 次迭代将学到的全局特征知识           Z  传递给  i 次迭代, 本文的目标是最小化       Z  和  Z  i−1  之间的
                 距离:

                                                  1  N ∑ N ∑  i−1 2 1 /  (   )
                                                           i
                                                                          iT
                                           L Smooth =    ||Z −Z  || +  2 tr Z LZ i                    (8)
                                                  N        j  j     N
                                                    i=1  j=1
                 其中,   N  是节点数,  tr(·)  表示矩阵的迹,  L = D− A  是与图邻接矩阵相关联的拉普拉斯矩阵, 其中              D  是度矩阵,
                     ∑                                                                     [32]
                 D ii =  A i j , T  表示转置. 除了考虑知识传递的平滑性     (第  1  项) 之外, 本文还使用  Dirichlet 能量   (第  2  项) 增强
                      j
                 相邻节点之间的依赖关系.
                    此外, 为进一步提升图的整体连通性并维持其稀疏性                 [24] , 本文在框架中引入了连通性和稀疏性约束:

                                                       −1 T       γ
                                                  L CS =  log(A1)+  ||A|| 2 F                         (9)
                                                       N         N  2
                 其中,  1 表示全  1  向量,  ||·|| F   表示矩阵的  Frobenius 范数,  γ 是一个非负值, 用于控制稀疏性. 第  1  项通过对数障碍惩
                 罚来避免形成断开的图, 而第         2  项则通过对大度数进行惩罚来控制稀疏性.
                    最终, 节点正则化被定义为上述损失的总和, 即:

                                                                                                     (10)
                                                     L Reg = αL Smooth +βL CS
                 其中,   α 和  β 是超参数, 用于平衡平滑性、连通性和稀疏性在正则化过程中的贡献.
                    公式  (10) 引入了平滑性、连通性和稀疏性这            3  个正则化目标. 具体来说, 平滑性目标旨在确保在连续迭代
                 过程中, 生成的全局特征保持相似, 从而避免模型权重过快变化导致的性能波动. 具体来说, 我们通过最小化相
                 邻节点特征之间的变化量来实现平滑性. 这一目标函数的作用在于促进节点间特征的一致性, 使得在信息传播
                 过程中, 相似节点能够保持相似的特征表示, 从而增强模型的鲁棒性. 连通性目标函数的设计主要关注图的整
                 体结构, 确保学习到的节点嵌入能够反映图的连通性信息. 在图结构数据中, 连通性是一个重要的全局属性, 它
                 决定了图中节点之间的可达性和路径. 通过强制连通性, 我们确保模型能够学习到能够反映图整体结构的节点
                 嵌入, 从而增强模型在全局图任务            (如图分类) 中的性能. 连通性目标函数有助于捕捉图中的长距离依赖关系,
                 使得模型能够更好地理解图的宏观结构特征. 稀疏性目标函数的设计旨在避免模型学习到过于稠密的节点嵌
                 入, 这有助于减少计算复杂度并提高模型的泛化能力. 在图表示学习中, 如果节点嵌入过于稠密, 可能会引入不
                 必要的噪声和冗余信息, 导致模型对未见数据的预测能力下降. 通过引入稀疏性约束, 我们鼓励模型学习到简
                 洁且信息量丰富的节点嵌入, 从而提高模型的有效性和效率. 此外, 稀疏性还有助于揭示图数据中潜在的重要
                 结构特征, 如社区结构等.
                  3   实验分析

                    为了全面评估本文所学图表示的有效性, 本文将提出的方法应用于节点分类和图分类两种图学习任务. 与当
                 前先进方法相比, 本文模型在多个数据集上均展现出卓越的性能. 为进一步剖析模型的工作机制, 本文深入探讨了
                 模型中多重关系建模、正则化、采样策略、子图大小和屏蔽比例对图结构学习的影响.
                  3.1   实验设置
                    本文方法的整体训练流程如图            2  所示. 为模拟节点扰动, 本文在子图和全图层面随机屏蔽了一定比例的节点
                 特征, 并借助缩放余弦损失        [21] 及特定的节点正则化策略重建图结构. 在采样阶段, 输入图被划分为约                   100  个等份,
                 子图大小则依据采样过程中的跳数来确定. 为确保比较的公正性, 本文在节点分类任务中采用                              GAT [34] 作为自动编
                 码器的主干, 在图分类任务中选择          GIN [35] 作为主干. 不同数据集的具体网络参数设置如表            1  和表  2  所示.
   223   224   225   226   227   228   229   230   231   232   233