Page 94 - 《软件学报》2026年第5期
P. 94

赖培源 等: 基于多模态异质图网络的专利推荐算法                                                        1973


                                                                       ∗
                                                                          ¯ e
                 其中,   ⊙ 表示逐元素乘法操作. 至此, 可以得到企业和专利的综合表征                ¯ e  和  .
                                                                           ∗
                                                                       c   p
                  2.5   专利推荐预测
                    最后, 为了预测企业与专利之间的匹配得分, 本文通过内积的方式得到最终的预测输出                           y c,p , 表示为:

                                                              ∗T ∗
                                                         y c,p = ¯ e ¯ e                             (28)
                                                              c  p
                 其中,  y c,p  表示企业对目标专利的偏好, 得分越高, 代表企业和专利的匹配度越高, 即越倾向于向企业推荐该专利.
                 为了提高推荐质量和优化模型参数, 采用贝叶斯个性化排序                    (Bayesian personalized ranking, BPR) 作为  MHGN  的
                 损失函数, 它可以通过最大化企业对已知正样本和负样本之间的差异来提高推荐质量, 具体定义如下:

                                                       ∑
                                               L BPR = −   lnσ(y c,p + −y c,p −)+λΘ                  (29)
                                                     (c,p + ,p − )∈D
                 其中,   (c, p , p ) ∈ D  代表一组包含企业  c、正样本   p  和负样本  p  的三元组集合,   σ(·) 为激活函数,   λ 是正则化权
                         +
                                                         +
                                                                   −
                           −
                 重,  Θ 代表模型可训练参数. 为了清晰起见, 算法          1  总结了  MHGN  算法的主要过程.
                 算法  1. MHGN  的算法框架.
                 输入: 专利-企业交互     S , 企业文本信息, 专利文本信息, 专利图像信息, 训练次数             n_epochs;
                                y.
                 输出: 专利推荐结果
                 1. 通过预训练模型     RoBERTa 和  ViT  分别初始化专利的文本表征和图像表征           p txt  和   p img .
                 2. 通过预训练模型     RoBERTa 初始化企业的文本表征        c (0) .

                 3. 随机初始化模型参数      ϕ.
                 4. for epoch = 1 to n_epochs do

                 5.  for each batch  ⊆ S  do
                 6.   通过  GAT  编码生成专利和企业的多模态表征            ¯ p m  和  ¯ c m .
                 7.   计算企业与专利的多模态表征相似度, 构建企业-专利交互图.
                 8.   通过  GCN  学习企业和专利的节点偏好表征           e c  和  .
                                                            e p
                 9.   通过公式    (18) 和  (19) 分别拼接企业和专利的多模态表征得到          ˆ c 和   ˆ p.
                                       b
                 10.    训练  k 个独立基向量  v , i = 1,2,...,k, 得到适配向量  a.
                                       i
                 11.    通过公式  (20) 生成企业和专利的多模态适配融合表征            ˜ c 和   ˜ p.
                 12.    通过公式  (23) 和  (24) 连接节点偏好表征和多模态适配融合表征得到企业和专利的多模态融合表征                      e  和  .
                                                                                                       ∗
                                                                                                      e
                                                                                                   ∗
                                                                                                   c   p
                                                             ¯ e
                                                         ∗
                                                             ∗
                 13.    通过注意力机制得到企业和专利的综合表征              ¯ e  和  .
                                                         c   p
                 14.    预测企业和专利最终评分       y c,p .
                 15.    通过最小化   L BPR  更新模型参数  ϕ.
                 16. end for
                 17. end for
                  3   实 验
                  3.1   数据集
                    为了确保实验数据的真实有效性, 本文收集了多个高校的专利转让信息, 并根据不同高校的专利转让数量构
                 建了不同规模的数据集. 为便于区分, 数据集以其所包含的专利转让数量命名. 例如, 数据集“专利-666”包含                             666
                 条专利转让记录, “专利-1446”包含       1 446  条, “专利-3911”包含  3 911  条, “专利-24168”则涵盖了  24 168  条专利转让
                 数据. 数据集的详细信息如表         2  所示.
   89   90   91   92   93   94   95   96   97   98   99