Page 276 - 《软件学报》2026年第2期
P. 276

杭均一 等: 基于不变性注入的多标记类属特征学习                                                         755


                    ● CLIF [45] : 一个深度类属特征学习方法, 在合作学习框架下对标记依赖关系和类属特征进行协同优化, [网格
                             {                 }
                                −5
                                    −4
                 超参数搜索:    λ ∈ 10 ,10 ,...,1,2,5,10 , d e ∈ {64,128,256}].
                                                                                  −5
                                                                                      −4
                    ● DELA [13] : 无关特征操纵视角下的深度类属特征学习方法, [超参数搜索:              β ∈ {10 ,10 ,...,10}].
                    INVA  方法包含一个超参数, 即公式        (2) 中的强度因子    λ. 实验中对其进行搜索, 搜索范围设为{0.01, 0.1, 0.25,
                 0.5, 0.75, 1.0, 2.5}. 为性能评价的公平起见, 所有的深度方法均使用相同的神经网络结构, 并搜索最佳的学习率和
                 学习率衰减机制. 每个数据集中, 随机抽取            10%  的样例作为验证集, 用于超参数搜索. 在剩余的            90%  样例上, 进行
                 十折交叉验证来评价算法性能.
                                                                                         ↑ ↓) 表示评价指标
                    表  2  和表  3  汇报了关于各项评价指标的详细实验结果. 对于各项评价指标, 表中使用符号   (
                 取值越大   (越小), 性能越好. 对比分析中取得的最佳性能在表中加粗显示. 此外, 本节进行显著度为                        0.05  的威尔科
                 克森符号秩检验      (Wilcoxon signed-ranks test) [59] , 来分析  INVA  方法相较于已有方法是否展现出统计上更优的性能.
                 表  4  汇总了各项评价指标上的统计检验结果.

                        表 2 INVA  方法和对比方法的       Average precision、Macro-averaging AUC  和  Hamming loss 性能

                   指标      数据集       LIFT      LLSF      C2AE     MPVAE      CLIF      DELA      INVA
                           yeast  0.7680±0.0253 0.7564±0.0229 0.7389±0.0217 0.7641±0.0252 0.7650±0.0215 0.7691±0.0227 0.7757±0.0229
                           rcv1-s1  0.5921±0.0145 0.6129±0.0116 0.6147±0.0100 0.6332±0.0136 0.6246±0.0094 0.6391±0.0153 0.6445±0.0136
                         Corel16k-s1 0.3168±0.0059 0.3428±0.0053 0.3297±0.0042 0.3646±0.0063 0.3516±0.0070 0.3675±0.0062 0.3724±0.0045
                  Average  delicious  0.3833±0.0061 0.3587±0.0079 0.3648±0.0075 0.4042±0.0065 0.3832±0.0069 0.4082±0.0053 0.4092±0.0062
                 precision  ↑  mirflickr  0.6516±0.0041 0.6477±0.0039 0.6627±0.0064 0.6849±0.0053 0.6857±0.0025 0.6960±0.0043 0.6973±0.0027
                          tmc2007  0.8207±0.0048 0.8130±0.0050 0.7977±0.0048 0.8297±0.0032 0.8189±0.0024 0.8363±0.0037 0.8371±0.0038
                          mediamill  0.7417±0.0058 0.7275±0.0051 0.7266±0.0051 0.7669±0.0062 0.7650±0.0061 0.7883±0.0049 0.7965±0.0046
                          bookmarks 0.5119±0.0044 0.4920±0.0035 0.4707±0.0046 0.5104±0.0050 0.4928±0.0036 0.5191±0.0036 0.5203±0.0034
                           yeast  0.6716±0.0173 0.6640±0.0209 0.6931±0.0183 0.7091±0.0209 0.7115±0.0185 0.7335±0.0168 0.7293±0.0164
                           rcv1-s1  0.9241±0.0103 0.9062±0.0100 0.9131±0.0084 0.9368±0.0078 0.9320±0.0044 0.9374±0.0079 0.9382±0.0074
                         Corel16k-s1 0.6937±0.0097 0.6614±0.0075 0.7212±0.0131 0.7867±0.0130 0.7657±0.0105 0.7872±0.0098 0.7883±0.0106
                   Macro-
                          delicious  0.7919±0.0044 0.7509±0.0047 0.7830±0.0052 0.8272±0.0039 0.8107±0.0043 0.8305±0.0030 0.8284±0.0037
                  averaging
                          mirflickr  0.8091±0.0077 0.8196±0.0042 0.8213±0.0046 0.8461±0.0040 0.8436±0.0045 0.8538±0.0045 0.8550±0.0050
                   AUC  ↑
                          tmc2007  0.9229±0.0035 0.9225±0.0040 0.8993±0.0052 0.9307±0.0038 0.9274±0.0048 0.9356±0.0037 0.9360±0.0042
                          mediamill  0.8302±0.0080 0.7874±0.0110 0.8172±0.0069 0.8627±0.0083 0.8703±0.0086 0.8836±0.0067 0.8883±0.0066
                          bookmarks 0.8984±0.0030 0.8857±0.0037 0.8403±0.0040 0.9106±0.0015 0.9024±0.0028 0.9117±0.0022 0.9149±0.0032
                           yeast  0.1927±0.0112 0.2019±0.0110 0.2212±0.0142 0.2140±0.0098 0.1963±0.0114 0.2013±0.0123 0.1917±0.0099
                           rcv1-s1  0.0259±0.0009 0.0263±0.0011 0.0408±0.0016 0.0270±0.0011 0.0267±0.0011 0.0266±0.0009 0.0264±0.0012
                         Corel16k-s1 0.0187±0.0002 0.0186±0.0002 0.0233±0.0005 0.0188±0.0003 0.0188±0.0003 0.0186±0.0002 0.0185±0.0002
                  Hamming  delicious  0.0180±0.0001 0.0184±0.0002 0.0248±0.0006 0.0177±0.0001 0.0179±0.0001 0.0178±0.0001 0.0178±0.0001
                   loss  ↓  mirflickr  0.1019±0.0009 0.1005±0.0009 0.1259±0.0037 0.0969±0.0011 0.0965±0.0008 0.0945±0.0012 0.0943±0.0009
                          tmc2007  0.0603±0.0007 0.0607±0.0013 0.0632±0.0014 0.0586±0.0006 0.0587±0.0010 0.0572±0.0009 0.0571±0.0009
                          mediamill  0.0291±0.0003 0.0304±0.0002 0.0348±0.0004 0.0281±0.0004 0.0279±0.0004 0.0260±0.0004 0.0252±0.0004
                          bookmarks 0.0086±0.0001 0.0087±0.0001 0.0106±0.0001 0.0087±0.0001 0.0085±0.0001 0.0086±0.0001 0.0086±0.0001

                    基于上述实验结果, 可以发现:
                    ● 如表  2  和表  3  所示, 在共计  48  种实验配置  (8  个数据集×6  项评价指标) 中, INVA    方法取得最佳性能共计
                 39  次  (81%), 清晰展示了其优异的多标记分类性能.
                    ● 表  4  显示, INVA  方法在各项评价指标上显著优于深度标记嵌入方法                C2AE  和  MPVAE. C2AE  和  MPVAE
                 关注通过标记嵌入技术建模标记依赖关系. INVA               方法优于   C2AE  和  MPVAE  方法的性能, 充分证明了类属特征
                 是一种改善多标记分类性能的有效策略.
                    ● 同时, 相较于其他的类属特征学习方法, INVA            方法取得了显著更佳的性能, 这证明了从无关特征操纵角度
                 进行类属特征学习的有效性. 特别地, 与同样基于无关特征操纵的                    DELA  方法相比, INVA  方法在各个数据集上展
                 现出一致更优的性能, 证明了         INVA  方法在技术上的优越性.
   271   272   273   274   275   276   277   278   279   280   281