Page 277 - 《软件学报》2026年第2期
P. 277

756                                                        软件学报  2026  年第  37  卷第  2  期



                                表 3 INVA  方法和对比方法的       One-error、Coverage 和  Ranking loss 性能

                   指标      数据集       LIFT      LLSF      C2AE     MPVAE      CLIF      DELA      INVA
                            yeast  0.2193±0.0408 0.2294±0.0352 0.2689±0.0309 0.2211±0.0389 0.2321±0.0323 0.2349±0.0309 0.2261±0.0382
                           rcv1-s1  0.4106±0.0194 0.4220±0.0161 0.4383±0.0210 0.4078±0.0330 0.4102±0.0192 0.4006±0.0215 0.3885±0.0192
                          Corel16k-s1 0.6764±0.0126 0.6398±0.0092 0.6442±0.0090 0.6331±0.0155 0.6420±0.0126 0.6268±0.0099 0.6193±0.0133
                           delicious  0.3339±0.0153 0.3537±0.0145 0.3374±0.0178 0.3070±0.0183 0.3194±0.0180 0.3061±0.0138 0.3072±0.0109
                 One-error  ↓
                           mirflickr  0.3076±0.0106 0.3025±0.0089 0.2848±0.0110 0.2740±0.0105 0.2702±0.0083 0.2622±0.0089 0.2600±0.0119
                           tmc2007  0.2125±0.0076 0.2245±0.0094 0.2296±0.0082 0.2031±0.0072 0.2003±0.0036 0.1945±0.0067 0.1942±0.0081
                          mediamill 0.1757±0.0122 0.1590±0.0040 0.1643±0.0072 0.1422±0.0046 0.1421±0.0060 0.1288±0.0038 0.1252±0.0041
                          bookmarks 0.5115±0.0044 0.5319±0.0054 0.5408±0.0070 0.5165±0.0068 0.5337±0.0050 0.5079±0.0042 0.5053±0.0046
                            yeast  0.4518±0.0190 0.4626±0.0193 0.4740±0.0166 0.4503±0.0201 0.4511±0.0159 0.4388±0.0179 0.4357±0.0175
                           rcv1-s1  0.1231±0.0124 0.1245±0.0120 0.1040±0.0078 0.0932±0.0091 0.0992±0.0068 0.0866±0.0085 0.0818±0.0071
                          Corel16k-s1 0.3247±0.0050 0.3243±0.0071 0.3049±0.0068 0.2372±0.0055 0.2499±0.0067 0.2330±0.0049 0.2320±0.0047
                           delicious  0.4809±0.0132 0.6150±0.0093 0.5108±0.0062 0.4058±0.0063 0.4208±0.0051 0.3943±0.0049 0.3941±0.0062
                 Coverage   ↓
                           mirflickr  0.3086±0.0038 0.3205±0.0043 0.3075±0.0041 0.2741±0.0031 0.2757±0.0033 0.2686±0.0046 0.2683±0.0032
                           tmc2007  0.1193±0.0028 0.1270±0.0025 0.1511±0.0059 0.1144±0.0023 0.1161±0.0026 0.1110±0.0023 0.1107±0.0023
                          mediamill 0.1517±0.0088 0.1671±0.0031 0.1760±0.0029 0.1233±0.0033 0.1239±0.0030 0.1143±0.0028 0.1121±0.0028
                          bookmarks 0.1293±0.0060 0.1510±0.0032 0.1905±0.0040 0.1189±0.0028 0.1270±0.0019 0.1105±0.0019 0.1103±0.0027
                            yeast  0.1645±0.0175 0.1746±0.0175 0.1894±0.0151 0.1665±0.0183 0.1662±0.0140 0.1652±0.0165 0.1592±0.0170
                           rcv1-s1  0.0490±0.0056 0.0497±0.0046 0.0428±0.0032 0.0390±0.0041 0.0426±0.0025 0.0344±0.0035 0.0324±0.0029
                          Corel16k-s1 0.1636±0.0017 0.1611±0.0042 0.1638±0.0052 0.1239±0.0038 0.1303±0.0043 0.1202±0.0028 0.1201±0.0029
                  Ranking  delicious  0.0985±0.0020 0.1449±0.0046 0.1197±0.0021 0.0884±0.0019 0.0933±0.0017 0.0856±0.0016 0.0847±0.0019
                   loss  ↓  mirflickr  0.1125±0.0020 0.1196±0.0028 0.1120±0.0038 0.0939±0.0015 0.0986±0.0015 0.0937±0.0019 0.0927±0.0013
                           tmc2007  0.0449±0.0019 0.0489±0.0017 0.0629±0.0023 0.0416±0.0013 0.0432±0.0014 0.0395±0.0015 0.0396±0.0017
                          mediamill 0.0412±0.0017 0.0496±0.0011 0.0537±0.0014 0.0342±0.0012 0.0343±0.0011 0.0309±0.0009 0.0303±0.0011
                          bookmarks 0.0813±0.0037 0.0947±0.0025 0.1271±0.0028 0.0767±0.0020 0.0838±0.0013 0.0700±0.0014 0.0711±0.0018

                              表 4 INVA  方法和对比方法之间的威尔科克森符号秩检验结果                 (显著度为    0.05)

                        指标             LIFT       LLSF        C2AE      MPVAE        CLIF       DELA
                    Average precision  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]
                  Macro-averaging AUC  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  tie [0.460 9]
                     Hamming loss    tie [0.078 1]  win [0.031 3]  win [0.007 8]  win [0.023 4]  win [0.023 4]  win [0.031 3]
                       One-error    win [0.023 4]  win [0.007 8]  win [0.007 8]  win [0.039 1]  win [0.007 8]  win [0.023 4]
                       Coverage     win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]
                      Ranking loss  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  win [0.007 8]  tie [0.156 3]

                  3.3   消融分析
                    本节对   INVA  方法设计中的关键元素进行消融分析. 在第             3.1.1  节中介绍的  8  个基准数据集上, 进行十折交叉
                 验证来评价    INVA  方法和其变种方法的性能         (实验结果见表     5), 并进行威尔科克森符号秩检验以分析方法的统计
                 性能差异   (分析结果见表     6).
                    无关特征操纵有效性: 在学习过程中, INVA           方法对各个标记判别的无关特征进行辨识, 并对无关特征进行扰
                 动, 从而面向各个标记的判别偏好实现特征不变性的注入. 为验证无关特征操纵过程的有效性, 实现了两个变种方
                 法  (分别记为  INVA-sn  和  INVA-nn). INVA-sn  方法不再辨识类属的无关特征, 仅利用标记间共享的随机噪声对样
                       z 进行扰动. INVA-nn                                                        z 进行标记的
                 本表示                    方法进一步移除无关特征操纵过程, 直接基于标记间共享的样本表示
                 判别. 如表   5  和表  6  所示, 在各项评价指标上     INVA  方法均显著优于变种方法          INVA-sn  和  INVA-nn, 证明了
                 INVA  方法中基于不变性注入的无关特征操纵过程在多标记分类问题中的优越性.
                    问题上界优化有效性: INVA        方法推导了扰动风险最小化问题的理论上界, 通过优化该上界实现扰动风险最
                 小化问题的求解. 为验证该优化策略的有效性, 实现了一个变种方法                     (记为  INVA-sa). 该方法利用公式    (5) 所示的
                 蒙特卡洛采样技术对扰动风险最小化问题中的期望项进行估计, 通过对期望估计进行优化实现扰动风险最小化问
   272   273   274   275   276   277   278   279   280   281   282