Page 363 - 《软件学报》2024年第4期
P. 363
吕沈欢 等: 多标记学习中基于交互表示的深度森林方法 1941
在 9.52% 的测试中排名第 2. 综上所述, iMLDF 在各种评估指标的广泛基准数据集上取得了与其他竞争者相比的
最佳性能, 这验证了 iMLDF 的有效性.
表 3 7 个数据集上比较方法的预测性能
度量 算法 VirusPse-AAC CAL500 CHD_49 Emotions Image Slashdot Reuters-K500
RF-PCT 0.168±0.005 0.136±0.000 0.288±0.002 0.184±0.003 0.165±0.001 0.039±0.000 0.011±0.000
DBPNN 0.199±0.008 0.134±0.000 0.333±0.013 0.217±0.004 0.175±0.002 0.048±0.001 0.011±0.000
RAKEL 0.247±0.016 0.201±0.002 0.357±0.020 0.280±0.010 0.251±0.007 0.051±0.001 0.016±0.000
Hamming
MLKNN 0.186±0.000 0.146±0.000 0.430±0.000 0.307±0.000 0.247±0.000 0.054±0.000 0.014±0.000
loss ↓
MLARAM 0.239±0.000 0.171±0.000 0.329±0.000 0.407±0.000 0.308±0.025 0.100±0.000 0.095±0.001
MLDF 0.172±0.002 0.135±0.000 0.288±0.005 0.172±0.005 0.150±0.002 0.039±0.001 0.011±0.000
iMLDF 0.171±0.004 0.135±0.000 0.284±0.003 0.177±0.005 0.149±0.002 0.038±0.000 0.010±0.000
RF-PCT 0.432±0.022 0.098±0.002 0.236±0.004 0.260±0.010 0.289±0.006 0.411±0.002 0.384±0.003
DBPNN 0.589±0.027 0.090±0.004 0.309±0.013 0.314±0.011 0.309±0.003 0.457±0.002 0.404±0.006
RAKEL 0.684±0.060 0.523±0.027 0.407±0.033 0.492±0.040 0.499±0.007 0.556±0.010 0.631±0.005
One-error ↓ MLKNN 0.552±0.000 0.137±0.000 0.273±0.000 0.505±0.000 0.563±0.000 0.707±0.000 0.772±0.000
MLARAM 0.631±0.000 0.360±0.000 0.415±0.000 0.641±0.000 0.346±0.001 0.511±0.000 0.794±0.001
MLDF 0.426±0.002 0.096±0.002 0.234±0.008 0.262±0.010 0.269±0.004 0.409±0.004 0.374±0.001
iMLDF 0.400±0.013 0.095±0.007 0.238±0.011 0.249±0.005 0.263±0.006 0.414±0.001 0.374±0.001
RF-PCT 0.171±0.007 0.743±0.003 0.450±0.001 0.265±0.002 0.174±0.002 0.105±0.001 0.055±0.001
DBPNN 0.204±0.005 0.740±0.003 0.488±0.007 0.304±0.006 0.190±0.002 0.146±0.002 0.058±0.001
RAKEL 0.279±0.009 0.967±0.002 0.574±0.014 0.431±0.016 0.307±0.007 0.278±0.003 0.333±0.002
Coverage ↓ MLKNN 0.208±0.000 0.753±0.000 0.497±0.000 0.412±0.000 0.279±0.000 0.191±0.000 0.119±0.000
MLARAM 0.296±0.000 0.917±0.000 0.568±0.000 0.483±0.000 0.209±0.000 0.248±0.000 0.197±0.000
MLDF 0.178±0.004 0.739±0.000 0.451±0.006 0.266±0.002 0.166±0.002 0.105±0.002 0.052±0.000
iMLDF 0.161±0.004 0.736±0.003 0.442±0.004 0.265±0.006 0.164±0.002 0.103±0.000 0.052±0.000
RF-PCT 0.181±0.008 0.182±0.001 0.206±0.001 0.134±0.003 0.148±0.003 0.092±0.001 0.042±0.001
DBPNN 0.224±0.006 0.181±0.001 0.258±0.009 0.183±0.006 0.166±0.003 0.126±0.002 0.038±0.000
RAKEL 0.640±0.035 0.694±0.007 0.574±0.022 0.532±0.015 0.533±0.006 0.524±0.007 0.528±0.003
Ranking
MLKNN 0.224±0.000 0.219±0.000 0.268±0.000 0.302±0.000 0.290±0.000 0.176±0.000 0.088±0.000
loss ↓
MLARAM 0.643±0.000 0.436±0.000 0.505±0.000 0.585±0.000 0.241±0.001 0.415±0.000 0.264±0.000
MLDF 0.187±0.004 0.179±0.000 0.208±0.004 0.137±0.002 0.138±0.002 0.090±0.002 0.035±0.000
iMLDF 0.170±0.002 0.178±0.001 0.202±0.005 0.133±0.004 0.136±0.003 0.088±0.001 0.035±0.000
RF-PCT 0.731±0.013 0.498±0.001 0.796±0.001 0.819±0.005 0.811±0.003 0.692±0.001 0.696±0.001
DBPNN 0.647±0.010 0.495±0.002 0.764±0.006 0.782±0.006 0.796±0.002 0.650±0.002 0.672±0.002
RAKEL 0.565±0.014 0.266±0.004 0.718±0.011 0.676±0.011 0.662±0.005 0.540±0.007 0.413±0.004
Average
MLKNN 0.655±0.000 0.440±0.000 0.747±0.000 0.650±0.000 0.650±0.000 0.462±0.000 0.372±0.000
precision ↑
MLARAM 0.562±0.000 0.359±0.000 0.743±0.000 0.570±0.000 0.770±0.001 0.574±0.000 0.370±0.000
MLDF 0.728±0.008 0.500±0.000 0.794±0.006 0.819±0.004 0.823±0.002 0.693±0.001 0.703±0.001
iMLDF 0.751±0.005 0.502±0.002 0.800±0.005 0.824±0.002 0.827±0.004 0.693±0.001 0.703±0.001
RF-PCT 0.769±0.017 0.556±0.007 0.575±0.008 0.871±0.002 0.862±0.001 0.861±0.004 0.896±0.004
DBPNN 0.741±0.011 0.550±0.005 0.575±0.012 0.811±0.006 0.845±0.004 0.820±0.004 0.910±0.005
RAKEL 0.573±0.018 0.508±0.003 0.532±0.016 0.672±0.015 0.669±0.009 0.661±0.010 0.632±0.005
Macro-AUC ↑ MLKNN 0.654±0.000 0.521±0.000 0.498±0.000 0.674±0.000 0.723±0.000 0.664±0.000 0.715±0.000
MLARAM 0.491±0.000 0.511±0.000 0.542±0.000 0.586±0.000 0.812±0.001 0.675±0.000 0.661±0.000
MLDF 0.777±0.004 0.559±0.002 0.589±0.020 0.873±0.001 0.870±0.000 0.865±0.005 0.911±0.001
iMLDF 0.779±0.006 0.560±0.006 0.573±0.006 0.875±0.006 0.871±0.001 0.870±0.001 0.929±0.006
4.3 计算与存储开销
iMLDF 在具有较好的预测表现的同时, 在计算开销上相比于 MLDF 也有显著的优势. 为了展示计算开销的结
果, 我们对比 iMLDF 和 MLDF 在多个数据集上的表现. 我们使用的硬件为: 16×3.70 GHz CPU 以及 128 GB 内存.