Page 101 - 《软件学报》2026年第4期
P. 101

1542                                                       软件学报  2026  年第  37  卷第  4  期


                 (即去除任务敏感的提示融合策略及开放阈值机制), 从实验结果中可以看出, 该方法在持续学习精度和开放检测
                 能力上均表现极差, 说明其缺乏对任务和类别变化的建模能力, 进一步强调了本文所提                            TP-MoE  框架中任务敏感
                 的提示融合策略、路由机制与任务感知开放阈值策略的必要性.

                                              表 2 TP-MoE  与基准模型的对比结果

                                                Split-CIFAR100 (CI-OWCL场景)    Open-CORe25 (DI-OWCL 场景)
                   类型           方法
                                              ACC t  (↑)  AUC t  (↑)  FPR t  (↓)  ACC t  (↑)  AUC t  (↑)  FPR t  (↓)
                                   OpenMax   0.436±0.048  0.133±0.051  0.937±0.046  0.424±0.063  0.244±0.050  0.968±0.039
                                   MaxLogits  0.445±0.041  0.103±0.047  0.931±0.045  0.412±0.179  0.259±0.053  0.964±0.037
                           L2P
                                    Entropy  0.445±0.028  0.120±0.038  0.932±0.041  0.424±0.063  0.257±0.063  0.958±0.046
                                  EnergyBased  0.445±0.038  0.102±0.043  0.925±0.040  0.425±0.065  0.256±0.057  0.970±0.057
                                   OpenMax   0.423±0.031  0.139±0.037  0.928±0.045  0.402±0.029  0.270±0.024  0.960±0.036
                                   MaxLogits  0.425±0.034  0.114±0.039  0.933±0.042  0.408±0.113  0.261±0.017  0.975±0.022
                        DualPrompt
                                    Entropy  0.425±0.045  0.204±0.032  0.936±0.048  0.408±0.112  0.267±0.026  0.961±0.019
                   持续             EnergyBased  0.425±0.046  0.114±0.049  0.942±0.039  0.408±0.112  0.260±0.030  0.973±0.020
                   学习              OpenMax   0.439±0.036  0.125±0.042  0.936±0.046  0.413±0.032  0.278±0.045  0.953±0.020
                   与开              MaxLogits  0.439±0.047  0.090±0.039  0.942±0.047  0.415±0.033  0.183±0.028  0.964±0.018
                   放检    CODA-P     Entropy  0.439±0.036  0.106±0.053  0.936±0.047  0.415±0.033  0.256±0.056  0.953±0.021
                   测的
                   组合             EnergyBased  0.439±0.031  0.089±0.053  0.946±0.039  0.415±0.033  0.169±0.022  0.962±0.018
                   方法              OpenMax   0.440±0.044  0.112±0.042  0.876±0.043  0.433±0.025  0.283±0.038  0.960±0.029
                                   MaxLogits  0.440±0.042  0.099±0.042  0.882±0.038  0.433±0.026  0.238±0.029  0.965±0.025
                          ADAM
                                    Entropy  0.440±0.042  0.221±0.043  0.876±0.047  0.433±0.025  0.197±0.016  0.967±0.021
                                  EnergyBased  0.440±0.035  0.386±0.042  0.869±0.041  0.433±0.027  0.345±0.023  0.906±0.035
                                   OpenMax   0.467±0.045  0.091±0.044  0.879±0.042  0.472±0.022  0.201±0.020  0.952±0.013
                                   MaxLogits  0.468±0.042  0.092±0.042  0.878±0.039  0.472±0.022  0.212±0.017  0.963±0.010
                          RanPAC
                                    Entropy  0.468±0.049  0.091±0.041  0.871±0.031  0.472±0.022  0.219±0.021  0.962±0.010
                                  EnergyBased  0.468±0.046  0.227±0.038  0.869±0.041  0.475±0.021  0.411±0.025  0.939±0.021
                  开放世           MoE          0.212±0.072  0.200±0.030  0.995±0.002  0.120±0.035  0.102±0.031  0.991±0.004
                  界持续          MORE          0.716±0.011  0.717±0.127  0.492±0.016  0.641±0.077  0.641±0.077  0.517±0.011
                   学习          Pro-KT        0.779±0.010  0.745±0.010  0.397±0.026  0.635±0.011  0.675±0.125  0.451±0.015
                   方法          TP-MoE        0.876±0.023  0.915±0.016  0.280±0.101  0.797±0.087  0.789±0.245  0.320±0.074

                    总体来看, TP-MoE    在两个基准数据集上都实现了在准确率、开放集检测能力和误拒控制上的均衡优化, 展
                 现出良好的泛化性能与稳健性. 相比于现有方法通常存在“精度提升伴随高误拒”或“开放检测能力弱”的问题, TP-
                 MoE  在  3  项指标上的优化能力体现了其在开放世界持续学习场景中强大的知识积累和知识迁移能力.
                  5.4   消融实验
                    为了深入验证      TP-MoE 模型中关键结构设计的有效性, 我们设计了两组消融实验, 分别针对任务敏感的提示
                 融合模块与非线性残差门控机制进行评估. 这两部分模块共同构成了                       TP-MoE  的消融核心, 其设计旨在增强模型
                 对任务切换的适应能力与对类别边界的知识保持能力, 进而缓解开放世界持续学习中常见的灾难性遗忘与泛化退
                 化问题.
                    表  3  展示了在移除任务敏感提示融合模块、保留残差门控的设置下, TP-MoE 在 Split-CIFAR100 数据集上
                 10  个任务中的表现. 从表中可以观察到, 模型在各项指标上均表现出良好的稳定性与判别能力, 尤其是在前半部
                 分任务   (任务  1–任务  5) 中, 模型准确率   ACC t  基本维持在 90% 以上, 其中任务     1  达到最高的   98.70%, 显示出模型
                 在学习初期任务时的强泛化能力和高质量表示学习效果.

                    此外, 模型在任务切换过程中仍能保持较高的               AUC t  (如任务  1  达到  90.73%), 说明即使在不依赖任务敏感提
                 示的前提下, 模型仍然具备出色的类别判别能力与边界保留能力. 这说明模型的专家选择机制在残差门控调控下
                                                                                   FPR t  上, 模型在整个任务序
                 仍能一定程度上进行合理路由, 有效维持知识迁移的稳定性. 在反映遗忘程度的指标
   96   97   98   99   100   101   102   103   104   105   106