Page 104 - 《软件学报》2026年第4期

李昱洁 等: 面向开放世界持续学习的任务敏感提示驱动混合专家模型 1545

AUC t 指标均处于较高水平 (均超过 87% 和 0.91), 其中 tanh 表
的结果显示, 各激活函数下模型的准确率 ACC t 和
现略优, ACC t 达到 87.47%, FPR t 维持在 0.281 以下, 说明模型对激活函数的鲁棒性较强; 同时, Sigmoid 与 GELU
也展现出良好的泛化能力, 表现差异不大. Open-CORe25 实验结果中, 模型对激活函数更加敏感, tanh 虽在准确率
上略高 (79.78%), 但其 FPR t 达到 0.32, 显著高于 ReLU (0.29) 与 GELU (0.29), 提示在开放音频任务中过度平滑的
激活函数可能导致过拟合边界. 总体来看, TP-MoE 对激活函数选择较为稳健.
图 4 展示了不同阈值设定对 TP-MoE 模型开放检测能力的影响. 图 4(a) 为 Split-CIFAR100 数据集上使用不
同阈值设定下 TP-MoE 的开放检测效果, 图 4(b) 为 Open-CORe25 数据集上使用不同阈值设定下 TP-MoE 的开放
检测效果.
从图 4(a) 可以观察到, 当阈值设定为 0.3 或 0.4 时, AUC t 达到峰值 (0.97 和 0.95), 说明低阈值更有利于模型识
别开放类样本. 而随着阈值上升, 模型更趋于保守, FPR t 虽降低 (如 0.21@0.6), 但同时伴随显著的性能衰减 (AUC t
降至 0.87@0.6), 表明存在明显的性能-风险权衡. 在图 4(b) 中, 类似趋势也得以体现, 最佳检测性能出现在阈值为
0.6 附近, 整体表现相对平稳. 总体看来, TP-MoE 在不同阈值设定下表现出良好的渐变响应与策略稳定性, 验证其
在开放空间中具备良好的泛化能力.
综上, TP-MoE 模型在多项关键超参数 (提示结构、激活函数、阈值控制) 上的表现总体稳健, 且对不同数据
集和任务设定均具备良好的自适应能力, 展现出较高的容错性与泛化性. 上述结果为未来 TP-MoE 的迁移扩展与
部署应用提供了重要参考依据.
6 总 结

本文围绕开放世界持续学习中面临的任务分布漂移、类别开放不确定与判别泛化难的问题, 本文对开放世界
持续学习进行了形式化描述, 并提出了一种任务敏感提示驱动的混合专家模型 (TP-MoE). 该模型通过引入任务敏
感提示融合机制与非线性稀疏激活的专家结构, 实现了对不同任务语义的显式建模与知识路由调度, 有效保证了
模型在处理开放世界持续学习任务时对已知类别的增量学习能力和对未知样本的检测能力. 本文在两个开放世界
持续学习基准数据集上与 23 个组合基准模型进行了对比实验, 实验结果表明, TP-MoE 在多个指标上均显著优于
现有方法. 消融实验验证了提示融合与门控机制的有效性, 而参数稳健性分析进一步揭示了模型对提示结构、激
活函数与阈值变化的良好适应能力, 表现出高度可控性与迁移泛化性. 总体而言, TP-MoE 为开放世界持续学习中
的无回放任务感知建模提供了新思路, 展示出在多模态、动态开放环境下进行自适应性的知识传输、知识判别调
度和知识更新的能力.

References
[1] Ke ZX, Liu B, Huang XC. Continual learning of a mixed sequence of similar and dissimilar tasks. In: Proc. of the 34th Int’l Conf. on
Neural Information Processing Systems. Vancouver: Curran Associates Inc., 2020. 1553.
[2] Chu ZX, Li RP, Rathbun S, Li S. Continual causal inference with incremental observational data. In: Proc. of the 39th IEEE Int’l Conf. on
Data Engineering. Anaheim: IEEE, 2023. 3430–3439. [doi: 10.1109/ICDE55515.2023.00263]
[3] Wang HM, Zhang YY, Yang YF, Zheng YF, Wong KF. Acquiring new knowledge without losing old ones for effective continual
dialogue policy learning. IEEE Trans. on Knowledge and Data Engineering, 2024, 36(12): 7569–7584. [doi: 10.1109/TKDE.2023.
3344727]
[4] Bendale A, Boult T. Towards open world recognition. In: Proc. of the 2015 IEEE Conf. on Computer Vision and Pattern Recognition.
Boston: IEEE, 2015. 1893–1902. [doi: 10.1109/CVPR.2015.7298799]
[5] Joseph KJ, Khan S, Khan FS, Balasubramanian VN. Towards open world object detection. In: Proc. of the 2021 IEEE/CVF Conf. on
Computer Vision and Pattern Recognition. Nashville: IEEE, 2021. 5826–5836. [doi: 10.1109/CVPR46437.2021.00577]
[6] Liu B, Mazumder S, Robertson E, Grigsby S. AI autonomy: Self-initiated open-world continual learning and adaptation. AI Magazine,
2023, 44(2): 185–199. [doi: 10.1002/aaai.12087]
[7] Guo YD, Liu B, Zhao DY. Dealing with cross-task class discrimination in online continual learning. In: Proc. of the 2023 IEEE/CVF
Conf. on Computer Vision and Pattern Recognition. Vancouver: IEEE, 2023. 11878–11887. [doi: 10.1109/CVPR52729.2023.01143]