Page 93 - 《软件学报》2026年第4期

1534 软件学报 2026 年第 37 卷第 4 期

确定性, 在测试阶段经常会遇到从未见过的未知类别 (open/unseen classes), 使得建立在封闭世界假设之上的传统
持续学习方法在应对开放样本时往往会产生知识误判、错误整合或更新失效等问题, 严重影响模型的泛化能力和
适应能力.
为应对上述不足, 开放世界持续学习 (OWCL) 被提出 [6,12] , 旨在使模型能够在面对新任务持续学习的同时, 具
备识别并适应未知类别的能力. 作为一个新兴的研究领域, 开放世界持续学习更贴近现实应用需求, 因其模拟了模
型在动态开放环境中“边学边识别”的过程. 近期研究对开放世界学习关注日益增强, 部分工作也尝试将开放识别
能力引入持续学习框架中, 例如 Kim 等人 [10] 强调新颖性检测的必要性, Liu 等人 [6] 提出的 SOLA 框架实现任务自
适应增量学习, Li 等人 [9] 提出开放样本的知识传输以帮助模型避免在持续学习过程中由于测试时出现开放样本造
成的误分类.
此外, 当前开放世界持续学习方法仍普遍存在两个关键不足: 一是缺乏统一的知识表征与整合机制, 难以有效
地将历史任务中获得的知识迁移并适配到后续任务; 二是面对频繁出现的未知样本时, 模型易受其干扰, 进一步放
大“开放风险”, 造成知识退化或错误迁移. 这两个不足不仅影响模型对未来任务的适应能力, 也严重阻碍了开放世
界持续学习在现实应用中的落地可能性. 因此, 如何在持续学习过程中构建稳健的知识迁移机制, 以实现对已知与
未知样本的协同学习与表示, 是开放世界持续学习当前亟待解决的关键问题.
在此背景下, 研究开放世界持续学习具有重要现实意义与理论价值. 一方面, 开放世界持续学习为构建具备自
主学习与适应能力的智能系统提供了基础框架, 能更好地支持深度学习模型在动态环境下的长期任务执行; 另一
方面, 开放世界持续学习也推动了对知识迁移机制、不确定性处理和分布漂移响应能力等问题的系统化研究. 因
此, 开发一种兼具开放识别能力、持续学习能力与知识迁移能力的开放世界持续学习模型, 是本文解决的主要问题.

3 先验知识

本节就开放世界持续学习的问题定义、所提方法涉及的相关概念和基本知识予以介绍.
3.1 问题定义: 开放世界持续学习
给定一系列 (可能无穷的) 连续的任务, 在开放世界持续学习的过程中, 如果模型在测试阶段遇到任何新出现
的未知类别 (novel object), 则应将其检测为“未知 (unknown)”. 随着新任务的不断学习, 若模型在任何后续的新任
务中接触到这些“未知样本”的真实标签 (ground-truth label), 这些“未知”将被转化为“已知 (known)”. 开放世界持续
学习模型不仅要具备不遗忘已有知识的能力, 即克服灾难性遗忘问题, 还需要具备识别未知样本并不断更新来自
未知样本的知识和知识迁移的能力.
简要地, 我们对所研究的问题, 即开放世界持续学习, 进行如下数学形式化定义.
问题定义: 开放世界持续学习要求学习一个包含 T 个任务的任务序列 1,...,t,...,T , 其中每个任务都拥有各自
{ ( t n }
)
t
t
t
t
t
t
t
的训练集 D = x ,y , n 表示任务 的训练样本数量, x ∈ X 是输入的训练样本, y ∈ Y 是其对应的类别标签.
tr i i i=1 i i
遵循现有的类增量持续学习设定, 我们给定 OWCL 中, 各任务的训练集中类别互不重叠, 即 Y ∩Y = ∅, ∀n , m,
n
m
T ∪
t
n, m 表示任务序号, Y = Y tr 表示所有训练任务的总体类别集合. 并且, 最关键的一点在于测试阶段可能会
其中
t=1
出现从未在训练集中出现过的、未经训练过的未知类别样本, 即 Y tr , Y te .
总体来说, 开放世界持续学习的目标是构建一个统一的预测函数或分类器, 其能够: 1) 检测出未知/开放类别
的测试样本; 2) 在不遗忘已学知识的前提下, 识别每个已知类别的测试样本. 需要特别注意的是, 在开放世界持续
学习的设定下, 在训练任务 t 时, 先前任务的训练数据 (D ,...,D ) 均是不可获取和使用的.
t−1
1
tr tr
如第 1 节所述, 在开放世界持续学习场景中, 模型需要在保持历史任务知识 (知识的稳定性) 与快速适应新任
务知识 (知识的可塑性) 之间实现有效权衡. 为此, 我们从梯度优化的视角对模型训练过程进行了理论分解.
具体地, 第 t 个任务训练中的总梯度更新可以通用地表示为如下形式:

∇L t (θ) = ∇L old (θ)+∇L new (θ) (1)