Page 169 - 《软件学报》2026年第4期

1610 软件学报 2026 年第 37 卷第 4 期

素级细节 (“黑色的翅膀尖端”)、区域级特征 (“黄色的喙”) 或全局语义 (“飞翔的鸟”), 而语言描述的抽象层次往往
与视觉特征的空间尺度不一致, 造成概念边界模糊. 最后, 缺乏统一的对齐评估标准. 现有方法多采用任务特定的
对齐策略, 缺乏跨模态概念质量的统一度量框架, 导致不同模态概念之间的一致性难以保证. 解决多模态概念对齐
的核心思路是构建认知启发的统一语义空间, 可以借鉴人类多感官整合的认知机制, 采用多阶段对齐策略. 首先是
模态内概念提纯, 在各模态内部通过自监督学习提取具备认知合理性的概念原型; 其次是跨模态语义锚定, 利用共
享的认知概念 (如基本层次概念) 作为锚点, 建立模态间的语义对应关系; 最后统一空间投影, 将不同模态的概念
表示投影到共享的几何语义空间中, 保持概念的拓扑结构和语义关系. 此外可以引入人机交互方法, 实时展示概念
在不同模态的邻域, 让人类用点击拖拽微调概念边界, 每一次交互被记录为软约束, 使不同模态的概念表示在人类
认知的监督下进行准确对齐.
(4) 大模型时代下的可解释性研究难题. 大模型可解释性面临前所未有的挑战. 首先, 参数规模与结构复杂性
的指数级增长. 从 GPT-3 的 1 750 亿参数到 GPT-4 的万亿级参数, 模型内部包含许多注意力头和前馈层, 其决策路
径呈现高度非线性和多层级嵌套特征, 传统的神经元级分析方法在计算复杂度和解释粒度上都面临瓶颈. 其次, 黑
盒访问限制下的信息不对称. 商业化大模型通常只提供 API 接口, 研究者无法获取中间层激活、梯度信息或注意
力权重, 这使得基于内部状态分析的传统解释方法失效. 最后, 生成式特征导致的解释验证困难. 大模型的输出具
有高度随机性和创造性, 同一输入可能产生截然不同的输出, 这使得解释的一致性、可重现性和因果有效性难以
保证. 针对大模型黑盒特性, 可解释方法可以从重构模型的概念推理过程和理解模型内部角度着手. 研究人员尝试
将表层概念显化, 如利用思维链 (CoT) [73] 和提示词工程 [74] 将隐式推理路径转化为“文本化的概念序列”, 使中间推
理步骤变得可观察和可验证. 此外还通过对比性提示、反事实干预和概念激活探测等方法 [75] , 系统性地探索模型
的概念知识边界和推理模式. 还有一种研究思路利用更强的语言模型 (如 GPT-4) 对目标模型进行“概念标注”, 构
建模型内部的概念知识图谱. Meta 最新提出的 large concept model (LCM) [76] 把“概念”明确定义为句子级语义单元,
将传统的“下一个 token”预测升级为“下一个句子”预测. 通过在句子嵌入空间内完成全部推理, LCM 天然获得一
组可读、可写的高层语义变量, 无需 CoT 提示就能直接输出概念层面的解释, 从而有效抑制链式思维中常见的幻
觉. 综上, 大模型可解释性研究仍处于萌芽期, 传统解释范式在超大规模参数、黑盒访问限制与生成不确定性等问
题面前全面失效, 亟需建构适配大模型的新型解释范式.
6 结束语

随着深度学习在关键任务中日益广泛的应用, 其“黑盒”特性所带来的安全性、可控性与信任危机日益凸显.
基于概念的可解释方法, 作为连接模型表示与人类认知的重要桥梁, 正成为当前可解释人工智能研究的热点与前
沿方向. 本文围绕“概念建模”这一核心视角, 系统梳理了深度模型中概念建构的主要形式、建模机制与应用路径,
按照事后与事中两个范式以及对概念标注的需求程度对代表性工作进行了归类与比较, 揭示了不同方法在语义表
达、推理透明性与认知一致性方面的优势与局限.
总体而言, 概念不仅提升了解释的语义深度, 更推动了从“模型关注了什么”到“模型理解了什么”的转变. 未来,
随着认知科学、大模型技术与因果建模方法的持续融合, 基于概念的可解释研究有望迈向更高层次的语义抽象、
更强的因果推理能力与更优的人机协同性能. 期待这一研究方向在理论深化与实际落地中持续突破, 助力构建更
加透明、可信与智能的深度学习系统.

References
[1] LeCun Y, Bottou L, Bengio Y, Haffner P. Gradient-based learning applied to document recognition. Proc. of the IEEE, 1998, 86(11):
2278–2324. [doi: 10.1109/5.726791]
[2] Krizhevsky A, Sutskever I, Hinton GE. ImageNet classification with deep convolutional neural networks. Communications of the ACM,
2017, 60(6): 84–90. [doi: 10.1145/3065386]
[3] He KM, Zhang XY, Ren SQ, Sun J. Deep residual learning for image recognition. In: Proc. of the 2016 IEEE Conf. on Computer Vision
and Pattern Recognition. Las Vegas: IEEE, 2016. 770–778. [doi: 10.1109/CVPR.2016.90]