Page 105 - 《软件学报》2026年第7期

2790 软件学报 2026 年第 37 卷第 7 期

关键. 攻击者常利用字符串编码、控制流重构、动态代码生成等方式混淆恶意逻辑, 以规避规则检测. Fass 等人 [153]
提出的 JaSt 系统通过结合 JavaScript AST 与随机森林模型, 实现了对混淆代码典型结构的识别, 准确率接近
99.5%. 同时, 基于异常命名模式、冗长无意义字符串与嵌套 eval 调用等指标的语义异常检测方法也被提出, 用于
提示高风险模块进入人工复核 [154] . 在流程层面, 攻击者可能通过绕过审查机制或篡改标签发布进行投毒. 为此,
Torres-Arias 等人 [107] 提出 RSL (reference state log) 机制, 利用加密签名日志保障仓库在提交与拉取过程中的一致
性, 从根源上降低元数据篡改的风险. 此外社区应当加强针对异常行为的关键性检测, 例如加强针对在非正常时间
进行代码变更, 含有大量混淆代码的变更, 任务名称与代码修改不一致的变更等异常行为的识别.
总体而言, 应当在以规则驱动的静态审查基础上, 针对代码变更、新依赖引入、配置更改等关键环节建立行
为建模、模糊检测与流程验证的多层次防护体系. 未来研究需要在提升检测覆盖率与降低误报率之间取得平衡,
并进一步强化与社区审查机制的协同, 从而在恶意代码渗透的早期阶段暴露攻击行为.
5.1.3 大模型数据安全治理
相较于传统软件系统, 大语言模型对训练数据的分布特征与语义一致性具有更高敏感性, 攻击者可通过在训
练集中注入少量恶意样本诱导模型行为发生偏移, 进而为模型植入后门或埋藏泄露敏感信息的风险. 因此, 构建覆
盖训练数据源头治理与训练过程鲁棒优化的双层防御体系, 已成为提升大模型内在安全性与抗攻击能力的关键途
径 [155,156] .
在软件物料安全数据训练与治理层面, 数据筛选与可信审计机制被广泛引入, 以防范低质量或恶意语料污染

模型. 典型做法包括构建 CycloneDX、ML-BOM 等数据物料清单 (bill of materials, BOM) 体系, 系统记录数据来
源、处理链路与版本信息, 并辅以供应商合规审查与多维度一致性验证 [157] . 此外, 针对监督微调中潜在的知识泄
露与后门植入风险, 知识净化方法通过对特定参数子结构 (如前馈网络层) 实施定向微调, 配合安全响应目标训练,
在控制通用能力损失的同时有效抑制敏感信息泄露. 例如, Ishibashi 等人 [158] 基于参数高效微调技术 (如 LoRA), 显
著降低了多个开源模型在隐私泄露基准上的暴露风险. 尽管如此, 现有数据清洗与审计方法在面对超大规模异构
语料时, 仍面临高误报与自动化处理能力不足的挑战.
在训练过程鲁棒性层面, 优化算法设计是抵御投毒与后门攻击的核心技术路径. 对抗训练通过引入对抗样本
增强模型在污染环境下的泛化能力, 被广泛验证可有效缓解后门触发行为 [159] . 在此基础上, Zhao 等人 [160] 提出
W2SDefense 框架, 借助清洁教师模型与蒸馏机制引导污染模型实现后门遗忘, 在多项基准中实现了高精度攻击清
除与最小性能损失. 为进一步应对由投毒导致的模型行为偏差, 研究者提出上下文鲁棒架构 [161] 与自去噪学习机制 [162] ,
通过增强输入敏感性建模与语义一致性约束, 提升模型输出的稳定性与可靠性.
总体而言, 大语言模型的数据投毒威胁其于训练阶段, 其防护策略核心应围绕训练数据质量控制与训练算法
鲁棒性增强展开. 当前研究已从孤立的技术点防御, 逐渐发展为覆盖训练全流程的综合治理框架. 未来工作需致力
于提升数据筛查的自动化水平与精度, 发展更高效的无害化训练方法, 并探索数据与模型协同分析的统一治理范
式, 以构建更加健壮和可信的大模型安全基座.
5.2 在产业闭源研发阶段持续合规与攻击面收敛
在开源软件供应链攻击向产业环境扩散的过程中, 依赖管理平台、CI/CD 流水线与构建工具链常成为威胁的
“放大器”. 尽管 GitHub、npm 等平台推动生态繁荣, 并已提供签名验证、漏洞告警、分支保护等安全能力, 但其
保障体系整体呈现“可用而不均衡”: 机制并非缺失, 而是多为自愿接入或按项目配置, 覆盖与深度有限、跨项目一
致性与自动化强度不足; 同时部分高阶能力 (如强制性供应链签名、策略化审批、企业级密钥管控) 往往绑定于
高级订阅, 导致大量社区项目难以获得持续性强防护. 叠加开源维护模式的异质性与依赖链条的传递性, 攻击者得
以借助 CI/CD 流水线实现快速且隐蔽的跨环节传播, 因而产业侧亟需在产业研发阶段进行系统化的持续合规并
在源码采纳和成品交付的出入口构建灰度管控机制, 以“抓中间、掐两头”的方式做好产业研发的动态防护.
5.2.1 DevSecOps 持续合规实践
DevSecOps, 即 development (开发)、security (安全) 与 operations (运维) 的缩写, 是一种将安全实践系统性嵌