Page 324 - 《软件学报》2026年第7期

杨波 等: PBAT: 基于代理分布的深度学习模型防御加固方法 3009

(a) 原始样本 (b) 对抗样本
图 8 PBAT 训练后 Faster R-CNN 模型的检测结果

从根本原因上分析, PBAT 降低了对抗训练后模型发生鲁棒过拟合的可能性, 从正确类别的分类置信度有所
提高这一表现可以看出, 模型的决策边界过度偏向对抗样本这一对抗训练方法中存在的典型问题得到了一定的减
轻. 鲁棒决策边界更加合理. 从在多种类型的攻击下具有最好的平均鲁棒精度这一表现来看, 提高了模型对广泛攻
击的普遍防御性. 体现出新数据的加入确实有利于再训练这一加固过程. 而对于不同的参数进行的一系列消融实
验, 进一步确定了较为均衡的训练数据的设置将更有利于鲁棒性的获得, 达到调整加固训练的效果.
本文提出的 PBAT 方法默认使用了对抗生成模型结构, 让代理分布模型学习目标分布, 生成帮助实现原先两
个分布之间的平滑过渡的新数据——代理分布样本. 利用代理分布样本这一增强数据, 帮助模型更好地获得鲁棒
边界, 从而训练出在对抗攻击下有更好表现的加固模型. 同时, 还进一步提出了为防止在简单 MNIST 数据集上会
出现的鲁棒过拟合现象而设计的新损失函数, 实验结果也证明了使用该损失函数后能有效地阻止这一现象发生.
5 总结与展望

在本文中, 提出了一种基于代理分布的对抗训练方法 PBAT, 在典型的图像领域的智能模型 ResNet-20、GoogLeNet
和 Faster R-CNN, 3 个典型的数据集 CIFAR10、MNIST 和 PASCAL VOC 上, 以及图像分类和目标检测两大领域
任务上开展了大量实验. 实验结果表明, 基于代理分布的对抗训练方法可以在不同的模型及任务之间进行转移, 并
相较于其他方法具有较好的表现, 有利于模型把握数据分布, 降低模型鲁棒风险, 提高泛化, 帮助模型获得更好的
安全性, 为解决智能模型安全领域问题提供一个新的思路.
本文认为, PBAT 方法有利于智能模型获得更好的对抗鲁棒性, 是一个优于对抗训练的有效的模型加固方法.
在未来, 将继续探索更优质的概率模型和数据多样性技术, 进一步改善训练数据集的分布构成, 在更新更广泛的领
域开展实验, 以解决现存的问题, 进一步提高在面对更强更新的迭代攻击时的防御性能, 保证智能模型的安全. 另
外, 未来还将在更多实际项目以及智能模型应用领域继续开展实验, 以不断完善成熟这项技术.

References
[1] Hinton GE, Salakhutdinov RR. Reducing the dimensionality of data with neural networks. Science, 2006, 313(5786): 504–507. [doi: 10.
1126/science.1127647]
[2] Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition. In: Proc. of the 3rd Int’l Conf. on
Learning Representations. San Diego, 2015. 1–14.
[3] Taigman Y, Yang M, Ranzato M, Wolf L. DeepFace: Closing the gap to human-level performance in face verification. In: Proc. of the
2014 IEEE Conf. on Computer Vision and Pattern Recognition. Columbus: IEEE, 2014. 1701–1708. [doi: 10.1109/CVPR.2014.220]
[4] Han D, Im D, Park G, Kim Y, Song S, Lee J, Yoo HJ. A DNN training processor for robust object detection with real-world
environmental adaptation. In: Proc. of the 4th IEEE Int’l Conf. on Artificial Intelligence Circuits and Systems (AICAS). Incheon: IEEE,
2022. 501–501. [doi: 10.1109/AICAS54282.2022.9869954]
[5] Paigwar A, Erkent Ö, Sierra-Gonzalez D, Laugier C. GndNet: Fast ground plane estimation and point cloud segmentation for autonomous