Page 44 - 《软件学报》2026年第4期
P. 44
翟浩杰 等: 基于自适应策略优化的鲁棒泛化权衡学习 1485
表 5 CIFAR-100 数据集上各种策略调整方法鲁棒模型 (adv) 的测试准确率对比 (%)
方法 lr Clean FGSM PGD-10 PGD-20 PGD-50 AA C&W
lr1 57.04 29.63 26.32 25.75 25.52 22.84 10.24
PGD-AT
lr2 56.70 27.74 24.08 23.57 23.38 21.19 6.91
PGD-AT-linear lr1 64.63 22.39 15.31 14.05 13.78 12.76 0.55
(ε max = 8/255) lr2 63.07 24.60 18.12 17.02 16.63 15.65 1.17
PGD-AT-linear lr1 61.37 25.12 19.21 18.24 17.80 16.96 1.30
(ε max = 12/255) lr2 59.74 25.80 21.01 19.96 19.71 18.93 2.24
PGD-AT-linear lr1 58.94 25.25 20.16 19.40 19.15 18.02 1.97
(ε max = 16/255) lr2 61.71 27.52 22.68 21.51 21.11 19.48 4.58
TRG-ASO lr1 53.78 30.36 28.19 28.02 27.92 24.37 14.38
表 6 CIFAR-100 数据集上各种策略调整方法综合模型 (sum) 的测试准确率对比 (%)
方法 lr Clean FGSM PGD-10 PGD-20 PGD-50 AA C&W
lr1 57.04 29.63 26.44 25.78 25.61 22.83 10.23
PGD-AT
lr2 56.87 27.89 24.17 23.49 23.33 21.45 6.61
PGD-AT-linear lr1 64.69 22.42 15.14 13.86 13.63 12.59 0.58
(ε max = 8/255) lr2 66.24 23.78 16.06 14.69 14.42 13.33 1.67
PGD-AT-linear lr1 63.30 24.36 17.96 16.64 16.38 15.66 1.17
(ε max = 12/255) lr2 63.82 26.21 20.39 19.33 18.88 17.42 3.15
PGD-AT-linear lr1 67.41 21.83 14.31 12.88 12.31 11.04 1.34
(ε max = 16/255) lr2 61.71 27.52 22.63 21.58 21.15 19.46 4.58
TRG-ASO lr1 54.50 30.42 28.07 27.50 27.51 24.10 12.96
4.2.2 模型收敛趋势分析
为了深入分析模型的收敛趋势并监测过拟合现象, 我们记录了以上方法在 CIFAR-10 测试集上的两项关键指
标, 即干净准确率和鲁棒准确率的变化趋势. 其中, 干净准确率反映了模型在未受干扰的原始数据上的性能表现,
而鲁棒准确率则通过生成对抗样本来评估模型在对抗环境下的稳定性. 此部分实验中, 鲁棒准确率的评估采用
PGD-10 攻击生成对抗样本. 图 2 和图 3 展示了各种训练方式下鲁棒准确率和干净准确率随训练周期的变化趋势.
图 4 展示了 TRG-ASO 针对攻击策略的阶段性自适应优化结果.
早停 90
50 80
鲁棒准确率 (%) 30 PGD-AT (lr1, 8/255) 干净准确率 (%) 70 PGD-AT (lr1, 8/255)
40
早停
PGD-AT (lr2, 8/255)
60
PGD-AT (lr2, 8/255)
PGD-AT-linear (lr1, 8/255)
PGD-AT-linear (lr1, 8/255)
20
PGD-AT-linear (lr2, 8/255)
50
PGD-AT-linear (lr2, 8/255)
PGD-AT-linear (lr1, 12/255)
PGD-AT-linear (lr2, 12/255)
PGD-AT-linear (lr2, 12/255)
10
PGD-AT-linear (lr1, 16/255)
PGD-AT-linear (lr1, 16/255) 40 PGD-AT-linear (lr1, 12/255)
PGD-AT-linear (lr2, 16/255)
PGD-AT-linear (lr2, 16/255) 30
0 TRG-ASO TRG-ASO
0 25 50 75 100 125 150 175 200 0 25 50 75 100 125 150 175 200
周期 周期
图 2 各策略在 CIFAR-10 上的鲁棒准确率 图 3 各策略在 CIFAR-10 上的干净准确率
从图 2 和图 3 中可以看出, 在标准对抗训练 PGD-AT 下, 不论使用哪一种学习率调整方式, 模型在训练后期
均会陷入鲁棒过拟合, 并且只有在学习率调整后, 对抗准确率有短暂的上升, 之后仍然出现了过拟合现象. 相比之
下, TRG-ASO 可以使模型更快、更早地获得更高的鲁棒性, 同时可以在相邻两次攻击策略调整时, 依据适应度函
数值的变化来判断是否实施早停, 从而避免严重的过拟合现象发生. 由于 TRG-ASO 在训练过程中会阶段性地调
整策略, 这使得模型即使陷入过拟合, 依然可以借助策略调整从过拟合中解脱出来. 综上所述, TRG-ASO 可以在训
练初期有效实现鲁棒准确率和干净准确率的同步提升, 且当二者在某阶段呈现出相反的趋势时, 依然对鲁棒性提

