Page 289 - 《软件学报》2021年第9期
P. 289
沈军 等:基于卷积神经网络的低嵌入率空域隐写分析 2913
秒.根据 Shen-Net 与其他 4 个网络的训练和测试时间可以反映出,S-CNN 的模型性能接近于 5 个模型的平均值,
Shen-Net 的模型性能虽然不是最优的,但是也能达到较好的水平.
3.4 迁移学习实验
为了进一步对提高低嵌入率的检测效果,如 0.05bpp、0.1bpp 和 0.2bpp,本文采用迁移学习方法将嵌入率为
0.3bpp、0.4bpp 和 0.05bpp 训练得到的网络模型参数,分别迁移至 0.05bpp、0.1bpp 和 0.2bpp 下进行微调训练.
通过将高嵌入率的模型参数有效地迁移至相同隐写算法低嵌入率中进一步进行特征学习,有效提升了模型对
低嵌入率的隐写分析能力.除了通过直接将嵌入率为 0.3bpp、0.4bpp 和 0.05bpp 下的预训练的模型迁移至低嵌
入率中进行训练以外,实验中通过逐步迁移(step by step)学习,对嵌入率差距较大的情况进行有效的参数迁移.
针对本文提出的 Shen-Net 网络,分别对 WOW、S-UNIWARD 和 HILL 这 3 种隐写算法进行迁移学习实验.
表 9展示了 Shen-Net对 WOW隐写算法未进行迁移学习与 4种迁移学习方式的检测准确率对比.对 0.05bpp
进行迁移学习,较好地提升了准确率,其中,通过 0.3bpp 和逐步迁移的方式,相比未进行迁移学习提升了 2%左右.
其次,逐步迁移的方法对 0.1bpp 的检测准确率也提升了 1%左右.但是对于 0.2bpp 而言,迁移学习并没有提升检
测准确率.
Table 9 Comparison of transfer learning detection accuracy of WOW
表 9 WOW 隐写算法迁移学习检测准确率对比
Payload(bpp) 0.2 0.1 0.05
No-transfer 89.05% 78.65% 66.55%
Trans-0.5bpp 88.94% 78.85% 67.45%
Trans-0.4bpp 89.04% 78.69% 67.21%
Trans-0.3bpp 89.04% 78.78% 68.62%
Trans-step-by-step 89.05% 79.61% 68.45%
S-UNIWARD 隐写算法下,使用迁移学习的检测准确率对比结果见表 10.在 0.05bpp 下,通过迁移学习能够
在未进行迁移学习的基础上提升 1%左右,其中,0.5bpp 和 0.4bpp 迁移学习的效果最好.在 0.1bpp 和 0.2bpp 下,
迁移学习的方法检测准确率都能得到一定的提升.
Table 10 Comparison of transfer learning detection accuracy of S-UNIWARD
表 10 S-UNIWARD 隐写算法迁移学习检测准确率对比
Payload(bpp) 0.2 0.1 0.05
No-transfer 91.30% 83.18% 73.63%
Trans-0.5bpp 91.66% 83.65% 74.68%
Trans-0.4bpp 91.73% 83.99% 74.68%
Trans-0.3bpp 91.66% 83.65% 74.52%
Trans-step-by-step 91.53% 83.87% 74.62%
迁移学习方法对 HILL 隐写算法检测准确率的对比结果见表 11,整体而言,逐步迁移学习的检测效果能够
得到最好的提升.其中,在 0.05bpp 和 0.1bpp 下,逐步迁移的方法能够在未进行迁移学习的基础上分别提升 2%和
1%左右.
Table 11 Comparison of transfer learning detection accuracy of HILL
表 11 HILL 隐写算法迁移学习检测准确率对比
Payload(bpp) 0.2 0.1 0.05
No-transfer 89.52% 80.32% 70.48%
Trans-0.5bpp 89.73% 81.18% 70.99%
Trans-0.4bpp 89.65% 80.39% 70.28%
Trans-0.3bpp 89.56% 81.39% 71.62%
Trans-step-by-step 89.75% 81.41% 72.10%
通过以上实验可以发现,使用逐步迁移学习的方法能够获得更为稳定的准确率提升.特别是在 0.05bpp 下,
相比未进行迁移学习的效果提升更为明显.但是在 0.2bpp 下,由于 Shen-Net 未进行迁移学习时,在训练阶段同样
能够学习到足够的隐写特征,因此迁移学习对检测准确率的提升不大.