Page 384 - 《软件学报》2025年第7期

高梦楠 等: 面向深度学习的后门攻击及防御研究综述 3305

[198] Soomro K, Zamir AR, Shah M. UCF101: A dataset of 101 human actions classes from videos in the wild. arXiv:1212.0402, 2012.
[199] Kuehne H, Jhuang H, Garrote E, Poggio T, Serre T. HMDB: A large video database for human motion recognition. In: Proc. of the 2011
Int’l Conf. on Computer Vision (ICCV). Barcelona: IEEE, 2011. 2556–2563. [doi: 10.1109/ICCV.2011.6126543]
[200] Pang R, Zhang Z, Gao XS, Xi ZH, Ji SL, Cheng P, Luo XP, Wang T. TrojanZoo: Towards unified, holistic, and practical evaluation of
neural backdoors. In: Proc. of the 7th IEEE European Symp. on Security and Privacy. Genoa: IEEE, 2022. 684–702. [doi: 10.1109/
EuroSP53844.2022.00048]
[201] Wu BY, Chen HR, Zhang MD, Zhu ZH, Wei SK, Yuan DN, Shen C. BackdoorBench: A comprehensive benchmark of backdoor
learning. In: Proc. of the 36th Int’l Conf. on Neural Information Processing Systems. New Orleans: Curran Associates Inc., 2022.
10546–10559.
[202] Li YM, Bai Y, Jiang Y, Yang Y, Xia ST, Li B. Untargeted backdoor watermark: Towards harmless and stealthy dataset copyright
protection. In: Proc. of the 36th Int’l Conf. on Neural Information Processing Systems. New Orleans: Curran Associates Inc., 2022.
13238–13250.
[203] He XL, Xu QK, Lyu LJ, Wu FZ, Wang CG. Protecting intellectual property of language generation APIs with lexical watermark. In:
Proc. of the 36th AAAI Conf. on Artificial Intelligence. Virtually: AAAI Press, 2022. 10758–10766. [doi: 10.1609/aaai.v36i10.21321]
[204] Peng WJ, Yi JW, Wu FZ, Wu SX, Zhu BB, Lyu LJ, Jiao BX, Xu T, Sun GZ, Xie X. Are you copying my model? Protecting the
copyright of large language models for eaas via backdoor watermark. In: Proc. of the 61st Annual Meeting of the Association for
Computational Linguistics, Vol. 1 (Long Papers). Toronto: ACL, 2023. 7653–7668. [doi: 10.18653/v1/2023.acl-long.423]
[205] Guo Y, Zhao Y, Hou SH, Wang C, Jia XH. Verifying in the dark: Verifiable machine unlearning by using invisible backdoor triggers.
IEEE Trans. on Information Forensics and Security, 2024, 19: 708–721. [doi: 10.1109/TIFS.2023.3328269]

附中文参考文献:
[3] 陈宇飞, 沈超, 王骞, 李琦, 王聪, 纪守领, 李康, 管晓宏. 人工智能系统安全与隐私风险. 计算机研究与发展, 2019, 56(10):
2135–2150. [doi: 10.7544/issn1000-1239.2019.20190415]
[6] 纪守领, 杜天宇, 李进锋, 沈超, 李博. 机器学习模型安全与隐私研究综述. 软件学报, 2021, 32(1): 41–67. http://www.jos.org.cn/1000-
9825/6131.htm [doi: 10.13328/j.cnki.jos.006131]
[7] 全 国 信 息 安 全 标 准 化 技 术 委 员 会 . 人 工 智 能 安 全 标 准 化 白 皮 书 . 2023 版 . https://www.tc260.org.cn/upload/2023-05-31/
1685501487351066337.pdf
[15] 黄 舒 心 , 张 全 新 , 王 亚 杰 , 张 耀 元 , 李 元 章 . 深 度 神 经 网 络 的 后 门 攻 击 研 究 进 展 . 计 算 机 科 学 , 2023, 50(9): 52–61. [doi:
10.11896/jsjkx.230500235]
[17] 杜巍, 刘功申. 深度学习中的后门攻击综述. 信息安全学报, 2022, 7(3): 1–16. [doi: 10.19363/J.cnki.cn10-1380/tn.2022.05.01]
[18] 郑明钰, 林政, 刘正宵, 付鹏, 王伟平. 文本后门攻击与防御综述. 计算机研究与发展, 2024, 61(1): 221–242. [doi: 10.7544/issn1000-
1239.202220340]
[19] 陈梦轩, 张振永, 纪守领, 魏贵义, 邵俊. 图像对抗样本研究综述. 计算机科学, 2022, 49(2): 92–106. [doi: 10.11896/jsjkx.210800087]

高梦楠(1998－), 女, 博士生, 主要研究领域为人 吴礼发(1968－), 男, 博士, 教授, 博士生导师, 主
工智能安全. 要研究领域为网络安全, 软件安全.

陈伟(1979－), 男, 博士, 教授, CCF 专业会员, 主 张伯雷(1988－), 男, 博士, 副教授, CCF 专业会
要研究领域为网络安全, 人工智能安全. 员, 主要研究领域为强化学习, 机器学习.