Page 303 - 《软件学报》2021年第5期

马钰锡 等:面向智能攻击的行为预测研究 1527

Key words: attack prediction; behavior prediction; intelligent attack; attack behavior; artificial intelligence

近年来,人工智能(artificial intelligence,简称 AI)蓬勃发展,在文本、语音、计算机视觉等领域取得了重要进
展.AI 驱动的系统实现了手工任务的自动化、生产效率的提高和自主决策的增强,AI 技术覆盖了社会行业的各
[1]
个方面,促进了新一轮的产业变革和科技革命 .
然而,AI 技术如果被恶意利用,同样会带来巨大的负面影响,攻击者不仅会针对 AI 系统本身,还会自行利用
[2]
AI 技术来增强自己在其他领域的犯罪活动 .具体表现在以下方面.
(1) 数字安全:AI 技术降低了网络攻击门槛,同时丰富了攻击模式,以自动化方式提升复杂攻击的速度与
效率,加剧了鱼叉式网络钓鱼等劳动密集型网络攻击的危害.由 AI 技术驱动的自主程序能够探测安
全系统和网络,搜索可能被利用的未发现的漏洞,使网络钓鱼(phishing)、语音合成、拒绝服务
(distributed denial of service,简称 DDoS)等网络攻击趋于智能化,如利用语音合成冒充本人、利用现有
[3]
软件漏洞进行自动黑客攻击,以及利用 AI 系统漏洞样本投毒、生成对抗样本等 .
(2) 物理安全:利用 AI 自动操控无人机以及全自动和半自动驾驶系统构成新型风险,包括多辆无人车故
意撞击,多架无人机进行协同攻击,控制关键基础设施等攻击行为.此外,还会出现新型攻击方式,如破
坏网络物理系统,使无人车轨道漂移或目标检测系统故障;利用无法远程控制的物理系统进行攻击,
[4]
如微型无人机群协同攻击等 .
(3) 政治安全:利用 AI 分析收集到的海量社交、媒体数据并进行自动监测,进而开展高度精准的针对性欺
骗;或利用 AI 分析人类的行为、情绪和信仰,发起逼真的虚假宣传活动等,使社交工程攻击更加复杂
化,涉及隐私入侵和社交操纵的威胁增大 [5,6] .
[7]
基于 AI 技术的智能攻击正逐渐发展为社会各个领域中的隐患,成为众多科研工作者的研究热点 .然而,智
能攻击的随机性和不确定性,使得以此为基础的系统或网络安全态势变化为复杂的非线性过程,传统安全防护
的方式,例如端对端拦截、攻击检测等已经远远不能满足安全防护的实际需求 [8,9] .传统的安全防护通常在攻击
发生之后,根据攻击的规则、特征等进行快速防御,其主要的防护对象是系统终端和数据库等,主要目的是阻止
权限劫持、信息数据泄露以及系统侵占等;而随着部分网络攻击基本要素的更新,攻击手段的自动化、智能化,
传统防护技术的局限性逐渐显露,例如不可追踪、滞后响应、被动防御等,在与智能攻击方式的对阵中已经处
于劣势地位,使得越来越多的研究正在朝智能预测的方向发展 [10,11] .
智能攻击一般由多个事件构成,具有一定的顺序和逻辑关系,而行为预测技术根据当下已检测到的报警日
志,例如攻击动作、目标、步骤等信息,预测该智能攻击未来即将发生的攻击行为,建立动态的响应机制,以检测、
预测、响应、防护为组成过程,使系统提前做出针对性的防御措施.同时,通过训练模型的方式建立机器的自动
感知和自学习机制,能够使防护系统具有自主行为和思维能力,包括对复杂的复合式攻击行为的识别和预测,为
防护系统安全提供主动、动态、实时、快速响应的安全屏障,有效提高系统的安全性 [12] .
本文对面向智能攻击的行为预测方法进行了全面的调查和论述.第 1 节首先给出智能攻击和行为预测的
基础定义以及可行性分析等相关内容,归纳总结不同类别智能攻击的攻击方式和引发原因,界定智能攻击行为
预测的问题域,并对其相关研究领域进行概述.第 2 节从技术原理的角度将目前主流的智能攻击行为的预测方
法分类为基于神经网络的预测方法、基于博弈论的预测方法、基于攻击图的预测方法、基于数据挖掘的预测
方法以及其他预测方法.第 3 节中根据第 2 节的研究工作概述,分别阐述不同种类预测方法的原理机制,并从特
征和适应范围等方面对各种方法进行对比、讨论和分析.第 4 节展望未来的研究方向和发展趋势.最后,第 5 节
总结全文.

1 智能攻击与行为预测

1.1 智能攻击

智能攻击的内涵丰富而复杂,目前对智能攻击的广泛定义包括:(1) 通过输入恶意样本欺骗 AI 算法,使得 AI