Page 105 - 《软件学报》2024年第4期
P. 105
李晴 等: 神经网络结构搜索在脑数据分析领域的研究进展 1683
Key words: neural architecture search; brain data analysis; neural network; deep learning
随着深层神经网络技术的快速发展, 神经网络已在脑数据分析领域的研究和应用中吸引了广泛关注 [1,2] .
借助高性能处理器和近年公开的大规模脑数据集, 相较传统机器学习方法, 深层神经网络能够弱化领域先验
知识, 自动表征潜在特征信息, 大幅度提升对脑数据的分析性能, 有效刻画大脑本身结构和功能呈现的多层
[4]
[6]
[3]
[5]
次特性. 目前, 基于深层神经网络的脑数据分析主要围绕分类 、特征提取 、分割 、图像生成 等任务开
展. 分类是脑数据分析领域的重要任务之一, 主要围绕脑疾病辅助诊断、个体识别、情绪识别等研究开展; 特
征提取主要围绕脑认知功能的高维表示开展, 以分析脑的运行机制, 建立脑与行为的关联关系; 分割任务是
将脑影像划分为多个有意义的部分, 如不同类别的组织、器官、病理或其他生理学相关结构等; 图像生成任
务以生成高质量脑数据为目标, 包含重建、预测等多种下游任务的研究. 尽管深层神经网络已在脑数据分析
中取得了优越的性能, 但这样的神经网络结构往往需要大量时间和精力进行手工设计, 存在一定局限. 因此,
[7]
面向特定数据、特定场景、特定任务自动化设计神经网络结构受到越来越多的关注 .
神经网络结构搜索(neural architecture search, NAS)由于能够
以自动化的方式解决高难度的复杂神经网络设计问题, 成为近年
自动化机器学习的重要子领域之一, 并在物体识别、图像分类、
[8]
信号处理等多个领域取得了令人瞩目的成果 . 近年来, 随着
NAS 在神经网络结构优化、超参数选择方面的理论意义和应用价
值被各领域认可, 研究人员已将 NAS 引入至脑数据分析领域, 大
[5]
[9]
幅度提升了脑疾病辅助诊断 、图像分割 、特征提取 [10] 等任务
的性能, 体现了低能耗自动化机器学习的优势. 如图 1 所示: 自
图 1 NAS 在脑数据分析领
2019 年起, NAS 在脑数据分析领域的文章发表数量呈大幅增长趋 域的文章发表时间与数量分布
势 . 近 年多 篇相关 文章 发表 在《 IEEE Trans. on Affective
Computing》, 《MedicalImageAnalysis》, IEEE/CVF Computer Vision and Pattern Recognition Conf. (CVPR), Int’l
Conf. on Medical Image Computing and Computer Assisted Intervention (MICCAI)等重要学术期刊和会议上, 已
成为机器学习和脑数据分析领域研究的重要组成部分和前沿研究方向.
脑科学致力于阐明大脑的结构与功能, 建立行为与心理活动的关联关系, 阐明其内部运行机制和外部响
应机理, 对脑疾病的诊断、脑认知的理解与提升、类脑人工智能的研究均具有重要意义. 将 NAS 应用于脑数
据分析对于智慧教育、智慧医疗、类脑智能等领域的发展具有重要作用, 也是低能耗机器学习赋能脑科学的
研究热点. 然而, 在此领域, 国内外可供参考的综述性文献较少, 尚未总结现阶段基于 NAS 的脑数据分析研
究的优势、重点及未来方向. 因此, 本文针对基于 NAS 的脑数据分析, 从算法模型、研究任务、实验数据等
不同方面对现有研究成果进行综述, 并进行全面的比较和分析. 本文第 1 节介绍相关背景知识. 第 2 节从搜索
空间和搜索策略详细介绍 NAS 经典算法模型. 第 3 节对 NAS 在脑数据分析中的应用进行分类总结, 详述不同
方法的技术细节. 第 4 节介绍能够用于 NAS 训练的公共数据库以及实验设置. 第 5 节总结全文, 讨论 NAS 在
脑数据分析中存在的挑战, 并对未来进行展望.
1 相关背景
1.1 脑数据基本介绍
目前, 针对大脑的研究数据主要可分为两大部分: 脑功能数据和脑结构数据, 分别用以观察和研究大脑
的动态功能活动和结构. 其中, 脑功能数据主要包括功能磁共振成像(functional magnetic resonance imaging,
fMRI)、脑电(electroencephalography, EEG)、近红外(near infrared, NIR)、脑磁(magnetoencephalography, MEG)、
正电子发射型计算机断层显像(positron emission computed tomography, PET)等, 其中, 基于 NAS 的脑功能数
据分析主要围绕 fMRI 和 EEG 两种数据进行研究. 此外, 本篇综述中还涉及到一篇基于 NIR 的研究. 脑结构