Page 109 - 《软件学报》2024年第4期

李晴 等: 神经网络结构搜索在脑数据分析领域的研究进展 1687

法. 将网络结构、网络单元表示为有向无环图, 对结构搜索问题进行松弛化, 转化为连续变量优化问题. 算法
搜索计算单元, 作为最终网络结构的基本构建块, 堆积或递归构建最终的神经网络.

3 NAS 在脑数据分析中的应用

在基于 NAS 的脑数据分析研究中, 大多数研究分别围绕宏观搜索空间或微观搜索空间开展神经网络结构
的搜索优化研究, 二者占目前所有领域内研究的 80%(如图 5(a)所示). 在搜索策略方面, 有超过 50%的研究使
用基于梯度的搜索算法开展研究(如图 5(b)所示). 由于脑数据分析领域的研究目的复杂, 因此, 本综述将从数
据类型出发, 分别从“NAS 在脑功能数据分析中的研究进展”和“NAS 在脑结构数据分析中的研究进展”两方面
总结和比较相关研究, 并通过列表的方式横向比较各研究工作.

(a) 搜索空间数量分布 (b) 搜索策略数量分布
图 5 NAS 在脑数据分析应用研究中的分布
3.1 NAS在脑功能数据分析中的研究进展
NAS 在脑功能数据分析中的研究涉及到 fMRI、EEG 等多种模态数据, 目前共有 20 余篇相关研究. 表 1
总结了 NAS 在脑功能数据分析中的代表性工作, 按照其任务, 可以将这些研究分为两大类, 分别是分类/预测
任务、脑网络特征提取任务. 因此, 下面将从这两个方面回顾并比较这些研究的搜索策略及搜索空间.
表 1 NAS 在脑功能数据分析中的代表性工作
作者 算法名称 任务类型 主干算法 搜索空间
[9]
Liu SF, et al. TPNAS-Net 分类 CNN 宏观
Xiao AQ, et al. [24] DLS-DARTS 分类 CNN 宏观+微观
Rapaport E, et al. [25] EEGNAS 分类 CNN 宏观
Dong HY, et al. [26] − 分类 CNN 宏观
Du YP, et al. [27] Multiobjective Evolutionary NAS 分类 CNN 宏观
Duan YQ, et al. [28] CTNAS-EEG 分类 CNN 微观
Kong GW, et al. [29] − 分类 CNN 微观
[3]
Li C, et al. − 分类 CNN 微观
Li C, et al. [19] TNAS 分类 Transformer 微观+宏观
Wang H, et al. [30] − 分类 CNN 微观+宏观
Nguyen KP, et al. [20] − 预测 Dense NN 宏观
Zhang W, et al. [31] HS-NASNet 特征提取 DBN 宏观
Qiang N, et al. [32] NAS-DBN 特征提取 DBN 宏观
Li Q, et al. [10] ST-DARTS/ST-DARTS+ 特征提取 RNN 微观
Li Q, et al. [22] eNAS-DSRAE 特征提取 RNN 宏观
Ren YD, et al. [33] Two-Stage Deep Belief Network-Based Model 特征提取 DBN 宏观
Dai HX, et al. [21] GR-NAS 特征提取 RNN 微观
Duan FX, et al. [34] SA-NAS-BFNR 特征提取 GRU 微观
Pang TJ, et al. [35] GS-NAS 特征提取 DBN 宏观