Page 113 - 《软件学报》2024年第4期
P. 113
李晴 等: 神经网络结构搜索在脑数据分析领域的研究进展 1691
评估原始数据与重构数据之间的差异, 并作为优化评价指标, 以指导 eNAS 的更新搜索方向. 该研究使用 700
名被试的任务态 fMRI 数据, 成功刻画了 7 个认知任务下的特异性脑空间网络和时间刺激变化.
鉴于 fMRI 脑数据具有高维度、高复杂性的特点, 对 RNN 算法的网络结构进行搜索优化时, 可重点考虑
对算法的微观结构进行搜索 [10,34] . 在进化搜索与宏观搜索空间相结合的基础上, Li 等人 [10] 进一步将 DARTS 这
一梯度搜索方式引入到脑功能特征的提取中, 基于 DARTS 搜索策略, 提出了一种时-空可微神经网络结构搜
索算法(spatial/temporal DARTS, ST-DARTS). 该算法能够快速基于 fMRI 数据提取时-空脑网络特征, 并针对
多个认知任务搜索获得最优微观结构. 并在此基础上进一步引入早停机制, 构建 ST-DARTS+算法, 有效解决
了 DARTS 系列算法中的崩溃问题(collapse issue), 并进一步提升了脑功能网络特提取性能. Duan 等人 [34] 提出
了一种基于时空注意力机制的 NAS 模型, 将注意力机制与 GRU 相结合, 通过梯度优化算法实现深层神经网
络模型结构的优化.
尽管以上研究已在脑功能网络特征提取方面取得了不错的效果, 但前述研究的搜索过程并未将梯度搜索
应用至微观搜索空间的拓扑连接关系上, 未能实现基于图的连续空间搜索. 因此, Dai 等人 [21] 在上述研究的基
础上, 将图同构网络(graph isomorphism network, GIN)嵌入 ST-DARTS 的搜索过程中, 将原始搜索空间以
embedding 的方式影射到连续域空间, 构建了一种基于图表示的 NAS 框架(graph representation NAS, GR-
NAS). 在多个任务态 fMRI 数据集上证明了所提出模型在脑网络特征提取方面的优越性.
由于基于脑功能数据的特征提取需要利用神经网络的隐含层信息, 使得算法结构的可解释性非常重要.
因此, 目前在该领域的研究大多基于宏观搜索空间开展; 另一方面, 使用微观搜索空间的研究大多考虑到
fMRI 数据的高维度和高复杂度特性, 因此, 基于微观空间能够提升搜索效率.
3.2 NAS在脑结构数据分析中的研究进展
为了获得对高维复杂脑结构数据的良好表示, 目前 NAS 也已被广泛引入到对脑结构数据的分析中, 这些
数据通常包括 sMRI, CT 等, 并在分类、分割和重建等任务方面取得了显著的成果, 详细信息见表 2. 本节将
系统性回顾 NAS 在脑结构数据分析中的进展, 并总结 NAS 在这些任务上的效果. 在基于 NAS 的脑结构数据
分析中, 研究数据的数量和研究目的决定了研究者对搜索空间和搜索策略的选择. 由于针对脑结构数据的分
析大多与临床需求密不可分, 导致对算法的搜索效率要求更高, 因此, 大多研究采用微观搜索空间与梯度搜
索策略相结合的搜索方式. 此外, 由于搜索空间决定了参数计算量, 因此, 为了避免过拟合, 部分基于大数据
量的文献采用了微观与宏观搜索空间相结合的方式开展研究.
表 2 NAS 在脑结构数据分析中的代表性工作
作者 算法名称 任务类型 主干算法 搜索空间
[6]
Huang QY, et al. EMR-NAS 重建 CNN 微观
Yan JP, et al. [47] − 重建 CNN 微观
Eslahi SV, et al. [48] ERNAS 重建 CNN 宏观
Chen HZ, et al. [46] − 重建 Fully connected NN 宏观
Hu XB, et al. [45] AutoGAN-Synthesizer 重建 GAN 微观+宏观
Kim SW, et al. [49] SCNAS 分割 U-Net 微观
Bae W, et al. [57] RONASMIS 分割 U-Net 微观
Wong KCL, et al. [50] SegNAS3D 分割 U-Net 微观+宏观
[5]
Guo DZ, et al. SOARS 分割 3D P-HNN 微观
Wang FF [51] NAS-3D-U-Net 分割 3D U-Net 微观
Yu QH, et al. [58] C2FNAS 分割 U-Net 微观+宏观
Calisto MB, et al. [59] EMONAS-Net 分割 3D U-Net 微观+宏观
He YF, et al. [52] DiNTS 分割 UNet+Auto-DeepLab+Multi-resolution input 微观+宏观
Milesi A, et al. [53] − 分割 DiNTS 网络 微观+宏观
Peng C, et al. [54] HyperSegNAS 分割 DiNTS 网络 微观+宏观
Xiang TG, et al. [55] BIO-Net++ 分割 U-Net 宏观
Ye XH, et al. [56] SOARS 分割 U-Net 微观
Tchetchenian A, et al. [60] − 分割 U-Net 微观
Chitnis S, et al. [61] LeaSE 分类 Resnet 微观