Page 113 - 《软件学报》2024年第4期
P. 113

李晴  等:  神经网络结构搜索在脑数据分析领域的研究进展                                                    1691


         评估原始数据与重构数据之间的差异,  并作为优化评价指标,  以指导 eNAS 的更新搜索方向.  该研究使用 700
         名被试的任务态 fMRI 数据,  成功刻画了 7 个认知任务下的特异性脑空间网络和时间刺激变化.
             鉴于 fMRI 脑数据具有高维度、高复杂性的特点,  对 RNN 算法的网络结构进行搜索优化时,  可重点考虑
         对算法的微观结构进行搜索           [10,34] .  在进化搜索与宏观搜索空间相结合的基础上, Li 等人          [10] 进一步将 DARTS 这
         一梯度搜索方式引入到脑功能特征的提取中,  基于 DARTS 搜索策略,  提出了一种时-空可微神经网络结构搜
         索算法(spatial/temporal DARTS, ST-DARTS).  该算法能够快速基于 fMRI 数据提取时-空脑网络特征,  并针对
         多个认知任务搜索获得最优微观结构.  并在此基础上进一步引入早停机制,  构建 ST-DARTS+算法,  有效解决
         了 DARTS 系列算法中的崩溃问题(collapse issue),  并进一步提升了脑功能网络特提取性能. Duan 等人                   [34] 提出
         了一种基于时空注意力机制的 NAS 模型,  将注意力机制与 GRU 相结合,  通过梯度优化算法实现深层神经网
         络模型结构的优化.
             尽管以上研究已在脑功能网络特征提取方面取得了不错的效果,  但前述研究的搜索过程并未将梯度搜索
         应用至微观搜索空间的拓扑连接关系上,  未能实现基于图的连续空间搜索.  因此,  Dai 等人                         [21] 在上述研究的基
         础上,  将图同构网络(graph isomorphism network,  GIN)嵌入 ST-DARTS 的搜索过程中,  将原始搜索空间以
         embedding 的方式影射到连续域空间,  构建了一种基于图表示的 NAS 框架(graph representation NAS,  GR-
         NAS).  在多个任务态 fMRI 数据集上证明了所提出模型在脑网络特征提取方面的优越性.
             由于基于脑功能数据的特征提取需要利用神经网络的隐含层信息,  使得算法结构的可解释性非常重要.
         因此,  目前在该领域的研究大多基于宏观搜索空间开展;  另一方面,  使用微观搜索空间的研究大多考虑到
         fMRI 数据的高维度和高复杂度特性,  因此,  基于微观空间能够提升搜索效率.
         3.2   NAS在脑结构数据分析中的研究进展

             为了获得对高维复杂脑结构数据的良好表示,  目前 NAS 也已被广泛引入到对脑结构数据的分析中,  这些
         数据通常包括 sMRI,  CT 等,  并在分类、分割和重建等任务方面取得了显著的成果,  详细信息见表 2.  本节将
         系统性回顾 NAS 在脑结构数据分析中的进展,  并总结 NAS 在这些任务上的效果.  在基于 NAS 的脑结构数据
         分析中,  研究数据的数量和研究目的决定了研究者对搜索空间和搜索策略的选择.  由于针对脑结构数据的分
         析大多与临床需求密不可分,  导致对算法的搜索效率要求更高,  因此,  大多研究采用微观搜索空间与梯度搜
         索策略相结合的搜索方式.  此外,  由于搜索空间决定了参数计算量,  因此,  为了避免过拟合,  部分基于大数据
         量的文献采用了微观与宏观搜索空间相结合的方式开展研究.
                                  表 2  NAS 在脑结构数据分析中的代表性工作
                   作者              算法名称        任务类型                主干算法                搜索空间
                          [6]
               Huang QY, et al.    EMR-NAS       重建                 CNN                 微观
                Yan JP, et al. [47]    −         重建                 CNN                 微观
               Eslahi SV, et al. [48]    ERNAS   重建                 CNN                 宏观
               Chen HZ, et al. [46]    −         重建             Fully connected NN      宏观
                Hu XB, et al. [45]    AutoGAN-Synthesizer   重建      GAN               微观+宏观
               Kim SW, et al. [49]    SCNAS      分割                 U-Net               微观
                Bae W, et al. [57]    RONASMIS   分割                 U-Net               微观
              Wong KCL, et al. [50]    SegNAS3D   分割                U-Net             微观+宏观
                         [5]
                Guo DZ, et al.     SOARS         分割               3D P-HNN              微观
                 Wang FF [51]    NAS-3D-U-Net    分割                3D U-Net             微观
                Yu QH, et al. [58]    C2FNAS     分割                 U-Net             微观+宏观
              Calisto MB, et al. [59]    EMONAS-Net   分割           3D U-Net           微观+宏观
                He YF, et al. [52]    DiNTS      分割     UNet+Auto-DeepLab+Multi-resolution input   微观+宏观
               Milesi A, et al. [53]    −        分割               DiNTS 网络            微观+宏观
                Peng C, et al. [54]    HyperSegNAS   分割           DiNTS 网络            微观+宏观
               Xiang TG, et al. [55]    BIO-Net++   分割              U-Net               宏观
                Ye XH, et al. [56]    SOARS      分割                 U-Net               微观
             Tchetchenian A, et al. [60]    −    分割                 U-Net               微观
               Chitnis S, et al. [61]    LeaSE   分类                 Resnet              微观
   108   109   110   111   112   113   114   115   116   117   118