Page 112 - 《软件学报》2024年第4期

1690 软件学报 2024 年第 35 卷第 4 期

Wang 等人 [30] 在现有的基于梯度的神经结构搜索算法的基础上进行了有针对性的改进和优化, 针对部分
连通可微结构搜索算法(partially-connected differentiable architecture search, PC-DARTS) [39] 的训练过程, 引入
层数自适应机制(layer number adaptive mechanism)和早停机制(early stop mechanism). 该层数自适应机制通过
评估跳跃连接(skip-connection)以及训练精度, 自适应增加或减少堆叠单元的数量或单元内的节点数量, 并根
据操作权值判断是否停止当前搜索进程. 通过上述对 CNN 算法模型的搜索, 大幅度提升基于 EEG 数据的脑
状态识别准确率. 由于梯度搜索需将整个搜索空间松弛化到连续空间域中, 因此, 该系列研究以微观搜索空
间为主,能够提升分类准确率与分类效率.
• 脑网络特征提取
大脑的多个空间脑区协同工作, 共同构成了相互协调的拓扑结构, 即脑网络 [40] . 脑区间的交互作用随时
间动态变化, 形成了一系列复杂多变的脑功能活动. 深入探究大脑在空间上的网络拓扑关联和时间上的网络
交互更新, 对于理解大脑的工作机制具有重要意义 [41] . 脑特征提取旨在将无创神经影像技术采集到的脑信号
抽象成有代表性的特征向量, 借此刻画大脑网络在空间和时间上的分布模式, 从而满足大脑认知功能研究的
需求.
现有基于 NAS 对大脑功能网络特征进行提取的研究中, 大多数研究以 DBN [32,33,35,42] 或 RNN [10,21,22,34,43]
为主干算法, 基于进化算法、强化学习及梯度优化算法对神经网络模型结构进行优化更新, 并将基于优化后
的模型结构提取到的脑信号特征映射至大脑上, 得到可靠的神经学标记物.
为了刻画大脑功能网络模式, 研究人员开展了一系列以 DBN 为主干算法的研究. 首先, Qiang 等人 [32] 将
粒子群优化算法(particle swarm optimization, PSO)引入至 DBN 网络结构的搜索优化中, 构建 NAS-DBN 框架,
基于 fMRI 数据提取大脑网络特征. 该研究从宏观角度对 DBN 网络结构的层数和节点数量进行搜索, 将 DBN
的损失函数作为 PSO 的更新搜索指标, 直至搜索模型收敛. 在多认知任务 fMRI 数据集上, 基于该搜索框架优
化搜索后的 DBN 结构能够有效实现对脑功能网络特征的提取, 且基于时间动态响应特征重建后的脑网络与
基于广义线性模型(generalized linear model, GLM)分解出的脑功能网络具有高度一致性. 该研究的结果证明
了 NAS-DBN 所学习到的脑功能网络的可解释性, 且进一步表明了 NAS 算法在提取脑功能网络特征中的重要
性. 在此基础上, Ren 等人 [33] 和 Xu 等人 [42] 进一步针对大脑功能的群体一致性和被试间的差异性, 提出了一种
基于 NAS-DBN 的群体一致性和个体特异性的脑功能网络特征提取框架. 该框架分为两个阶段: 第 1 阶段采用
优化的 DBN 对群组水平的 fMRI 数据进行建模, 第 2 阶段则将被试特定的 DBN 模型应用于个体 fMRI 矩阵,
以进一步识别个体水平的脑功能网络特征. 该模型利用 NAS 揭示了个体和群体脑网络特征之间的差异信息,
对于个性化脑网络特征揭示具有重要意义.
为了提升特征提取的效率, 在上述离散采样过程的基础上, Pang 等人 [35] 引入 Gumbel-Softmax, 采用基于
梯度的方法将离散搜索转化为连续搜索. 该研究提出了基于 Gumbel-Softmax 的神经网络结构搜索算法(GS-
NAS), 用以自动化设计 DBN 结构, 从而实现脑功能网络的分解. 以脑数据重建误差最小化作为算法模型的搜
索驱动, 该研究通过优化后的 DBN 模型揭示大脑功能的潜在层次性结构. GS-NAS 可以同时优化网络每层的
隐藏神经元数目和网络深度, 在基于 fMRI 数据对脑功能网络进行特征提取的研究中表现出明显的优势, 为理
解大脑的层次性功能网络提供了新的见解. Tao 等人 [44] 在 DARTS 搜索方法的基础上引入了结构约束, 进一步
实现了高效搜索. 通过增广拉格朗日函数将约束转移到目标函数中的惩罚项, 解决了约束优化问题, 从而实
现脑网络特征提取.
此外, 也有一些研究以 RNN 为基础 [10,21,22] , 结合自编码器(autoencoder, AE)等网络结构压缩数据并学习
有效脑网络特征. 自编码器由编码器(encoder)和解码器(decoder)组成, 编码器将脑数据映射到高阶空间, 即为
脑网络特征, 而解码器则将编码器学习到的高阶表示重构为脑信号.
为了有效刻画大脑的时-空共变脑网络, Li 等人 [22,43] 首次将进化搜索策略引入到基于 RNN 的网络结构搜
索优化中, 充分利用 RNN 提取时序特征和 AE 提取空间特征的优势, 提出了深层稀疏循环自编码进化神经网
络结构搜索算法(eNAS-DSRAE). 通过计算输入 fMRI 数据与重建数据间的均方误差(mean square error, MSE)