Page 376 - 《软件学报》2025年第4期
P. 376

1782                                                       软件学报  2025  年第  36  卷第  4  期


                    受生物学原理启发, 神经形态计算通过模拟生物神经系统的结构和功能, 为                        IoT  和边缘智能应用提供了一种
                 高效节能的计算范式. 作为神经形态计算的代表, SNN                因其具有低功耗高能效等优势, 是实现边缘智能的理想
                 模型.
                    在本文中, 我们首先介绍了         SNN  的模型原理, 并针对模型在硬件实现时面临的问题充分论述了可行的解决方
                 向. 随后总结了目前将       SNN  部署到边缘设备时常用的软件工具链. 接着重点叙述了                 SNN  在主流神经形态硬件平
                 台上的部署现状与发展方向. 最后针对硬件故障这一无法避免的问题, 对                      SNN  的容错技术进行了整理与分析.
                    近年来, 神经形态计算领域取得了显著进展, 但              SNN  的边缘部署仍面临一些亟待解决的难题. 本文将分析和
                 总结当前研究中存在的局限和挑战, 并提出可能的解决方案.
                    (1) 脉冲神经网络模型缺陷
                    尽管  SNN  在能效与生物合理性上表现优异, 但           SNN  模型自身仍存在一些局限性.
                    1) 脉冲神经元计算性能与生物可信度的矛盾. 尽管目前广泛采用的 LIF 模型在计算上具有低成本的优势, 但
                 其相较于其他脉冲神经元模型在生物学上的置信度较低, 因此, 如何权衡脉冲神经元的学习能力和生物合理性是
                 一个值得深入研究的课题.
                 差等问题.
                    为应对这一挑战, 可以探索新的学习规则, 通过生物学原理的启发或者更精细的数学建模, 设计机制更优秀的
                 脉冲神经元. 也可以针对具体的应用场景, 设计更合适的脉冲神经元. 例如, Tempotron                    神经元由于其时序敏感的
                 特性, 在处理序列数据时具有优势, 更适合应用于语音或者信号识别场景. 进化脉冲神经元能自适应地调整脉冲事
                 件的速率, 更适合在功耗受限的边缘设备上应用.
                    2) 速率编码与时间编码的缺陷. 速率编码和时间编码各具优势, 也存在相应的缺陷. 例如, 速率编码仅关注时
                 间窗内的脉冲数, 忽略了码间干扰, 不能充分利用脉冲序列中包含的时空信息, 而许多时间编码的方案虽然能更好
                 地利用时序信息, 但使用了复杂的突触函数, 导致功耗增加, 不利于边缘设备部署.
                    为解决这一问题, 可以考虑将速率编码和时间编码相结合, 根据具体任务, 在网络层级之间或不同的神经元之
                 间采用适当的编码方式. 目前, 已经有研究工作在此方向进行探索, 期待未来有更深入的进展. 除此之外, 设计基于
                 硬件平台的脉冲编码器也是一个值得研究的方向.
                    3) 脉冲神经网络训练存在难点. 在         SNN  的研究历程中, 如何有效地训练          SNN  模型始终是一个备受关注的话
                 题. SNN  由于其脉冲稀疏性, 在功耗方面具有显著优势, 但也因为脉冲事件的不可微性, 无法直接使用成熟的反向
                 传播算法进行训练, 目前也尚无公认的最佳训练方法. 尤其针对无法使用高算力平台进行训练的边缘部署场景, 如
                 果边缘设备需要保持在线学习的能力, 那么除了传统训练算法的性能指标外, 算法存储资源利用率、权重更新复
                 杂度等指标也应当加入考虑. 因此, 选择合适的训练算法是                 SNN  边缘部署的核心挑战之一.
                    为应对这一挑战, 优化现有的训练方法是一个长期的研究目标. 目前, 已经有许多                         STDP  规则的变体, 基于脉
                 冲的反向误差传播方法也在不断发展, 主流              ANN  转换训练法训练的       SNN  在准确率方面已接近传统        ANN. 此外,
                 已经有工作尝试将更优秀的生物学机制融合到                 SNN  的训练方法中, 生物合理性和模型学习能力的有机结合将是
                 未来可行的方向之一.
                    4) 传统静态模型结构固有的缺陷. 目前, 有许多相关工作可以看作是传统人工神经网络                          (如  CNN  和  RNN) 与
                 SNN  的结合. 尽管这类    SNN  融合了传统结构在图像数据与序列数据处理时拥有的优势并继承了脉冲传播在低功
                 耗的优点, 但其无法彻底解决传统           ANN  模型过于复杂时训练难度高, 可解释性弱, 以及对于硬件故障的容错能力


                    为解决这一问题, 探索动态拓扑结构的             SNN  是一个可行的方向. 以     ESNN  为代表的动态模型能自适应地调整
                 网络结构, 灵活地发挥所选神经形态硬件平台的特有优势, 更适用于嵌入式边缘场景.
                    (2) 神经形态硬件平台设计难点
                    除  SNN  模型本身的局限性外, 神经形态硬件平台在设计上存在相当困难的挑战.
                    1) 硬件编程门槛过高. 以      FPGA  平台为例, 在   FPGA  平台上的编程往往需要        AI 领域的研究人员对硬件描述
                 语言以及电路原理有所了解, 且          FPGA  平台缺乏像   TensorFlow, PyTorch  这样成熟的软件开发框架的支持, 开发门
   371   372   373   374   375   376   377   378   379   380   381