基于自适应时间步脉冲神经网络的高效图像分类
文献类型：期刊论文
| 作者 | 李千鹏 ; 贾顺程; 张铁林; 陈亮
|
| 刊名 | 自动化学报
 |
| 出版日期 | 2024 |
| 卷号 | 50期号:9页码:1724-1735 |
| 关键词 | 脉冲神经网络 低功耗推理 高效训练 低延迟 |
| ISSN号 | 0254-4156 |
| DOI | 10.16383/j.aas.c230656 |
| 英文摘要 | 脉冲神经网络(Spiking neural network, SNN)由于具有相对人工神经网络(Artifcial neural network, ANN)更低的计算能耗而受到广泛关注. 然而, 现有SNN大多基于同步计算模式且往往采用多时间步的方式来模拟动态的信息整合过程, 因此带来了推理延迟增大和计算能耗增高等问题, 使其在边缘智能设备上的高效运行大打折扣. 针对这个问题, 本文提出一种自适应时间步脉冲神经网络(Adaptive timestep improved spiking neural network, ATSNN)算法. 该算法可以根据不同样本特征自适应选择合适的推理时间步, 并通过设计一个时间依赖的新型损失函数来约束不同计算时间步的重要性. 与此同时, 针对上述ATSNN特点设计一款低能耗脉冲神经网络加速器, 支持ATSNN算法在VGG和ResNet等成熟框架上的应用部署. 在CIFAR10、CIFAR100、CIFAR10-DVS等标准数据集上软硬件实验结果显示, 与当前固定时间步的SNN算法相比, ATSNN算法的精度基本不下降, 并且推理延迟减少36.7% ~ 58.7%, 计算复杂度减少33.0% ~ 57.0%. 在硬件模拟器上的运行结果显示, ATSNN的计算能耗仅为GPU RTX 3090Ti的4.43% ~ 7.88%. 显示出脑启发神经形态软硬件的巨大优势. |
| 源URL | [http://ir.ia.ac.cn/handle/173211/59434]  |
| 专题 | 自动化研究所_学术期刊_自动化学报 |
| 推荐引用方式 GB/T 7714 | 李千鹏,贾顺程,张铁林,等. 基于自适应时间步脉冲神经网络的高效图像分类[J]. 自动化学报,2024,50(9):1724-1735. |
| APA | 李千鹏,贾顺程,张铁林,&陈亮.(2024).基于自适应时间步脉冲神经网络的高效图像分类.自动化学报,50(9),1724-1735. |
| MLA | 李千鹏,et al."基于自适应时间步脉冲神经网络的高效图像分类".自动化学报 50.9(2024):1724-1735. |
入库方式： OAI收割
来源：自动化研究所
浏览0
下载0
收藏0
其他版本
除非特别说明，本系统中所有内容都受版权保护，并保留所有权利。