随着深度学习的发展,卷积神经网络作为其重要算法被广泛应用到计算机视觉、自然语言处理及语音处理等各个领域,并取得了比传统算法更为优秀的成绩。卷积神经网络结构复杂,参数量和计算量巨大,使得很多算法必须在GPU上实现,导致卷积神经网络难以应用在资源不足且实时性要求很高的移动端。为了解决上述问题,文中提出通过同时优化卷积神经网络的结构和参数来对卷积神经网络进行压缩,以使网络模型尺寸变小。首先,根据权重对网络模型结果的影响程度来对权重进行剪枝,保证在去除网络结构冗余信息的同时保留模型的重要连接;然后通过量化感知训练对卷积神经网络的浮点型权重和激活值进行完全量化,将浮点运算转换成定点运算,在降低网络模型计算量的同时减少网络模型的尺寸。文中选用tensorflow深度学习框架,在Ubuntu16.04操作系统中使用Spyder编译器对所提算法进行验证。实验结果表明,该算法使结构简单的Lenet模型从1.64M压缩至0.36M,压缩比达到78%,准确率只下降了0.016;使轻量级网络Mobilenet模型从16.9M压缩至3.1M,压缩比达到81%,准确率下降0.03。实验数据说明,在对卷积神经网络权重剪枝与参数量化后,该算法可以做到在准确率损失较小的情况下,对模型进行有效压缩,解决了卷积神经网络模型难以部署到移动端的问题。
用户评论
推荐下载
-
卷积神经网络结构与应用
卷积神经网络(CNN)是一种模仿生物视觉系统信息处理方式的深度学习模型。其核心在于卷积操作,通过局部连接的卷积核提取输入数据的特征。CNN 结构特性局部连接: 每个神经元只连接到输入数据的一个局
5 2024-07-04 -
基于卷积神经网络的图像识别算法的研究.zip
基于卷积神经网络的图像识别算法的研究,适合于毕业学生,非常好用,赶紧下载,非常合适,基于卷积神经网络的图像识别算法的研究
25 2020-07-19 -
基于卷积神经网络的端到端多光谱图像压缩方法
针对多光谱图像的空谱相关特性,提出一种基于卷积神经网络的端到端多光谱图像压缩方法。编码端,将多光谱数据整体输入到多光谱图像压缩网络中,采用卷积提取多光谱图像的主要光谱特征与空间特征,使用下采样减小特征
9 2021-04-08 -
基于BP神经网络的图像压缩
这是一个基于BP神经网络的图像压缩方法的m文件,可自行下载参考
25 2019-07-13 -
论文研究一种基于注意力机制的卷积神经网络剪枝方法.pdf
一种基于注意力机制的卷积神经网络剪枝方法,汪枭杰,姚文斌,卷积神经网络剪枝技术可以有效减少神经网络的内存占用和运行耗时,有利于神经网络在资源有限的设备上部署。剪枝研究中,如何衡量
27 2020-05-02 -
基于改进卷积神经网络与集成学习的人脸识别算法.pdf
基于改进卷积神经网络与集成学习的人脸识别算法.pdf
20 2020-05-17 -
基于卷积神经网络的车牌检测与识别应用开发
本应用为车牌检测与识别检测模型基于卷积神经网络训练训练平台为yolov5s车牌检测训练样本数据集大概有5000张车牌识别训练样本数据集大概有2000张.本应用包括以下三部分训练数据集已经标注可采用yo
6 2023-01-06 -
基于卷积神经网络的物体识别研究与实现caj
基于卷积神经网络的物体识别研究与实现.caj,仅供参考
31 2019-01-08 -
深度学习卷积神经网络算法简介.doc
深度学习 卷积神经网络算法简介 李宗贤 北京信息科技大学智能科学与技术系 卷积神经网络是近年来广泛应用在模式识别图像处理领域的一种高效识别算法具有简单结构训练参数少和适应性强的特点它的权值共享网络结构
17 2020-12-17 -
卷积神经网络结构算法应用CNN
这是卷积神经网络汇报的知识,包括网络的背景、结构、求解以及应用。是初学者很好的资料,希望对你有用。
44 2019-02-28
暂无评论