文献类型：期刊文章

作　　者：徐静萍[1] 王芳[1]

XU Jing-ping;WANG Fang(School of Science,Yanshan University,Qinhuangdao 066004,China)

机构地区：[1]燕山大学理学院,秦皇岛066004

出　　处：《科学技术与工程》

基　　金：国家自然科学基金(62073234);河北省自然科学基金(F2020203105)。

年　　份：2022

卷　　号：22

期　　号：29

起止页码：12963-12968

语　　种：中文

收录情况：BDHX、BDHX2020、JST、RCCSE、ZGKJHX、核心刊

摘　　要：为解决ReLU函数负区域取值为0而引发的对应权重无法更新的问题,提出了新的激活函数S-ReLU。该函数在负区域具有软饱和性,增加了负样本数据的关注度。通过赋予负区域输出值较小的导数,促进了负输入值的反向传播,提高了模型的鲁棒性。通过与其他常见激活函数在数据集MNIST、CIFAR-10上使用LeNet-5模型的对比实验,探究基于S-ReLU激活函数的图像分类效果。实验结果表明,对于MNIST和CIFAR-10数据集,相比使用其他激活函数,S-ReLU函数提高了模型的分类精度。

关 键 词：激活函数 图像分类 卷积神经网络 特征提取

分 类 号：TP391.41]