文献类型：期刊文章

作　　者：赵晓杰[1] 陈晔[2]

ZHAO Xiao-jie;CHEN Ye(Information technology and Laboratory Management Center,Digital Fujian Tourism Big Data Institute,Wuyi University,Wuyishan 354300,China;Asset Management office,Wuyi University,Wuyishan 354300,China)

机构地区：[1]武夷学院信息技术与实验室管理中心、数字福建旅游大数据研究所,福建武夷山354300 [2]武夷学院资产管理处,福建武夷山354300

出　　处：《西安文理学院学报（自然科学版）》

基　　金：福建省教育厅项目(JT180555)。

年　　份：2022

卷　　号：25

期　　号：4

起止页码：27-31

语　　种：中文

收录情况：普通刊

摘　　要：为了提高物联网中人工智能模型的训练效率,提出了一种基于阈值划分的梯度选择策略,以解决分布式训练过程中节点间通信开销高的问题.通过研究主流的模型来分析梯度参数的分布.根据梯度的分布特点,该策略将梯度分为关键区域和稀疏区域.结合梯度分布的信息熵,该策略确定合理的阈值对分区内的梯度值进行选择,仅选择大于阈值的梯度值参与训练.实验评估结果表明,该策略可以有效地减少传输的参数量,并确保了模型训练的准确性.

关 键 词：人工智能物联网  分布式训练  梯度选择  

分 类 号：TP391]