文献类型：期刊文章

作　　者：肖雄[1,2,3] 唐卓[1,2] 肖斌[3] 李肯立[1,2]

XIAO Xiong;TANG Zhuo;XIAO Bin;LI Ken-Li(College of Computer Science and Electronic Engineering,Hunan University,Changsha 410082;National Supercomputing Center in Changsha(Hunan University),Changsha 410082;Department of Computing,The Hong Kong Polytechnic University,Hong Kong)

机构地区：[1]湖南大学信息科学与工程学院,长沙410082 [2]国家超级计算长沙中心(湖南大学),长沙410082 [3]香港理工大学电子计算学系,中国香港

出　　处：《计算机学报》

基　　金：国家重点研发计划(2018YFB1701400);湖南省自然科学基金青年项目(2021JJ40612);国家自然科学基金(61873090,L1824034,L1924056)资助.

年　　份：2023

卷　　号：46

期　　号：5

起止页码：1019-1044

语　　种：中文

收录情况：BDHX、BDHX2020、CAS、CSCD、CSCD2023_2024、EAPJ、EI、IC、JST、MR、RCCSE、SCOPUS、ZGKJHX、核心刊

摘　　要：联邦学习作为人工智能领域的新兴技术,它兼顾处理“数据孤岛”和隐私保护问题,将分散的数据方联合起来训练全局模型同时保持每一方的数据留在本地.联邦学习在很大程度上给需要将数据融合处理的数据敏感型应用带来了希望,但它仍然存在一些潜在的隐私泄露隐患和数据安全问题.为了进一步探究基于联邦学习的隐私保护和安全防御技术研究现状,本文对联邦学习的隐私和安全问题在现有最前沿的研究成果上进行了更清晰的分类,并对威胁隐私和安全的手段进行了威胁强度的划分.本文首先介绍了涉及联邦学习隐私和安全问题的威胁根源,并从多个方面罗列了其在联邦学习中的破坏手段及威胁性.其次,本文总结了关于联邦学习隐私和安全问题所面临的挑战.对于隐私保护而言,本文同时分析了包括单个恶意参与方或中央服务器的攻击和多方恶意合谋泄露隐私的场景,并探讨了相应的最先进保护技术.对于安全问题而言,本文着重分析了影响全局模型性能的多种恶意攻击手段,并系统性地阐述了先进的安全防御方案,以帮助规避构建安全的大规模分布式联邦学习计算环境中潜在的风险.同时与其他联邦学习相关综述论文相比,本文还介绍了联邦学习的多方恶意合谋问题,对比分析了现有的联邦安全聚合算法及安全开源框架,致力于为研究人员提供该领域更清晰的视野.最后,本文讨论了联邦学习技术面临的挑战和未来研究方向,以期望进一步推进联邦学习在人工智能场景下的安全应用.

关 键 词：联邦学习  数据隐私 数据安全 大规模分布式学习  人工智能

分 类 号：TP393]