文献类型：期刊文章

作　　者：高莹[1,2,3,4] 陈晓峰[2] 张一余[2] 王玮[2] 邓煌昊[2] 段培[5] 陈培炫[5]

GAO Ying;CHEN Xiao-Feng;ZHANG Yi-Yu;WANG Wei;DENG Huang-Hao;DUAN Pei;CHEN Pei-Xuan(State Key Laboratory of Public Big Data,Guizhou University,Guiyang 550025;School of Cyber Science and Technology,Beihang University,Beijing 100191;Key Laboratory of Aerospace Network Security,Ministry of Industry and Information Technology,Beijing 100191;Zhongguancun Laboratory,Beijing 100094;Tencent Inc,Shenzhen,Guangdong 518054)

机构地区：[1]贵州大学公共大数据国家重点实验室,贵阳550025 [2]北京航空航天大学网络空间安全学院,北京100191 [3]空天网络安全工业和信息化部重点实验室,北京100191 [4]中关村实验室,北京100094 [5]腾讯公司,广东深圳518054

出　　处：《计算机学报》

基　　金：北京市自然科学基金(No.M21033);国家自然科学基金(No.61932011,61972017);腾讯微信犀牛鸟基金资助。

年　　份：2023

卷　　号：46

期　　号：9

起止页码：1781-1805

语　　种：中文

收录情况：BDHX、BDHX2020、CAS、CSCD、CSCD2023_2024、EAPJ、EI、IC、JST、RCCSE、SCOPUS、ZGKJHX、核心刊

摘　　要：联邦学习作为一种使用分布式训练数据集构建机器学习模型的新兴技术,可有效解决不同数据用户之间因联合建模而导致的本地数据隐私泄露问题,从而被广泛应用于多个领域并得到迅速发展.然而,现有的联邦学习系统已被证实在数据收集阶段、训练阶段和推理阶段都存在潜在威胁,危及数据的隐私性和系统的鲁棒性.本文从安全威胁和隐私威胁两类潜在威胁入手,围绕机密性、完整性和可用性(CIA三元组)给出了联邦学习场景中安全属性的详细定义,并对联邦学习中各类攻击方式和防御手段进行了系统全面综述.首先,本文对横向、纵向联邦学习过程,以及潜在威胁分别进行了概述,并从对抗性攻击和非对抗性攻击两个角度,分析了投毒攻击、对抗样本攻击和推理攻击等常见攻击的基本概念、实施阶段和现有方案.进一步地,依据不同的攻击方式,将防御手段划分为鲁棒性提升方法和隐私性增强技术两类:鲁棒性提升方法主要防御系统遭受的对抗性攻击,包括数据消毒、鲁棒性聚合、异常检测、对抗训练、知识蒸馏和剪枝等,隐私性增强技术主要防御系统遭受的非对抗性攻击,包括同态加密、安全多方计算、差分隐私和区块链等.最后,本文给出了联邦学习中鲁棒性和隐私性方面的未来研究方向.

关 键 词：联邦学习  安全威胁  隐私威胁 鲁棒性提升方法  隐私性增强技术  

分 类 号：TP181]