大数据中国

搜索
大数据中国 首页 行业资讯 查看内容
联邦学习已成AI领域重要方向
2019-10-19 11:13 | 查看: 934| 评论: 0

2019年12月,国际人工智能顶级学术会议神经信息处理系统大会NeurIPS 2019(Conference and Workshop on Neural Information Processing Systems 2019)即将于加拿大温哥华隆重召开。大会期间,谷歌、微众银行、卡耐基梅隆大学、新加坡南洋理工大学等机构将联合举办关于联邦学习技术及应用的国际研讨会(Workshop on Federated Learning for Data Privacy and Confidentiality)。从该国际研讨会近日揭晓的论文收录情况来看,联邦学习这一人工智能子领域已经受到国内外知名研究机构及企业的关注与重视。

联邦学习国际社区范围进一步扩大

据研讨会主席、微众银行人工智能首席科学家范力欣介绍,随着人工智能技术成功突破算法与算力上的限制,如何连接“数据孤岛”和保护数据隐私,成为人工智能在各行各业应用落地所必须解决的难题。“联邦学习”(Federated Learning)作为一种加密的分布式机器学习范式,可以使得各方在不披露原始数据的情况下达到共建模型的目的。即在不违反数据隐私保护法规的前提下,连接数据孤岛,建立性能卓越的共有模型。

近两年来,联邦学习在学术研究、标准制定、行业落地等方面一路高歌猛进,成为人工智能领域引人注目的方向之一。今年8月,IJCAI 2019首届联邦学习国际研讨会的成功召开标志了联邦学习国际社区的正式成立,联邦学习进入了一个新的阶段。此次在NeurIPS 2019中举办的联邦学习主题的研讨会则在参与人数、投稿数量、研讨深度、应用广度等方面进一步提升,吸引更多国际研究者与从业者的关注。

据统计,此次研讨会共收到68篇投稿论文,来自美、中、英、德、芬兰、新加坡、日本、印度、以色列、沙特阿拉伯等17个国家和地区,其中不乏哈佛、普林斯顿、康奈尔、麻省理工等国际名校与研究机构,以及谷歌、华为、腾讯、微众银行等知名企业。数据显示,美国与中国投稿最多,占投稿总数70%以上。在近几年联邦学习的研究中,以谷歌研究院为代表的技术流派关注消费者端(C端)移动设备上的隐私保护问题,而国内以微众银行 AI团队为代表的技术流派,比较看重企业端(B端)跨机构跨组织大数据合作场景。事实上此次研讨会的投稿分布也正体现了在联邦学习这一人工智能新方向上,中美的领先地位。

 

 

理论研究与应用探索齐头并进

在被接收的33篇论文中,从入选论文作者的机构分布来看,卡耐基梅隆大学、谷歌、微众银行、腾讯占比最高。哈佛大学、耶鲁大学、康奈尔大学、清华大学、北京大学、香港科技大学、微软、Facebook、腾讯等海内外知名研究机构与企业均占一席之地。

入选论文不仅包含对联邦学习的理论研究,更重要的是呈现了在实际应用中的探索成果。其中最受评委青睐的来自卡耐基梅隆大学的论文《Think Locally, Act Globally: Federated Learning with Local and Global Representations》就提出结合本地与全局的方式,降低联邦学习通讯开销,提升学习效率,该方法即使在参与方拥有非同质数据的情况下仍然有效。无独有偶,国内微众银行AI团队的论文《A Communication Efficient Vertical Federated Learning Framework》提出针对纵向联邦,降低通信开销,进而提升学习效率的方法,该方法在理论分析与实验验证中被证明行之有效。通信开销的降低与学习效率的提升将为更大范围的工业化奠定基础,对此的研究来源于应用,也将在实际应用中产生巨大价值。此外,谷歌与卡耐基梅隆大学的合作论文《Mitigating the Impact of Federated Learning on Client Resources》提供了一个对联邦学习各种方法进行客观全面评价的基准框架(benchmark framework)。

附:


联邦学习简介

        联邦学习(Federated Learning)是一种新兴的人工智能基础技术,在 2016 年由谷歌最先提出,原本用于解决安卓手机终端用户在本地更新模型的问题,其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下,在多参与方或多计算结点之间开展高效率的机器学习。其中,联邦学习可使用的机器学习算法不局限于神经网络,还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。


联邦学习的系统构架

       以包含两个数据拥有方(即企业 A 和 B)的场景为例介绍联邦学习的系统构架。该构架可扩展至包含多个数据拥有方的场景。假设企业 A 和 B 想联合训练一个机器学习模型,它们的业务系统分别拥有各自用户的相关数据。此外,企业 B 还拥有模型需要预测的标签数据。出于数据隐私保护和安全考虑,A 和 B 无法直接进行数据交换,可使用联邦学习系统建立模型。联邦学习系统构架由三部分构成,如图所示。



       第一部分:加密样本对齐。由于两家企业的用户群体并非完全重合,系统利用基于加密的用户样本对齐技术,在 A 和 B 不公开各自数据的前提下确认双方的共有用户,并且不暴露不互相重叠的用户,以便联合这些用户的特征进行建模。第二部分:加密模型训练。在确定共有用户群体后,就可以利用这些数据训练机器学习模型。为了保证训练过程中数据的保密性,需要借助第三方协作者 C 进行加密训练。以线性回归模型为例,训练过程可分为以下 4 步(如图  所示): 

       第①步:协作者 C 把公钥分发给 A 和 B,用以对训练过程中需要交换的数据进行加密。


       第②步:A 和 B 之间以加密形式交互用于计算梯度的中间结果。


       第③步:A 和 B 分别基于加密的梯度值进行计算,同时 B 根据其标签数据计算损失,并把结果汇总给 C。C 通过汇总结果计算总梯度值并将其解密。


       第④步:C 将解密后的梯度分别回传给 A 和 B,A 和 B 根据梯度更新各自模型的参数。


      迭代上述步骤直至损失函数收敛,这样就完成了整个训练过程。在样本对齐及模型训练过程中,A 和 B 各自的数据均保留在本地,且训练中的数据交互也不会导致数据隐私泄露。因此,双方在联邦学习的帮助下得以实现合作训练模型。


      第三部分:效果激励。联邦学习的一大特点就是它解决了为什么不同机构要加入联邦共同建模的问题,即建立模型以后模型的效果会在实际应用中表现出来,并记录在永久数据记录机制(如区块链)上。提供数据多的机构所获得的模型效果会更好,模型效果取决于数据提供方对自己和他人的贡献。这些模型的效果在联邦机制上会分发给各个机构反馈,并继续激励更多机构加入这一数据联邦。以上三部分的实施,既考虑了在多个机构间共同建模的隐私保护和效果,又考虑了以一个共识机制奖励贡献数据多的机构。所以,联邦学习是一个「闭环」的学习机制。


联邦学习优势

       (1)数据隔离,数据不会泄露到外部,满足用户隐私保护和数据安全的需求;


       (2)能够保证模型质量无损,不会出现负迁移,保证联邦模型比割裂的独立模型效果好;


       (3)参与者地位对等,能够实现公平合作;


      (4)能够保证参与各方在保持独立性的情况下,进行信息与模型参数的加密交换,并同时获得成长。


联邦学习分类

        针对不同数据集,联邦学习分为横向联邦学习(horizontal federated learning)、纵向联邦学习(vertical federated learning)与联邦迁移学习(Federated Transfer Learning,FmL)。




       横向联邦学习在两个数据集的用户特征重叠较多,而用户重叠较少的情况下,我们把数据集按照横向(即用户维度)切分,并取出双方用户特征相同而用户不完全相同的那部分数据进行训练。这种方法叫做横向联邦学习。比如有两家不同地区的银行,它们的用户群体分别来自各自所在的地区,相互的交集很小。但是,它们的业务很相似,因此,记录的用户特征是相同的。此时,我们就可以使用横向联邦学习来构建联合模型。谷歌在2016年提出了一个针对安卓手机模型更新的数据联合建模方案:在单个用户使用安卓手机时,不断在本地更新模型参数并将参数上传到安卓云上,从而使特征维度相同的各数据拥有方建立联合模型。


       纵向联邦学习在两个数据集的用户重叠较多而用户特征重叠较少的情况下,我们把数据集按照纵向(即特征维度)切分,并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。这种方法叫做纵向联邦学习。比如有两个不同的机构,家是某地的银行,另一家是同一个地方的电商。它们的用户群体很有可能包含该地的大部分居民因此用户的交集较大。但是,由于银行记录的都是用户的收支行为与信用评级,而电商则保有用户的浏览与购买历史,因此它们的用户特征交集较小。纵向联邦学习就是将这些不同特征在加密的状态下加以聚合,以增强模型能力。目前,逻辑回归模型、树形结构模型和神经网络模型等众多机器学习模型已经逐渐被证实能够建立在此联邦体系上。


        联邦迁移学习在两个数据集的用户与用户特征重叠都较少的情况下,我们不对数据进行切分,而利用迁移学习国来克服数据或标签不足的情况。这种方法叫做联邦迁移学习。比如有两个不同机构,一家是位于中国的银行,另一家是位于美国的电商。由于受地域限制,这两家机构的用户群体交集很小。同时,由于机构类型的不同,二者的数据特征也只有小部分重合。在这种情况下,要想进行有效的联邦学习,就必须引入迁移学习,来解决单边数据规模小和标签样本少的问题,从而提升模型的效果。


联邦学习源码

1.https://www.tensorflow.org/federated/


2.https://github.com/WeBankFinTech/FATE

————————————————

版权声明:本文为CSDN博主「草棚」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/cao812755156/article/details/89598410

免责声明: 除非特别声明,文章均为网络转载,仅代表作者观点,与大数据中国网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。如果本文内容有侵犯你的权益,请发送信息至ab12-120@163.com,我们会及时删除

最新评论

关闭

站长推荐上一条 /1 下一条

 
 
在线客服①
在线客服②
大数据行业交流
大数据行业交流
大数据求职招聘
大数据求职招聘
服务电话:
15010106923
微信联系:
hb-0310
服务邮箱:
ab12-120@163.com
官方微信扫一扫
大数据中国微信

QQ   

版权所有: Discuz! © 2001-2013 大数据.

GMT+8, 2020-10-1 23:00 , Processed in 0.069212 second(s), 24 queries .

返回顶部