聯(lián)邦學(xué)習(xí)
如何在保證本地訓(xùn)練數(shù)據(jù)不公開的前提下,實(shí)現(xiàn)多個(gè)數(shù)據(jù)擁有者協(xié)同訓(xùn)練一個(gè)共享的機(jī)器學(xué)習(xí)模型?傳統(tǒng)的機(jī)器學(xué)習(xí)方法需要將所有的數(shù)據(jù)集中到一個(gè)地方(例如,數(shù)據(jù)中心),然后進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練。但這種基于集中數(shù)據(jù)的做法無疑會(huì)嚴(yán)重侵害用戶隱私和數(shù)據(jù)安全。如今,世界上越來越多的人開始強(qiáng)烈要求科技公司必須根據(jù)用戶隱私法律法規(guī)妥善地處理用戶的數(shù)據(jù),歐盟的《通用數(shù)據(jù)保護(hù)條例》是一個(gè)很好的例子。在本書中,我們將描述聯(lián)邦學(xué)習(xí)(亦稱聯(lián)邦機(jī)器學(xué)習(xí))如何將分布式機(jī)器學(xué)習(xí)、密碼學(xué)、基于金融規(guī)則的激勵(lì)機(jī)制和博弈論結(jié)合起來,以解決分散數(shù)據(jù)的使用問題。我們會(huì)介紹不同種類的面向隱私保護(hù)的機(jī)器學(xué)習(xí)解決方案以及技術(shù)背景,并描述一些典型的實(shí)際問題解決案例。我們還會(huì)進(jìn)一步論述聯(lián)邦學(xué)習(xí)將成為下一代機(jī)器學(xué)習(xí)的基礎(chǔ),可以滿足技術(shù)和社會(huì)需求并促進(jìn)面向安全的人工智能的開發(fā)和應(yīng)用。
《聯(lián)邦學(xué)習(xí)》可供計(jì)算機(jī)科學(xué)...
如何在保證本地訓(xùn)練數(shù)據(jù)不公開的前提下,實(shí)現(xiàn)多個(gè)數(shù)據(jù)擁有者協(xié)同訓(xùn)練一個(gè)共享的機(jī)器學(xué)習(xí)模型?傳統(tǒng)的機(jī)器學(xué)習(xí)方法需要將所有的數(shù)據(jù)集中到一個(gè)地方(例如,數(shù)據(jù)中心),然后進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練。但這種基于集中數(shù)據(jù)的做法無疑會(huì)嚴(yán)重侵害用戶隱私和數(shù)據(jù)安全。如今,世界上越來越多的人開始強(qiáng)烈要求科技公司必須根據(jù)用戶隱私法律法規(guī)妥善地處理用戶的數(shù)據(jù),歐盟的《通用數(shù)據(jù)保護(hù)條例》是一個(gè)很好的例子。在本書中,我們將描述聯(lián)邦學(xué)習(xí)(亦稱聯(lián)邦機(jī)器學(xué)習(xí))如何將分布式機(jī)器學(xué)習(xí)、密碼學(xué)、基于金融規(guī)則的激勵(lì)機(jī)制和博弈論結(jié)合起來,以解決分散數(shù)據(jù)的使用問題。我們會(huì)介紹不同種類的面向隱私保護(hù)的機(jī)器學(xué)習(xí)解決方案以及技術(shù)背景,并描述一些典型的實(shí)際問題解決案例。我們還會(huì)進(jìn)一步論述聯(lián)邦學(xué)習(xí)將成為下一代機(jī)器學(xué)習(xí)的基礎(chǔ),可以滿足技術(shù)和社會(huì)需求并促進(jìn)面向安全的人工智能的開發(fā)和應(yīng)用。
《聯(lián)邦學(xué)習(xí)》可供計(jì)算機(jī)科學(xué)、人工智能和機(jī)器學(xué)習(xí)專業(yè)的學(xué)生,以及大數(shù)據(jù)和人工智能應(yīng)用程序的開發(fā)人員閱讀,也可供高等院校的教員、研究機(jī)構(gòu)的研究人員、法律法規(guī)制定者和政府監(jiān)管部門參考。
楊強(qiáng)
楊強(qiáng)教授是微眾銀行的首席人工智能官(CAIO)和香港科技大學(xué)(HKUST)計(jì)算機(jī)科學(xué)與工程系講席教授。他是香港科技大學(xué)計(jì)算機(jī)科學(xué)與工程系的前任系主任,并曾擔(dān)任大數(shù)據(jù)研究院的創(chuàng)始主任(2015-2018 年)。他的研究興趣包括人工智能、機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘,特別是遷移學(xué)習(xí)、自動(dòng)規(guī)劃、聯(lián)邦學(xué)習(xí)和基于案例的推理。他是多個(gè)國際協(xié)會(huì)的會(huì)士(Fellow),包括ACM、AAAI、IEEE、IAPR 和AAAS。他于1982 年獲得北京大學(xué)天體物理學(xué)學(xué)士學(xué)位,分別于1987年和1989 年獲得馬里蘭大學(xué)帕克分校計(jì)算機(jī)科學(xué)系碩士學(xué)位和博士學(xué)位。他曾在在滑鐵盧大學(xué)(1989-1995 年)和西蒙弗雷澤大學(xué)(1995-2001 年)擔(dān)任教授。他是ACM TIST 和IEEE TBD 的創(chuàng)始主編。他是國際人工智能聯(lián)合會(huì)議(IJCAI)的理事長(2017-2019 年)...
楊強(qiáng)
楊強(qiáng)教授是微眾銀行的首席人工智能官(CAIO)和香港科技大學(xué)(HKUST)計(jì)算機(jī)科學(xué)與工程系講席教授。他是香港科技大學(xué)計(jì)算機(jī)科學(xué)與工程系的前任系主任,并曾擔(dān)任大數(shù)據(jù)研究院的創(chuàng)始主任(2015-2018 年)。他的研究興趣包括人工智能、機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘,特別是遷移學(xué)習(xí)、自動(dòng)規(guī)劃、聯(lián)邦學(xué)習(xí)和基于案例的推理。他是多個(gè)國際協(xié)會(huì)的會(huì)士(Fellow),包括ACM、AAAI、IEEE、IAPR 和AAAS。他于1982 年獲得北京大學(xué)天體物理學(xué)學(xué)士學(xué)位,分別于1987年和1989 年獲得馬里蘭大學(xué)帕克分校計(jì)算機(jī)科學(xué)系碩士學(xué)位和博士學(xué)位。他曾在在滑鐵盧大學(xué)(1989-1995 年)和西蒙弗雷澤大學(xué)(1995-2001 年)擔(dān)任教授。他是ACM TIST 和IEEE TBD 的創(chuàng)始主編。他是國際人工智能聯(lián)合會(huì)議(IJCAI)的理事長(2017-2019 年)和人工智能發(fā)展協(xié)會(huì)(AAAI)的執(zhí)行委員會(huì)成員(2016-2020 年)。楊強(qiáng)教授曾獲多個(gè)獎(jiǎng)項(xiàng),包括2004/2005 ACM KDDCUP 冠軍、ACM SIGKDD 卓越服務(wù)獎(jiǎng)(2017)、AAAI 創(chuàng)新人工智能應(yīng)用獎(jiǎng)(2018, 2020)和吳文俊人工智能杰出貢獻(xiàn)獎(jiǎng)(2019)。他是華為諾亞方舟實(shí)驗(yàn)室的創(chuàng)始主任(2012-2014 年)和第四范式(AI 平臺(tái)公司)的共同創(chuàng)始人。他是Intelligent Planning (Springer)、Crafting Your Research Future (Morgan & Claypool)、Transfer Learning (Cambridge University
Press)與Constraint-based Design Recovery for Software Engineering (Springer)等
著作的作者。
劉洋
劉洋是微眾銀行AI 項(xiàng)目組的高級研究員。她的研究興趣包括機(jī)器學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、遷移學(xué)習(xí)、多智能體系統(tǒng)、統(tǒng)計(jì)力學(xué),以及這些技術(shù)的產(chǎn)業(yè)應(yīng)用。她于2012 年獲得普林斯頓大學(xué)博士
學(xué)位,2007 年獲得清華大學(xué)學(xué)士學(xué)位。她擁有多項(xiàng)國際發(fā)明專利,研究成果曾發(fā)表于Nature、IJCAI 和ACM TIST 等科研刊物和會(huì)議上。她曾獲AAAI 人工智能創(chuàng)新應(yīng)用獎(jiǎng)、IJCAI 創(chuàng)新應(yīng)用獎(jiǎng)等多個(gè)獎(jiǎng)項(xiàng),并擔(dān)任IJCAI 高級程序委員會(huì)委員,NeurIPS 等多個(gè)人工智能會(huì)議研討會(huì)聯(lián)合主席,以及IEEE Intelligent Systems 期刊客座編委等。
程勇
程勇是微眾銀行AI 項(xiàng)目組的高級研究員。他曾任華為技術(shù)有限公司(深圳)高級工程師和德國貝爾實(shí)驗(yàn)室高級研究員,也曾在華為-香港科技大學(xué)創(chuàng)新實(shí)驗(yàn)室擔(dān)任研究員。他的研究興趣和
專長主要包括聯(lián)邦學(xué)習(xí)、深度學(xué)習(xí)、計(jì)算機(jī)視覺和OCR、數(shù)學(xué)優(yōu)化理論和算法、分布式和網(wǎng)絡(luò)計(jì)算以及混合整數(shù)規(guī)劃。他發(fā)表期刊和會(huì)議論文20 余篇。他于2006 年、2010 年、2013 年分別在浙江大學(xué)、香港科技大學(xué)、德國達(dá)姆施塔特工業(yè)大學(xué)獲工學(xué)學(xué)士學(xué)位(一等榮譽(yù))、碩士學(xué)位和博士學(xué)位。他于2014 年獲達(dá)姆施塔特工業(yè)大學(xué)最佳博士論文獎(jiǎng),于2006 年獲浙江大學(xué)
最佳學(xué)士論文獎(jiǎng)。他在ICASSP’15 會(huì)議上做了關(guān)于“混合整數(shù)規(guī)劃”的教程。他是IJCAI’19 和NIPS’19 等國際會(huì)議的程序委員會(huì)委員。
康焱
康焱是微眾銀行AI 項(xiàng)目組的高級研究員。他的工作重點(diǎn)是面向隱私保護(hù)的機(jī)器學(xué)習(xí)和聯(lián)邦遷移學(xué)習(xí)技術(shù)的研究和實(shí)現(xiàn)。他在馬里蘭大學(xué)巴爾的摩分校獲計(jì)算機(jī)碩士和博士學(xué)位。他的博士論文研究的是以機(jī)器學(xué)習(xí)和語義網(wǎng)絡(luò)進(jìn)行異構(gòu)數(shù)據(jù)集成,并獲得了博士論文獎(jiǎng)學(xué)金。在就讀研究生期間,他參與了與美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)和美國國家科學(xué)基金會(huì)(NSF)合作的多個(gè)項(xiàng)目,設(shè)計(jì)和開發(fā)語義網(wǎng)絡(luò)集成系統(tǒng)。他在商業(yè)軟件項(xiàng)目方面也有著豐富的經(jīng)驗(yàn)。他曾在美國
Stardog Union 公司和美國塞納公司工作了四年多的時(shí)間,從事系統(tǒng)設(shè)計(jì)和實(shí)現(xiàn)方面的工作。
陳天健
陳天健是微眾銀行AI 項(xiàng)目組的副總經(jīng)理。他現(xiàn)在負(fù)責(zé)構(gòu)建基于聯(lián)邦學(xué)習(xí)技術(shù)的銀行智能生態(tài)系統(tǒng)。在加入微眾銀行之前,他是百度金融的首席架構(gòu)師,同時(shí)也是百度的首席架構(gòu)師。他擁有超過12 年的大規(guī)模分布式系統(tǒng)設(shè)計(jì)經(jīng)驗(yàn),并在Web 搜索引擎、對等網(wǎng)絡(luò)存儲(chǔ)、基因組學(xué)、推薦系統(tǒng)、數(shù)字銀行和機(jī)器學(xué)習(xí)等多個(gè)應(yīng)用領(lǐng)域中實(shí)現(xiàn)了技術(shù)創(chuàng)新。他現(xiàn)居于中國深圳,與其他工作伙伴一起建設(shè)和推廣聯(lián)邦A(yù)I 生態(tài)系統(tǒng)和相關(guān)的開源項(xiàng)目FATE。
于涵
于涵現(xiàn)任職新加坡南洋理工大學(xué)(NTU)計(jì)算機(jī)科學(xué)與工程學(xué)院助理教授、微眾銀行特聘顧問。在2015—2018 年期間,他在南洋理工大學(xué)擔(dān)任李光耀博士后研究員(LKY PDF)。在加入南洋理工大學(xué)之前,他曾在新加坡惠普公司擔(dān)任嵌入式軟件工程師。他于2014 年獲南洋理工大學(xué)計(jì)算機(jī)科學(xué)博士學(xué)位。他的研究重點(diǎn)是在線凸優(yōu)化、人工智能倫理、聯(lián)邦學(xué)習(xí)及其在眾包等復(fù)雜協(xié)作系統(tǒng)中的應(yīng)用。他在國際學(xué)術(shù)會(huì)議和期刊上發(fā)表研究論文120 余篇,獲得了多項(xiàng)科研獎(jiǎng)項(xiàng)。
