導(dǎo)讀：隨著人們對個人隱私泄露的擔(dān)憂以及相關(guān)法律法規(guī)的出臺，傳統(tǒng)的人工智能技術(shù)急需適應(yīng)新形勢、新情況。聯(lián)邦學(xué)習(xí)（Federated Learning, FL）作為其中一種技術(shù)上的解決方案備受學(xué)術(shù)界和工業(yè)界人士的關(guān)注。本文將對聯(lián)邦學(xué)習(xí)進行全面的介紹。
來源：大數(shù)據(jù)DT（ID：hzdashuju）
01 什么是聯(lián)邦學(xué)習(xí)2016年是人工智能（ArtificiaIntelligence，AI）成熟的一年。隨著AlphaGo擊敗人類頂級圍棋手，我們真正見證了人工智能的巨大潛力，并開始期待更復(fù)雜、更尖端的人工智能技術(shù)可以應(yīng)用在更多的領(lǐng)域，包括無人駕駛、生物醫(yī)療、金融等。如今，人工智能技術(shù)在各行各業(yè)都顯示出了優(yōu)勢。最新的AlphaFold2技術(shù)甚至可以預(yù)測35萬種蛋白質(zhì)結(jié)構(gòu)，這些結(jié)構(gòu)涵蓋了98.5%的人類蛋白質(zhì)組。然而，這些技術(shù)的成功大都以大量的數(shù)據(jù)為基礎(chǔ)。比如計算機視覺領(lǐng)域中圖像分類、目標(biāo)檢測等技術(shù)的發(fā)展離不開眾多大規(guī)模的圖片數(shù)據(jù)集，如ImageNet、COCO和PASCALVOC。在自動駕駛領(lǐng)域，眾多國內(nèi)外廠商積累了數(shù)十萬公里的道路測試數(shù)據(jù)。AlphaGo在2016年總共使用了30萬場游戲的數(shù)據(jù)作為訓(xùn)練集。隨著AlphaGo的成功，人們自然希望像AlphaGo這樣的由大數(shù)據(jù)驅(qū)動的人工智能技術(shù)能夠很快在生活中應(yīng)用起來。然而，現(xiàn)實有些令人失望：除了少數(shù)行業(yè)，大多數(shù)領(lǐng)域只擁有有限的數(shù)據(jù)或質(zhì)量較差的數(shù)據(jù)，這使AI技術(shù)的落地比我們想象的更困難。是否可以通過跨組織傳輸數(shù)據(jù)，將數(shù)據(jù)融合在一個公共站點中呢？事實上，在許多情況下，打破數(shù)據(jù)源（數(shù)據(jù)擁有者）之間的障礙是非常困難的，甚至是不可能的。一般來說，任何AI項目所需的數(shù)據(jù)都包含多種類型。例如，在人工智能技術(shù)驅(qū)動的產(chǎn)品推薦服務(wù)中，產(chǎn)品銷售者擁有產(chǎn)品信息、用戶購買數(shù)據(jù)，但沒有描述用戶購買能力和支付習(xí)慣的數(shù)據(jù)。在大多數(shù)行業(yè)中，數(shù)據(jù)以孤島的形式存在。由于行業(yè)競爭、隱私安全、復(fù)雜的管理程序等，即使是同一公司不同部門之間的數(shù)據(jù)集成也面臨著巨大的阻力，要整合分散在全國各地的數(shù)據(jù)和機構(gòu)幾乎是不可能的，或者在成本上是不可行的。與此同時，隨著越來越多的公司意識到損害數(shù)據(jù)安全和用戶隱私的嚴(yán)重性，數(shù)據(jù)隱私和安全已成為全球性的重大問題。公共數(shù)據(jù)泄露的相關(guān)新聞引起了公共媒體和政府的極大關(guān)注，如2018年國外某社交網(wǎng)站的數(shù)據(jù)泄露事件引發(fā)了廣泛關(guān)注。作為回應(yīng)，世界各國都在完善保護數(shù)據(jù)安全和隱私的法律。例如，歐盟于2018年5月25日實施的《通用數(shù)據(jù)保護條例》（General Data Protection Regulation，GDPR）。GDPR（見圖1-1）旨在保護用戶的個人隱私和數(shù)據(jù)安全，要求企業(yè)在用戶協(xié)議中使用清晰明了的語言，并授予用戶“被遺忘權(quán)”，即用戶的個人數(shù)據(jù)可以被刪除或撤銷，違反該條例的公司將面臨高額罰款。我國也在實施類似的隱私和安全措施。例如，我國于2017年頒布的《網(wǎng)絡(luò)安全法》和《民法通則》規(guī)定，互聯(lián)網(wǎng)企業(yè)不得泄露或篡改其收集的個人信息，在與第三方進行數(shù)據(jù)交易時，需要確保擬議的合同遵守數(shù)據(jù)保護法律義務(wù)。這些法規(guī)的建立顯然有助于建立一個更文明的社會，但也對人工智能中常用的數(shù)據(jù)交易程序提出了新的挑戰(zhàn)。具體來說，人工智能中的傳統(tǒng)數(shù)據(jù)處理模型往往涉及簡單的數(shù)據(jù)交易模型，一方收集用戶數(shù)據(jù)并將數(shù)據(jù)傳輸給另一方，另一方負(fù)責(zé)清理和融合數(shù)據(jù)。最后，第三方將利用集成的數(shù)據(jù)來建立模型以供其他方使用。模型通常作為服務(wù)出售的最終產(chǎn)品。這一傳統(tǒng)的流程面臨上述新的數(shù)據(jù)法規(guī)的挑戰(zhàn)。此外，由于用戶可能不清楚這些模型的未來用途，這些交易可能會違反GDPR等法律法規(guī)的規(guī)定。結(jié)果，數(shù)據(jù)使用方會面臨這樣一個困境——數(shù)據(jù)以孤島的形式存在，但在很多情況下，數(shù)據(jù)使用方被禁止收集、融合或者將數(shù)據(jù)傳輸給其他組織或個人進行AI處理。因此，如何合法合規(guī)地解決數(shù)據(jù)碎片化和孤島問題，是人工智能研究人員和從業(yè)者將要面臨的一個重要挑戰(zhàn)。聯(lián)邦學(xué)習(xí)這個術(shù)語是由 McMahan 等人在 2016 年的論文中引入的： 我們將我們的方法稱為聯(lián)邦學(xué)習(xí)，因為學(xué)習(xí)任務(wù)是通過由中央服務(wù)器協(xié)調(diào)的參與方設(shè)備（我們稱之為客戶機，即 Client）的松散聯(lián)邦來完成的。跨大量通信帶寬有限的不可靠設(shè)備的一些不平衡且非獨立同分布（Independently and Identically Distributed，IID）數(shù)據(jù)的劃分是聯(lián)邦學(xué)習(xí)面臨的挑戰(zhàn)。在聯(lián)邦學(xué)習(xí)這個術(shù)語出現(xiàn)之前，一些重要的相關(guān)工作已經(jīng)開展。許多研究團體（來自密碼學(xué)、數(shù)據(jù)庫和機器學(xué)習(xí)等多個領(lǐng)域）追求的一個長期目標(biāo)是分析和學(xué)習(xí)分布在許多所有者之間的數(shù)據(jù)，而不泄露這些數(shù)據(jù)。在加密數(shù)據(jù)上計算的加密方法始于20世紀(jì)80年代早期（參考Rivest等人于1982年發(fā)表的文章），Agrawal、Srikant和Vaidya等人是早期嘗試使用集中式服務(wù)器從本地數(shù)據(jù)中學(xué)習(xí)并同時保護隱私的典范。相反，即使自引入聯(lián)邦學(xué)習(xí)這個術(shù)語以來，我們也沒有發(fā)現(xiàn)任何一項研究工作可以直接解決FL面臨的所有挑戰(zhàn)。因此，術(shù)語“聯(lián)邦學(xué)習(xí)”為這些經(jīng)常在隱私敏感的分布式數(shù)據(jù)（又稱中心化數(shù)據(jù)）的機器學(xué)習(xí)（Machine Learning，ML）應(yīng)用問題中共同出現(xiàn)的特征、約束和挑戰(zhàn)等提供了方便的簡寫。在聯(lián)邦學(xué)習(xí)領(lǐng)域，許多開放式挑戰(zhàn)的一個關(guān)鍵屬性是，它們本質(zhì)上是跨學(xué)科的。應(yīng)對這些挑戰(zhàn)可能不僅需要機器學(xué)習(xí)，還需要分布式優(yōu)化、密碼學(xué)、安全性、差分隱私、公平性、壓縮感知、信息理論、統(tǒng)計學(xué)等方面的技術(shù)。許多最棘手的問題都處在這些學(xué)科的交叉點上，因此我們相信，各領(lǐng)域?qū)＜抑g的協(xié)作對聯(lián)邦學(xué)習(xí)的持續(xù)發(fā)展至關(guān)重要。聯(lián)邦學(xué)習(xí)最開始被提出時，在移動和邊緣設(shè)備等應(yīng)用場景備受關(guān)注。之后，聯(lián)邦學(xué)習(xí)的應(yīng)用場景越來越多，例如，多個組織協(xié)同訓(xùn)練一個模型。聯(lián)邦學(xué)習(xí)的上述相關(guān)變化引申出更廣泛的定義。定義聯(lián)邦學(xué)習(xí)是一種機器學(xué)習(xí)設(shè)置，其中多個實體（客戶端）在中央服務(wù)器或服務(wù)提供商的協(xié)調(diào)下協(xié)同解決機器學(xué)習(xí)問題。每個客戶端的原始數(shù)據(jù)都存儲在本地，并且不會交換或直接傳輸；取而代之的是，使用旨在即時聚合的有針對性的更新迭代來實現(xiàn)學(xué)習(xí)目標(biāo)。有針對性的更新是指狹義的更新，以包含特定學(xué)習(xí)任務(wù)所需的最少信息；在數(shù)據(jù)最小化服務(wù)中，盡可能早地執(zhí)行聚合操作。雖然對數(shù)據(jù)隱私保護的研究已經(jīng)超過50年，但在最近10年才有廣泛部署的大規(guī)模解決方案（例如Rappor）。跨設(shè)備聯(lián)邦學(xué)習(xí)和聯(lián)邦數(shù)據(jù)分析正在應(yīng)用于消費數(shù)字產(chǎn)品中。例如Gboard移動鍵盤以及Pixel手機和Android Messages中廣泛使用了聯(lián)邦學(xué)習(xí)；又例如在iOS13中，跨設(shè)備FL被應(yīng)用于QuickType鍵盤和Siri的聲音分類器等應(yīng)用中。跨信息孤島的一些應(yīng)用在各領(lǐng)域提出，包括金融風(fēng)險預(yù)測、藥物發(fā)現(xiàn)、電子健康記錄挖掘、醫(yī)療數(shù)據(jù)分割和智能制造。對聯(lián)邦學(xué)習(xí)技術(shù)不斷增長的需求激發(fā)了許多工具和框架的出現(xiàn)，包括TensorFlow Federated、FATE（Federated AI Technology Enabler）、PySyft、Leaf、PaddleFL和Clara Training Framework等。關(guān)于各種框架之間的異同，讀者可參考Kairouz等人2019年發(fā)表的綜述。一些成熟的技術(shù)公司和較小的初創(chuàng)公司也正在開發(fā)利用聯(lián)邦學(xué)習(xí)技術(shù)的商業(yè)數(shù)據(jù)平臺。02 聯(lián)邦學(xué)習(xí)的工作流程在介紹聯(lián)邦學(xué)習(xí)（FL）的訓(xùn)練過程之前，我們先考慮一個FL模型的生命周期。FL過程通常是由為特定應(yīng)用程序開發(fā)模型的工程師驅(qū)動的。例如，自然語言處理領(lǐng)域的專家可以開發(fā)一個用于虛擬鍵盤的下一個單詞預(yù)測模型。圖1-2顯示了聯(lián)邦學(xué)習(xí)的主要組件和參與者。從更高層次上看，典型的工作流程如下。▲圖1-2 FL模型生命周期和聯(lián)邦學(xué)習(xí)系統(tǒng)參與者- 客戶端檢測：如果需要的話，客戶端（例如手機上運行的應(yīng)用程序）將在本地存儲必要的訓(xùn)練數(shù)據(jù)（有時間和數(shù)量限制）。在很多情況下，應(yīng)用程序已經(jīng)存儲了這些數(shù)據(jù)（例如，一個短信應(yīng)用程序已經(jīng)存儲短信，一個照片管理應(yīng)用程序已經(jīng)存儲照片）。然而，在某些情況下，可能需要維護額外的數(shù)據(jù)或元數(shù)據(jù)，例如用戶交互數(shù)據(jù)，以便為監(jiān)督學(xué)習(xí)任務(wù)提供標(biāo)簽。
- 仿真原型（可選）：模型工程師可以使用代理數(shù)據(jù)集在FL模擬中對模型架構(gòu)進行原型化并測試學(xué)習(xí)超參數(shù)。
- 聯(lián)邦模型訓(xùn)練：啟動多個聯(lián)邦訓(xùn)練任務(wù)來訓(xùn)練模型的不同變體，或使用不同的超參數(shù)優(yōu)化。
- 聯(lián)邦模型評估：在任務(wù)得到充分訓(xùn)練之后（通常是幾天），對模型進行分析并選擇合適的候選者。模型分析可能包括在數(shù)據(jù)中心的標(biāo)準(zhǔn)數(shù)據(jù)集上計算指標(biāo)或者聯(lián)邦評估，其中模型被推送到保留的客戶端，以對本地客戶端數(shù)據(jù)進行評估。
- 部署：最后，一旦一個好的模型被選中，它將經(jīng)歷一個標(biāo)準(zhǔn)的模型發(fā)布過程，包括手動質(zhì)量保證、實時A/B測試（通常是在一些設(shè)備上使用新模型，在其他設(shè)備上使用上一代模型來比較它們的性能），以及階段性推出（以便在影響太多用戶之前發(fā)現(xiàn)和回滾不良行為）。模型的特定啟動過程是由應(yīng)用程序的所有者設(shè)置的，通常與模型是如何訓(xùn)練的無關(guān)。換句話說，這個步驟同樣適用于經(jīng)過聯(lián)邦學(xué)習(xí)或傳統(tǒng)數(shù)據(jù)中心方法訓(xùn)練的模型。
FL系統(tǒng)面臨的主要挑戰(zhàn)之一是如何使上述工作流程盡可能簡單，理想地接近集中訓(xùn)練（Centralized Training）的ML系統(tǒng)所達到的易用性。接下來，我們將詳細(xì)介紹一種常見的FL訓(xùn)練過程，它可以涵蓋McMahan等人提出的聯(lián)邦平均（Federated Averaging）算法和許多其他算法。服務(wù)器（服務(wù)提供者）通過重復(fù)以下步驟來安排訓(xùn)練過程，直到訓(xùn)練停止（由監(jiān)視訓(xùn)練過程的模型工程師自行決定）：- 客戶端選擇：服務(wù)器從滿足資格要求的一組客戶端中抽取樣本。例如，為了避免影響正在使用設(shè)備的用戶，手機可能只有在插電、使用不計流量的WiFi連接且處于空閑狀態(tài)時才會連接到服務(wù)器。
- 廣播：選定的客戶端從服務(wù)器下載當(dāng)前的模型權(quán)重和一個訓(xùn)練程序（例如Tensor-Flow Graph）。
- 客戶機計算：每個選定的設(shè)備通過在本地執(zhí)行訓(xùn)練程序?qū)δＰ瓦M行更新，例如，訓(xùn)練程序可以在本地數(shù)據(jù)上運行SGD（如Federated Averaging算法）。
- 聚合：服務(wù)器對設(shè)備的更新進行聚合。為了提高效率，一旦有足夠數(shù)量的設(shè)備報告了結(jié)果，可能會刪除掉隊的設(shè)備。這一階段也是許多其他技術(shù)的集成點，這些技術(shù)將在后面討論，可能包括用于增強隱私的安全聚合、用于提高通信效率而對聚合進行的有損壓縮，以及針對差分隱私的噪聲添加和更新裁剪。
- 模型更新：服務(wù)器基于從參與當(dāng)前輪次的客戶端計算出的聚合更新，在本地更新共享模型。
客戶機計算、聚合和模型更新階段的分離并不是聯(lián)邦學(xué)習(xí)的嚴(yán)格要求，但它確實排除了某些算法類，例如異步SGD，即在使用其他客戶機的更新進行任何聚合之前，每個客戶機的更新都立即應(yīng)用于模型。這種異步方法可能會簡化系統(tǒng)設(shè)計的某些方面，而且從優(yōu)化角度來看也是有益的。然而，上述訓(xùn)練過程在將不同研究方向分開考慮時具有很大的優(yōu)勢：壓縮、差分隱私和安全多方計算的進步可以用于基礎(chǔ)操作，如通過去中心化更新的方法計算和或均值，然后由任意優(yōu)化或分析算法組合，只要這些算法以聚合操作的形式表示即可。值得強調(diào)的是，聯(lián)邦學(xué)習(xí)的訓(xùn)練過程不應(yīng)該影響用戶體驗。首先，如上所述，盡管模型參數(shù)通常會在每一輪聯(lián)邦訓(xùn)練的廣播階段被發(fā)送到一些設(shè)備上，但這些模型只是訓(xùn)練過程中的一部分，不用于向用戶顯示實時預(yù)測。這是至關(guān)重要的，因為訓(xùn)練ML模型是具有挑戰(zhàn)性的，而且一個超參數(shù)的錯誤配置可能產(chǎn)生一個做出錯誤預(yù)測的模型。相反，用戶可見的模型使用被推遲到模型生命周期的第6步“部署”中的階段性推出過程中。其次，訓(xùn)練本身是對用戶不可見的，如在客戶端選擇步驟中描述的那樣，訓(xùn)練不會使設(shè)備變慢或耗盡電池，因為它只在設(shè)備空閑和連接電源時執(zhí)行。然而，這些限制所帶來的有限可用性直接導(dǎo)致開放式的研究挑戰(zhàn)，如半循環(huán)數(shù)據(jù)可用性（Semi-Cyclic Data Availability）和客戶端選擇中可能存在的偏見。03 聯(lián)邦學(xué)習(xí)的分類根據(jù)樣本和特征的分布方式不同，我們可以將聯(lián)邦學(xué)習(xí)劃分為兩類：橫向聯(lián)邦學(xué)習(xí)（Horizontal Federated Learning，HFL）和縱向聯(lián)邦學(xué)習(xí)（Vertical Federated Learning，VFL）。現(xiàn)在假設(shè)有兩個參與方的聯(lián)邦學(xué)習(xí)場景，圖1-3和圖1-4分別是兩種聯(lián)邦學(xué)習(xí)的圖示定義。▲圖1-3橫向聯(lián)邦學(xué)習(xí)（按樣本劃分的聯(lián)邦學(xué)習(xí)）▲圖1-4縱向聯(lián)邦學(xué)習(xí)（按特征劃分的聯(lián)邦學(xué)習(xí)）橫向聯(lián)邦學(xué)習(xí)適合聯(lián)邦學(xué)習(xí)中各參與方所擁有的數(shù)據(jù)有重疊的特征，即參與方之間的數(shù)據(jù)特征是對齊的，但是各參與方所擁有的數(shù)據(jù)樣本是不同的。這種橫向聯(lián)邦學(xué)習(xí)類似于在矩陣（表格）數(shù)據(jù)中將數(shù)據(jù)橫向（水平）劃分，因此我們也把橫向聯(lián)邦學(xué)習(xí)稱為按樣本劃分的聯(lián)邦學(xué)習(xí)（Sample-Partitioned Federated Learning）或者樣本分布的聯(lián)邦學(xué)習(xí)（Sample-Distributed Federated Learning）。與橫向聯(lián)邦學(xué)習(xí)不同，縱向聯(lián)邦學(xué)習(xí)則適合聯(lián)邦學(xué)習(xí)中各參與方所擁有的數(shù)據(jù)有重疊樣本，即參與方之間的數(shù)據(jù)樣本是對齊的，但是各參與方所擁有的數(shù)據(jù)特征是不同的。這種縱向聯(lián)邦學(xué)習(xí)類似于在矩陣（表格）數(shù)據(jù)中將數(shù)據(jù)縱向（垂直）劃分，因此我們也把縱向聯(lián)邦學(xué)習(xí)稱為按特征劃分的聯(lián)邦學(xué)習(xí)（Feature-Partitioned Federated Learning）或者特征分布的聯(lián)邦學(xué)習(xí)（Feature-Distributed Federated Learning）。研究者提出的分割學(xué)習(xí)（Split Learning）即在客戶端和服務(wù)器端分割深度神經(jīng)網(wǎng)絡(luò)模型的運算操作，并在縱向劃分?jǐn)?shù)據(jù)上進行學(xué)習(xí)，可以看作縱向聯(lián)邦學(xué)習(xí)的一種特殊形式。例如，當(dāng)參與聯(lián)邦學(xué)習(xí)的兩個參與方是服務(wù)于不同區(qū)域的商業(yè)銀行時，它們可能有來自各自區(qū)域的不同的用戶組，它們的用戶群體間的交集非常小。然而，它們之間的業(yè)務(wù)非常相似，所以特征空間是相同的。因此，這兩家銀行就可以通過橫向聯(lián)邦學(xué)習(xí)來協(xié)同地訓(xùn)練一個機器學(xué)習(xí)模型。如果是同一城市的兩個不同公司：一個是銀行，另一個是電子商務(wù)公司，它們的用戶集合很可能包含該地區(qū)的大部分居民，所以它們的用戶群體間的交集很大。然而，銀行記錄了用戶的收支行為和信用評級，電子商務(wù)公司保留了用戶的瀏覽和購買歷史，兩者的特征空間差異很大。現(xiàn)在假設(shè)我們希望雙方都有一個基于用戶和產(chǎn)品信息的產(chǎn)品購買預(yù)測模型。縱向聯(lián)邦學(xué)習(xí)是將這些不同的特征聚合起來，并在保護隱私的情況下計算訓(xùn)練損失和梯度，從而協(xié)同建立一個包含雙方數(shù)據(jù)的模型。換句話說，縱向聯(lián)邦學(xué)習(xí)傾向于跨行業(yè)參與方之間的協(xié)同學(xué)習(xí)，橫向聯(lián)邦學(xué)習(xí)一般是同一行業(yè)的各參與者協(xié)同學(xué)習(xí)。本文摘編自《聯(lián)邦學(xué)習(xí)：算法詳解與系統(tǒng)實現(xiàn)》（ISBN：978-7-111-70349-5），經(jīng)出版方授權(quán)發(fā)布。延伸閱讀《聯(lián)邦學(xué)習(xí)：算法詳解與系統(tǒng)實現(xiàn)》轉(zhuǎn)載請聯(lián)系微信：DoctorData推薦語：本書首先介紹聯(lián)邦學(xué)習(xí)的定義和發(fā)展歷史，按類別介紹聯(lián)邦學(xué)習(xí)算法和發(fā)展現(xiàn)狀，介紹聯(lián)邦學(xué)習(xí)的應(yīng)用場景，以及相關(guān)安全機器學(xué)習(xí)的技術(shù)。然后我們將介紹新的最前沿的聯(lián)邦學(xué)習(xí)算法，用京東數(shù)科系統(tǒng)作為實例，對聯(lián)邦學(xué)習(xí)系統(tǒng)構(gòu)建和實現(xiàn)進行講解。最后我們將介紹京東數(shù)科自研的基于區(qū)塊鏈的聯(lián)邦學(xué)習(xí)技術(shù)。關(guān)于作者：薄列峰，京東科技集團副總裁、硅谷研發(fā)部負(fù)責(zé)人。曾擔(dān)任包括Neu-rIPS、CVPR、ICCV、ECCV、AAAI、SDM等在內(nèi)的多個頂級人工智能會議程序委員會委員。在國際頂級會議和期刊上合計發(fā)表論文80余篇，論文被引用10186次，H指數(shù)44。其博士學(xué)位論文榮獲國內(nèi)百篇優(yōu)秀博士論文獎，RGB-D物體識別論文榮獲機器人領(lǐng)域?qū)W術(shù)會議ICRA最佳計算機視覺論文獎。黃恒，大數(shù)據(jù)、機器學(xué)習(xí)、人工智能等領(lǐng)域的國際學(xué)術(shù)帶頭人，美國匹茲堡大學(xué)電子及計算機工程系杰出講座終身教授，AIMBE Fellow。作為會議程序主席或主席團成員，組織了超過20個國際學(xué)術(shù)會議。在國際頂級會議和期刊上發(fā)表了超過220篇文章，文章引用超過18000次，作為項目負(fù)責(zé)人領(lǐng)導(dǎo)了超過20個國際領(lǐng)先的科研項目。
顧松庠，計算機博士，京東科技聯(lián)邦學(xué)習(xí)部負(fù)責(zé)人。對機器學(xué)習(xí)算法和大規(guī)模并行系統(tǒng)有深入研究，曾在美國FDA任高級機器學(xué)習(xí)及統(tǒng)計科學(xué)家，建設(shè)放射成像醫(yī)療儀器的評價體系;先后加入 WalmartLabs和Linkedln公司，負(fù)責(zé)機器學(xué)習(xí)平臺架構(gòu)設(shè)計。2018年加入京東科技，并帶領(lǐng)多個團隊先后建設(shè)了智能客服、知識圖譜和聯(lián)邦學(xué)習(xí)系統(tǒng)。
陳彥卿，京東技術(shù)總監(jiān)，畢業(yè)于北京大學(xué)，并在紐約州立大學(xué)石溪分校獲得計算機博士學(xué)位。作為排頭兵投身聯(lián)邦學(xué)習(xí)領(lǐng)域，探究加密信息的合理應(yīng)用，堅信面向隱私保護的機器學(xué)習(xí)技術(shù)將引領(lǐng)未來。
讀書 | 書單 | 干貨 | 講明白 | 神操作 | 手把手大數(shù)據(jù) | 云計算 | 數(shù)據(jù)庫 | Python | 爬蟲 | 可視化AI | 人工智能 | 機器學(xué)習(xí) | 深度學(xué)習(xí) | NLP5G | 中臺 | 用戶畫像 | 數(shù)學(xué) | 算法 | 數(shù)字孿生據(jù)統(tǒng)計，99%的大咖都關(guān)注了這個公眾號
