隱私計(jì)算的技術(shù)流派與標(biāo)準(zhǔn)
編者按：近日，零壹財(cái)經(jīng)推出國(guó)內(nèi)首個(gè)系統(tǒng)研究隱私計(jì)算在金融領(lǐng)域應(yīng)用的報(bào)告《開(kāi)啟新紀(jì)元：隱私計(jì)算在金融領(lǐng)域應(yīng)用發(fā)展報(bào)告(2021）》，從隱私計(jì)算落地最為密集的金融業(yè)開(kāi)始，展示隱私計(jì)算發(fā)展中真實(shí)而鮮活的產(chǎn)業(yè)生態(tài)，讓產(chǎn)業(yè)實(shí)踐者們被看見(jiàn)、被發(fā)現(xiàn)。本報(bào)告研究機(jī)構(gòu)為零壹財(cái)經(jīng)·零壹智庫(kù)，聯(lián)合發(fā)布單位為中國(guó)科技體制改革研究會(huì)數(shù)字經(jīng)濟(jì)發(fā)展研究小組、深圳市信用促進(jìn)會(huì)、橫琴數(shù)鏈數(shù)字金融研究院，同時(shí)得到了同盾科技、星云clustar、瑞萊智慧、金智塔科技和天冕科技的研究支持。
以下為隱私計(jì)算的技術(shù)路徑部分內(nèi)容：
（一）隱私計(jì)算的定義
隱私計(jì)算是“隱私保護(hù)計(jì)算”（privacy-preservingcomputation）的中文簡(jiǎn)稱，根據(jù)“大數(shù)據(jù)聯(lián)合國(guó)全球工作組”（Bigdata UN GlobalWorking Group）的定義，這是一類技術(shù)方案，在處理和分析計(jì)算數(shù)據(jù)的過(guò)程中能保持?jǐn)?shù)據(jù)不透明、不泄露、無(wú)法被計(jì)算方以及其他非授權(quán)方獲取。
大數(shù)據(jù)聯(lián)合國(guó)全球工作組成立于2014年，由31個(gè)成員國(guó)和16個(gè)國(guó)際組織組成。早在2018年，工作組就致力于促進(jìn)各國(guó)多個(gè)統(tǒng)計(jì)局相互進(jìn)行敏感大數(shù)據(jù)協(xié)作，是最早研究隱私計(jì)算的國(guó)際組織之一。2019年，該工作組出臺(tái)了《聯(lián)合國(guó)隱私保護(hù)計(jì)算技術(shù)手冊(cè)》，以方便各國(guó)統(tǒng)計(jì)局以安全適當(dāng)方式訪問(wèn)新的 (敏感)大數(shù)據(jù)源。
需要注意的是，隱私計(jì)算不是指某一個(gè)具體的技術(shù)，而是一個(gè)范疇和集合?？尚艌?zhí)行環(huán)境、多方安全計(jì)算、聯(lián)邦學(xué)習(xí)等都屬于隱私計(jì)算技術(shù)。
（二）隱私計(jì)算的技術(shù)流派
隱私計(jì)算技術(shù)是在保護(hù)數(shù)據(jù)本身不對(duì)外泄露的前提下，多個(gè)參與方通過(guò)協(xié)同對(duì)自有數(shù)據(jù)處理、聯(lián)合建模運(yùn)算、分析輸出結(jié)果、挖掘數(shù)據(jù)價(jià)值的一類信息技術(shù)。??? 作為跨學(xué)科技術(shù)，隱私計(jì)算涉及密碼學(xué)、機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、信息科學(xué)，同時(shí)可與人工智能、云計(jì)算、區(qū)塊鏈分布式網(wǎng)絡(luò)等前沿技術(shù)融合應(yīng)用，為數(shù)據(jù)保護(hù)和價(jià)值融合提供技術(shù)可行性。
從技術(shù)實(shí)現(xiàn)原理來(lái)看，隱私計(jì)算有兩種分類方式。
一種是將隱私計(jì)算技術(shù)分為兩個(gè)方向——可信硬件和密碼學(xué)?？尚庞布缚尚艌?zhí)行環(huán)境(TEE)，主要依靠硬件來(lái)解決隱私保護(hù)問(wèn)題；密碼學(xué)以多方計(jì)算、聯(lián)邦學(xué)習(xí)為代表，主要通過(guò)數(shù)學(xué)方法來(lái)解決隱私保護(hù)問(wèn)題。
另一種是將隱私計(jì)算分為三個(gè)方向。由于聯(lián)邦學(xué)習(xí)是密碼學(xué)、分布式計(jì)算、機(jī)器學(xué)習(xí)三個(gè)學(xué)科交叉的技術(shù)，目前更常見(jiàn)的是三分類法，即分為密碼學(xué)、可信硬件和聯(lián)邦學(xué)習(xí)三個(gè)流派。以密碼學(xué)為核心技術(shù)的隱私計(jì)算以多方安全計(jì)算、同態(tài)加密為代表；可信硬件以可信執(zhí)行環(huán)境為主導(dǎo)；“聯(lián)邦學(xué)習(xí)類”泛指國(guó)內(nèi)外衍生出的聯(lián)邦計(jì)算、共享學(xué)習(xí)、知識(shí)聯(lián)邦等一系列名詞，是指多個(gè)參與方聯(lián)合數(shù)據(jù)源、共同建模、提升模型性能和輸出結(jié)果準(zhǔn)確性的分布式機(jī)器學(xué)習(xí)。
1、多方安全計(jì)算
多方安全計(jì)算（Secure ?Muti-Party ?Computation，MPC）理論，是1982年時(shí)任加州大學(xué)伯克利分校計(jì)算機(jī)系教授姚期智為解決一組互不信任的參與方在保護(hù)隱私信息以及沒(méi)有可信第三方的前提下的協(xié)同計(jì)算問(wèn)題而提出的理論框架。后經(jīng)Oded Goldreich、Shafi Goldwasser等學(xué)者的眾多原始創(chuàng)新工作，多方安全計(jì)算逐漸發(fā)展為現(xiàn)代密碼學(xué)的一個(gè)重要分支。多方安全計(jì)算能夠同時(shí)確保輸入的隱私性和計(jì)算的正確性，在沒(méi)有可信第三方的前提下通過(guò)數(shù)學(xué)理論保證參與計(jì)算的各方輸入信息不暴露，而且同時(shí)能夠獲得準(zhǔn)確的運(yùn)算結(jié)果。
多方安全計(jì)算通常借助多種底層密碼框架完成，主要包括不經(jīng)意傳輸(Oblivious Transfer，OT)，混淆電路(Garbled Circuit，GC)，秘密共享(Secret Sharing，SS)和同態(tài)加密(Homomorphic Encryption HE)等。
不經(jīng)意傳輸是指數(shù)據(jù)傳輸方發(fā)出多條信息，而接收方只獲取其中一個(gè)。由于傳輸方不確定最終到達(dá)的信息是哪一條，接收方也無(wú)法得知未獲取的其他信息，從而雙方的數(shù)據(jù)都處于隱私狀態(tài)。
混淆電路是最接近“百萬(wàn)富翁”解決方式的思路。多方參與者利用計(jì)算機(jī)編程將輸入的計(jì)算任務(wù)轉(zhuǎn)化為布爾值，對(duì)輸入的具體數(shù)值加密，因此多方在互相不掌握對(duì)方私人信息時(shí)，可共同完成計(jì)算。
秘密共享是對(duì)加密信息的隨機(jī)切分過(guò)程，將信息的片段分散至多個(gè)參與方保管。因此除非超過(guò)一定數(shù)量的多方協(xié)同合作，否則無(wú)法還原完整的數(shù)據(jù)并進(jìn)行解密。
由于多方安全計(jì)算通常使用前三種框架便能實(shí)現(xiàn)，同態(tài)加密也被部分人士認(rèn)作獨(dú)立于安全多方計(jì)算而基于密碼學(xué)的技術(shù)。同態(tài)加密指能實(shí)現(xiàn)在密文上進(jìn)行計(jì)算后對(duì)輸出進(jìn)行解密,得到的結(jié)果和直接對(duì)明文計(jì)算的結(jié)果一致。該概念最早在1978年由 Ron Rivest、 Leonard Adleman和 Michael L. Dertouzo提出。按照支持的功能劃分,目前大致可以分為全同態(tài)加密和部分同態(tài)加密。全同態(tài)加密可以在加密態(tài)密文的狀態(tài)下對(duì)數(shù)據(jù)進(jìn)行各種運(yùn)算，而部分同態(tài)加密只能對(duì)密文進(jìn)行無(wú)限次同態(tài)加法或無(wú)限次同態(tài)乘法操作。
多方安全計(jì)算技術(shù)通用性高、準(zhǔn)確性高，行業(yè)內(nèi)也肯定了算法的理論價(jià)值和應(yīng)用前景。即使密碼和開(kāi)發(fā)的難度導(dǎo)致其性能中等，密碼學(xué)領(lǐng)域也有一半以上的學(xué)者研究多方安全計(jì)算的相關(guān)話題。作為發(fā)展歷史最長(zhǎng)、相對(duì)更成熟的技術(shù)，多方安全計(jì)算技術(shù)成為了各科技大廠和新秀的技術(shù)路徑之一。
表：進(jìn)入隱私計(jì)算領(lǐng)域的創(chuàng)業(yè)公司情況
數(shù)據(jù)來(lái)源：零壹智庫(kù)
2、可信執(zhí)行環(huán)境（TEE）
可信執(zhí)行環(huán)境作為易開(kāi)發(fā)、高性能的隱私計(jì)算技術(shù)，與硬件提供方存在強(qiáng)依賴關(guān)系。其實(shí)踐路徑表現(xiàn)為：在CPU內(nèi)劃分出獨(dú)立于操作系統(tǒng)的、可信的、隔離的機(jī)密空間。由于數(shù)據(jù)處理在可信空間內(nèi)進(jìn)行，數(shù)據(jù)的隱私性依賴可信硬件的實(shí)現(xiàn)。
3、聯(lián)邦學(xué)習(xí)
聯(lián)邦學(xué)習(xí)（Federated Learning）從技術(shù)層面上涉及隱私保護(hù)、機(jī)器學(xué)習(xí)和分布式領(lǐng)域，能有效地滿足數(shù)據(jù)在不出本地的情況下，實(shí)現(xiàn)共同建模，提升模型的效果。
根據(jù)特征空間和樣本ID空間的不同，聯(lián)邦學(xué)習(xí)分為橫向聯(lián)邦、縱向聯(lián)邦和聯(lián)邦遷移學(xué)習(xí)。
橫向聯(lián)邦學(xué)習(xí)適用于特征重合較多、樣本重合較少的聯(lián)合計(jì)算場(chǎng)景。但通過(guò)構(gòu)建聯(lián)邦生態(tài)，參與者可以聚合更多的數(shù)據(jù)樣本，從而解決單邊建模數(shù)據(jù)不足的情況。例如，某銀行在不同區(qū)域設(shè)立分行，由于商業(yè)模式相同，數(shù)據(jù)擁有重合度較高的特征，但各行服務(wù)不同地區(qū)的客戶，樣本重合較少，這種情況就可以應(yīng)用橫向聯(lián)邦學(xué)習(xí)。
縱向聯(lián)邦學(xué)習(xí)適用于樣本重合較多、特征重合較少的聯(lián)合計(jì)算場(chǎng)景。通過(guò)建立聯(lián)邦生態(tài)，參與者可以豐富樣本特征，實(shí)現(xiàn)更精準(zhǔn)的樣本描述。例如，服務(wù)同一群體的銀行與電商平臺(tái)就可以采用縱向聯(lián)邦學(xué)習(xí)。
聯(lián)邦遷移學(xué)習(xí)是對(duì)橫向聯(lián)邦學(xué)習(xí)和縱向聯(lián)邦學(xué)習(xí)的補(bǔ)充，適用于特征、樣本重合均少的場(chǎng)景。例如，不同地區(qū)的銀行和商場(chǎng)之間，用戶空間交叉較少，并且特征空間基本無(wú)重疊。
聯(lián)邦學(xué)習(xí)在國(guó)內(nèi)隱私計(jì)算賽道得到了廣泛的應(yīng)用，如微眾銀行FATE開(kāi)源平臺(tái)，平安科技“蜂巢”、百度開(kāi)源框架PaddleFL、字節(jié)跳動(dòng)Fedlearner平臺(tái)。此外，一些隱私計(jì)算創(chuàng)業(yè)公司也在通過(guò)聯(lián)邦學(xué)習(xí)技術(shù)的探索與應(yīng)用，積極入局，如星云Clustar。
（三）隱私計(jì)算的技術(shù)標(biāo)準(zhǔn)
按照標(biāo)準(zhǔn)內(nèi)容和參與機(jī)構(gòu)，國(guó)內(nèi)的隱私計(jì)算標(biāo)準(zhǔn)大致能夠分成三個(gè)階段。從理論層面、測(cè)評(píng)層面到互聯(lián)互通層面，三個(gè)階段下隱私計(jì)算標(biāo)準(zhǔn)的實(shí)用性和覆蓋范圍逐漸提高。隱私計(jì)算標(biāo)準(zhǔn)的參與和發(fā)布機(jī)構(gòu)由企業(yè)和行業(yè)機(jī)構(gòu)也逐漸轉(zhuǎn)向國(guó)家和國(guó)際層面的機(jī)構(gòu)。值得注意的是，隱私計(jì)算相關(guān)的技術(shù)標(biāo)準(zhǔn)仍在制定中。
圖：隱私計(jì)算產(chǎn)業(yè)生態(tài)
制圖：鄭喬丹、陳麗姍、張艷茹
1、第一階段
第一個(gè)階段標(biāo)準(zhǔn)在定義和框架上給出了解釋，這個(gè)階段更加關(guān)注理論，主要滿足科研性實(shí)驗(yàn)性課題。此外，參與制定標(biāo)準(zhǔn)的機(jī)構(gòu)主要為企業(yè)和行業(yè)機(jī)構(gòu)。
2、第二階段
第二階段的標(biāo)準(zhǔn)在性能和工程化安全方面給出了測(cè)評(píng)標(biāo)準(zhǔn)，讓隱私計(jì)算從理論框架層面過(guò)渡到支持測(cè)評(píng)的實(shí)踐方面，從企業(yè)實(shí)踐方面提升了隱私計(jì)算標(biāo)準(zhǔn)的可用性。其中，“可信隱私計(jì)算”產(chǎn)品測(cè)評(píng)體系作為對(duì)隱私計(jì)算產(chǎn)品的功能和性能進(jìn)行評(píng)測(cè)的標(biāo)準(zhǔn)，受到廣泛的認(rèn)可。
3、第三階段
第三階段的標(biāo)準(zhǔn)強(qiáng)調(diào)互聯(lián)互通，主要針對(duì)隱私保護(hù)措施帶來(lái)的數(shù)據(jù)孤島問(wèn)題。這個(gè)階段還伴隨著國(guó)際和國(guó)家層面機(jī)構(gòu)參與到隱私計(jì)算的標(biāo)準(zhǔn)制定。其中，《隱私保護(hù)機(jī)器學(xué)習(xí)技術(shù)框架》是首次通過(guò)隱私計(jì)算技術(shù)領(lǐng)域的國(guó)際標(biāo)準(zhǔn)；《隱私保護(hù)的數(shù)據(jù)互聯(lián)互通協(xié)議規(guī)范》是隱私計(jì)算互聯(lián)互通的首個(gè)國(guó)家標(biāo)準(zhǔn)。