個(gè)保法系列解讀 | 關(guān)于個(gè)性化推薦，這些事情不要做
正式實(shí)施的《個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱“《個(gè)保法》”）已經(jīng)成為各類個(gè)人信息處理者的基本行為規(guī)范。為了幫助企業(yè)更好地了解《個(gè)保法》的合規(guī)要求，TalkingData法務(wù)合規(guī)部特別撰寫系列文章，解析重點(diǎn)議題與對(duì)應(yīng)法條，并對(duì)企業(yè)實(shí)踐情況進(jìn)行調(diào)研，供相關(guān)從業(yè)者參考。
為了回應(yīng)大數(shù)據(jù)殺熟、違規(guī)個(gè)性化推薦等熱點(diǎn)問題，《個(gè)保法》第24條特別規(guī)定了自動(dòng)化決策的相關(guān)規(guī)則，國(guó)家網(wǎng)信辦在此基礎(chǔ)上又出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》（以下簡(jiǎn)稱“《規(guī)定》”）來進(jìn)一步細(xì)化互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)的監(jiān)管要求，本文將對(duì)此深入分析。
一、自動(dòng)化決策
1.什么是自動(dòng)化決策？
自動(dòng)化決策是指通過計(jì)算機(jī)程序自動(dòng)分析、評(píng)估個(gè)人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動(dòng)。利用算法給用戶進(jìn)行個(gè)性化推薦就是典型的自動(dòng)化決策行為。自動(dòng)化決策僅適用于對(duì)個(gè)人的決策，不涉及針對(duì)公司的自動(dòng)化決策，例如自動(dòng)評(píng)估供應(yīng)商公司的風(fēng)險(xiǎn)。此外，自動(dòng)化決策必須是利用個(gè)人信息進(jìn)行的活動(dòng)，不包含基于非個(gè)人信息的自動(dòng)化決策活動(dòng)。
2.如何保證自動(dòng)化決策的透明度？
《個(gè)保法》提出了保證決策透明度的要求，《規(guī)定》對(duì)此予以細(xì)化，合規(guī)要點(diǎn)總結(jié)如下：
合規(guī)要點(diǎn) | 具體解釋 |
明確告知 | 以適當(dāng)方式公示算法的基本原理、目的意圖、運(yùn)行機(jī)制等。 |
策略優(yōu)化 | 綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，并優(yōu)化檢索、排序、選擇、推送、展示等規(guī)則的透明度和可解釋性，避免對(duì)用戶產(chǎn)生不良影響。 |
解釋說明 | 如果通過自動(dòng)化決策方式做出對(duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人有權(quán)要求相關(guān)企業(yè)對(duì)此予以說明，并拒絕僅通過自動(dòng)化決策的方式做出決定。但此處應(yīng)特別注意《個(gè)保法》采用的是客觀標(biāo)準(zhǔn)，需要客觀上有重大影響，并不以用戶的主觀想法作為決定性依據(jù)。 《個(gè)保法》沒有明確“對(duì)個(gè)人權(quán)益有重大影響的決定”的具體含義，在理解適用時(shí)可先參照歐盟WP29工作組發(fā)布的《自動(dòng)化決策和用戶畫像指導(dǎo)規(guī)則》（Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679）中的內(nèi)容，其指出影響某人財(cái)務(wù)狀況的決定，例如信貸；影響某人獲得健康服務(wù)的決定；剝奪某人就業(yè)機(jī)會(huì)或使其處于嚴(yán)重不利地位的決定；影響某人接受教育的決定，例如大學(xué)錄取，都屬于典型的對(duì)個(gè)人權(quán)益產(chǎn)生重大影響的決定。 |
3.如何實(shí)現(xiàn)公平公正？
《個(gè)保法》提出相關(guān)企業(yè)應(yīng)保證自動(dòng)化決策的結(jié)果公平、公正，結(jié)合《規(guī)定》的相關(guān)要求總結(jié)出以下合規(guī)要點(diǎn)：
合規(guī)要點(diǎn) | 具體解釋 |
審核評(píng)估 | 相關(guān)企業(yè)在利用個(gè)人信息自動(dòng)化決策前應(yīng)進(jìn)行個(gè)人信息影響評(píng)估，重點(diǎn)評(píng)估個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；對(duì)個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)；所采取的保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。具體評(píng)估流程可參考TalkingData參與編寫的《信息安全技術(shù) 個(gè)人信息安全影響評(píng)估指南》（GB/T39335-2020）。 定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型。 從事具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)的相關(guān)企業(yè)應(yīng)開展安全評(píng)估。 |
關(guān)閉選項(xiàng) | 通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或便捷的拒絕方式。一旦用戶選擇關(guān)閉的，相關(guān)企業(yè)應(yīng)當(dāng)立即停止服務(wù)。 |
投訴舉報(bào) | 設(shè)置便捷的投訴舉報(bào)入口，及時(shí)受理和處理公眾投訴舉報(bào)。 建立用戶申訴渠道和制度，規(guī)范處理用戶申訴并及時(shí)反饋。 |
標(biāo)簽管理 | 應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點(diǎn)規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽。 建立完善人工干預(yù)和用戶自主選擇機(jī)制，向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。 |
4.如何實(shí)現(xiàn)平等交易？
針對(duì)大數(shù)據(jù)殺熟的問題，《個(gè)保法》特別強(qiáng)調(diào)相關(guān)企業(yè)不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理差別待遇。差別待遇的認(rèn)定可參考《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》（以下簡(jiǎn)稱“《指南》”）的內(nèi)容，即是否基于大數(shù)據(jù)和算法，根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)行差異性交易價(jià)格或者其他交易條件；是否實(shí)行差異性標(biāo)準(zhǔn)、規(guī)則、算法；是否實(shí)行差異性付款條件和交易方式。但是《指南》還提出根據(jù)實(shí)際需求且符合正當(dāng)?shù)慕灰琢?xí)慣和行業(yè)慣例，實(shí)行不同交易條件；或針對(duì)新用戶在合理期限內(nèi)開展的優(yōu)惠活動(dòng)；或基于平臺(tái)公平、合理、無歧視的規(guī)則實(shí)施的隨機(jī)性交易屬于正當(dāng)?shù)牟顒e行為。禁止不合理的差別待遇并不是禁止所有的差別行為，只是禁止會(huì)導(dǎo)致不公平結(jié)果的歧視性交易條件。
二、對(duì)廣告推送業(yè)務(wù)的影響
1.相關(guān)法律規(guī)范對(duì)現(xiàn)有的廣告推送業(yè)務(wù)有什么影響？
《規(guī)定》和《個(gè)保法》為規(guī)制廣告推送業(yè)務(wù)提供了更明確的法律依據(jù)，但這并不意味著禁止廣告推送，而是要求廣告推送時(shí)應(yīng)通過制度設(shè)計(jì)和算法技術(shù)來保障用戶的選擇和干預(yù)機(jī)制，避免出現(xiàn)歧視結(jié)果。相關(guān)法律規(guī)范對(duì)個(gè)性化廣告推送業(yè)務(wù)的確會(huì)產(chǎn)生一定的影響，提供便捷關(guān)閉選項(xiàng)的要求可能會(huì)使得用戶選擇關(guān)閉個(gè)性化廣告推送，因此個(gè)性化廣告推送業(yè)務(wù)的觸達(dá)范圍可能會(huì)有所縮小。但是具體還是要看廣告推送關(guān)閉按鈕的設(shè)置情況及用戶的自主選擇情況。
2.在廣告推送場(chǎng)景下應(yīng)如何落實(shí)合規(guī)要求？
廣告推送業(yè)務(wù)的拒絕機(jī)制設(shè)計(jì)和算法公平保障是重要的合規(guī)要求，相關(guān)企業(yè)需要依據(jù)相關(guān)法律規(guī)范調(diào)整自身的商業(yè)模式。
從制度設(shè)計(jì)上看，進(jìn)行廣告推送的同時(shí)應(yīng)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向個(gè)人提供便捷的拒絕方式。同時(shí)還應(yīng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。拒絕方式應(yīng)簡(jiǎn)捷且有效，例如某些App的關(guān)閉個(gè)性化設(shè)置需要用戶點(diǎn)擊9次才能關(guān)閉，某些App會(huì)在用戶關(guān)閉后的幾個(gè)月內(nèi)自動(dòng)恢復(fù)個(gè)性化廣告，這些都可能被視為是違規(guī)行為。此外，建議在進(jìn)行個(gè)性化廣告推送頁(yè)面上同時(shí)為用戶提供單純依照點(diǎn)擊量、發(fā)布時(shí)間等統(tǒng)計(jì)結(jié)果的不針對(duì)個(gè)人的選項(xiàng)，并設(shè)置用戶的申訴渠道和制度。
從算法技術(shù)上看，進(jìn)行個(gè)性化廣告推送前往往需要通過算法來確定目標(biāo)人群，而算法需要保障公平公正。從輸入的數(shù)據(jù)來看，此算法模型應(yīng)加強(qiáng)用戶標(biāo)簽管理，加強(qiáng)對(duì)輸入模型中的數(shù)據(jù)類型審核，不能將違法和不良信息關(guān)鍵詞作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽。從算法結(jié)果來看，不能根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇。依據(jù)業(yè)務(wù)場(chǎng)景進(jìn)行算法模型選擇時(shí)應(yīng)特別注重模型架構(gòu)不能包含不合理的目標(biāo)變量、特征或結(jié)構(gòu)，并在運(yùn)行前對(duì)算法決策是否會(huì)產(chǎn)生歧視性影響進(jìn)行評(píng)估。
三、企業(yè)實(shí)踐情況調(diào)研
經(jīng)過調(diào)研Apple App Store前30免費(fèi)App的個(gè)性化推薦規(guī)則，所有的App均會(huì)默認(rèn)開啟個(gè)性化推薦功能，超過70%的App都在隱私政策中明確告知關(guān)閉個(gè)性化推薦的具體途徑，但僅20%的App可在小于等于4次的點(diǎn)擊內(nèi)實(shí)現(xiàn)個(gè)性化推薦的關(guān)閉。
*可關(guān)注本公眾號(hào)，發(fā)送關(guān)鍵詞「?jìng)€(gè)性化推薦規(guī)則」，獲取完整版調(diào)研報(bào)告
首先，約76%的App均在隱私政策中告知個(gè)性化推薦的關(guān)閉途徑，其中約43%的App披露了具體的關(guān)閉途徑，例如“QQ”和“拼多多”，具體截圖如下：
QQ隱私政策
拼多多隱私政策
其次，為方便用戶迅速關(guān)閉個(gè)性化推薦，約33%的App還會(huì)在隱私政策中提供關(guān)閉個(gè)性化推薦的鏈接，點(diǎn)開鏈接后可以直接關(guān)閉個(gè)性化推薦，例如支付寶，具體截圖如下：
支付寶隱私政策
其中“淘寶”、“淘特”、“京東”App在關(guān)閉的鏈接界面還提供了標(biāo)簽管理機(jī)制，為用戶提供更具體的關(guān)閉選擇。具體截圖如下：
淘寶隱私政策
京東隱私政策
《個(gè)保法》不僅要求提供關(guān)閉個(gè)性化推薦的路徑，還要求關(guān)閉的方式應(yīng)非常便捷，因此App的關(guān)閉路徑過于復(fù)雜也廣受詬病。雖然法律并沒有對(duì)具體的關(guān)閉操作次數(shù)做出限定，但是App專項(xiàng)治理工作組在2019年發(fā)布的《App違法違規(guī)收集使用個(gè)人信息行為認(rèn)定方法》中指出，進(jìn)入App主界面后，需多于4次點(diǎn)擊等操作才能訪問隱私政策等收集使用規(guī)則屬于違規(guī)行為。
因此，以4次為界，經(jīng)過調(diào)研Apple App Store前30免費(fèi)App發(fā)現(xiàn)，僅20%的App能在小于等于4次的操作內(nèi)實(shí)現(xiàn)個(gè)性化推薦的有效關(guān)閉，其中“剪映”的關(guān)閉方式最為便捷，可在3步內(nèi)完成關(guān)閉，即“設(shè)置-個(gè)性化推薦設(shè)置-關(guān)閉”。“支付寶”最為復(fù)雜，需在7步內(nèi)完成，即“我的-頭像-實(shí)名認(rèn)證-查看更多-隱私權(quán)政策-我們?nèi)绾问褂?7)的鏈接-關(guān)閉”或“我的-消費(fèi)者權(quán)益保護(hù)-用戶隱私中心-查看你的隱私設(shè)置-支付寶廣告、推薦設(shè)置-個(gè)性化推薦-關(guān)閉”。
最后，約33%的企業(yè)還會(huì)在隱私政策中單獨(dú)介紹個(gè)性化推薦和個(gè)性化廣告的相關(guān)運(yùn)作原理、關(guān)閉效果等相關(guān)情況以幫助用戶更好地了解個(gè)性化推薦，例如“抖音”，其還插入了視頻來進(jìn)行講解，具體截圖如下：
抖音隱私政策
*可關(guān)注本公眾號(hào)，發(fā)送關(guān)鍵詞「?jìng)€(gè)性化推薦規(guī)則」，獲取完整版調(diào)研報(bào)告
《個(gè)保法》特別規(guī)定了自動(dòng)化決策的相關(guān)規(guī)則，對(duì)個(gè)性化推薦也提出了更明確的要求，保障用戶的拒絕權(quán)是合規(guī)的關(guān)鍵。TalkingData在隱私政策和官網(wǎng)都以顯著方式發(fā)布了OPT-OUT鏈接來幫助用戶實(shí)現(xiàn)其拒絕權(quán)，并會(huì)在嚴(yán)格遵守《個(gè)保法》的相關(guān)規(guī)定的基礎(chǔ)上積極推進(jìn)個(gè)人信息保護(hù)工作，完善公司內(nèi)部的合規(guī)體系。
推薦閱讀：
TalkingData——用數(shù)據(jù)說話
每天一篇好文章，歡迎分享關(guān)注
