4個Uber司機(jī)認(rèn)為，該公司的算法錯誤地指控他們欺詐。現(xiàn)在他們希望法院可以迫使公司披露其神秘的決策過程。
Shahid 就是其中一位Uber司機(jī)，新冠疫情期間，每周六日他都在伯明翰街道附近通過Uber平臺接單。在過去的五年里，他為自己爭取到了一個很不錯的評分：4.96分（滿分5分）的客戶評價和金牌駕駛員身份，但就在8月初的一個早晨，他發(fā)現(xiàn)他無法登錄系統(tǒng)接客了。誰能接單？賺多少錢？這些都是Uber算法說了算。該算法監(jiān)測到他“對Uber平臺持續(xù)不當(dāng)?shù)氖褂谩辈⒁呀顾褂迷撓到y(tǒng)， 而他聲稱自己并沒有違背相關(guān)規(guī)定。他表示，Uber還拒絕確切告訴他做錯了什么。他所收到的信息寫道：“我們沒法給出確切的細(xì)節(jié)，只能給出不當(dāng)使用的例子，包括：同時使用乘客和司機(jī)帳戶、創(chuàng)建重復(fù)帳戶、接受無意完成的訂單、收費(fèi)欺詐、安裝及使用能夠操縱司機(jī)APP和行程詳細(xì)信息的軟件。基于上述原因，我們決定終止合作關(guān)系。你將不能通過Uber App提供獨(dú)立的服務(wù)。”根據(jù)Uber的條款，Shahid被定性為“欺詐者”。盡管他否認(rèn)有任何錯誤行為，但并沒有任何上訴的途徑。瞬間他失去了70％的收入，此后只能靠打車平臺Ola謀生。Shahid不是唯一一個陷入類似困境的司機(jī)。2019年7月，也就是Shahid被取消運(yùn)營資格一年前，Ali 在倫敦打開Uber準(zhǔn)備上班卻發(fā)現(xiàn)他無法登錄。他收到Uber的信息，說他的帳戶已被標(biāo)記為“違反Uber的 條款和政策”。信息寫道：“審查你最近的行程時，我們發(fā)現(xiàn)許多與欺詐有關(guān)的非正常行程。你的帳戶已被標(biāo)記為不當(dāng)使用，因此已被停用。不幸的是，停用是永久的。”作為4個孩子的父親，Ali宣稱該APP是錯誤的，像Shahid一樣，他否認(rèn)有任何不當(dāng)行為。他是個全職Uber司機(jī)，幾個月前剛剛籌資買了一輛價值29000英鎊的汽車，以使Uber APP可以評估他的車為商務(wù)車 。被解雇后，他還得為一輛無法使用的汽車償還貸款。“在過去一年半里，我持續(xù)給Uber發(fā)送電子郵件、打電話，至少有50、60次。我遇到了困難，我懇求他們但沒有回應(yīng)。”Ali說。Shahid和Ali對Uber提起了訴訟，指控該公司通過算法對他們進(jìn)行“攻擊”。在這4名司機(jī)中，3名來自英國、1名來自葡萄牙，他們聲稱沒有參與欺詐活動，Uber也沒有拿出任何證據(jù)能夠證明將他們開除是合理的。Uber也沒有向警方報告這4名司機(jī)的欺詐行為。根據(jù)相關(guān)法律（https://www.adcu.org.uk/news-posts/app-drivers-couriers-union-files-ground-breaking-legal-challenge-against-ubers-dismissal-of-drivers-by-algorithm-in-the-uk-and-portugal），法院應(yīng)否決導(dǎo)致司機(jī)被解雇的算法，并強(qiáng)迫Uber分享其收集的相關(guān)司機(jī)以及用于解雇他們的信息。這是根據(jù)《通用數(shù)據(jù)保護(hù)條例》（GDPR）第22條提起的首單此類訴訟。歐盟在2018年頒布了GDPR，該條款旨在保護(hù)用戶數(shù)據(jù)，允許歐洲公民在認(rèn)為算法（或僅由算法）作出與他們相關(guān)的決定時提供詳細(xì)信息。如果他們獲得成功，那么大量其他法律糾紛將隨之而來。代表4名司機(jī)提起訴訟的“司機(jī)和快遞員應(yīng)用聯(lián)盟” （App Drivers＆Couriers Union，ADCU）表示，自2018年以來，已經(jīng)有超過1000多個私人案件，這些案件均是因?yàn)樗惴ǖ腻e誤導(dǎo)致司機(jī)被誤認(rèn)為存在欺詐行為，致使賬戶被立即中止且無權(quán)申訴。ADCU的司機(jī)代表James Farrar認(rèn)為，Uber不能證明在其禁令中存在“有意義的”人為干預(yù)，因?yàn)樗緳C(jī)在提出訴求時得到的都是自動回復(fù)。該論點(diǎn)是針對Uber索賠的核心，根據(jù)信息專員的觀點(diǎn)（https://ico.org.uk/about-the-ico/news-and-events/ai-blog-automated-decision-making-the-role-of-meaningful-human-reviews/），如果人工智能系統(tǒng)僅用來支持或增強(qiáng)人類的決策能力，那么它將不受這些條款的約束。但是，一項(xiàng)決定不能僅僅因?yàn)橐呀?jīng)“蓋章”而超出GDPR第22條的范圍：人類需要有意義的投入。英國信息專員辦公室（Information Commissioner's Office，ICO ）和歐洲數(shù)據(jù)保護(hù)委員會（ European Data Protection Board）都曾表示，審閱人員必須積極參與檢查系統(tǒng)生成的建議，并且不應(yīng)“例行的”將自動生成的結(jié)論應(yīng)用于個人；而且人類的參與必須是積極的，而不僅僅是象征性的姿態(tài)。指導(dǎo)意見指出，人應(yīng)該對決策產(chǎn)生實(shí)際影響，具備審核系統(tǒng)自動生成建議的“權(quán)限和能力”。但這些疑議并沒有考慮到Uber算法中嵌入的新信息。Farrar聲稱，自從Uber去年推出實(shí)時ID驗(yàn)證技術(shù)以來，自動解雇的情況有所增加，以幫助解決其與倫敦交通局（TfL）的許可證問題。他說，TfL在此解雇過程中是“負(fù)有連帶責(zé)任的”，因?yàn)樵摍C(jī)構(gòu)促使Uber進(jìn)行實(shí)時驗(yàn)證，這反過來又導(dǎo)致Uber“緊急上線有缺陷的技術(shù)并加劇了現(xiàn)有問題”，但是對此TfL拒絕置評。實(shí)時ID技術(shù)會定期要求司機(jī)為自己拍照以進(jìn)行驗(yàn)證。然后，將這些自拍照與帳戶持有人的個人資料圖片進(jìn)行匹配，然后再根據(jù)駕照進(jìn)行檢查。如果駕駛員未通過ID檢查，則他們的帳戶將被暫時停用，等待進(jìn)一步檢查，然后可能無限期地被停用。但是這項(xiàng)措施并未得到倫敦的交通運(yùn)輸當(dāng)局的認(rèn)可。在發(fā)現(xiàn)14000次行程中的43名司機(jī)在APP上偽造身份后，當(dāng)局決定吊銷Uber的倫敦牌照。涉案的41名駕駛員被TfL吊銷了駕照（其中2人無牌）。Uber成功贏得了之后的上訴，獲得了在倫敦運(yùn)營的18個月臨時許可證。9月28日的判決書指出，Uber與TfL之間的溝通已有所改善，法院對公司為保護(hù)客戶對平臺所做的改進(jìn)感到滿意。但是這種交涉并不一定要延伸到司機(jī)，他們長期以來一直抱怨Uber算法不夠透明。算法為決定誰獲得工作以及獲得多少報酬奠定了基礎(chǔ)，并針對不端行為、遲到等問題的對司機(jī)進(jìn)行評分。2020年1月，Uber為英國的司機(jī)實(shí)施了一項(xiàng)名為“忠誠”的計劃，提供免費(fèi)的教育課程、路邊援助、健身房會員資格和汽車保養(yǎng)打折，司機(jī)可以通過每趟行程積累的“積分”來換取相關(guān)服務(wù)。Uber 鼓勵司機(jī)接受行程以達(dá)到各個狀態(tài)：藍(lán)色（基本級別）、金（倫敦500點(diǎn)，其他地區(qū)600點(diǎn)），白金（倫敦900點(diǎn)，其他地區(qū)1200點(diǎn)）和鉆石（倫敦1300點(diǎn)，其他地區(qū)1800點(diǎn)） 。但司機(jī)表示他們不知道該算法如何通過這個分級系統(tǒng)來確定上車的乘客會是誰。當(dāng)司機(jī)不想接客時會發(fā)生什么？這一點(diǎn)也無從得知。ADCU指的是Uber的共享準(zhǔn)則，該準(zhǔn)則將欺詐行為定義為拒絕派單以及為等待更高的溢價而選擇性的退出登錄。該機(jī)構(gòu)指控Uber將原本屬于業(yè)績原因而導(dǎo)致的解雇行為偽裝成因欺詐行為而導(dǎo)致的解雇行為，以此來減輕它本應(yīng)對司機(jī)們履行的義務(wù)。新冠疫情期間，被Uber停用的司機(jī)一直在努力彌補(bǔ)收入損失。英國第3位向Uber提起訴訟的司機(jī)Ravi說：“目前我為Bolt、Ola和FreeNow工作（類似于Uber和滴滴，都是一站式出行平臺），疫情很可怕。我每天從凌晨5點(diǎn)開始工作，到下午2點(diǎn)左右能賺27英鎊，這比以前少多了，以前每天可以賺到150到200英鎊。”在倫敦被解雇的司機(jī)將有14天的時間向TfL解釋為什么他們不該被解雇，但問題是他們不知道自己被指控什么，或者如何證明自己的清白。本周啟動的GDPR索賠所涉及的2名司機(jī)表示，今年夏天Uber分別與他們?nèi)〉昧寺?lián)系，那已經(jīng)是他們被解雇一、兩年之后了。Farrar表示：“這是監(jiān)管疏忽，向司機(jī)求證他們幾年前所做的事情并不是真正明智的執(zhí)法，由于TfL忽略了司機(jī)的工作條件，這種行徑實(shí)際上使得實(shí)際操作的合理性更差了。”https://www.wired.co.uk/article/uber-fired-algorithm
實(shí)習(xí)/全職編輯記者招聘ing
加入我們，親身體驗(yàn)一家專業(yè)科技媒體采寫的每個細(xì)節(jié)，在最有前景的行業(yè)，和一群遍布全球最優(yōu)秀的人一起成長。坐標(biāo)北京·清華東門，在大數(shù)據(jù)文摘主頁對話頁回復(fù)“招聘”了解詳情。簡歷請直接發(fā)送至[email protected]
