他是第一個(gè)因人臉識(shí)別錯(cuò)誤被關(guān)監(jiān)獄的人，證據(jù)僅僅是1張駕照照片

蕭簫 發(fā)自 凹非寺 

量子位 報(bào)道 | 公眾號(hào) QbitAI

只因和小偷長得像，就被人臉識(shí)別“抓”進(jìn)監(jiān)獄關(guān)了30個(gè)小時(shí)。

而人臉識(shí)別系統(tǒng)的依據(jù)，僅僅是一張駕照照片。

這是發(fā)生在2019年的事情，被錯(cuò)誤逮捕的對(duì)象，是一位名叫Robert Williams的黑人男子，在交了1000美元后，他才被保釋出去。

據(jù)《連線》（Wired）雜志報(bào)道稱，這可能是同類案件中已知的第一個(gè)案例。

而直到現(xiàn)在，這起案件才正式向聯(lián)邦提起訴訟。

人臉識(shí)別錯(cuò)誤第一案

事情得從三年前說起。

2018年，一個(gè)小偷在一家Shinola零售店偷了幾塊名表，被店里的監(jiān)控拍了下來。

監(jiān)控拍到的圖像非常模糊，那名小偷全程沒有抬頭看監(jiān)控。

在這種情況下，警方用了人臉識(shí)別技術(shù)，并僅憑借一張駕照照片鎖定了42歲的Robert Williams。

2019年，警方拿著他的照片詢問店中的一名保安，后者確定是他，但其實(shí)這名保安并沒有目擊現(xiàn)場(chǎng)事發(fā)。

在被逮捕時(shí)，Robert Williams剛下班回家，就在自己的妻女面前被警方帶走，期間根本沒問他是否有不在場(chǎng)證明。

隨后，他在監(jiān)獄里骯臟的水泥地板上躺了30個(gè)小時(shí)。

直到繳納1000美元的保釋金，Robert Williams才被放出來。

現(xiàn)在，美國公民自由聯(lián)盟（ACLU）、密歇根大學(xué)法學(xué)院，代表Robert Williams正式提起聯(lián)邦訴訟。

從訴訟文件來看，這是在美國第一起因人臉識(shí)別錯(cuò)誤被非法逮捕的案件。

但Robert Williams想要的，不只是賠償損失。

他希望這起案件能修改相關(guān)政策，以制止人臉識(shí)別技術(shù)的濫用。

Robert Williams本人表示：

僅僅因?yàn)闄C(jī)器算法的問題，就在妻女面前被逮捕，希望這種事情不要再發(fā)生在其他人身上。

相似案件不止一起

但事實(shí)上，人臉識(shí)別“抓”錯(cuò)人的事情，在這之后又發(fā)生了好幾起。

第二起因人臉識(shí)別導(dǎo)致的錯(cuò)誤逮捕，同樣是一名黑人男子Michael Oliver，他在去年起訴了警察局。

而據(jù)NJ Advance Media報(bào)道，新澤西州也發(fā)生過同樣的事情，警方在用人臉識(shí)別逮捕一位名叫Nijeer Parks的黑人男子后，將他在監(jiān)獄關(guān)了10天，才發(fā)現(xiàn)抓錯(cuò)了人。

在此期間，警方?jīng)]有驗(yàn)指紋、沒有測(cè)DNA，僅僅憑借人臉識(shí)別系統(tǒng)就鎖定了嫌疑人。

目前，Nijeer Parks也仍然在上訴中，新澤西州也已經(jīng)禁止使用這種軟件。

但據(jù)了解，數(shù)以千計(jì)的執(zhí)法機(jī)構(gòu)已經(jīng)在采用人臉識(shí)別的技術(shù)，查找罪犯。

人臉識(shí)別系統(tǒng)，卻往往并不那么可靠。

2017年的歐冠比賽上，英國警方采用了人臉識(shí)別系統(tǒng)，總共發(fā)出2470次警報(bào)，錯(cuò)誤率高達(dá)92%。

而美國警方采用的人臉識(shí)別軟件，通常只依賴于數(shù)十億張社交媒體照片來識(shí)別犯罪嫌疑人。

從技術(shù)上來說，人們無法從人臉識(shí)別中確定某個(gè)嫌疑人的唯一性。

該不該用人臉識(shí)別？

人臉識(shí)別技術(shù)，已經(jīng)被美國警方采用了二十多年。

但來自MIT和NIST的研究人員發(fā)現(xiàn)，這項(xiàng)技術(shù)對(duì)于白人男性的識(shí)別效果相對(duì)更好，這也和人臉識(shí)別數(shù)據(jù)集中的樣本數(shù)量有關(guān)。

而其他人種，在這類數(shù)據(jù)集下訓(xùn)練出來的識(shí)別效果往往并不理想。

不止數(shù)據(jù)集。

人臉識(shí)別的另一個(gè)問題是，監(jiān)控?cái)z像頭會(huì)壓縮視頻圖像，導(dǎo)致用來區(qū)分嫌疑人的皮膚、靜脈和痣等圖案被去除、損壞或變形。

事實(shí)上，由于采集視頻的光照條件不同，一些偽影可能會(huì)被誤認(rèn)為是面部特征（如痣）之一。

最重要的是，人臉識(shí)別所用的AI模型算法，可解釋性非常差，缺乏支持法醫(yī)意見的經(jīng)驗(yàn)數(shù)據(jù)。

目前，微軟、IBM和亞馬遜等互聯(lián)網(wǎng)巨頭，已經(jīng)保證不將人臉識(shí)別系統(tǒng)出售給警方。

但人臉識(shí)別技術(shù)本身，卻處在了一個(gè)有點(diǎn)尷尬的位置上。

一方面是技術(shù)伴隨的隱私和準(zhǔn)確率的問題，另一方面卻是它帶來的便利性和商業(yè)利益。

就連國內(nèi)售樓部的攝像頭，都已經(jīng)對(duì)準(zhǔn)了路人，進(jìn)行“身份識(shí)別”。

人臉識(shí)別用在哪里、怎么使用，仍舊亟待商榷。

參考鏈接：
[1]https://www.theverge.com/2021/4/13/22382398/robert-williams-detroit-police-department-aclu-lawsuit-facial-recognition-wrongful-arrest
[2]https://www.aclu.org/press-releases/michigan-father-sues-detroit-police-department-wrongful-arrest-based-faulty-facial
[3]https://www.wired.com/story/flawed-facial-recognition-system-sent-man-jail/