一篇論文使亞馬遜、微軟和IBM暫停面部識別項目

2018年2月，布拉姆維尼和蒂姆尼特·格布魯發(fā)表了一篇論文，一經(jīng)發(fā)表就在學(xué)術(shù)界和媒體中引起了廣泛反響，而不久前亞馬遜決定對警方使用其面部識別技術(shù)實(shí)行一年禁令，更是驗證了該論文的預見(jiàn)性，新一輪熱議就此展開(kāi)。

該論文名為“性別陰影”，作者通過(guò)嚴謹的數據分析表明，像微軟和IBM這樣的大型公司在人工智能研究和開(kāi)發(fā)項目上投資了數十億元，但以人工智能為基礎的面部識別技術(shù)在女性和膚色較深的人身上卻表現得差強人意。

布拉姆維尼的研究得到了美國公民自由聯(lián)盟的認可，他們通過(guò)亞馬遜的Rekognition系統對國會(huì )議員進(jìn)行面部識別，結果有28名議員被錯誤匹配成了犯罪者的照片。結論顯而易見(jiàn)：如果國會(huì )議員可能被面部識別系統誤認，那么他們的選民也有同樣的可能。

布拉姆維尼和伊尼盧瓦·德博拉·拉吉繼續對此話(huà)題進(jìn)行進(jìn)一步研究。在2019年，兩人發(fā)表了名為“可操作的審計”的研究報告，此后亞馬遜的面部識別系統受到審查，因為在提高面部識別對于有色女性的有效性上，亞馬遜遠遠落后于其他公司。

但事情出現了轉折。曾經(jīng)為其面部識別產(chǎn)品辯護的公司，開(kāi)始認真地重新評估自己的產(chǎn)品。IBM宣布將不再提供面部識別技術(shù)；亞馬遜表示將暫停向警方出售面部識別技術(shù)，時(shí)長(cháng)為一年；微軟也宣布將不再向警方出售面部識別技術(shù)，“除非有聯(lián)邦法律規范該技術(shù)”。據《華盛頓郵報》報道，數百名微軟員工就要求公司領(lǐng)導重新考慮其執法合同。

亞馬遜暫停對警方出售面部識別對于反對面部識別的人來(lái)說(shuō)是一場(chǎng)巨大的勝利，該公司此前曾對其抗議活動(dòng)施加巨大阻力。它發(fā)布了多篇博客文章，試圖質(zhì)疑審核員的工作，阻礙相關(guān)立法的制定。

由此可見(jiàn)，即使是像亞馬遜、IBM和Google這樣的科技巨頭，早先也已決定不提供面部識別API，他們也不認為這項技術(shù)可供警方使用。

布拉姆維尼在推特上寫(xiě)道：“這不僅是研究人員的共同努力，也是公民自由組織、激進(jìn)人士、員工和股東不斷施加的壓力，再加上喬治·弗洛伊德的不幸，以及公司對‘#黑人的命也是命’相關(guān)抗議活動(dòng)遲來(lái)的認同”。

這種勝利在很大程度上是象征性的。但正如激進(jìn)主義者指出的那樣，現在我們有了推動(dòng)人臉識別立法的機會(huì )。

莫納什大學(xué)新興技術(shù)實(shí)驗室的研究員詹森?薩多夫斯基在推特上寫(xiě)道：“在我看來(lái)，這并不是贏(yíng)了一場(chǎng)戰役，而是贏(yíng)得了一個(gè)乘勝追擊的時(shí)機來(lái)大獲全勝。我們所有人都抗擊得很辛苦，只是為了獲得足夠的反擊空間?，F在我終于感到踏實(shí)一點(diǎn)了?！?/p>

但請務(wù)必記住，在面部識別領(lǐng)域，像IBM和Amazon這樣的公司只是冰山一角。在美國，許多警察部門(mén)不從大型科技公司購買(mǎi)這些面部識別產(chǎn)品，而是從一些像NEC、Rank One和Cognitec等小型承包商那里購買(mǎi)聲稱(chēng)使用了“法醫”面部識別算法的產(chǎn)品。

例如，DataWorks Plus開(kāi)發(fā)了數據庫技術(shù)來(lái)分析警方存檔的照片和其他面部照片，然后批準NEC、Rank One和Cognitec使用其面部識別算法。

NEC將其面部識別和指紋識別技術(shù)銷(xiāo)售給包括美國20多個(gè)州在內的全球1500多個(gè)執法機構。自1983年在美國首次使用指紋識別技術(shù)以來(lái)，該公司就一直與生物識別技術(shù)的執法部門(mén)有著(zhù)合作關(guān)系。

人臉識別技術(shù)在法律方面的監管尚未完善，這些公司利用其漏洞，在加利福尼亞州和馬薩諸塞州部分地區等完全缺乏聯(lián)邦法規的地方進(jìn)行銷(xiāo)售。

至于大型科技公司，亞馬遜、微軟、IBM和Google，他們競爭的是人工智能在軍事和云計算領(lǐng)域的合同。除了IBM以外，所有這些科技公司都對聯(lián)邦合同保持沉默。亞馬遜還擁有智能門(mén)鈴公司Ring，據稱(chēng)該公司已與美國1,000個(gè)警察部門(mén)建立了合作關(guān)系。

但毫無(wú)疑問(wèn)，這些科技巨頭的舉措意味著(zhù)，我們向著(zhù)最終勝利邁出了重要的一步。