歐盟AI監管新規：公共場(chǎng)合人臉識別將被限制、甚至禁止！

大數據文摘授權轉載自AI科技評論

作者：陳彩嫻

編輯：劉冰一

繼2018年5月25生效的《歐盟一般數據保護條例》（江湖人稱(chēng)“GDPR”）后，今年4月21日，歐盟首次發(fā)布了針對人工智能技術(shù)的監管法規草案（如下），長(cháng)達108頁(yè)，探討了企業(yè)與政府應該如何使用人工智能技術(shù)。

鏈接：

https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence

在這項草案中，AI的一系列應用范圍都受到了不同程度的限制，包括自動(dòng)駕駛、招聘簡(jiǎn)歷過(guò)濾、****貸款、入學(xué)篩選與測試評分等等，原因是：可能威脅到公民的人身安全與基本權利。

其中，計算機視覺(jué)應用最火的人臉識別技術(shù)，在公共場(chǎng)合的應用更是被高度禁止，除非是用于尋找失蹤兒童、防止恐怖活動(dòng)威脅或識別刑事犯罪人員等特殊情況。即使有特殊情況，在公共場(chǎng)合應用人臉識別技術(shù)，也需要獲得司法機構或其他獨立機構的授權，并有時(shí)間、地理范圍和所搜索數據庫的限制。

違反新法規的公司，可能會(huì )面臨高達全球銷(xiāo)售額6％（最高2000萬(wàn)歐元）的罰款。

歐盟AI監管法規詳情

根據歐盟的法規草案，對人工智能應用的監管根據風(fēng)險等級，主要分為絕對禁止、高風(fēng)險、較小風(fēng)險與最小風(fēng)險等四類(lèi)。

1、絕對禁止的風(fēng)險：對人類(lèi)的安全、和權利構成明顯威脅的AI系統將被禁止。這包括操縱人類(lèi)行為，以違反用戶(hù)自由意志的AI系統或應用程序，例如通過(guò)語(yǔ)音協(xié)助、鼓勵未成年人進(jìn)行危險行為的玩具，或供政府進(jìn)行“社交評分”的系統。

2、高風(fēng)險：被確定為高風(fēng)險的AI系統包括有以下應用的AI技術(shù)：

• 重要的基礎設施（例如運輸），可能將公民的生命和健康置于危險中；

• 教育或職業(yè)培訓，可能決定人們接受教育和專(zhuān)業(yè)課程（例如考試成績(jì)）；

• 產(chǎn)品的安全組件（例如AI在機器輔助手術(shù)中的應用）;

• 就業(yè)，工人管理和自聘職業(yè)（例如招聘流程中使用的簡(jiǎn)歷分類(lèi)軟件）;

• 重要的私人和公共服務(wù)（例如信用評分，剝奪了公民獲得貸款的機會(huì )）；

• 可能會(huì )侵犯人們基本權利的執法活動(dòng)（例如評估證據的可信度）；

• 移民，庇護和邊境管制管理（例如核實(shí)旅行證件的真實(shí)性）；

• 司法和民主程序的執行（例如，將法律應用于具體事件）。

高風(fēng)險的AI系統在投放于市場(chǎng)之前，必須遵守嚴格的義務(wù)：

• 足夠的風(fēng)險評估和紓解系統；

• 提供給系統的高質(zhì)量數據集可最大程度地降低風(fēng)險和歧視；

• 記錄活動(dòng)以確保結果的可追溯性；

• 詳細的文件，提供有關(guān)系統及其構建目標的所有必要信息，以供當局評估其合規性；

• 向用戶(hù)提供清晰、充足的信息；

• 適當的人為監督措施，以最大程度地降低風(fēng)險；

• 高水平的魯棒性、安全性和準確性。

歐盟新法規要求，提供高風(fēng)險人工智能技術(shù)的公司要向監管機構提供安全證明文件，包括風(fēng)險評估與解釋該技術(shù)如何做決策的文檔。企業(yè)還需要保證人為監督系統的創(chuàng )建與使用方法。

需要注意的是，所遠程生物識別系統都被認為是高風(fēng)險的，并有嚴格的要求。原則上，這類(lèi)系統被禁止在公共場(chǎng)合進(jìn)行執法使用，除非是有特殊情況，比如尋找失蹤兒童，防止特定類(lèi)型的、迫在眉睫的恐怖威脅，或者偵查、定位、識別或起訴犯有嚴重刑事罪行的犯罪者或嫌疑人。此類(lèi)使用需要獲得司法機構或其他獨立機構的授權，并受時(shí)間、地理范圍和所搜索數據庫的一定限制。

3、較小風(fēng)險（如具有透明義務(wù)的AI系統）：在使用聊天機器人（chatbot）等AI系統時(shí)，用戶(hù)應意識到他們是在與機器交流，以做出繼續交流或停止交流的決定。

4、最小風(fēng)險：這條法規建議允許免費使用AI賦能的視頻游戲或垃圾郵件過(guò)濾器等應用程序。絕大多數AI系統都屬于這一類(lèi)。該法規草案不對此類(lèi)AI進(jìn)行干預，因為它們對公民的權利或安全所造成的風(fēng)險極小，或沒(méi)有任何風(fēng)險。

該條例的目的是為了促進(jìn)可信賴(lài)人工智能技術(shù)的發(fā)展，提高歐洲人民對人工智能技術(shù)的信任度。如若通過(guò)，該法規將適用于歐盟所有成員國。違反新法規的公司，可能會(huì )面臨高達全球銷(xiāo)售額6％的罰款。

對人工智能的警惕并不只局限于歐洲。美國當局也開(kāi)始考慮對人工智能進(jìn)行監管。比如，當地時(shí)間4月19日，聯(lián)邦貿易委員會(huì )（Federal Trade Commission）便發(fā)文警告企業(yè)不要出售使用種族歧視算法，或可能“剝奪人們的就業(yè)，住房，信貸，保險或其他福利”的人工智能系統。美國的其他地區，如馬薩諸塞州，政府已采取措施，對警察使用面部識別進(jìn)行限制。

如何看待加強監管

這項法規是全球所有國家與地區的首次嘗試。根據斯坦福大學(xué)發(fā)布的《2021年人工智能指數報告》（Artificial Intelligence Index Report 2021）顯示，此前2015年至2020年間發(fā)布了117個(gè)AI倫理道德方面的文件，但只是“原則”層面，而不是“法規”層面。

根據《紐約時(shí)報》的報道，歐盟法規草案發(fā)布后，引起了不同的觀(guān)點(diǎn)與討論。許多業(yè)界團隊認為該法規沒(méi)有進(jìn)一步加強管控，如釋重負，而民間社會(huì )組織則認為對AI的管控還可以更進(jìn)一步。

許多人擔心該政策過(guò)于寬泛，為企業(yè)與技術(shù)開(kāi)發(fā)者進(jìn)行自我監督留了很大的自由空間。

雖然歐盟將通過(guò)質(zhì)量管理和評估程序嚴格管控，但一些人工智能技術(shù)供應商將被允許進(jìn)行自我合規測評。數字權利組織 EDRi 的高級政策顧問(wèn) Sarah Chander 對 Politico 表示：“歐盟委員會(huì )將合規交給了人工智能供應商，這可能會(huì )損害（人們的）基本權利，甚至可能讓公共當局逍遙法外?！?nbsp;

來(lái)自倫敦Ada Lovelace研究所（主要研究人工智能倫理）的主任Carly Kind表示：“如果法規沒(méi)有規定嚴格的紅線(xiàn)與準則，也沒(méi)有標明可接受的界限，那么它會(huì )有很大的解釋空間?！?/p>

一些科技行業(yè)的工作人員則感到寬慰，對高風(fēng)險應用的合規要求表示贊許。比如，計算機與通信行業(yè)協(xié)會(huì )（Computer & Communications Industry Association）的 Christian Borggreen 對法新社指出，歐盟委員會(huì )采用了基于風(fēng)險的評估方法，這很好。該協(xié)會(huì )代表了包括亞馬遜、Facebook 和谷歌在內的多家科技巨頭。

知名人工智能專(zhuān)家與風(fēng)險投資人Mark Minevich認為，強調監管AI是為了提高人類(lèi)的生活水平，但監管不應過(guò)度限制AI系統的實(shí)驗與開(kāi)發(fā)。

他提到，高風(fēng)險AI系統應該始終配有人為監管與控制。而用于與人交互或內容生成的AI系統，無(wú)論是否屬于高風(fēng)險，都應該遵守透明義務(wù)。

他也認為，這項法規草案會(huì )削弱歐洲的人工智能技術(shù)發(fā)展，而與此同時(shí)，中國與美國的人工智能技術(shù)正在飛躍發(fā)展。換言之，這項草案也許會(huì )束縛歐洲在A(yíng)I方面的落地與創(chuàng )新，使歐洲落后于新的技術(shù)發(fā)展潮流。

Mark Minevich還提出：歐盟對AI的投資極少，是其在A(yíng)I競賽上輸給美國與中國的主要原因。歐盟居住人口4.46億，美國居住人口3.31億，但在2020年，歐盟對AI的投入只有20億美元，而美國達到了236億美元。歐洲的風(fēng)險投資模式落后于美國，導致歐洲許多快速發(fā)展的初創(chuàng )企業(yè)轉而依賴(lài)于美國與亞洲的投資者。

大家怎么看？

參考鏈接：

https://www.nytimes.com/2021/04/16/business/artificial-intelligence-regulation.html

https://techcrunch.com/2021/05/15/european-ai-needs-strategic-leadership-not-overregulation/

https://ec.europa.eu/commission/presscorner/detail/en/IP_21_1682

https://www.ftc.gov/news-events/blogs/business-blog/2021/04/aiming-truth-fairness-equity-your-companys-use-ai

https://www.nytimes.com/2021/02/27/technology/Massachusetts-facial-recognition-rules.html