歐洲議會(huì )通過(guò)人工智能法案，能成為全球標準嗎？

歐盟的人工智能法案距離生效只差臨門(mén)一腳。

當地時(shí)間周三，歐洲議會(huì )以499票贊成、28票反對的壓倒性結果通過(guò)了《人工智能法案》草案，為最終落地生效掃清了一個(gè)關(guān)鍵障礙。接下來(lái)的程序將進(jìn)入成員國、歐洲議會(huì )和歐盟委員會(huì )的三方談判。在此過(guò)程中，最終文本的法案可能會(huì )有一些措辭方面的改變。法案的最終審批預計將在今年年底前通過(guò)。

不過(guò)，這些規則距離正式生效還有一段時(shí)間。法案最終審批通過(guò)后，將會(huì )為企業(yè)和組織留出一段寬限適應期，通常為兩年左右。

值得注意的是，為了填補法案正式生效前的這段空白期，歐洲和美國正在聯(lián)合起草一份自愿行為準則。雙方官員在5月底承諾將在“幾周內”起草，并可能擴大到其他“志同道合的國家”。

這是全球首個(gè)全面的人工智能規則法案。該法案在2021年就已著(zhù)手制定，但是隨著(zhù)去年底生成式人工智能的快速發(fā)展，制定過(guò)程更加緊迫。針對新情況，周三通過(guò)的法案做了部分調整。

法案內容

這項法案的框架在2021年首次提出，旨在對任何使用人工智能系統的產(chǎn)品或服務(wù)進(jìn)行管理。根據風(fēng)險的高低，人工智能系統的使用場(chǎng)景被劃分為四個(gè)級別：低風(fēng)險、有限風(fēng)險、高風(fēng)險和不可接受的風(fēng)險。

對于風(fēng)險較高的應用程序，如針對兒童的招聘或技術(shù)，將面臨更嚴格的要求，包括提高透明度和使用準確的數據等。違反規則的應用程序可能被要求下架，具體執行尺度將取決于歐盟27個(gè)成員國自身的判斷。

在最嚴重的情況下，違規行為可能會(huì )被處以最高4000萬(wàn)歐元的罰款，或公司全球年營(yíng)業(yè)收入的7%左右。如谷歌和微軟這樣體量的科技巨頭而言，罰款可能高達數十億歐元。

歐盟委員會(huì )表示，大多數人工智能系統，如視頻游戲或垃圾郵件過(guò)濾器，都屬于低風(fēng)險或無(wú)風(fēng)險類(lèi)別。

法案對人工智能的使用場(chǎng)景劃定了禁忌區，比如利用兒童等弱勢群體，或使用可能導致傷害的潛意識操縱的人工智能，或鼓勵危險行為的互動(dòng)對話(huà)玩具。而對于那些預測性警務(wù)工具，比如通過(guò)分析數據來(lái)預測誰(shuí)會(huì )犯罪，也被禁止。

另外，在周三的投票中，一項允許利用人工智能尋找失蹤兒童，或防止恐怖主義威脅等執法例外的修正條款沒(méi)有被通過(guò)。

對于部分領(lǐng)域，最新的法案收緊了要求。比如，實(shí)時(shí)遠程生物識別技術(shù)在最初的提案中是“高風(fēng)險”，但在最新投票中被調整為“不可接受的風(fēng)險”，即人工智能在該領(lǐng)域的應用是被禁止的。

該法案最初的內容并不包括聊天機器人，為了應對近幾個(gè)月該領(lǐng)域的最新進(jìn)展，法案增加了一些條款，比如要求明確標注出聊天機器人，以便用戶(hù)知道他們正在與機器進(jìn)行交互。

另一個(gè)重大補充是要求全面記錄用于訓練人工智能系統的人類(lèi)作品（文本、圖像、視頻和音樂(lè )）的任何版權材料。這將讓內容創(chuàng )作者知道自己的作品是否被用于訓練算法，進(jìn)而決定自己是否被抄襲，并尋求賠償。

而考慮到人工智能在就業(yè)和教育等領(lǐng)域的應用可能會(huì )影響個(gè)人生活和工作，因此這些應用面臨更嚴格的監管要求，比如需要對用戶(hù)保持高度透明，并采取措施評估和減少算法產(chǎn)生偏見(jiàn)的風(fēng)險等。

成為全球標準？

歐盟并不是尖端人工智能發(fā)展領(lǐng)域的重要參與者，這個(gè)角色由美國和中國扮演。但是有分析認為，在監管的法規方面，歐盟往往扮演著(zhù)引領(lǐng)潮流的角色，制定的規定經(jīng)常會(huì )成為事實(shí)上的全球標準。

原因之一在于歐盟是巨大的單一市場(chǎng)，擁有4.5億消費者。對于公司來(lái)說(shuō)，他們不需要為不同地區開(kāi)發(fā)不同產(chǎn)品，更容易遵守規定。

另外，歐洲在監管步伐方面也確實(shí)走在最前列，已經(jīng)基本定型的《人工智能法案》是全球首個(gè)綜合性的可以強制執行的此類(lèi)法案。對于用戶(hù)來(lái)說(shuō)，這相當于一顆“定心丸”，方便公司拓展市場(chǎng)。

愛(ài)爾蘭公民自由委員會(huì )(ICCL)的技術(shù)專(zhuān)家Kris Shrishak說(shuō)，歐盟的法案是可以強制執行的，違規公司將被追究責任，這一事實(shí)“意義重大”，因為美國、英國等其他地方目前只是提供了指導和建議，“其他國家可能想要適應和復制歐盟的規則”。

而企業(yè)和行業(yè)組織則警告稱(chēng)，歐洲在監管方面需要取得適當的平衡。比如，OpenAI首席執行官Sam Altman在支持對人工智能發(fā)展設置一些規則的同時(shí)，也明確表示“現在就對該領(lǐng)域實(shí)施嚴格監管是一個(gè)錯誤”。

科技公司游說(shuō)團體“計算機和通信行業(yè)協(xié)會(huì )”(CCIA) 的政策經(jīng)理Boniface de Champris指出，歐盟將成為監管人工智能的領(lǐng)導者，但它是否會(huì )引領(lǐng)人工智能創(chuàng )新仍有待觀(guān)察。因為它需要有效地解決風(fēng)險，同時(shí)也要為開(kāi)發(fā)人員提供足夠的靈活性。

已經(jīng)脫離歐盟的英國也正在爭奪人工智能領(lǐng)導的領(lǐng)導地位。首相蘇納克計劃在今年秋天主辦一次人工智能安全的全球峰會(huì )。他在本周的一次科技會(huì )議上表示，英國不僅希望成為人工智能技術(shù)發(fā)展的據點(diǎn)，同時(shí)也想成為安全監管的全球中心。