歐洲通過(guò)全球首部人工智能法案,對科技公司意味著(zhù)什么?
歐洲議會(huì )的一錘定音,或將為全球AI技術(shù)的監管帶來(lái)新變化。
當地時(shí)間3月13日,歐洲議會(huì )以壓倒性多數投票通過(guò)并批準了《人工智能法案》。這一具有里程碑意義的法案,將幫助歐盟在監管人工智能方面走在世界前列,也將為其他國家制定AI管理規則定下基調。
歐洲議會(huì )表示,該法案旨在保護基本權利、民主、法治和環(huán)境可持續性免受高風(fēng)險人工智能的影響,同時(shí)促進(jìn)創(chuàng )新,以將歐洲“打造成為該領(lǐng)域的領(lǐng)導者”。
這部法案最初誕生于2021年,根據風(fēng)險類(lèi)別,法案將AI技術(shù)分為了“不可接受”“高”“中”“低”四個(gè)級別。AI應用程序的風(fēng)險越大,它面臨的審查和需要遵守的要求就越嚴格,違規者最高將面臨其全球營(yíng)收7%的罰款。
這一首創(chuàng )為歐洲企業(yè)和組織在醫療、安全等領(lǐng)域運用AI,設定了新的規范和標準。
一方面,它全面禁止了該技術(shù)的一些“不可接受”的用途,例如禁止由人工智能驅動(dòng)的社會(huì )評分系統,以及任何用于猜測一個(gè)人的種族、政治傾向或性取向的基于生物識別的工具。此外,從互聯(lián)網(wǎng)或閉路電視錄像中無(wú)目標地抓取面部圖像,以創(chuàng )建面部識別數據庫。操縱人類(lèi)行為或利用人類(lèi)弱點(diǎn)的AI也將被禁止。
另一方面,對其他被認為“高風(fēng)險”的應用設置了嚴格的限制,特別是在教育和政府服務(wù)等領(lǐng)域。法案要求所有AI生成的內容(圖像、音頻或視頻等)都要有明晰的標簽,避免出現虛假信息或者干擾政府選舉。
微軟、OpenAI等開(kāi)發(fā)出功能強大的人工智能模型的企業(yè)也要受到相同的約束。谷歌則已經(jīng)開(kāi)始進(jìn)行自我監管,本周二,該公司不再允許用戶(hù)向其Gemini聊天機器人詢(xún)問(wèn)與選舉相關(guān)的內容,這一監管已經(jīng)在美國和印度推出。
此外,針對“訓練數據是否能適用版權的合理使用”這一點(diǎn),業(yè)內一直存在爭議。2023年12月,《紐約時(shí)報》曾以侵犯版權為由起訴OpenAI和微軟,要求兩家公司銷(xiāo)毀任何使用到《紐約時(shí)報》版權材料的聊天機器人模型和訓練數據。
科技公司也在采取行動(dòng),OpenAI在對上述起訴的回應中試圖推動(dòng)社會(huì )各界認定訓練屬于合理使用,不需要授權。類(lèi)似的案件中,如2015年美國法院曾判決谷歌圖書(shū)掃描項目屬于合理使用。
而最新通過(guò)的《人工智能法案》明確表明,要求科技公司要提供大模型訓練時(shí)所用數據的詳細摘要并遵守歐盟版權法。多位業(yè)內人士向界面新聞表示,這可能是《人工智能法案》對美國人工智能服務(wù)機構的最大影響。
“若這一規定落實(shí),而美國的人工智能服務(wù)機構又拒絕披露訓練數據,就會(huì )導致美國的通用人工智能無(wú)法向歐洲的客戶(hù)提供服務(wù)?!?/span>上海大邦律師事務(wù)所高級合伙人游云庭律師說(shuō)。
有科技界人士表示,歐盟在數據安全方面的態(tài)度一直較為保守。歐盟早在2016年就曾通過(guò)通用數據保護條例(General Data Protection Regulation),保護歐盟公民的個(gè)人隱私和數據安全,防止個(gè)人數據被濫用。
“歐洲相關(guān)立法的主要特點(diǎn),是基于‘世界也許并不急迫需要那么快速的科技發(fā)展,而是應當以社會(huì )責任為首要目標’這樣的思路?!鄙鲜隹萍冀缛耸糠Q(chēng),“實(shí)際上是比較平衡的思路?!?/span>
談及對科技企業(yè)的影響,該人士直言會(huì )影響科技發(fā)展的速度,因為科技企業(yè)本質(zhì)上只考慮效率與利潤最大化兩個(gè)因素,歐洲的諸多標準自然會(huì )成為一種阻力。但他也強調,這是觀(guān)察視角不一樣所致,“如果從人類(lèi)自身角度來(lái)看,實(shí)際上歐洲立法的視角跟大眾利益更一致?!?/span>
天元律師事務(wù)所合伙人李昀鍇律師也認為,《人工智能法案》采取了更為嚴格的保護態(tài)度,更側重于對社會(huì )利益與公眾利益的保護,但也沒(méi)有簡(jiǎn)單的“一刀切”,而是按風(fēng)險對AI系統進(jìn)行分類(lèi)監管。
分級監管的思路在我國也有類(lèi)似應用。2021年11月,《個(gè)人信息保護法》《網(wǎng)絡(luò )數據安全管理條例(征求意見(jiàn)稿)》相繼出臺,從國家層面明確提出建立數據分類(lèi)分級保護制度。但對于生成式人工智能服務(wù)的監管,暫未有按風(fēng)險分級的相關(guān)嘗試。
李昀鍇律師告訴界面新聞,目前國內對生成式人工智能服務(wù)的義務(wù)規定散落在各個(gè)部門(mén)法規之間,如針對醫療、互聯(lián)網(wǎng)等行業(yè)的法規,而《人工智能法案》則提出了更統一、更標準的監管方式。
目前,《人工智能法案》還需要經(jīng)過(guò)歐盟成員國的批準,預計將在5月或6月正式成為法律。不過(guò)最困難的立法階段已經(jīng)通過(guò),這也意味著(zhù)距離最終出臺只有一步之遙。歐盟國家預計,《人工智能法案》將于明年初生效,并于2026年正式實(shí)施。
即使該法案的適用范圍限于歐盟,但影響力并不止于此。
李昀鍇律師認為,人工智能屬于新興領(lǐng)域,各國立法機關(guān)都沒(méi)有過(guò)多經(jīng)驗參考借鑒,無(wú)論是對學(xué)術(shù)界的研究,還是行政界的監管,歐盟此次的《人工智能法案》都會(huì )具有參考作用。
*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。