人工智能發(fā)展面臨的法律挑戰

　　觀(guān)察一個(gè)概念是不是在公眾視野中“紅了”，有一個(gè)判斷標準，就是看看在各大機場(chǎng)的書(shū)店里有多少本關(guān)于這個(gè)主題的暢銷(xiāo)書(shū)。以這個(gè)標準來(lái)看，人工智能現在無(wú)疑“紅的發(fā)紫”，也還會(huì )繼續紅下去。

　　然而，科技領(lǐng)域的每一個(gè)新概念，從產(chǎn)生到具體在各行業(yè)中落地，都需要面對很多挑戰，既有技術(shù)和商業(yè)層面的，也有法律和公共政策層面的。

　　在過(guò)去的一年之間，人工智能的發(fā)展已經(jīng)引起了很多國家、國際組織的重視，聯(lián)合國、美國、歐洲議會(huì )、英國、法國、電氣和電子工程師協(xié)會(huì )(IEEE)先后發(fā)布多份關(guān)于人工智能的報告，討論人工智能的影響和需要考慮的風(fēng)險。這其中也包含了對于法律問(wèn)題的討論。

　　筆者作為多家科技公司的顧問(wèn)，也在業(yè)務(wù)實(shí)踐中遇到了很多和人工智能技術(shù)應用相關(guān)的法律問(wèn)題，本文會(huì )結合實(shí)例討論人工智能發(fā)展在法律問(wèn)題上可能會(huì )遇到哪些挑戰。

　　數據的收集、使用和安全

　　盡管人工智能從法律上很難準確定義，但從技術(shù)上來(lái)說(shuō)，目前人工智能基本都會(huì )涉及機器學(xué)習技術(shù)(MachineLearning)，這意味著(zhù)需要收集、分析和使用大量數據，其中很多信息由于具有身份的識別性(包括結合其他信息識別身份)，屬于個(gè)人信息。按照個(gè)人信息保護方面的法律規定，這些行為應當取得用戶(hù)明確、充分且完備的授權，并應當明確告知用戶(hù)收集信息的目的、方式手段、內容、留存時(shí)限還有使用的范圍等。

　　早在2011年，Facebook就曾因其人臉識別和標記功能未按伊利諾伊州《生物信息隱私法案》(BIPA)要求告知用戶(hù)收集面部識別信息的期限和方式被訴，隨后又因采集面部特征前未能明確提醒用戶(hù)并征得用戶(hù)同意而遭到愛(ài)爾蘭和德國有關(guān)部門(mén)的調查。盡管Facebook辯稱(chēng)默認開(kāi)啟該功能是因為用戶(hù)通常不會(huì )拒絕進(jìn)行人臉識別，并且用戶(hù)有權隨時(shí)取消這一功能，但德國漢堡市數據保護與信息安全局堅持Facebook的面部識別技術(shù)違反了歐洲和德國的數據保護法，Facebook應刪除相關(guān)數據。最終，Facebook被迫在歐洲地區關(guān)閉了人臉識別功能，并刪除了針對歐洲用戶(hù)建立的人臉數據庫。

　　當然也有對企業(yè)有利的案例。著(zhù)名籃球游戲NBA2K提供了使用用戶(hù)面部識別信息建立角色模型的功能，部分用戶(hù)以游戲制造者未征得其同意提起集體訴訟，法官認為被告收集信息最多是抽象的違反了BIPA，而沒(méi)有給原告造成具體而特定的損害，因此原告主體身份不適格，駁回了原告的訴請。

　　除了需要按告知的方式和范圍使用用戶(hù)數據，人工智能應用的開(kāi)發(fā)者還可能面臨需要配合政府部門(mén)提供數據的情況。2016年阿肯色州發(fā)生的一起謀殺案中，警方希望獲取Alexa語(yǔ)音助手收集的語(yǔ)音數據，該請求遭到了亞馬遜公司的拒絕，理由是警方?jīng)]有出具有效的法律文件。但這種例子以后還會(huì )層出不窮。公權和私權的沖突，也許會(huì )因為人工智能技術(shù)的引入，出現新的形式。

　　人工智能開(kāi)發(fā)者在收集、使用數據的過(guò)程中，還要遵守安全保障原則，采取適當的、與個(gè)人信息遭受損害的可能性和嚴重性相適應的管理措施和技術(shù)手段，保護個(gè)人信息安全，防止未經(jīng)授權的檢索、披露及丟失、泄露、損毀和篡改個(gè)人信息。

　　數據歧視和算法歧視

　　人工智能在應用中，往往需要利用數據訓練算法。如果輸入的數據代表性性不足或存在偏差，訓練出的結果將可能將偏差放大并呈現出某種歧視特征。根據國外報道，卡內基?梅隆大學(xué)的研究顯示，由谷歌(Google)創(chuàng )建的廣告定位算法可能存在對互聯(lián)網(wǎng)用戶(hù)的性別歧視。在搜索20萬(wàn)美元薪水的行政職位中，假冒男性用戶(hù)組收到1852個(gè)廣告，而假冒女性用戶(hù)組僅收到318個(gè)廣告。而在2016年3月23日，微軟公司的人工智能聊天機器人Tay上線(xiàn)不到24小時(shí)，就在一些網(wǎng)友的惡意引導和訓練下，發(fā)表了各種富有攻擊性和歧視性的言論。除此以外，因為數據存在偏差，導致結果涉嫌歧視甚至攻擊性的例子，已經(jīng)大量出現。

　　這意味著(zhù)開(kāi)發(fā)者在人工智能的訓練和設計過(guò)程中需要秉承廣泛的包容性，充分考慮女性、兒童、殘疾人、少數族群等易被忽視群體的利益，并對道德和法律的極端情況設置特別的判斷規則。

　　由于人工智能系統并非表面那么看起來(lái)“技術(shù)中立”，在毫不知情的情況下，特定人群就可能就成了系統“偏見(jiàn)”和“歧視”的受害者。作為開(kāi)發(fā)者，需要審慎面對這樣的風(fēng)險。除了在采集數據和設計算法的時(shí)候需要注意數據的全面性和準確性以及算法的不斷調整更新外，在應用機器的預測結果是也應該更為謹慎，在重要領(lǐng)域不能將人工智能的運算結果當然作為最終且唯一的決策依據，關(guān)鍵的人為審查依然是必要的。例如在關(guān)于人工智能醫療輔助診斷的規定中，就明確了人工智能輔助診斷技術(shù)不能作為臨床最終診斷，僅作為臨床輔助診斷和參考，最終診斷必須由有資質(zhì)的臨床醫師確定。

　　如果人工智能的歧視行為給用戶(hù)造成了實(shí)際或精神損害，相關(guān)的法律責任應當首先由人工智能服務(wù)的最終使用者承擔，人工智能開(kāi)發(fā)者有過(guò)錯的，最終使用者承擔責任后可以向開(kāi)發(fā)者追償。在判斷開(kāi)發(fā)者過(guò)錯程度時(shí)，可能需要區分不同算法：如果技術(shù)開(kāi)發(fā)者主動(dòng)設立了算法中的規則，那么對最終出現的歧視風(fēng)險預見(jiàn)和控制程度也更高，如果最終因系統的“歧視”或者“偏見(jiàn)”損害了第三方的合法權益，難辭其咎。但如果采取的深度學(xué)習等算法，由系統自身探索并形成規則，所以開(kāi)發(fā)者對歧視風(fēng)險的控制程度是比較低的，主觀(guān)惡意和過(guò)錯都較小，可能具有一定的免責空間。

　　事故責任和產(chǎn)品責任

　　和其他技術(shù)一樣，人工智能產(chǎn)品也有事故和產(chǎn)品責任的問(wèn)題，但要分清是人為操作不當還是人工智能的缺陷并沒(méi)有那么容易，舉證上尤其困難。汽車(chē)的自動(dòng)駕駛功能在國內外都曾因發(fā)生交通事故而被質(zhì)疑其安全性。然而，并非只要安裝了人工智能，用戶(hù)使用產(chǎn)品受到的損害就都屬于人工智能的責任。筆者收集和接觸了不少和人工智能產(chǎn)品有關(guān)的糾紛，但其中有相當的比例，都不能證明開(kāi)啟了人工智能的相關(guān)功能。

　　在確定事故屬于人工智能責任前需要明確排查以下問(wèn)題：是否有人為操作等其他原因造成損害后果的發(fā)生?人工智能的具體功能是什么?損害發(fā)生時(shí)相關(guān)功能是否已經(jīng)啟用?相關(guān)功能是否發(fā)揮了預期作用?相關(guān)功能與損害后果之間是否存在因果關(guān)系?因果關(guān)系的相關(guān)程度如何?產(chǎn)品功能描述和介紹中是否存在可能造成用戶(hù)降低注意水平的歧義或誤解?

　　根據《侵權責任法》的規定，因終端產(chǎn)品存在缺陷造成用戶(hù)損害的，終端產(chǎn)品生產(chǎn)者應當承擔侵權責任。如果終端產(chǎn)品使用的人工智能存在缺陷，而終端產(chǎn)品使用的人工智能芯片和服務(wù)(人工智能產(chǎn)品)是由他人提供的，則終端產(chǎn)品生產(chǎn)者可以以銷(xiāo)售者的身份，要求人工智能產(chǎn)品和服務(wù)的開(kāi)發(fā)者作為產(chǎn)品生產(chǎn)者承擔侵權責任。同時(shí)，雙方也可以自行約定侵權責任的劃分問(wèn)題。

　　在認定產(chǎn)品缺陷責任時(shí)一個(gè)比較棘手的問(wèn)題是，各生產(chǎn)者之間的責任認定問(wèn)題。因使用人工智能的終端產(chǎn)品可能涉及多類(lèi)技術(shù)和部件，當該產(chǎn)品最終發(fā)生意外時(shí)，往往難以精準定位問(wèn)題出現的具體環(huán)節和部位。因此，建議人工智能開(kāi)發(fā)者通過(guò)黑匣子等技術(shù)手段加強對操作數據的記錄和保存，以便產(chǎn)生正義時(shí)履行舉證義務(wù)。