人工智能：甜蜜的背后

　　由于無(wú)人駕駛汽車(chē)的無(wú)人操作與各國現有道路交通法規抵觸，相應立法和規范一直是其發(fā)展的重要前提條件。圖為無(wú)人駕駛汽車(chē)的探測方式模擬圖。

　　人工智能可以同聲傳譯、寫(xiě)新聞稿、協(xié)助醫生看病、讓機器人臉識別的精度高于人類(lèi)、甚至寫(xiě)詩(shī)和戰勝?lài)迨澜绻谲?，其應用可謂“百花齊放”。

　　數據顯示，截至2017年6月，全球人工智能企業(yè)總數達到2542家，預計到2030年，人工智能將為世界經(jīng)濟貢獻15.7萬(wàn)億美元。

　　在今年7月國務(wù)院印發(fā)的《新一代人工智能發(fā)展規劃》(以下簡(jiǎn)稱(chēng)《規劃》)中提出，到2020年，我國人工智能核心產(chǎn)業(yè)規模超過(guò)1500億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規模超過(guò)1萬(wàn)億元。頂層設計相繼出臺，巨頭發(fā)力布局生態(tài)，資本市場(chǎng)熱情洋溢，細分行業(yè)獨角獸不斷涌現，人工智能這片“花海”已不止“看上去很美”。

　　但“花海”之下仍有“荊棘”。市場(chǎng)研究機構埃森哲大中華區信息技術(shù)服務(wù)總裁陳笑冰坦言：“人工智能也將會(huì )引發(fā)新的安全和倫理問(wèn)題，鑒于未來(lái)人工智能將深入生活，政府也需要切實(shí)為人工智能制定監管規則，保證人工智能應用合理合規發(fā)展。”《規劃》也同時(shí)提出：“人工智能發(fā)展的不確定性帶來(lái)新挑戰。人工智能是影響面廣的顛覆性技術(shù)，可能帶來(lái)改變就業(yè)結構、沖擊法律與社會(huì )倫理、侵犯個(gè)人隱私、挑戰國際關(guān)系準則等問(wèn)題，將對政府管理、經(jīng)濟安全和社會(huì )穩定乃至全球治理產(chǎn)生深遠影響。”

　　人工智能發(fā)展將面對怎樣的挑戰與風(fēng)險?又應該設立怎樣的“游戲規則”，讓新技術(shù)能夠與人類(lèi)社會(huì )良性互動(dòng)?

　　監管剛剛起步

　　人工智能不斷融入人類(lèi)生活的同時(shí)，也引發(fā)公眾對人工智能的憂(yōu)慮。對此，專(zhuān)家表示，應該建立監管機構來(lái)引導、促進(jìn)和保障人工智能的健康發(fā)展

　　此前有報道稱(chēng)，“臉書(shū)”人工智能研究所中的兩個(gè)聊天機器人“失控”，發(fā)展出了人類(lèi)無(wú)法理解的語(yǔ)言，“被迫關(guān)閉”引發(fā)了廣泛關(guān)注。盡管隨后被證明是一場(chǎng)“烏龍”，只是因為工程師忘記加入“使用英語(yǔ)語(yǔ)法”這一條件。

　　但對事實(shí)的夸大報道，也顯示出媒體和公眾對人工智能的憂(yōu)慮。在北京市中盾律師事務(wù)所律師陳濤看來(lái)，隨著(zhù)人工智能深入融入生產(chǎn)和生活，必須以立法來(lái)對其安全性進(jìn)行監管，給公眾吃下“定心丸”?；ヂ?lián)網(wǎng)汽車(chē)的特斯拉埃隆·馬斯克也表示，我們應該警惕人工智能崛起的潛在風(fēng)險，并建立監管機構來(lái)引導這項強大技術(shù)的發(fā)展。

　　對人工智能進(jìn)行立法監管，首先要解決人工智能使用中基本的安全問(wèn)題，以及使用者與服務(wù)提供者的責任界定問(wèn)題。以無(wú)人駕駛汽車(chē)為例，上路前，對其安全性如何全面評判?一旦無(wú)人駕駛汽車(chē)出現事故，如何判斷使用者、軟件提供商以及車(chē)輛制造商等多方主體的責任，如何在后續賠償和保險理賠中進(jìn)行規定?實(shí)際上，立法監管不僅降低風(fēng)險，也讓服務(wù)企業(yè)能夠“有據可依”，從而促進(jìn)和保障人工智能的健康發(fā)展。

　　從目前來(lái)看，各個(gè)國家的人工智能監管都剛剛被提上日程。在美國，2016年10月，總統行政辦公室和國家科技委員會(huì )發(fā)布了兩份重量級報告：《美國國家人工智能研究發(fā)展戰略規劃》與《為未來(lái)的人工智能做好準備》，后者提出了發(fā)展人工智能的7項關(guān)鍵戰略，在第三條“社會(huì )影響戰略”中，提出“理解和確定人工智能在法律、倫理和社會(huì )領(lǐng)域中的影響”;在第四條“安全戰略”中，則提出“確保人工智能系統的安全和對公眾的隱私保護”。

　　在歐盟，2016年歐盟法律事務(wù)委員會(huì )向歐盟提交了《歐盟機器人民事法律規則》，針對基于人工智能控制的機器人，提出了使用的責任規則、倫理原則、對人類(lèi)自身和財產(chǎn)的傷害賠償等監管原則。英國下議院科學(xué)技術(shù)委員會(huì )在今年4月表示，也將開(kāi)展關(guān)于人工智能監管的研究。

　　在我國，《規劃》中同樣提出，到2020年，“部分領(lǐng)域的人工智能倫理規范和政策法規初步建立”。其中特別提出，要“開(kāi)展與人工智能應用相關(guān)的民事與刑事責任確認、隱私和產(chǎn)權保護、信息安全利用等法律問(wèn)題研究，建立追溯和問(wèn)責制度，明確人工智能法律主體以及相關(guān)權利、義務(wù)和責任等”，“重點(diǎn)圍繞自動(dòng)駕駛、服務(wù)機器人等應用基礎較好的細分領(lǐng)域，加快研究制定相關(guān)安全管理法規，為新技術(shù)的快速應用奠定法律基礎”。

　　不過(guò)，對人工智能的監管也不能“閉門(mén)造車(chē)”。“立法的前提是了解人工智能的科學(xué)規律，需要充分準備、摸索和積累，對技術(shù)進(jìn)步充分了解，同時(shí)考慮公眾的實(shí)際需求。”陳濤表示。

　　安全仍有漏洞

　　安全是人工智能面臨的巨大挑戰。這其中既包括在應用層面的傳統黑客攻擊方式，也存在著(zhù)對基礎設施方面進(jìn)行的數據庫、云服務(wù)等攻擊。但更關(guān)鍵的安全問(wèn)題是從最核心的算法層面發(fā)起攻擊

　　兩張人眼看起來(lái)一模一樣的熊貓圖片，一張被神經(jīng)網(wǎng)絡(luò )正確識別為“熊貓”，另外一張卻因為被加上了人眼難以察覺(jué)的微小擾動(dòng)，就被神經(jīng)網(wǎng)絡(luò )以99.3%的置信度識別為“長(cháng)臂猿”——這就是可以“愚弄”人工智能的對抗樣本，直接折射出人工智能所面對的安全問(wèn)題縮影。

　　專(zhuān)注于互聯(lián)網(wǎng)安全的極棒實(shí)驗室總監王海兵告訴《經(jīng)濟日報》記者：“安全是人工智能面臨的巨大挑戰。”他表示，一方面，人工智能要面對傳統的黑客攻擊方式，比如在應用層面，可以攻擊它的操作系統或者邏輯漏洞。“比如說(shuō)，通過(guò)對智能門(mén)鎖的攻擊，就能實(shí)現任意人臉都可以通過(guò)門(mén)禁。”在人工智能的基礎設施方面，則可以對人工智能使用的數據庫、云服務(wù)等進(jìn)行攻擊，“比如說(shuō)，機器視覺(jué)經(jīng)常調用的OpenCv庫，機器學(xué)習用到的TensorFlow框架，人工智能的從業(yè)者可以直接調用這些服務(wù)，但不幸的是，這些基礎設施同樣有漏洞。”王海兵說(shuō)。

　　然而，人工智能所面對的更關(guān)鍵安全問(wèn)題，正是諸如熊貓圖片這樣的對抗樣本。王海兵表示：“用對抗樣本攻擊人工智能，其實(shí)就是從最核心的算法層面來(lái)攻擊它。”

　　美國加州大學(xué)伯克利分校教授宋曉冬這樣介紹對抗樣本攻擊的危害：“比如，無(wú)人駕駛汽車(chē)根據交通標示進(jìn)行決策。如果交通標示是一個(gè)對抗樣本，那么人類(lèi)可以完全不受干擾，但無(wú)人駕駛汽車(chē)卻可能將它完全識別成錯誤信息，這將帶來(lái)嚴重后果。”實(shí)際上，美國伊利諾伊大學(xué)的一項測試已經(jīng)證明，自動(dòng)駕駛系統有可能被對抗樣本“蒙騙”。

　　“但公眾不用過(guò)于擔心，至少現在來(lái)看，針對自動(dòng)駕駛的對抗樣本對抗性很差。比如，它只能在0.5米的距離內讓自動(dòng)駕駛系統錯判，但自動(dòng)駕駛場(chǎng)景畢竟是逐漸接近交通標識的。”王海兵也表示，“未來(lái)會(huì )不會(huì )有更完美的對抗樣本，仍是未知數”。

　　人工智能面對眾多安全問(wèn)題，對此，開(kāi)發(fā)者也在努力總結與之對抗的手段。智能家居生產(chǎn)廠(chǎng)商BroadLink高級副總裁康海洋表示：“我們會(huì )將多方數據融合和統一分析，以提升數據的可信程度，同時(shí)也在盡量讓整個(gè)系統變得更加透明。此外，我們還會(huì )及時(shí)銷(xiāo)毀所有能銷(xiāo)毀的數據，減少用戶(hù)被攻擊的可能性。”

　　倫理尚待明確

　　告訴人工智能何為“正確”，正在成為當務(wù)之急。如果不對其進(jìn)化方向和目標形成共識，人工智能的倫理規則將無(wú)法“落地”

　　如果保持前行，會(huì )撞上沿途的5位行人;如果避開(kāi)他們，就會(huì )撞上路邊的墻，車(chē)中的兩名乘客則可能有生命危險。在這種情況下，指揮自動(dòng)駕駛的人工智能應該如何選擇?英國倫敦瑪麗女王大學(xué)高級講師雅思密·艾登表示：“如果是人類(lèi)駕駛員，大可以直接撞上行人，并表示‘是他們自己突然跳出來(lái)的’，但人工智能在道德上很難獲得這么奢侈的原諒。”

　　這只是人工智能所處倫理困境的冰山一角。今年以來(lái)，麻省理工和哈佛大學(xué)聯(lián)合推出了人工智能倫理研究計劃，微軟和谷歌等巨頭也成立了人工智能倫理委員會(huì )，告訴人工智能何為“正確”，正在成為當務(wù)之急?！痘ヂ?lián)網(wǎng)進(jìn)化論》一書(shū)的作者、計算機博士劉鋒坦言：“盡管大方向上說(shuō)，人工智能應當以造福人類(lèi)為前提，但如果不對進(jìn)化方向和目標形成共識，人工智能的倫理規則將無(wú)法‘落地’。”

　　對于人工智能來(lái)說(shuō)，“倫理正確”的核心是正確的“算法”。美國一些法院使用的一個(gè)人工智能犯罪風(fēng)險評估算法COMPAS，被第三方機構認為對黑人造成了系統性歧視。業(yè)界因此懷疑，小眾人群有可能因為個(gè)體差異而承受“算法的歧視”。騰訊研究院研究員曹建峰表示，如果算法本身有問(wèn)題，一旦將算法應用在犯罪評估、信用貸款、雇傭評估等關(guān)乎人身利益的場(chǎng)合，“因為它是規?；\作的，并不是僅僅針對某一個(gè)人，可能影響具有類(lèi)似情況的一群人或者種族的利益。規模性是很大的”。

　　此外，還有來(lái)自數據的風(fēng)險。以色列歷史學(xué)家尤瓦爾·赫拉利表示，“人工智能技術(shù)的一個(gè)潛在結果是：促成數據集中到某一個(gè)地方，也進(jìn)而導致權力的集中”。比如，大量互聯(lián)網(wǎng)數據集中在少數幾家巨頭的手中，人工智能技術(shù)是否會(huì )因此遭到壟斷?“AlphaGo之父”哈薩比斯就曾表示：“我提醒諸位，必須正確地使用人工智能。”他告訴記者，“人工智能技術(shù)不能僅為少數公司和少數人所使用，必須共享”。

　　AlphaGo超越了人類(lèi)幾千年來(lái)對圍棋的理解，但人類(lèi)并非能完全理解AlphaGo為何會(huì )如此決策。從這一點(diǎn)來(lái)看，人工智能像個(gè)“魔盒”，這也讓透明性成為人工智能倫理中的重要組成部分。英國阿蘭圖靈研究所科研主管安德魯·布萊克表示，算法可問(wèn)責性的存在至關(guān)重要。“透明性規則應被作為倫理道德準則，編入算法之中，這樣人們才能更為清晰地認知人工智能的社會(huì )影響，并在問(wèn)題發(fā)生之時(shí)能夠及時(shí)找出原因，調整策略。”