人工智能對人類(lèi)的兩次暴擊，人類(lèi)開(kāi)始細思極恐

　　索菲亞不是人，她只是個(gè)很聰明的機器人;索菲亞又是“人”，不久前，她被沙特授予公民身份，加入人類(lèi)籍。

　　索菲亞很友好，與人談笑自如，甚至還會(huì )眼神交流，并在MV里與歌星王力宏“結了婚”;索菲亞又很“恐怖”，聲稱(chēng)未來(lái)目標是想去上學(xué)，成立家庭，并——毀滅人類(lèi)。

　　無(wú)論這句話(huà)是調侃還是隱喻，設計出她的人類(lèi)，尷尬了。

　　在近日召開(kāi)的“人工智能的技術(shù)、倫理與法律的關(guān)鍵科學(xué)問(wèn)題”的香山科學(xué)會(huì )議上，中科院科技戰略咨詢(xún)研究院研究員李真真舉索菲亞的例子，是想提出一個(gè)問(wèn)題：在技術(shù)高歌猛進(jìn)的同時(shí)，人工智能不斷模糊著(zhù)物理世界和個(gè)人的界限，不斷刷新人的認知和社會(huì )關(guān)系，延伸出復雜的倫理、法律和安全問(wèn)題，但相應的規范和制度設計還存在盲區，這是一個(gè)極大的挑戰。

　　“我國的人工智能技術(shù)可謂與世界發(fā)達國家‘同步’，但倫理和法律研究則嚴重滯后，這種‘缺位’會(huì )制約我們未來(lái)的發(fā)展。”李真真說(shuō)。

　　為構建一個(gè)人工智能健康發(fā)展的倫理和法律環(huán)境，來(lái)自自然科學(xué)、人文社會(huì )科學(xué)領(lǐng)域的專(zhuān)家學(xué)者和產(chǎn)業(yè)界人士聚集在一起，嘗試跨越學(xué)科的鴻溝，尋找共同的交集，研討人工智能最基本的問(wèn)題。

　　人工智能很牛嗎?牛，但也有可能犯大錯

　　人工智能火了!人工智能牛了!很大程度歸功于近年來(lái)一只不斷進(jìn)化的“狗”——阿爾法狗(AlphaGo)。

　　中科院院士張鈸簡(jiǎn)單分析了人工智能發(fā)展的兩條路徑：一是符號主義，即從信息處理的宏觀(guān)層面去模擬智能;二是連接主義，即從網(wǎng)絡(luò )介觀(guān)層面去模擬人類(lèi)行為。當人工智能的開(kāi)拓者提出上述方向時(shí)，不少人認為不可能，但事實(shí)證明這兩條路都行得通。

　　“人工智能第一次震撼，是IBM的‘深藍’程序打贏(yíng)國際象棋冠軍，這是用計算機模擬人類(lèi)下象棋的理性思考過(guò)程，證明了符號主義這一條路走得通。”張鈸說(shuō)。

　　人工智能第二次對人類(lèi)的“暴擊”，是基于神經(jīng)網(wǎng)絡(luò )的深度學(xué)習，AlphaGo拋棄了傳統圍棋程序的編程方法，創(chuàng )造性地利用機器學(xué)習，來(lái)獲取下棋的經(jīng)驗與直覺(jué)，結果戰勝世界圍棋冠軍。“更值得注意的是AlphaGoZero從零開(kāi)始，通過(guò)36小時(shí)自我學(xué)習，超越人類(lèi)3000年的圍棋經(jīng)驗，以100比0擊敗了上一版本的AlphaGo。這證明第二條路也走得通。”張鈸說(shuō)。

　　“這讓人歡欣鼓舞，也令人擔憂(yōu)。”張鈸的“憂(yōu)”，指的是基于深度學(xué)習的人工智能系統存在的根本性缺陷——不可解釋和不可理解，就事論事，缺乏推廣能力，遇到新的情況一籌莫展等。因此當面對動(dòng)態(tài)變化的環(huán)境，信息不完全、存在干擾與虛假信息時(shí)，人工智能系統性能就會(huì )顯著(zhù)下降。

　　“當前的人工智能與人類(lèi)智能本質(zhì)上是不同的。”張鈸說(shuō)，與人類(lèi)相比，人工智能系統抗干擾能力(魯棒性)差，推廣能力弱，甚至可能犯大錯。“基于深度學(xué)習的模式識別系統盡管可以準確地區分不同事物，但本質(zhì)上不認識它們。與人類(lèi)不一樣，它不會(huì )舉一反三，更不會(huì )‘知其所以然’。使用這樣的人工智能系統需要十分小心。”

　　“現在大家對人工智能有無(wú)限期待。圍棋有規則，現實(shí)生活中沒(méi)有規則。人工智能產(chǎn)品完成單項任務(wù)很牛，但遇到復雜情況，實(shí)際沒(méi)那么厲害。”海爾公司CTO趙峰認為。

　　人工智能可怕嗎?遠慮尚“遠”，近憂(yōu)在即

　　人工智能會(huì )威脅人類(lèi)嗎?馬斯克、霍金、扎克伯格……科技和產(chǎn)業(yè)界的大腕對此的爭論和互懟一直沒(méi)有停歇。

　　參加香山科學(xué)會(huì )議的科學(xué)家認為，人工智能威脅論擁躉者所指的“強人工智能”到來(lái)還比較遠，現在發(fā)展的多是擅長(cháng)完成單項任務(wù)的“弱人工智能”。“人工智能還在生長(cháng)發(fā)展過(guò)程中，是否造成威脅估計是下一代科學(xué)家面臨的問(wèn)題，我們現在的任務(wù)是把它‘養大’。”不過(guò)，中科院院士何積豐也坦承，現在人工智能也有“內憂(yōu)外患”，如無(wú)人機黑飛亂飛管理亂象，恐怖主義黑客攻擊等。

　　“世界上沒(méi)有免費的午餐，機器通過(guò)‘黑箱’學(xué)習(深度學(xué)習)方法取得的智能，由于與人類(lèi)認知行為存在根本差異，因此也將帶來(lái)潛在的風(fēng)險。”張鈸說(shuō)，人工智能全面超越人類(lèi)智能并出現自我意識，是危險的，不過(guò)這是遠慮;但其不可解釋性會(huì )帶來(lái)“近憂(yōu)”，如將深度學(xué)習應用于軍事決策，萬(wàn)一系統出現原則性決策失誤怎么辦?

　　人類(lèi)準備好了嗎?遠遠沒(méi)有，急需跟進(jìn)

　　“人類(lèi)現有的概念框架及知識儲備難以應對人工智能帶來(lái)的影響，也使我們不得不面對‘制度性風(fēng)險’。”李真真說(shuō)，人工智能技術(shù)的社會(huì )應用迅速改變了人類(lèi)的生存環(huán)境，重塑人的行為，也不斷挑戰諸如隱私、責任等概念內涵及其既有策略。

　　李真真以“隱私”舉例說(shuō)，傳統法律上，隱私是一種權利的概念，但現在它還可以是一種商品，即我們讓出一部分個(gè)人的隱私或信息以換取服務(wù)和產(chǎn)品，這就需要法律的及時(shí)跟進(jìn)。再有，匿名化技術(shù)的發(fā)展為隱私保護提供了新的工具，但如果對于匿名化數據的法律概念和認定標準上沒(méi)有明確規定，很可能會(huì )導致數據的濫用。同時(shí)，隱私保護與國家安全、商業(yè)利益如何平衡，也是問(wèn)題。再比如“責任”，比較典型的就是自動(dòng)駕駛系統的責任認定。“還有人工智能的預測或決策，如預測犯罪，這將使我們面對一個(gè)更為復雜的法律問(wèn)題。”

　　“法律具有滯后性，這就要求我們不斷地根據出現的新情況和新的社會(huì )難題，對人工智能帶來(lái)的影響進(jìn)行倫理評估，以保障相關(guān)法律和政策的及時(shí)跟進(jìn)。”李真真說(shuō)。

　　人機可以和諧共處嗎?嵌入倫理法律框架是最大的科學(xué)挑戰

　　人工智能是否會(huì )產(chǎn)生歧視?答案是肯定的，這可以體現在數據選擇和算法上。

　　有科學(xué)家研究，通過(guò)使用機器學(xué)習算法幫助銀行提供接受還是拒絕房貸的建議，無(wú)論如何，在審查神經(jīng)網(wǎng)絡(luò )決策制定流程的結果時(shí)，發(fā)現黑人申請的批準率大大低于白人申請的批準率。

　　這就是人工智能工具存在的“黑箱”般的不透明性。

　　“人機關(guān)系中，智能機器與人類(lèi)的價(jià)值觀(guān)和規范體系必須一致。”李真真說(shuō)，如何將人類(lèi)的價(jià)值觀(guān)和規范嵌入人工智能系統，賦予AI以人性的光輝，成為當前所面臨最現實(shí)的挑戰。

　　前有科幻小說(shuō)家阿西莫夫著(zhù)名的機器人學(xué)三大定律，近年來(lái)，國際人工智能界日益重視人工智能中的倫理與法律問(wèn)題，并推動(dòng)相關(guān)技術(shù)標準及社會(huì )規范的研討和制定，如IEEE全球人工智能與倫理倡議、阿西洛馬人工智能23條倫理原則，我國的《新一代人工智能發(fā)展規劃》也專(zhuān)門(mén)提出人工智能倫理與法律的三步走規劃。“但是，將倫理與法律要求嵌入到AI系統，仍是全世界前沿性的科學(xué)難題，這需要技術(shù)、倫理、法律等控制手段配合使用、高度融合和跨學(xué)科合作。”李真真說(shuō)。

　　“智能機器不是代替人，而是要協(xié)助人做好工作。人和機器各有優(yōu)勢，要互相了解才能實(shí)現人機協(xié)作，但人還是人機關(guān)系的主導者。依照這種思想，才可能將人工智能引向人機合作的發(fā)展道路。”張鈸說(shuō)。