歐洲科學(xué)院王東明院士：AI安全的機遇與挑戰

人工智能威脅論在網(wǎng)絡(luò )上長(cháng)久不衰，AI是否安全可控，一直是人們關(guān)心的話(huà)題。在此次安全峰會(huì )上，歐洲科學(xué)院院士王東明帶來(lái)的主題思考《AI人工智能：安全的機遇與挑戰》，從人工智能和網(wǎng)絡(luò )安全的關(guān)系出發(fā)，理性的分析人工智能帶來(lái)的機遇與挑戰。

人工智能使生活變得安全了嗎？

與20年前相比，我們現在更安全了嗎？我們信息更安全了嗎？我們網(wǎng)絡(luò )更安全了嗎？我們存在銀行里面的錢(qián)更安全了嗎？好像沒(méi)有。我們仍然被網(wǎng)絡(luò )病毒、垃圾郵件、虛假廣告、商業(yè)欺詐所困擾。

人工智能來(lái)了，我們會(huì )更安全嗎？還是更威脅？深度機器學(xué)習與智能搜索是否會(huì )挑戰我們現在的安全機制？欺詐會(huì )不會(huì )更加智能，攻擊能否穿越萬(wàn)物互聯(lián)的時(shí)空？虛擬語(yǔ)音合成、關(guān)聯(lián)知識推理、超級群體智能可否讓機器博古通今，招搖撞騙？

我們?yōu)槭裁葱枰斯ぶ悄埽?/strong>

在人類(lèi)文明發(fā)展幾千年歷史過(guò)程中，我們擁有大量的數據，大量的信息，留到現在最重要的是什么？是知識。是我們把握這個(gè)社會(huì )資源的能力，所以是智能，沒(méi)有智能我們社會(huì )就會(huì )變得蒼白。

什么是人工智能？

人工智能是數學(xué)科學(xué)、信息科學(xué)與其他應用科學(xué)的交叉學(xué)科，主要研究設計構造應用可以模仿人類(lèi)智能的機器，包括硬件設備和軟件系統。

人工智能的發(fā)展從上世紀50年代開(kāi)始，已經(jīng)有60多年的歷史。機器翻譯、機器博弈、機器定理證明都是人工智能里面最經(jīng)典的研究課題，因為這些都是需要很高的智能。

1959年美籍華人王浩先生在704計算機用9分鐘時(shí)間，證明了著(zhù)名的《數學(xué)原理》中的百余條數理邏輯定理，成為人工智能里程碑。

1976年著(zhù)名的四定理借助計算機獲得證明，震撼世界。

1978年吳文俊先生提出幾何定理機器證明的高效方法。

1990－2010年兩十年平穩發(fā)展，人工智能現在重新興旺就是阿爾法狗誕生在2010年。

2015年對與國家來(lái)說(shuō)人工智能非常不平凡一年，2015年7月人工智能寫(xiě)入國務(wù)院《關(guān)于積極推進(jìn)黃連＋行動(dòng)的指導意見(jiàn)》。

2016年3月人工智能寫(xiě)入十三五規劃綱要。

2016年5月國家發(fā)改委等四部委發(fā)布互聯(lián)網(wǎng)＋人工智能三年行動(dòng)方案。

2018年10月科技部創(chuàng )新2030重大項目設立人工智能專(zhuān)項。

新一代人工智能，基于大數據、云平臺、網(wǎng)絡(luò )并行計算、智能芯片等信息技術(shù)和基礎設施的建設為人工智能的進(jìn)一步發(fā)展提供了保障。深度學(xué)習的理論和方法，信息化的應用需求，國家和企業(yè)的高投入為人工智能發(fā)展注入了強勁的動(dòng)力，所以人工智能現在處在歷史性的發(fā)展機遇。

人工智能與網(wǎng)絡(luò )安全是什么關(guān)系？

網(wǎng)絡(luò )信息安全，信息網(wǎng)絡(luò )的廣泛使用使其安全性，包括兩個(gè)方面，Safety／secunity。這也是與人們生活、工作密切相關(guān)而又難以解決的問(wèn)題。對網(wǎng)絡(luò )高度依賴(lài)使得人們對其穩定性、可靠性、壟斷性，對信息存儲的傳輸和安全性都有極高的要求。從某種意義上講，我們的生活，我們的工作并未隨著(zhù)技術(shù)的進(jìn)步和網(wǎng)絡(luò )普及而得到很大的改善。

但在某種意義上趨于惡化的趨勢。隱私信息泄露、銀行卡盜刷、商業(yè)網(wǎng)絡(luò )欺詐，遠程病毒攻擊不停在擾亂我們的生活。以前沒(méi)有病毒，后來(lái)有病毒，以前沒(méi)有欺詐，現在有欺詐，所以很多問(wèn)題值得思考和解決。

通過(guò)保障網(wǎng)絡(luò )安全，增強網(wǎng)絡(luò )系統的物理性能和運行可靠性，需要提高抗攻擊能力，要使用區塊鏈等新技術(shù)記錄多方參與的信息活動(dòng)，使交易信息部得單方面修改，信息價(jià)值可以通過(guò)技術(shù)手段進(jìn)行轉移。網(wǎng)絡(luò )安全教育尤為重要，然后是法制和網(wǎng)絡(luò )技術(shù)，標準化、規范化有助于改善網(wǎng)絡(luò )的安全性。

人工智能與安全的關(guān)系是相互作用，相互影響。信息網(wǎng)絡(luò )安全是人工智能廣泛應用的基本保障，沒(méi)有數據，沒(méi)有信息，沒(méi)有安全，就沒(méi)法來(lái)討論人工智能。另一方面，人工智能方法可以用于網(wǎng)絡(luò )安全隱患的檢測和網(wǎng)絡(luò )安全機制的建立、優(yōu)化和分析。

人工智能VS網(wǎng)絡(luò )安全

挑戰？

人工智能給安全帶來(lái)了很多的挑戰，基于機器學(xué)習和深度搜索的人工智能方法會(huì )提升攻擊網(wǎng)絡(luò )和信息安全的能力，對全天候跟蹤網(wǎng)絡(luò )行為獲取的大數據進(jìn)行人工智能分析，有可能自動(dòng)檢測出運行網(wǎng)絡(luò )出現物理異常和安全性低下的時(shí)段與內外部環(huán)境，從而可以制定更有效的攻擊機制和策略。人工智能方法對網(wǎng)絡(luò )安全的挑戰將會(huì )增加網(wǎng)絡(luò )安全的保障成本。

人工智能＋是給安全的很大威脅。深度搜索向寬度搜索、廣度搜索擴展，威脅基于通用知識的安全保障機制。機器學(xué)習從蠻力型、普適型向知識型延伸，這將威脅基于專(zhuān)業(yè)知識的安全機制。萬(wàn)物互聯(lián)使全局安全受制于局部安全，巴黎城門(mén)失火，可以殃及天府池魚(yú)。

5G云端：虛擬現實(shí)、穿越時(shí)空，數據傳輸、價(jià)值轉移、網(wǎng)絡(luò )攻擊都有可能在0秒內完成。還有很多的物理手段，比如說(shuō)衛星定位、雷達跟蹤、聲波探測、視頻監控，我們一言一行盡在數據中。還有非計算智能，超越人類(lèi)智能的生物感知、動(dòng)物智能是否可以用來(lái)為虎添翼。有很多動(dòng)物智能很強，比如狗的嗅覺(jué)比人強，狗的嗅覺(jué)可以智能化放到機器上，那么它們感知能力就會(huì )比我們強很多。

機遇？

人工智能對于安全的挑戰，給安全發(fā)展帶來(lái)機遇。我們要重新審視、分析蠻力型、普適型安全機制的安全性和可靠性，建立基于元智能的高智型安全機制 ，并構建復合型多重安全保障體系，保證安全攸關(guān)信息網(wǎng)絡(luò )的絕對安全。

網(wǎng)絡(luò )的安全威脅將會(huì )隨著(zhù)網(wǎng)絡(luò )使用力的加大而加大。對于網(wǎng)絡(luò )實(shí)施多方位、智能化協(xié)同攻擊會(huì )變得越來(lái)越容易。深度群體智能密碼分析會(huì )提出對密碼的攻擊能力。比如說(shuō)我們的計算可以通過(guò)網(wǎng)絡(luò )，可以在一億部手機上實(shí)現簡(jiǎn)單的操作，這項能力，強度會(huì )比以前大很多。網(wǎng)絡(luò )設施建設將會(huì )繼續，網(wǎng)絡(luò )安全性將會(huì )不斷提高，但是我們需要教育，需要自律、法律加強與完善網(wǎng)絡(luò )安全。

道高一尺 魔高一丈

人工智能VS網(wǎng)絡(luò )安全中既有挑戰又有機遇。一句話(huà)，我們要道德、法規、科技、智能。傳道承德、建規立法、創(chuàng )新科技、智能保安。其中網(wǎng)絡(luò )道德安全教育尤為重要。

我們花很多錢(qián)很多技術(shù)希望變得安全，但是最終沒(méi)有達到想要的結果。我們能做到的是本質(zhì)加密加鎖，小人難盜，善行善舉，君子不竊。君子都來(lái)攻擊，那么安全很難保障。我們需要教育，需要改善人們對社會(huì )，對現代文化的認識，這是非常重要的。我們花這么多的精力做這么多事情，達到什么效果呢？效果就是促進(jìn)科技的進(jìn)步，將造福人類(lèi)。

人工智能真的那么可怕嗎？

舉一個(gè)例子，核能和智能，這二者不可或缺。我們研究核能，造原子彈、氫彈、核武器是為了要保護自己。我們造出來(lái)之后我們并沒(méi)有使用核武器，但是沒(méi)有核武器有可能遭到別人攻擊，有了核武器別人不來(lái)攻擊我們，我們也不攻擊別人。反而核武器成為科技進(jìn)步的表現，從而造福人類(lèi)。比如說(shuō)發(fā)電、核潛艇。在法國80％電都是靠核能，所以核能發(fā)揮著(zhù)重要的作用。

人工智能存在威脅，但怎么會(huì )比核能更可怕呢？人與汽車(chē)，誰(shuí)跑得更快？誰(shuí)更有智能？這是顯然的問(wèn)題，汽車(chē)只能在公路上跑得快，還需要人來(lái)駕駛。而我們人可以走獨木橋，可以穿小胡同，可以獨上高樓，可以另辟蹊徑。

人工引發(fā)的智能可以非常強大，但是仍然無(wú)法超越人類(lèi)自身的元智能，因為人創(chuàng )造的能力是無(wú)限的。我們制造的東西，我們研究的東西，我們一定要讓它在我們的控制之下。人工智能是機器智能，是算法智能，人智能的科學(xué)基礎是數學(xué)。