阿西莫夫的機器人三定律和Mobileye的自動(dòng)駕駛五原則

　　很多科幻小說(shuō)作家的想象，最終在現實(shí)世界中得到了應驗。

　　大師級科幻小說(shuō)作家阿西莫夫有過(guò)一個(gè)思考，對于A(yíng)I驅動(dòng)的機器人，除了應該不斷提升機器本身的智力水平之外，讓其更好用之外，在其和人類(lèi)打交道的時(shí)候，還需要一個(gè)更宏觀(guān)的，在技術(shù)至上的指導原則。他在短篇小說(shuō)集《我，機器人》中寫(xiě)了這樣一組規則，稱(chēng)為“機器人三定律”：

　　1. 機器人不得傷害人類(lèi)，或者不得置人類(lèi)于危難中;

　　2. 機器人必須服從人類(lèi)的命令，除非與第一定律沖突;

　　3. 機器人可以在不與第一、第二定律沖突情況下維護自身存在。

　　1985年，阿西莫夫又出版了《機器人與帝國》，在書(shū)中他將三大法則擴張為四大法則，增加了第零法則：機器人不得傷害整體人類(lèi)，或坐視整體人類(lèi)受到傷害，構成更加完整的機器人四定律。

　　雖然機器人三定律、四定律在很多有關(guān)于人工智能的電影和文學(xué)作品中屢屢出現，但也一直停留在想象階段，并沒(méi)有被實(shí)際應用過(guò)。一方面的原因，是在很長(cháng)一段時(shí)間里，機器的智力水平還沒(méi)有高到能和人類(lèi)社會(huì )日常生活的息息相關(guān);另外一個(gè)原因，則是由于阿西莫夫的原則只是簡(jiǎn)單的語(yǔ)言符號，并未構成嚴密的邏輯閉環(huán)。

　　但這并不妨礙阿西莫夫的思考成為一種新學(xué)科“機械倫理學(xué)”的基礎，一門(mén)以人類(lèi)為中心，關(guān)于機器人的建造和使用的學(xué)科，其核心就是如何安全的應用智能機器。

　　自動(dòng)駕駛，數據是基石，但并不是全部

　　而Mobileye公司，正在試圖在自動(dòng)駕駛領(lǐng)域，書(shū)寫(xiě)堪比機器人三定律，甚至更精確的規則。

　　這個(gè)月的月初，至頂網(wǎng)(賽博故事母平臺)拜訪(fǎng)了Mobileye，一家創(chuàng )立于 1999 年，總部位于以色列的高科技公司。該公司的主要業(yè)務(wù)為輔助駕駛系統和自動(dòng)駕駛開(kāi)發(fā)所需要的計算機視覺(jué)、機器學(xué)習、數據分析、定位與地圖建模等技術(shù)。2017 年的 3 月，Mobileye被英特爾公司斥資 153 億美元收購，并與后者的自動(dòng)駕駛事業(yè)部(ADG)合并，形成新的自動(dòng)駕駛部門(mén)，由 Mobileye 聯(lián)合創(chuàng )始人、董事長(cháng)兼首席技術(shù)官阿姆儂·沙書(shū)亞(Amnon Shashua)教授領(lǐng)導。

　　圖注：Mobileye 聯(lián)合創(chuàng )始人、董事長(cháng)兼首席技術(shù)官阿姆儂·沙書(shū)亞教授

　　很長(cháng)時(shí)間以來(lái)，自動(dòng)駕駛汽車(chē)的安全可靠性，一直被認為只和數據量密切相關(guān)。這是由于這一次由機器學(xué)習、深度學(xué)習帶來(lái)人工智能浪潮的本質(zhì)來(lái)是使用統計學(xué)方法對數據的利用，讓機器通過(guò)“吃掉”海量的數據來(lái)總結模式和規律。只要數據足夠多，也就是路測的里程足夠長(cháng)，自動(dòng)駕駛汽車(chē)就會(huì )更安全。沙書(shū)亞在和我們交流中表示，在自動(dòng)駕駛這件事上，“把任務(wù)完全交給統計學(xué)是不可行的”，不能只有數據訓練，還要有一些常識原則，否則會(huì )面臨極大的發(fā)展障礙。

　　障礙之一在于經(jīng)濟性，“要讓人類(lèi)信任自動(dòng)駕駛汽車(chē)，安全性至少要比人類(lèi)司機好100倍。如果用統計學(xué)方法來(lái)實(shí)現，這就意味著(zhù)1億小時(shí)的路測，假設路測時(shí)每小時(shí)行駛30公里，路測的距離是30億公里”， 沙書(shū)亞做了一個(gè)簡(jiǎn)單的計算來(lái)證明經(jīng)濟上的不可能性，畢竟30億公里，相當于繞地球跑了7萬(wàn)圈還不止。

　　障礙之二來(lái)自于黑箱問(wèn)題，沙書(shū)亞認為統計學(xué)之上的AI “既不透明、也不公開(kāi)”?，F在的深度學(xué)習是基于數據的自動(dòng)編程，一種方式成功了，我們知道它有效，但是我們不知道它為什么有效，反之，如果它失敗了，我們也不知道它為什么失效，唯一能做的就是不斷調整參數，加大數據量，試圖讓結果更盡如人意，但實(shí)際上我們對其“內在”一無(wú)所知。

　　但對自動(dòng)駕駛而言，透明是非常重要的。畢竟駕駛這件事太復雜了，涉及到社會(huì )安全，涉及到駕駛員、乘客、路人，以及涉及交通部門(mén)、汽車(chē)公司甚至保險公司等利益相關(guān)方。一旦車(chē)輛發(fā)生事故，我們卻無(wú)法向涉事相關(guān)方解釋緣由，也無(wú)法界定責任，進(jìn)而很難讓自動(dòng)駕駛贏(yíng)得社會(huì )信任。

　　在自動(dòng)駕駛汽車(chē)，很可能成為人類(lèi)第一個(gè)要考慮如何與其安全相處的智能機器之際。Mobileye試圖在統計學(xué)之上，增加一些人類(lèi)可以理解的規則，發(fā)布了它RSS—— Responsibility Sensitive Safety模型，中文翻譯為責任敏感安全模型。RSS中所制定的各種規則，正如同阿西莫夫的“機器人三定律”，其核心目的也是安全。

　　RSS，機器可以讀懂的數學(xué)安全“定律”

　　在之前發(fā)表的由沙書(shū)亞教授參與撰寫(xiě)的論文“On a Formal Model of Safe and Scalable Self-driving Cars”中，和后續來(lái)自Mobileye公司的演講說(shuō)明中，我們得知RSS模型為實(shí)現這樣的 “目標”而設定：

　　1. 自動(dòng)駕駛汽車(chē)本身不能導致事故(它可以是事故中的一方，但不是導致事故的一方);

　　2. 自動(dòng)駕駛汽車(chē)應該在其它車(chē)輛發(fā)生錯誤時(shí)(導致事故)，做出正確反應，避免發(fā)生更嚴重的事故。如果用一句話(huà)來(lái)總結，就是自動(dòng)駕駛汽車(chē)永遠不應為一場(chǎng)事故負責。

　　之所設立這個(gè)目標，可以理解為是要解決自動(dòng)駕駛的可行性。不導致事故，就意味著(zhù)自動(dòng)架設汽車(chē)不會(huì )為事故承擔責任，這在基礎上卸下了監管部門(mén)、汽車(chē)公司的壓力。

　　但如果沒(méi)有合理的方式，僅靠這句文字符號，無(wú)從保證自動(dòng)駕駛汽車(chē)可以沿著(zhù)這個(gè)目標邁進(jìn)。所以自動(dòng)駕駛汽車(chē)就需要能回答這樣幾個(gè)問(wèn)題：1，什么是可能發(fā)生事故的危險情況;2，遇到問(wèn)題時(shí)，什么是正確的反應;3，以及最后，也是非常重要的，既然自動(dòng)駕駛汽車(chē)要避免成為導致事故的一方，那么如何認定事故中的責任方?(即如何避免成為責任方)

　　為實(shí)現這些目的，在這篇論文中，RSS規定了這樣五條基本常識性原則：

　　1. 別追尾(追尾前車(chē)無(wú)責)。

　　2. 別突然并道，導致后車(chē)追尾(這是前車(chē)責任)。

　　3. 擁有“路權”，但別刻意爭取路權。(英文是：right-of-way is given，not taken)。如果舉例來(lái)說(shuō)明，前車(chē)加塞，或許“可以不讓路，但是為了保證安全，可以讓速。

　　4. 小心視覺(jué)盲區。

　　5. 如果能避免事故又不會(huì )傷及他人，那一定要努力避免。

　　需要注意的是，RSS并非只是看似簡(jiǎn)單的文字符號描述，而是由強大的數學(xué)邏輯來(lái)保證可實(shí)現，像下圖這樣的公式(關(guān)于安全車(chē)距)，在論文中處處可見(jiàn)。沙書(shū)亞也強調，必須遵守基于三方面的原則對這些常識進(jìn)行公式化，包括合理性、有效性和可驗證性。而有了這些常識準則，自動(dòng)架設汽車(chē)的決策系統，就可以避開(kāi)單純依靠統計學(xué)AI實(shí)現安全駕駛的低效性。

　　自動(dòng)駕駛汽車(chē)的監管、共識和價(jià)值

　　毫無(wú)疑問(wèn)，由于涉及社會(huì )公共安全，自動(dòng)駕駛是政府一定會(huì )介入監管的領(lǐng)域。

　　在我們走訪(fǎng)Mobileye公司的過(guò)程中，發(fā)生了比較重要的新聞。Mobileye和大眾宣布共同合作首個(gè)自動(dòng)駕駛網(wǎng)約車(chē)服務(wù)(也稱(chēng)為出行即服務(wù)，MaaS)。沙書(shū)亞認為這個(gè)項目的重點(diǎn)在于，這是全球第一個(gè)由政府參與的自動(dòng)駕駛MaaS項目。以色列政府承諾將為此成立專(zhuān)門(mén)的委員會(huì )，討論監管壁壘、監管架構支持MaaS發(fā)展。

　　對于自動(dòng)駕駛汽車(chē)這樣的新生事物，沙書(shū)亞認為監管的松緊程度是非常重要的。如果為了安全，過(guò)于看重監管，很可能一事無(wú)成。這方面來(lái)看，美國相對放松，歐洲則是重重監管，過(guò)松或者過(guò)嚴都會(huì )保證一事無(wú)成(過(guò)松導致事故頻發(fā)讓公眾失去信心，過(guò)嚴則讓產(chǎn)業(yè)毫無(wú)創(chuàng )新機會(huì ))。而以色列做了制度上的創(chuàng )新，由政府介入來(lái)確保項目在安全性和可行性的平衡，“做到了創(chuàng )新型監管(制度創(chuàng )新)”。

　　在沙書(shū)亞眼中，新的技術(shù)要求，讓政府法律的合理監管體系，和技術(shù)上的嚴密數學(xué)邏輯，組成了一門(mén)重要的新學(xué)科——“法規科學(xué)”(regulatory science)，一門(mén)把法律和高等數學(xué)結合在一起的新學(xué)科，正如阿西莫夫催生了機械倫理學(xué)一樣。沙書(shū)亞希望RSS不是Mobileye一家之言，而是成為全球自動(dòng)駕駛產(chǎn)業(yè)的共識，作為一項“常識規則”，認同的人越多，安全性和可用性就越能得到保證。Mobileye現在正在同主機廠(chǎng)合作，同行業(yè)供應商合作(百度4個(gè)月前宣布將采用Mobileye的RSS模型)，甚至同美國、中國等監管機構進(jìn)行合作，來(lái)開(kāi)展這樣推動(dòng)共識，協(xié)同創(chuàng )新的工作。

　　同樣發(fā)生在我們到達Mobileye之時(shí)，北京公交集團、北太智能也同時(shí)到訪(fǎng)Mobileye，三方共同簽署了諒解備忘錄，建立合作伙伴關(guān)系。用北太智能的運營(yíng)總監李華的話(huà)來(lái)說(shuō)，“建立一個(gè)基礎交通大數據的基礎設施”。

　　在以色列，我體會(huì )到了兩種駕駛體驗。

　　第一次是自駕，以色列并非是一個(gè)司機開(kāi)車(chē)循規蹈矩的國度，當我們一行人在異國他鄉小心自駕時(shí)，時(shí)不時(shí)被后邊響起的鳴笛聲催促，甚至被逆行超車(chē)。所以當我把這個(gè)自動(dòng)駕駛網(wǎng)約車(chē)相關(guān)新聞發(fā)到朋友圈時(shí)，有位在以色列工作過(guò)的朋友說(shuō)，在這里開(kāi)發(fā)自動(dòng)駕駛，絕對是好地方，有足夠豐富的路測場(chǎng)景。

　　第二次是乘上了Mobileye平臺支持的自動(dòng)駕駛汽車(chē)。在沒(méi)有人類(lèi)司機干預的情況下，我們乘坐的福特汽車(chē)在馬路上自由穿梭。甚至在一次變線(xiàn)時(shí)，其反應速度遠遠超過(guò)人類(lèi)。而事后復盤(pán)一想，這絲毫不值得奇怪，畢竟這輛汽車(chē)的攝像頭可以實(shí)時(shí)兼顧前后兩百米的路況，根本無(wú)需像人類(lèi)一樣轉向之前，還要匆忙再看一眼后視鏡。

　　實(shí)際上，自動(dòng)駕駛汽車(chē)完全可能已經(jīng)比人類(lèi)司機更杰出了，只不過(guò)出于跨物種擔心的緣故，我們需要自動(dòng)駕駛汽車(chē)，比人類(lèi)駕駛汽車(chē)的安全水平高一百倍，才能認可一個(gè)新司機的出現。就讓人類(lèi)“老司機”再保持最多不會(huì )超過(guò)十年的自信吧。