無(wú)人駕駛真正絆腳石是黑客 自動(dòng)化造成失業(yè)恐惹眾怒

　　據MIT Technology Review報道，在無(wú)人駕駛卡車(chē)和出租車(chē)上路之前，制造商們需要解決一個(gè)比防撞和導航復雜得多的問(wèn)題。這些車(chē)輛將不得不預見(jiàn)并抵御惡意攻擊者的侵擾，這些人同時(shí)使用傳統網(wǎng)絡(luò )攻擊手段和基于所謂“對抗性機器學(xué)習”的新式攻擊方法。隨著(zhù)越來(lái)越多的人一致認為，無(wú)人駕駛汽車(chē)只需要幾年時(shí)間就會(huì )出現在城市里(比如機器人出租車(chē))和高速公路上，以緩解長(cháng)途卡車(chē)司機的無(wú)聊感。然而，這種攻擊風(fēng)險在很大程度上卻在鋪天蓋地的覆蓋報道中被忽略。

　　這不禁讓我想起了上世紀90年代早期推廣電子郵件的大量文章，當時(shí)這種新興電子通訊領(lǐng)域還未被垃圾郵件所充斥。那時(shí)，機器學(xué)習被看作是解決世界垃圾郵件問(wèn)題的方案之一。事實(shí)上，今天的垃圾郵件問(wèn)題在很大程度上已被解決，但我們花了幾十年的時(shí)間才實(shí)現這個(gè)目標。

　　目前還沒(méi)有黑客針對無(wú)人駕駛汽車(chē)發(fā)動(dòng)襲擊的報道。但具有諷刺意味的是，這的確是一個(gè)問(wèn)題。在20世紀90年代，互聯(lián)網(wǎng)初創(chuàng )公司開(kāi)發(fā)了首批電子商務(wù)平臺時(shí)，也沒(méi)有惡意攻擊者。在第一輪電子商務(wù)黑客襲擊發(fā)生之后，比爾·蓋茨(Bill Gates)給微軟寫(xiě)了一份備忘錄，要求公司認真對待安全問(wèn)題。結果，如今的Windows成為世界上最安全的操作系統之一，微軟每年在網(wǎng)絡(luò )安全上的花費超過(guò)10億美元。盡管如此，黑客還是不斷發(fā)現Windows操作系統、網(wǎng)絡(luò )瀏覽器和應用程序的漏洞。

　　汽車(chē)公司很可能也會(huì )經(jīng)歷類(lèi)似的過(guò)程。20世紀80年代設計的“CAN總線(xiàn)”(CAN bus)未能考慮安全性問(wèn)題，這個(gè)失敗讓人們普遍感到尷尬，因為當時(shí)還沒(méi)有驗證的概念，現在他們似乎在關(guān)注此事。當黑客們證明，道路上的車(chē)輛很容易受到幾個(gè)特定安全威脅的影響時(shí)，汽車(chē)制造商只能通過(guò)召回并升級數百萬(wàn)輛汽車(chē)的固件應對。去年7月份，通用汽車(chē)公司首席執行官瑪麗?巴拉(Mary Barra)表示，保護汽車(chē)免受網(wǎng)絡(luò )襲擊的影響“事關(guān)公共安全”。

　　但迄今為止所做的努力可能正錯過(guò)下一個(gè)安全趨勢。無(wú)人駕駛汽車(chē)的開(kāi)發(fā)依賴(lài)于復雜的機器學(xué)習算法，但計算機視覺(jué)和防撞系統卻沒(méi)有被很好地理解。去年，美國卡內基-梅隆大學(xué)的研究人員證明，使用一副透明的眼鏡，并在鏡框上印上時(shí)髦的圖案，就可以擊敗最先進(jìn)的人臉識別算法。

　　關(guān)于這個(gè)模式的某些東西以正確方式欺騙了算法，讓其以為自己看到了不存在的東西。首席研究員馬穆德·謝里夫(Mahmood Sharif)在電子郵件中稱(chēng)：“我們已經(jīng)證明，通過(guò)模仿目標人物或簡(jiǎn)單的識別錯誤，攻擊者都可以逃避基于神經(jīng)網(wǎng)絡(luò )開(kāi)發(fā)的最先進(jìn)人臉識別算法?！?/p>

　　2016年，美國南卡羅來(lái)納大學(xué)、中國浙江大學(xué)以及中國網(wǎng)絡(luò )安全公司奇虎360(Qihoo 360)的研究人員證明，他們可以在特斯拉S上干擾各種傳感器，使其導航系統看不到物體。

　　最近許多關(guān)于無(wú)人駕駛的文章，甚至忽略了可能會(huì )有積極的、有適應能力的惡意競爭對手存在，他們可能試圖讓無(wú)人駕駛車(chē)輛發(fā)生重大事故。在接受《麻省理工技術(shù)評論》采訪(fǎng)時(shí)，美國國家運輸安全委員會(huì )(National Transportation Safety Board)主席克里斯托弗?哈特(Christopher Hart)表示，他“非常樂(lè )觀(guān)”地認為，無(wú)人駕駛汽車(chē)將減少美國道路上的事故數量。而在討論安全問(wèn)題時(shí)，哈特把重點(diǎn)放在了讓車(chē)輛進(jìn)行道德決策的必要性上。例如，當重達36噸的卡車(chē)突然擋住汽車(chē)的路時(shí)，會(huì )發(fā)生什么?

　　為什么在明知會(huì )導致死亡的情況，依然有人想要攻擊無(wú)人駕駛汽車(chē)?其中一個(gè)原因是，無(wú)人駕駛汽車(chē)的廣泛部署將導致大量人員失業(yè)，其中有些人將會(huì )對此感到憤怒。2016年8月，福特公司首席執行官馬克·菲爾茲(Mark Fields)表示，他計劃在2021年之前在城市中推出全自動(dòng)駕駛出租車(chē)。谷歌、日產(chǎn)和其他公司也計劃最早于2020年前推出類(lèi)似的無(wú)人駕駛汽車(chē)。這些無(wú)人駕駛的出租車(chē)或運載工具可能很容易被失業(yè)的卡車(chē)司機(或Uber司機)用高功率激光指示器弄得暈頭轉向。

　　當被問(wèn)及如何應對競爭對手的機器學(xué)習威脅計劃時(shí)，Uber發(fā)言人莎拉?阿伯德(Sarah Abboud)回應道:“我們的安全專(zhuān)家團隊不斷探索無(wú)人駕駛車(chē)輛的未來(lái)防御技術(shù)，包括數據完整性和濫用檢測。然而，隨著(zhù)無(wú)人駕駛技術(shù)的發(fā)展，威脅模型也在進(jìn)化，這意味著(zhù)今天的一些安全問(wèn)題可能與真正無(wú)人駕駛環(huán)境中所處理的問(wèn)題有所不同?！?/p>