物聯(lián)網(wǎng)安全存威脅 人工智能可否成定心法寶

　　目前網(wǎng)絡(luò )安全已經(jīng)進(jìn)入了一個(gè)嶄新的時(shí)代，面向各種新戰場(chǎng)，需要新的架構、新的方法、新的編程語(yǔ)言來(lái)支撐我們應對越來(lái)越艱巨的戰斗。新戰場(chǎng)以黑產(chǎn)對抗、反勒索軟件、反Insider-based APT、物聯(lián)網(wǎng)/車(chē)聯(lián)網(wǎng)這些新方向為代表。比如很多攝像頭、智能門(mén)鎖、兒童手表，都是成批次的被攻破，車(chē)聯(lián)網(wǎng)與智能車(chē)的安全問(wèn)題也引起業(yè)界的嚴重關(guān)注和顧慮。

　　網(wǎng)絡(luò )安全面臨嚴峻考驗

　　“2016年全球互聯(lián)網(wǎng)用戶(hù)達到35億人，約占世界總人口的一半。到2020年，接入互聯(lián)網(wǎng)的終端設備預計將達到120億臺?！边@是來(lái)自國際電信聯(lián)盟于2017年7月發(fā)布的《全球網(wǎng)絡(luò )安全指數》中的數據。

　　而隨著(zhù)智能設備的廣泛應用，大規模普及的物聯(lián)網(wǎng)必將為攻擊者提供大量新機會(huì )，工作與生活的界限愈加模糊，一臺聯(lián)網(wǎng)設備，只要被攻陷，從銀行等財務(wù)信息到健康等個(gè)人信息，則可能全部泄露。而在互聯(lián)時(shí)代，只要攻克一臺設備，其他設備就可能瞬間被瓦解。

　　這樣的事情已有先例。2016年10月，一款名為Mirai的惡意軟件侵襲了大量存在漏洞的智能攝像頭、智能網(wǎng)關(guān)、智能家電等物聯(lián)網(wǎng)設備，被感染后的它們瞬間變成了網(wǎng)絡(luò )中的“肉雞”設備。在工控領(lǐng)域，2010年的Stuxnet蠕蟲(chóng)病毒能夠針對西門(mén)子的監控與數據采集(SCADA)系統進(jìn)行攻擊，并通過(guò)U盤(pán)和局域網(wǎng)進(jìn)行傳播。

　　萬(wàn)物互聯(lián)，內網(wǎng)和外網(wǎng)的邊界逐漸模糊，網(wǎng)絡(luò )泛化則成為大趨勢，比如特斯拉的汽車(chē)在各種場(chǎng)合都可以接入wifi，還可以接入3G/4G網(wǎng)絡(luò )，而在未來(lái)的交通中，無(wú)人駕駛車(chē)還將與交通燈、交通臺，甚至是和其他車(chē)互通互聯(lián)——這意味著(zhù)更多的潛在攻擊點(diǎn)。

　　“一旦入網(wǎng)，有很多傳統的攻擊手段就能像攻擊電腦一樣攻擊無(wú)人駕駛車(chē)，WannaCry病毒同樣可以入侵車(chē)，這造成的問(wèn)題將會(huì )更大?！钡聡诙骰舴驊眉尚畔踩芯克J知信息安全研究組組長(cháng)肖煌在接受機器之能的采訪(fǎng)時(shí)說(shuō)。

　　這表明，無(wú)論是現在，還是將來(lái)，網(wǎng)絡(luò )安全將面臨著(zhù)嚴峻的考驗。隨著(zhù)人工智能被應用于各個(gè)垂直領(lǐng)域，網(wǎng)絡(luò )安全面臨的新的挑戰，也為人工智能的大展身手帶來(lái)了重要的契機。

　　在這個(gè)新興領(lǐng)域，巨頭已經(jīng)出現。用人工智能預測網(wǎng)絡(luò )攻擊的Cylance公司是估值10億美元以上的獨角獸，其人工智能反病毒軟件“Cylance PROTECT”可以預測威脅的發(fā)生。該公司曾在去年演示了一項技術(shù)，在沒(méi)有網(wǎng)絡(luò )連接的情況下，僅需60 MB內存和1%的CPU就能保護計算機免受攻擊。

　　人工智能于網(wǎng)絡(luò )安全：異常檢測和提升效率

　　在網(wǎng)絡(luò )安全領(lǐng)域，對威脅的識別，并非一蹴而就，而是漸進(jìn)發(fā)展的過(guò)程。亞信網(wǎng)絡(luò )安全產(chǎn)業(yè)技術(shù)研究院副院長(cháng)童寧在7月初舉辦的C3安全峰會(huì )上介紹，安全廠(chǎng)商起初通過(guò)黑白名單技術(shù)，將目標進(jìn)行好/壞定性，用這樣的一維特征來(lái)識別威脅。隨后是匹配字符串這樣的二維特征，如果請求里包含某一類(lèi)型的數據，就會(huì )被認定為非法。在這之后是多維特征，要辨別一個(gè)程序是好是壞，先讓它運行，再監督它的運行過(guò)程，將運行過(guò)程中的信息形成多維特征，用于判斷。但多維特征技術(shù)的致命缺點(diǎn)就是開(kāi)銷(xiāo)太大，效率低下，因此無(wú)法達到客戶(hù)要求。

　　在2000年以后，隨著(zhù)移動(dòng)互聯(lián)網(wǎng)的發(fā)展，有大量設備產(chǎn)生各式各樣的日志，因此在日志管理和分析方面，有了長(cháng)足的發(fā)展。而包括關(guān)聯(lián)分析等機器學(xué)習算法也被大量使用。

　　在機器學(xué)習中，童寧表示，監督學(xué)習則是一個(gè)高效的多維度特征發(fā)現方法，適用于惡意程序、勒索病毒以及垃圾郵件的防治。但監督學(xué)習也面臨著(zhù)挑戰：一，模型的新鮮度，因為威脅每天都在變化，而監督學(xué)習并不是每天都在學(xué)習，如果不每天學(xué)習，最新的威脅就識別不出來(lái)。二，模型的準確率，學(xué)習是一回事，但真正使用時(shí)的精度又是另一回事。三，模型的召回率，也就是說(shuō)漏掉了多少威脅，有多少威脅沒(méi)有抓住。

　　因此，監督學(xué)習并不是萬(wàn)能的，比如反欺詐、態(tài)勢感知、用戶(hù)行為分析則更適合無(wú)監督學(xué)習。然而，無(wú)監督學(xué)習也面臨著(zhù)另外的挑戰，因為無(wú)監督學(xué)習一般是在客戶(hù)的網(wǎng)絡(luò )環(huán)境中進(jìn)行，因而很有可能面臨投毒攻擊。

　　“機器學(xué)習技術(shù)的優(yōu)勢是它的多維識別能力，然而機器學(xué)習技術(shù)再強大也需要與其他手段綜合起來(lái)利用，效果才更好?！蓖瘜幷f(shuō)。

　　肖煌同樣指出，將機器學(xué)習用于網(wǎng)絡(luò )安全，在很多場(chǎng)景，預測精度并不能達到他們要求的0.000001的誤報標準。從這個(gè)角度來(lái)說(shuō)，人工智能也只是輔助手段，還需要與傳統手段結合。

　　然而，肖煌認為，將人工智能用于網(wǎng)絡(luò )安全則有另外的優(yōu)勢，那就是提高分析效率。人工智能的典型作用是代替人類(lèi)做大量重復的勞動(dòng)，比如用人工智能分析影像圖片，將影像醫生從低效率的重復勞動(dòng)中解放了出來(lái)。

　　網(wǎng)絡(luò )安全行業(yè)，也同樣如此。

　　數據顯示，中國目前對網(wǎng)絡(luò )安全人才的總需求量超過(guò)70萬(wàn)，每年增加的人才卻不過(guò)兩三萬(wàn)，缺口高達95%。而且，一個(gè)分析師每天能分析的漏洞卻是非常有限的。

　　“如果不通過(guò)自動(dòng)化的手段，將來(lái)物聯(lián)網(wǎng)連接設備數爆發(fā)的時(shí)候，大量的信息安全隱患只依賴(lài)人來(lái)分析是不太可能的?！毙せ捅硎?，一個(gè)信息安全分析師每天最多能看一兩千條log數據，或者一兩百個(gè)代碼片，而對人工智能來(lái)說(shuō)，幾百萬(wàn)條數據，只需花費幾分鐘時(shí)間。

　　根據肖煌的觀(guān)察，信息安全和人工智能，領(lǐng)域不同，思維方式也有一定區別，前者更偏向于系統工程，后者則更偏向于數學(xué)思維。因此，肖煌的很多同事認為人工智能解決的問(wèn)題有限，更愿意使用傳統的方法，但也會(huì )朝著(zhù)分析自動(dòng)化的方向思考。

　　“我相信任何一個(gè)做信息安全的人必然要向這個(gè)方向靠攏?！毙せ拖Ｍ苡泌呌诔墒斓淖詣?dòng)化手段完成垂直領(lǐng)域的性能提升，包括分析的效率、時(shí)效性、規模和可解釋性。

　　人工智能時(shí)代的攻與防

　　網(wǎng)絡(luò )安全是道高一尺魔高一丈的世界。安全人員使用人工智能技術(shù)阻擋黑客攻擊，反過(guò)來(lái)這也會(huì )使黑客使用人工智能技術(shù)發(fā)起更復雜的攻擊。而隨著(zhù)大量人工智能模型開(kāi)源，黑客入侵的工具也愈發(fā)多樣化。

　　肖煌表示，只要稍加學(xué)習，黑客就可以利用開(kāi)源工具欺騙識別系統，而技術(shù)難度的降低會(huì )促使很多人成為黑客，或者是進(jìn)行一些此前做不到的攻擊。

　　這并非杞人憂(yōu)天。

　　在網(wǎng)絡(luò )釣魚(yú)電子郵件中已有這樣的案例，黑客通過(guò)模仿人類(lèi)的說(shuō)話(huà)習慣和內容，使得企業(yè)或個(gè)人被入侵時(shí)更加難以識別。

　　肖煌認為，以后的病毒變種會(huì )越來(lái)越多，檢測越來(lái)越難，規模越來(lái)越大，生成的時(shí)間越來(lái)越短。

　　疊加在典型圖片輸入上的對抗輸入會(huì )讓分類(lèi)器產(chǎn)生錯覺(jué)，誤將熊貓識別為長(cháng)臂猿

　　2017年2月，OpenAI在發(fā)表的最新研究中，指出人工智能安全領(lǐng)域的另一大隱憂(yōu)：對抗樣本。在圖像識別問(wèn)題中，攻擊者將對抗樣本輸入機器學(xué)習模型，讓機器在視覺(jué)上產(chǎn)生幻覺(jué)，從而讓系統產(chǎn)生誤判。而在論文《解釋并馴服對抗樣本》(Explaining and Harnessing Adversarial Examples)中有一個(gè)例子：一張熊貓圖片，被加入人為設計的微小噪聲后，就導致系統將熊貓識別為長(cháng)臂猿。

　　多年來(lái)，肖煌一直在研究對抗性機器學(xué)習，致力于攻克機器學(xué)習算法本身的缺陷。他分析道，依賴(lài)于數據的機器學(xué)習算法、深度學(xué)習算法本身存在很大的缺陷。對抗性生成網(wǎng)絡(luò )，則利用這種缺陷，設計新的架構去生成模型。

　　“因為目前的機器學(xué)習嚴重依賴(lài)于數據的分布，如果數據分布本身很復雜，或者是人為地把它變得復雜，黑客如果有手段去生成惡意的樣本，就會(huì )導致識別不出來(lái)，或者識別錯誤?！毙せ瓦M(jìn)一步解釋。

　　肖煌表示，如果干擾被用在無(wú)人駕駛領(lǐng)域，后果則不堪設想。比如，在無(wú)人駕駛測試路段德國A9高速公路上，有專(zhuān)門(mén)的標識引導無(wú)人駕駛車(chē)。如果路邊的標識被惡意修改，誤導依賴(lài)標識的無(wú)人駕駛車(chē)，則會(huì )造成極度危險的情況。

　　肖煌認為，因為算法本身的缺陷，在大規模使用人工智能之后，網(wǎng)絡(luò )安全則需要更換思路，設計新的方法。

　　對此，他提供了以下路徑。

　　一，增加分析端的可解釋性。肖煌分析，如果是病毒威脅入侵，用機器學(xué)習檢測的方法，很難解決，因此希望能在信息安全泄露事故時(shí)，用統計學(xué)的方法理解其中的關(guān)聯(lián)，黑客如何入侵系統，攻擊的路徑是什么，又是哪個(gè)環(huán)節出現了問(wèn)題，找出這些關(guān)聯(lián)，或者從因果關(guān)系圖譜角度進(jìn)行分析，從而增加分析端的可解釋性。

　　二，目前的機器學(xué)習算法模型太復雜，需要使用大量的數據，就存在Tradeoff(權衡取舍)的情況。肖煌認為，降低算法復雜度的方法有很多，比如，引入先驗的知識，引導模型往一個(gè)方向學(xué)習。這樣學(xué)習的模型復雜度會(huì )降低，需要的數據也比較少。

　　三，信息安全情報的共享也非常重要。比如，模型存在某個(gè)缺陷，把這個(gè)缺陷提取出來(lái)，用一種高效的手段，編譯到另一種模型中去，另外的模型則無(wú)此缺陷。肖煌認為，這類(lèi)似遷移學(xué)習(Transfer learning)，只是遷移學(xué)習是遷移中間的學(xué)習結果，實(shí)際上中間學(xué)習出來(lái)的異常也可以遷移，從而增加算法的安全性。