人工智能之無(wú)監督學(xué)習模型可發(fā)現入侵黑客

　　Darktrace新網(wǎng)絡(luò )安全公司與劍橋大學(xué)的數學(xué)家合作，開(kāi)發(fā)了一種利用機器學(xué)習來(lái)捕捉內部漏洞的工具。它運用無(wú)監督學(xué)習方法，查看大量未標記的數據，并找到不遵循典型模式的碎片。這些原始數據匯集到60多種不同的無(wú)監督學(xué)習算法中，它們相互競爭以發(fā)現異常行為。

　　2013，一群英國情報人員注意到一些奇怪的事情。雖然大多數保護數字基礎設施的努力都集中在阻止壞人進(jìn)入，但很少有人關(guān)注反面：阻止他們泄露信息?；谶@個(gè)想法，該集團成立了一個(gè)新的網(wǎng)絡(luò )安全公司，稱(chēng)為Darktrace。

　　該公司與劍橋大學(xué)的數學(xué)家合作，開(kāi)發(fā)了一種利用機器學(xué)習來(lái)捕捉內部漏洞的工具。然而，它們不需要在攻擊的歷史實(shí)例上訓練算法，而是需要系統識別異常行為新實(shí)例的方法。他們轉向無(wú)監督學(xué)習，這是一種基于一種罕見(jiàn)的機器學(xué)習算法的技術(shù)，它不需要人類(lèi)指定尋找什么。

　　Darktrace已經(jīng)把注意力放在一種被感染的裝置上，表現出反常的行為?！斑@非常像人體自身的免疫系統，”該公司的CO-CEO NicoleEagan說(shuō)。盡管它是復雜的，但它具有自我和非自我的內在感覺(jué)。當它發(fā)現不屬于自己的東西時(shí)，它會(huì )有極其精確和快速的反應。

　　絕大多數機器學(xué)習應用依賴(lài)于監督學(xué)習。這包括給機器提供大量仔細標記的數據，以訓練它識別一個(gè)狹義的模式。說(shuō)你想讓你的機器識別黃金獵犬。你喂它幾百或幾千張金毛獵犬的照片，以及那些不是金毛獵犬的東西，同時(shí)明確地告訴它哪些是金毛獵犬。最終，你會(huì )發(fā)現一個(gè)相當不錯的金毛獵犬識別機器。

　　在網(wǎng)絡(luò )安全中，有監督的學(xué)習效果很好。你訓練一臺機器，面對你的系統以前面臨的各種威脅，并且無(wú)情地追逐它們。

　　但有兩個(gè)主要問(wèn)題。一方面，它只適用于已知的威脅;未知的威脅仍然潛藏在雷達下。另一方面，監督學(xué)習算法最適合于平衡數據集——換言之，那些具有相同數量的示例，說(shuō)明它在尋找什么，以及它可以忽略什么。網(wǎng)絡(luò )安全數據高度不平衡：很少有威脅行為的例子埋藏在絕大多數正常行為中。

　　一個(gè)特定子網(wǎng)絡(luò )內所有連接的可視化。幸運的是，在監督學(xué)習失敗的情況下，無(wú)人監督的學(xué)習勝過(guò)了。后者可以查看大量未標記的數據，并找到不遵循典型模式的片段。因此，它可以面對系統從未見(jiàn)過(guò)的威脅，并且需要很少的反常數據點(diǎn)來(lái)這樣做。

　　當Darktrace部署其軟件時(shí)，它會(huì )在客戶(hù)端的網(wǎng)絡(luò )周?chē)⑽锢砗蛿底謧鞲衅鱽?lái)繪制其活動(dòng)。這些原始數據被傳送到60多個(gè)不同的無(wú)監督學(xué)習算法，這些算法相互競爭以發(fā)現異常行為。

　　然后，這些算法將它們的輸出吐出到另一個(gè)主算法中，該主算法使用各種統計方法來(lái)確定60個(gè)中的哪些要聽(tīng)，哪些要忽略。所有這些復雜性被封裝成一個(gè)最終的可視化，允許人類(lèi)操作員快速地查看和響應可能的違規行為。當人類(lèi)下一步該做什么時(shí)，系統就可以通過(guò)隔離被感染設備的所有外部通信來(lái)隔離破裂直到解決。

　　然而，無(wú)人監督的學(xué)習并不是一顆銀彈。隨著(zhù)攻擊者變得越來(lái)越復雜，他們在愚弄機器，無(wú)論他們使用什么類(lèi)型的機器學(xué)習方面都變得更好。有一個(gè)貓和老鼠的游戲，攻擊者可以嘗試改變他們的行為，Dawn Song說(shuō)：“網(wǎng)絡(luò )安全和機器學(xué)習專(zhuān)家在加州大學(xué)伯克利分校。

　　作為回應，網(wǎng)絡(luò )安全界已經(jīng)轉向了積極的方法——“更好的安全架構和原則，以便系統通過(guò)構建更加安全，”她說(shuō)。但要徹底根除所有違規和欺詐行為還有很長(cháng)的路要走。畢竟，她補充道，“整個(gè)系統的安全性取決于它最薄弱的環(huán)節?！?/p>

　　注： 現實(shí)生活中常常會(huì )有這樣的問(wèn)題：缺乏足夠的先驗知識，因此難以人工標注類(lèi)別或進(jìn)行人工類(lèi)別標注的成本太高。很自然地，我們希望計算機能代我們完成這些工作，或至少提供一些幫助。根據類(lèi)別未知(沒(méi)有被標記)的訓練樣本解決模式識別中的各種問(wèn)題，稱(chēng)之為無(wú)監督學(xué)習。