谷歌和OpenAI研發(fā)新工具，深入了解AI如何識別圖片

　　人工智能的世界到底是什么樣子的?

　　幾十年來(lái)，研究人員一直對此感到困惑，但近年來(lái)，這個(gè)問(wèn)題變得愈加緊迫。機器視覺(jué)系統正被越來(lái)越多地應用于生活的各個(gè)領(lǐng)域，從醫療保健到自動(dòng)駕駛。

　　但通過(guò)機器的眼睛“看”世界，仍然是一個(gè)不小的挑戰，比如我們該怎么理解為什么它把有些人歸為行人，而把有些人歸為路標。如果我們無(wú)法做到這一點(diǎn)，就有可能會(huì )造成嚴重的，甚至是致命的后果。比如前段時(shí)間已經(jīng)發(fā)生的，自動(dòng)駕駛汽車(chē)撞上行人致死的事件。

　　雖然，神經(jīng)網(wǎng)絡(luò )在識別圖像中的物體等任務(wù)上取得了巨大的成功，但它們是如何做到的在很大程度上仍是一個(gè)謎。它們的內部工作方式被屏蔽，隱藏在層層計算中，不讓人看到，使得人類(lèi)很難診斷錯誤或偏差。

　　來(lái)自谷歌和非盈利實(shí)驗室open Ai的新研究希望通過(guò)繪制系統來(lái)了解世界的視覺(jué)數據，進(jìn)一步撬開(kāi)人工智能視覺(jué)的黑匣子。

　　這種被稱(chēng)為“激活圖集”的方法，可以讓研究人員分析出各個(gè)算法的工作原理，不僅能揭示它們識別的抽象形狀、顏色和模式，還揭示了它們如何結合這些元素來(lái)識別特定的對象、動(dòng)物和場(chǎng)景。

　　這項工作的主要研究者，谷歌的Shan Carter說(shuō)，如果以前的研究就像在算法的視覺(jué)字母表中顯示單個(gè)字母，那么激活圖集提供了一個(gè)更接近整個(gè)詞典的東西，它顯示出字母是如何組合成實(shí)際單詞的?？ㄌ卣f(shuō)：“例如，在像‘鯊魚(yú)’這樣的圖像中，會(huì )由很多激活碼構成，比如‘牙齒’和‘水’?！?/p>

　　雖然這不一定是一個(gè)巨大的突破，但它是在被稱(chēng)為“功能可視化”的更廣泛的研究領(lǐng)域向前邁出的一步。佐治亞理工大學(xué)的博士生Ramprasaath Selvaraju表示，這項研究“非常吸引人”，并結合了許多現有的想法，創(chuàng )造了一個(gè)新的極其有用的工具。

　　Selvaraju說(shuō)，這樣的工作將有很多用途，幫助我們建立更高效和先進(jìn)的算法，并通過(guò)讓研究人員深入研究來(lái)提高安全性和消除偏差?！坝捎谏窠?jīng)網(wǎng)絡(luò )固有的復雜性，它們有時(shí)缺乏可解釋性，”但他說(shuō)，在未來(lái)，當網(wǎng)絡(luò )被廣泛用于自動(dòng)駕駛汽車(chē)和引導機器人時(shí)，這將是必不可少的一步。Open Ai的Chris Olah也參與了這個(gè)項目，他說(shuō)：“這有點(diǎn)像制作顯微鏡。至少，這是我們所設想的?！?/p>

　　要了解激活圖集和其他功能可視化工具的工作原理，首先需要了解一點(diǎn)人工智能系統如何識別對象。實(shí)現這一點(diǎn)的基本方法是使用神經(jīng)網(wǎng)絡(luò )：一種與人腦大致相似的計算結構(盡管它在復雜程度上落后了一個(gè)光年)。

　　每一個(gè)神經(jīng)網(wǎng)絡(luò )內部都是人工神經(jīng)元層，它們像網(wǎng)一樣連接在一起。就像你大腦中的細胞一樣，這些細胞會(huì )響應刺激，這一過(guò)程稱(chēng)成為激活。重要的是，它們不僅可以啟動(dòng)或關(guān)閉，它們可以在一個(gè)頻譜上注冊，給每個(gè)激活一個(gè)特定的值或“權重”。

　　要把神經(jīng)網(wǎng)絡(luò )變成有用的東西，你必須給它大量的訓練數據。這意味著(zhù)數十萬(wàn)甚至數百萬(wàn)張圖像，每一張都標有特定的類(lèi)別。在谷歌和Openai的研究人員為這項工作測試的過(guò)程中，這些圖像涉及面廣泛：從羊毛到溫莎領(lǐng)帶，從安全帶到空間加熱器。

　　當它輸入這些數據時(shí)，神經(jīng)網(wǎng)絡(luò )中的不同神經(jīng)元會(huì )響應每個(gè)圖像而亮起。此模式連接到圖像的標簽。一旦經(jīng)過(guò)訓練后，您就可以向網(wǎng)絡(luò )展示一張以前它從未見(jiàn)過(guò)的圖片，并且神經(jīng)元將激活，將輸入內容與特定類(lèi)別相匹配。恭喜你!剛剛成功訓練了機器學(xué)習視覺(jué)算法。

　　這讓研究人員可以觀(guān)察到網(wǎng)絡(luò )的一些情況，通過(guò)在不同信息層之間切換，他們可以看到網(wǎng)絡(luò )是如何從構建到最終決策的，從形狀和紋理等基本視覺(jué)概念開(kāi)始到具體的對象。

　　例如，Olah注意到，狗的品種在很大程度上是以耳朵的下垂程度來(lái)區分的。圖集還展示了網(wǎng)絡(luò )是如何聯(lián)系不同的物體和想法的，比如說(shuō)，把狗耳朵放在離貓耳朵不太遠的地方，看隨著(zhù)層級的發(fā)展，這些區別是如何變得清晰的。

　　該研究還發(fā)現了一些驚喜，例如，Olah拍攝了一張魚(yú)鰭的照片，一條魚(yú)鰭劃過(guò)了洶涌的海水，那么它到底是屬于灰鯨還是大白鯊?作為一個(gè)沒(méi)有釣魚(yú)經(jīng)驗的人，我不會(huì )冒險猜測，但是作為曾經(jīng)看到過(guò)大量鯊魚(yú)和鯨魚(yú)鰭的神經(jīng)網(wǎng)絡(luò )不應該有問(wèn)題。

　　然后Olah展示了在神經(jīng)網(wǎng)絡(luò )的特定層面上與兩只動(dòng)物相關(guān)的圖集圖像，但其中一個(gè)鯊魚(yú)圖像特別奇怪。如果你仔細一看，你可能會(huì )看到一排排潔白的牙齒和牙齦，樣子卻同棒球的接縫十分相似。

　　事實(shí)證明，他們研究的神經(jīng)網(wǎng)絡(luò )也有這樣的視覺(jué)隱喻的天賦，這可以作為愚弄系統的廉價(jià)技巧。通過(guò)改變魚(yú)鰭照片，比如說(shuō)，在一個(gè)角落放置一個(gè)棒球郵票圖像，Carter和Olah發(fā)現可以很容易地說(shuō)服神經(jīng)網(wǎng)絡(luò )鯨魚(yú)實(shí)際上是一條鯊魚(yú)。

　　Olah說(shuō)，這種方法不太可能被網(wǎng)絡(luò )破壞者所使用，因為其實(shí)有更簡(jiǎn)單更微妙的方式來(lái)制造混亂。比如他們可以自動(dòng)生成所謂的對抗性補丁，使網(wǎng)絡(luò )混淆，把貓當作是一碗鱷梨醬，甚至導致自動(dòng)駕駛汽車(chē)誤讀停止標志。

　　但令人興奮的是，有了這個(gè)工具，人類(lèi)可以充分了解網(wǎng)絡(luò )的內部深度，使得它最終幫助我們識別混淆或偏差，并及時(shí)糾正。

　　但是錯誤也是時(shí)有發(fā)生的，比如說(shuō)，把不同種族的人類(lèi)識別成大猩猩而非人。有了這樣的可視化工具，研究人員可以查看是什么外來(lái)信息或視覺(jué)相似性導致了錯誤的發(fā)生。

　　也就是說(shuō)，試圖預測神經(jīng)網(wǎng)絡(luò )的內核是存在風(fēng)險的?！叭藗兂３哪憧赡茉谄垓_你自己，”奧拉說(shuō)，風(fēng)險在于我們可能試圖強加我們熟悉的視覺(jué)概念或尋找有意義的簡(jiǎn)單解釋。

　　這就是包括人工智能先驅Hinton在內的一些人物一直反對人類(lèi)解釋AI運作規律的原因之一，正如人類(lèi)無(wú)法解釋他們的大腦如何做出決定一樣，計算機也是同樣。他最近在接受WIRED采訪(fǎng)時(shí)說(shuō)道：“如果你非要要求他們解釋所做的決定，你就會(huì )強迫他們編造一個(gè)故事?！?/p>

　　雖然爭議不斷，但“激活圖集”的研究者們始終認為：每一代新工具的研發(fā)都在讓我們更接近這些在網(wǎng)絡(luò )中發(fā)生事情的真相。