深度學(xué)習之父：AI不該成為貧富差距擴大的幫兇

　　Martin Ford在2015年出版的《機器人的崛起》(Rise of the Robots)一書(shū)曾在一時(shí)間引起轟動(dòng)，書(shū)中詳細描述了自動(dòng)化領(lǐng)域許多加速發(fā)展的趨勢，以及這些趨勢將如何影響商業(yè)，尤其是就業(yè)。

　　在他的下一本書(shū)《智能建筑師：人工智能背后的真相》(Architects of Intelligence： The Truth About AI from The People Building It)中，他試圖深入研究副標題所描述的內容。該著(zhù)作主要是對人工智能領(lǐng)域的知名人士進(jìn)行深度采訪(fǎng)。Geoffrey Hinton就是其中之一。Hinton目前是多倫多大學(xué)計算機科學(xué)教授，也是谷歌Brain project的參與者。鑒于Hinton在AI神經(jīng)網(wǎng)絡(luò )方面的開(kāi)創(chuàng )性工作，他被許多同行視為“深度學(xué)習之父”。

　　本文摘自這本新書(shū)，Hinton 談到自己如何思考他所開(kāi)創(chuàng )的先進(jìn)系統對經(jīng)濟和社會(huì )的巨大影響，并強調了解決問(wèn)題需要區分社會(huì )系統和技術(shù)系統。當然，他也談到了學(xué)術(shù)方面的一些建議和憂(yōu)慮 。

　　Martin Ford(下文簡(jiǎn)稱(chēng)MF)：關(guān)于人工智能的潛在風(fēng)險，一個(gè)特殊的挑戰是對就業(yè)市場(chǎng)和經(jīng)濟的潛在影響。你是否認為這些可能引發(fā)新一輪工業(yè)革命，并徹底顛覆就業(yè)市場(chǎng)?還是說(shuō)這只是以訛傳訛?

　　Geoffrey Hinton(下文簡(jiǎn)稱(chēng)GH)：如果能夠大幅提高生產(chǎn)力，生產(chǎn)更多的產(chǎn)品，那應該是一件好事。結果是好是壞完全取決于社會(huì )制度，而非技術(shù)。人們看待技術(shù)就好像技術(shù)進(jìn)步是一個(gè)問(wèn)題。但問(wèn)題在于我們是否會(huì )建立一個(gè)公平分享的社會(huì )系統，還是一個(gè)僅關(guān)注那1%的人并將其他社會(huì )人員視如草芥的社會(huì )。這與技術(shù)無(wú)關(guān)。

　　MF：那么問(wèn)題來(lái)了，很多工作可能會(huì )因此消失，特別是那些可預測且易于自動(dòng)化的工作?；臼杖胫贫仁巧鐣?huì )對這一趨勢的基本反應，你贊同這一制度嗎?

　　GH：是的，基本收入是個(gè)非常明智的想法。

　　MF：那么，你認為解決這個(gè)問(wèn)題需要政策上的回應嗎? 有些人認為應該就此打住，但那可能是不負責任的。

　　GH：我搬到加拿大是因為那里的稅率更高，而且我認為正確的稅收是好事。政府應該做的是建立機制，以便當人們?yōu)樽陨砝嫘惺聲r(shí)，它能幫助所有人。高稅收就是這樣一種機制：當人們變得富有時(shí)，其他人就會(huì )得到稅收的幫助。要確保AI能夠讓每個(gè)人受益，還有很多工作要做。

　　MF：對那些可能與人工智能有關(guān)的其他一些風(fēng)險，比如武器化，你怎么看?

　　GH：我對普京總統最近所說(shuō)的一些事情感到擔憂(yōu)。我認為人們現在應該努力讓國際社會(huì )探討那些可以殺死人的武器，就像他們對待化學(xué)戰和大規模殺傷性武器那樣。

　　MF：那么你是否贊成暫停某種類(lèi)型的研究和開(kāi)發(fā)呢?

　　GH：就行你沒(méi)有暫停神經(jīng)毒劑的研發(fā)一樣，你也不會(huì )暫停其他類(lèi)型的研究。但事實(shí)上，確實(shí)存在一種國際機制來(lái)阻止它們被廣泛使用。

　　MF：除軍事武器使用外，其他風(fēng)險如何?是否還有其他問(wèn)題讓你擔憂(yōu)，如隱私和透明度?

　　GH：我覺(jué)得，用它操縱選舉著(zhù)實(shí)令人擔憂(yōu)。劍橋分析公司由Bob Mercer成立，他是一名機器學(xué)習學(xué)者，你已經(jīng)看到該丑聞事件造成了很大的影響。因此，我們必須認真對待。

　　MF：你覺(jué)得需要有監管嗎?

　　GH：是的，而且是大量監管。這個(gè)問(wèn)題很有價(jià)值，但我不是這方面的專(zhuān)家，因此就不做深入建議。

　　MF：你認為我們應該采取某種形式的產(chǎn)業(yè)政策嗎?美國和其他西方政府是否應該關(guān)注人工智能并將其作為國家優(yōu)先事項?

　　GH：技術(shù)方面會(huì )有很大進(jìn)展，但如果不試圖跟上步伐，就會(huì )顯得很瘋狂，所以這就需要進(jìn)行大量投資。

　　MF：總體來(lái)看，你對目前的狀況持樂(lè )觀(guān)態(tài)度嗎?你是否認為人工智能的回報會(huì )超過(guò)帶來(lái)的負面影響?

　　GH：我肯定希望回報能超過(guò)負面影響，但我不知道社會(huì )建設層面的人是否也這樣認為，這是個(gè)社會(huì )系統問(wèn)題，而不是技術(shù)問(wèn)題。

　　MF：人工智能領(lǐng)域人才嚴重短缺。對于想要進(jìn)入這一領(lǐng)域的年輕人，你有什么建議嗎?有沒(méi)有什么建議可以幫助企業(yè)吸引更多的人，并使這些人成為人工智能和深度學(xué)習領(lǐng)域的專(zhuān)家?

　　GH：事實(shí)上，我擔心沒(méi)有足夠多的人對基礎知識持批判態(tài)度。Capsules的想法是，也許我們做事情的一些基本方法不是最好的方法，我們應該撒更大的網(wǎng)。我們應該考慮一些基本假設的替代品。我給人們的一條建議是，如果你的直覺(jué)認為人們正在做的事情是錯誤的，并且可能會(huì )有更好的事情發(fā)生，你就應該遵從自己的直覺(jué)。

　　你很可能會(huì )犯錯，但是當人們在知道如何從根本上改變事情時(shí)，如果不跟著(zhù)自己的直覺(jué)走，就會(huì )陷入困境。我認為真正的新想法最豐富的來(lái)源是研究生在大學(xué)里得到的良好建議。他們可以自由地提出真正的新想法，并且他們所學(xué)到的東西足以讓他們不僅僅重復歷史，我們需要保持這一點(diǎn)。攻讀完碩士學(xué)位后直接進(jìn)入這個(gè)行業(yè)的人不會(huì )有什么全新的想法。我認為你需要坐下來(lái)思考幾年。

　　MF：加拿大似乎是深度學(xué)習的中心。這是偶然的嗎? 還是加拿大有什么特別之處促成了這一點(diǎn)?

　　GH：值得一提的是，加拿大高級研究院(CIFAR)為高風(fēng)險領(lǐng)域的基礎研究提供資金。Yann LeCun和Yoshua Bengio都在加拿大，這也帶來(lái)了很多好運，前者曾是我的博士后。我們三人合作，能夠結出累累的碩果，加拿大高級研究所資助了我們的合作。

　　我們也曾經(jīng)一度被孤立，處境相當惡劣，直到最近，深度學(xué)習的環(huán)境才稍微好一些，因此這筆資金對我們很有幫助，讓我們能夠在小型會(huì )議上有相當多的時(shí)間相互交流，在那里我們可以真正分享未發(fā)表的想法。