Demis Hassabis：AI 的強大，超乎想象

以下是對Demis Hassabis的訪(fǎng)談?wù)恚?/span>

1
從游戲到 AILex Fridman：你是從什么時(shí)候開(kāi)始喜歡上編程的？Demis Hassabis：我大約4歲開(kāi)始下棋，8歲時(shí)用在一場(chǎng)國際象棋比賽中獲得的獎金買(mǎi)了我的第一臺電腦，一臺zx spectrum，后面我買(mǎi)了關(guān)于編程的書(shū)。我在一開(kāi)始用電腦制作游戲時(shí)就愛(ài)上了計算機，覺(jué)得它們非常神奇，是自己思想的延伸，你可以讓它們做一些任務(wù)，隔天睡醒回來(lái)時(shí)它就已經(jīng)解決了。當然，所有機器在某種程度上都能做到這一點(diǎn)，增強我們的自然能力，例如汽車(chē)讓我們的移動(dòng)速度超過(guò)奔跑速度。但人工智能是機器能夠做所有學(xué)習的最終表現，因此，我的想法也很自然地延伸到了人工智能。Lex Fridman：你是什么時(shí)候愛(ài)上人工智能的呢？什么時(shí)候開(kāi)始了解到，它不只可以在睡覺(jué)的時(shí)候寫(xiě)程序、做數學(xué)運算，還可以執行比數學(xué)運算更復雜的任務(wù)？Demis Hassabis：大概可以分為幾個(gè)階段。我是青少年國際象棋隊的隊長(cháng)，在大概10歲、11歲的時(shí)候打算成為一名職業(yè)棋手，這是我的第一個(gè)夢(mèng)想。12歲時(shí)我達到大師級的水平，是世界上排名第二的棋手，僅次于Judith Pologer。當我試圖提高棋藝，首先需要提高自己的思維過(guò)程，思考大腦是如何想出這些想法的？它為什么會(huì )犯錯？怎樣才能改善這個(gè)思維過(guò)程？就像80年代早期和中期的國際象棋計算機，我已經(jīng)習慣了有一個(gè) Kasparov 的品牌版本，雖然不像今天那么強大，但也可以通過(guò)與其練習來(lái)達到提高的目的。當時(shí)我想，這真是太神奇了，有人把這個(gè)棋盤(pán)編成程序來(lái)下象棋。我買(mǎi)了一本 David Levy 在1984年出版的《國際象棋計算機手冊》，這是本非常有意義的書(shū)，讓我可以充分了解國際象棋程序是如何制作的。圖注：Kasparov，前蘇聯(lián)、俄羅斯職業(yè)國際象棋棋手，國際象棋特級大師我的第一個(gè)人工智能程序是由我的Amiga編程的，我寫(xiě)了一個(gè)程序來(lái)玩奧賽羅逆向思維，這是一個(gè)比國際象棋稍微簡(jiǎn)單的游戲，但我在當中使用了國際象棋程序的所有原則，即α-β搜索等。第二個(gè)階段是在我16、17歲左右時(shí)設計的一個(gè)叫 "主題公園 "的游戲，其中涉及到 AI 在游戲中模擬，盡管以今天的 AI 標準來(lái)看它很簡(jiǎn)單，但它會(huì )對你作為玩家的游戲方式做出反應，因此它也被稱(chēng)為沙盒游戲。Lex Fridman：可否說(shuō)一些你同 AI 的關(guān)鍵聯(lián)系？在游戲中創(chuàng )建 AI 系統需要什么？Demis Hassabis：在我還是個(gè)孩子時(shí)就在游戲中訓練自己，后面經(jīng)歷了一個(gè)設計游戲和編寫(xiě) AI for 游戲的階段。我90年代寫(xiě)的所有游戲，都以人工智能為核心組成部分。之所以在游戲行業(yè)這么做，是因為當時(shí)我認為游戲行業(yè)是技術(shù)的最前沿，像 John Carmack 和 Quake，好像都是在游戲中進(jìn)行的。我們仍在從當中獲取好處，像GPU，是為計算機圖形而發(fā)明的，但后來(lái)被發(fā)現對 AI 有重要作用。所以當時(shí)我認為，游戲中擁有最前沿的人工智能。早期我參與過(guò)一個(gè)叫"黑白"的游戲，它是強化學(xué)習在計算機游戲中應用最深刻的例子。你可以在游戲中訓練一個(gè)小寵物，它會(huì )從你對待它的方式中進(jìn)行學(xué)習，如果你對它不好，那它就會(huì )變得刻薄，并對你的村民和你所管理的小部落刻薄。但如果你善待它，它也會(huì )變得善良。Lex Fridman：游戲對善與惡的映射讓我意識到，你可以通過(guò)你所做的選擇來(lái)確定結局。游戲可以帶來(lái)這種哲學(xué)意義。Demis Hassabis：我認為游戲是一種獨特的媒介，作為玩家并不僅僅是被動(dòng)地消費娛樂(lè )，實(shí)際上，你是作為一個(gè)代表積極參與的。所以我認為這就是游戲在某些方面比其他媒介，例如電影和書(shū)籍等更有內涵的原因。從一開(kāi)始我們就對 AI 進(jìn)行了深入的思考，將游戲作為證明和開(kāi)放 AI 算法的試驗場(chǎng)。這也是 Deepmind 最初使用大量游戲作為主要測試平臺的原因，因為游戲非常高效，也很容易有指標來(lái)查看 AI 系統是如何改進(jìn)的，思考的方向，以及是否在做漸進(jìn)式地改進(jìn)。Lex Fridman：假設我們不能制造一臺能在國際象棋中擊敗人類(lèi)的機器，那么人們會(huì )認為，由于組合的復雜性，圍棋是一個(gè)無(wú)法破解的游戲。但最終，AI 研究者造出了這臺機器，人類(lèi)才意識到，我們沒(méi)有想象中那么聰明。Demis Hassabis：這是一段有趣的思考旅程，尤其是當我從兩個(gè)角度（AI 創(chuàng )造者與游戲玩家）來(lái)理解時(shí)，更覺(jué)得神奇，同時(shí)又有點(diǎn)苦樂(lè )參半的感覺(jué)。Kasparov 將國際象棋稱(chēng)為智能“果蠅”，我蠻喜歡這個(gè)形容，因為國際象棋從一開(kāi)始就與 AI 密切相關(guān)。我認為每一位 AI 實(shí)踐者，包括圖靈和香農，以及這一領(lǐng)域的所有先輩們，都嘗試過(guò)編寫(xiě)一個(gè)國際象棋程序。香農在1949年寫(xiě)了第一個(gè)關(guān)于國際象棋的程序文檔，圖靈也曾寫(xiě)過(guò)一個(gè)著(zhù)名的國際象棋程序，但由于計算機太慢無(wú)法運行，因此他用鉛筆和紙來(lái)手動(dòng)運行程序，跟朋友一起玩。DeepBlue 的出現是一個(gè)重要的時(shí)刻，它結合了我喜歡的所有東西，包括國際象棋、計算機和人工智能。1996年，它打敗了 Garry Kasparov。在那之后，我對 Kasparov 頭腦的印象比對 DeepBlue 印象更深，因為 Kasparov 是人類(lèi)的頭腦，他不僅可以與計算機在下棋方面達到同一水平，Kasparov 也可以做人類(lèi)能做的一切，比如騎自行車(chē)、說(shuō)多國語(yǔ)言、參與政治活動(dòng)等等。DeepBlue 雖然在國際象棋中有過(guò)輝煌時(shí)刻，但它實(shí)際上是將國際象棋大師的知識提煉成一個(gè)程序，無(wú)法做其他任何事情。因此我認為該系統中缺少了一些智能的東西，這也是我們嘗試做 AlphaGo 的原因。Lex Fridman：讓我們簡(jiǎn)單地談?wù)剣H象棋中關(guān)于人類(lèi)的一面。你從游戲設計的角度提出，象棋之所以吸引人是因為它是游戲。能否解釋一下，在bishop（國際象棋中的“象”）和knight（國際象棋中的“馬”）之間是否存在一種創(chuàng )造性的張力？是什么讓游戲具有吸引力，并且能跨越幾個(gè)世紀？Demis Hassabis：我也在思考這個(gè)問(wèn)題。實(shí)際上很多優(yōu)秀的象棋玩家并不一定是從游戲設計師的角度去思考這個(gè)問(wèn)題。為什么國際象棋如此吸引人？我認為一個(gè)關(guān)鍵的原因是不同棋位的動(dòng)態(tài)，你可以分辨出它們是封閉的還是開(kāi)放的，想一下象和馬的移動(dòng)方式有多么不同，而后國際象棋在已經(jīng)進(jìn)化到平衡這二者的程度，大致都是3分。Lex Fridman：所以你認為動(dòng)態(tài)總是存在的，而剩下的規則是試圖穩定游戲。Demis Hassabis：也許這有點(diǎn)像雞生蛋還是蛋生雞的情況，但二者達到一種美麗的平衡，象和馬和騎士權力不同，但在整個(gè)宇宙的位置中其價(jià)值是相等的。過(guò)去的幾百年里，它們一直被人類(lèi)所平衡，我認為這賦予了游戲創(chuàng )造性的張力。Lex Fridman：你認為 AI 系統能吸引人類(lèi)去設計游戲嗎?Demis Hassabis：這是個(gè)有趣的問(wèn)題。如果把創(chuàng )造力定義為想出一些原創(chuàng )的、對某個(gè)目的有用的東西，那么最低水平的創(chuàng )造力就像一個(gè)插值表達，基礎的 AI 系統都具備這樣的能力。給它看數百萬(wàn)張貓的照片，然后給我一只普通的貓，這個(gè)被稱(chēng)之為插值。還有像 AlphaGo，它可以推斷。AlphaGo 與自己對弈了數百萬(wàn)場(chǎng)后想出了一些非常棒的新點(diǎn)子，比如在對弈中走37步，提供了一個(gè)人類(lèi)從未想到的策略，盡管我們已經(jīng)玩了上百數千年。在此之上還有一個(gè)層次，就是能否跳出思維定式做真正的創(chuàng )新。你能發(fā)明象棋，而不是想出一個(gè)棋步么？是否能發(fā)明國際象棋、或其他和國際象棋或圍棋一樣的東西？我認為有一天 AI 可以做到，而現在的問(wèn)題是如何給一個(gè)程序指定這個(gè)任務(wù)。我們還不能把高層次抽象概念具體到人工智能系統中，它們在真正理解高層次的概念或抽象概念方面仍然缺少一些東西。就目前而言，它們可以組合和構成，AI 能夠做插值和推斷，但都不是真正的發(fā)明。Lex Fridman：提出規則集并優(yōu)化，圍繞這些規則集制定復雜的目標，是我們目前無(wú)法做到的。但是否可以采用一個(gè)特定的規則集并運行，觀(guān)察 AI 系統從頭開(kāi)始學(xué)習的時(shí)間有多長(cháng)？Demis Hassabis：實(shí)際上我考慮過(guò)，這對于游戲設計師來(lái)說(shuō)是驚人的。如果有一個(gè)系統拿你的游戲玩上千萬(wàn)次，也許一夜之間就能實(shí)現自動(dòng)平衡規則?？梢酝ㄟ^(guò)方程或參數來(lái)調整游戲中的單位或規則，使游戲更平衡。這有點(diǎn)像給出一個(gè)基本集，通過(guò)蒙特卡羅方法搜索或類(lèi)似的方法來(lái)探索，那將是超級強大的工具。而為了自動(dòng)平衡，通常需要從數百場(chǎng)比賽中訓練數千小時(shí)，平衡像星際爭霸、暴雪等這樣的游戲是令人震驚的，這需要測試人員年復一年的時(shí)間。所以可以想象，當某個(gè)時(shí)刻這些東西變得足夠有效，你可能會(huì )想在一夜之間做到。Lex Fridman：你認為我們是生活在模擬（Simulation）中嗎？Demis Hassabis：是的。Nick Bostrom 首次提出了著(zhù)名的模擬理論，但我不太相信它。從某種意義上說(shuō)，我們是在某種電腦游戲中，或者我們的后代以某種方式在 21 世紀重塑地球。理解物理學(xué)和宇宙的最佳方式是從計算的角度將其理解為信息宇宙，實(shí)際上，信息是現實(shí)的最基本單位。與物質(zhì)或能量相比，物理學(xué)家會(huì )說(shuō) E=mc2，這是宇宙的基礎。但我認為，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物質(zhì)正確的物質(zhì)。因此可以說(shuō)我們處于某種模擬中。但我不同意這些想法丟棄數十億個(gè)模擬。Lex Fridman：基于你對通用術(shù)語(yǔ)機器的理解、對計算機的理解，你認為宇宙中存在計算機能力之外的東西嗎？你并不認同 Roger Penrose （數學(xué)物理學(xué)家）的意見(jiàn)？Demis Hassabis： Roger Penrose 很有名，曾參與過(guò)許多精彩的辯論，我讀過(guò)他的經(jīng)典著(zhù)作《皇帝新腦》，他解釋大腦中的意識還需要更多量子的東西。我工作中也一直在思考我們正在做什么，實(shí)際上，我們正將圖靈機或經(jīng)典計算推向極限。經(jīng)典計算的極限是什么？我也研究了神經(jīng)科學(xué)，這是我博士選擇這一方向的原因，從神經(jīng)科學(xué)或生物學(xué)的角度來(lái)看大腦中是否有量子存在。到目前為止，大多數神經(jīng)科學(xué)家和生物學(xué)家會(huì )說(shuō)，沒(méi)有證據表明大腦中有任何量子系統或效應，大多可以用經(jīng)典理論和生物學(xué)方面的知識來(lái)解釋。但與此同時(shí)，從圖靈機可以做的事情開(kāi)始，包括 AI 系統，這個(gè)過(guò)程是一直在進(jìn)行的，尤其是在過(guò)去的十年里。我不敢打****通用圖靈機和經(jīng)典計算范式能走多遠，但大腦中發(fā)生的事情或許可以在機器上模仿，而不需要形而上學(xué)或量子的東西。

2
Al for scienceLex Fridman：下面我們談?wù)?AlphaFold，你認為人類(lèi)思維都來(lái)自于這種類(lèi)似神經(jīng)網(wǎng)絡(luò )的、生物的計算糊狀物，而非直接在精神上工作？Demis Hassabis： 在我看來(lái)，宇宙中最大的奇跡就是我們頭骨里只有幾磅的糊狀物，它也是大腦和目前所知宇宙中最復雜的物體。我認為這是一臺令人驚奇的高效機器，這也是我一直想構建 AI 的原因之一。通過(guò)構建像 AI 這樣的智能體，將其與人類(lèi)思維進(jìn)行比較，或能幫助我們歷史以來(lái)一直想知道的心靈的獨特性，和真正的秘密、意識、做夢(mèng)、創(chuàng )造力、情感等一切事物。現在有了大量的工具來(lái)實(shí)現這件事。所有的神經(jīng)科學(xué)工具、FMI機器都可以記錄，也有 AI 計算能力可以建立智能系統。人類(lèi)思維所能做的事情令人驚訝，人類(lèi)創(chuàng )造了像計算機這樣的東西，并思考和研究這些問(wèn)題，也都是對人類(lèi)頭腦的證明，有助于我們更清晰地了解宇宙和人類(lèi)的思想。甚至可以說(shuō)，我們或許是宇宙嘗試和理解自己美麗的機制所在。從另一個(gè)角度看，生物學(xué)的基本構件也可以用于理解人類(lèi)思想和身體，從基本構建開(kāi)始模擬和建立模型是件很神奇的事情，你可以構建越來(lái)越大的、更復雜的系統，甚至是整個(gè)人類(lèi)生物學(xué)。還有一個(gè)被認為不可能解決的問(wèn)題，就是蛋白質(zhì)折疊，而 AlphaFold 解決了蛋白質(zhì)折疊問(wèn)題，這是結構生物學(xué)史上最大的突破之一。蛋白質(zhì)是所有生命都必不可少的，身體每一個(gè)功能都依賴(lài)于蛋白質(zhì)。蛋白質(zhì)由它們的基因序列（也被稱(chēng)為氨基酸序列）指定，可以將其視為它們的基本構件。它們會(huì )在身體中、在自然界中折疊成一個(gè)三維結構，這個(gè)三維結構決定了它在身體中的功能。此外，如果你對****物或疾病感興趣，想用一種****物化合物來(lái)阻斷蛋白質(zhì)的作用，前提是要了解蛋白質(zhì)表面結合點(diǎn)的三維結構。圖注：2021年7月，DeepMind 首次通過(guò)與歐洲分子生物學(xué)實(shí)驗室（EMBL）合作建立的數據庫公開(kāi)發(fā)布 AlphaFold 預測結果，初始數據庫包含了所有人類(lèi)蛋白質(zhì)的98%Lex Fridman：蛋白質(zhì)折疊問(wèn)題的本質(zhì)是，你能從氨基酸序列中得到一維的字母串嗎？能通過(guò)計算立即預測出三維結構嗎？這是50多年來(lái)生物學(xué)界的一個(gè)重大挑戰。1972年的諾貝爾獎獲得者 Christian Anfinsen 首次闡述，他推測，從氨基酸序列到三維結構是可以實(shí)現的。Demis Hassabis： Christian Anfinsen 的這句話(huà)開(kāi)啟了整個(gè)計算生物學(xué)的50個(gè)邊緣領(lǐng)域，他們被困在當中、并沒(méi)有完成得很好。在 AlphaFold 出現之前，這都是通過(guò)實(shí)驗來(lái)完成的，讓蛋白質(zhì)結晶是件非常困難的事情，有些蛋白質(zhì)不能像膜蛋白那樣結晶，必須使用昂貴的電子顯微鏡或X射線(xiàn)晶體分析儀，才能得到三維結構并將其結構可視化。有了 AlphaFold 后，兩個(gè)人就能在幾秒鐘內預測出三維結構。Lex Fridman：有一個(gè)數據集，它在這個(gè)數據集上進(jìn)行訓練，以及如何映射氨基酸。令人難以相信的是，這個(gè)小的化學(xué)計算機能以某種分布式方法來(lái)計算，且算得非?？?。Demis Hassabis： 或許我們該討論一下生命的起源。實(shí)際上，蛋白質(zhì)本身是一個(gè)神奇的小生物和動(dòng)物機器。提出列文塔爾悖論的科學(xué)家 Cyrus Levinthal 大致計算了一下，一般的蛋白質(zhì)可能有2000個(gè)氨基酸堿基長(cháng)，可以有10到300種不同的蛋白質(zhì)折疊方式。而在自然界中，物理學(xué)以某種方式解決了這個(gè)問(wèn)題，蛋白質(zhì)會(huì )在幾毫秒、或是一秒的時(shí)間內，在你的身體中折疊起來(lái)。Lex Fridman：該序列有獨特的方式來(lái)自我形成，它找到了一種在巨大可能性中保持穩定的方式。某些情況下可能會(huì )出現功能失調等情況，但大多時(shí)候是獨特的映射，而這種映射并不明顯。Demis Hassabis：如果是健康通常有一個(gè)獨特的映射，那患病時(shí)，究竟問(wèn)題出在哪里。例如，曾經(jīng)有一個(gè)對阿爾茨海默氏癥的猜想是，因為以錯誤的方式折疊 β-淀粉樣蛋白導致折疊錯位，以至于在神經(jīng)元中糾纏在一起。因此，要了解健康、功能和疾病，就需要了解它們是如何結構化的，知道這些東西在做什么超級重要。下一步是當蛋白質(zhì)與某些東西相互作用時(shí)，它們會(huì )改變形狀。因此在生物學(xué)中，它們不一定是靜態(tài)的。Lex Fridman：或許你可以給出一些解決 AlphaFold 的方法，與游戲不同，這是真正的物理系統。這當中什么是非常難解決的？有哪些跟解決方案是相關(guān)的？Demis Hassabis：AlphaFold 是迄今為止我們構建的最復雜、可能也是最有意義的系統。我們起初構建的 AlphaGo 和 AlphaZero 都是與游戲相關(guān)，但最終目標不僅僅是破解游戲，而是使用它們來(lái)引導通用學(xué)習系統，并應對現實(shí)世界的挑戰。我們更多是希望致力于像蛋白質(zhì)折疊這樣的科學(xué)挑戰，AlphaFold 是我們的第一個(gè)重要證明點(diǎn)。就數據來(lái)說(shuō)，創(chuàng )新數量大概需要30多種不同的組成算法，放在一起來(lái)破解蛋白質(zhì)折疊。一些重大的創(chuàng )新是圍繞物理學(xué)和進(jìn)化生物學(xué)，建立了硬編碼來(lái)約束像蛋白質(zhì)中鍵角之類(lèi)的東西，但不會(huì )影響學(xué)習系統，因此，系統仍能從案例中學(xué)習物理。假設只有大約15萬(wàn)個(gè)蛋白質(zhì)，即使經(jīng)過(guò)40年的實(shí)驗，也大概只有約5萬(wàn)種蛋白質(zhì)結構會(huì )被發(fā)現。訓練集比通常使用的數據量要少得多，但當中使用了像自我提取等各種技巧。因此，使用 AlphaFold 做一些非常有信心的預測時(shí)，將其放回訓練集中使訓練集更大，對 AlphaFold 工作至關(guān)重要。實(shí)際上，為了解決這個(gè)問(wèn)題，需要進(jìn)行大量的創(chuàng )新，AlphaFold 產(chǎn)生的是一個(gè)直方圖，一種蛋白質(zhì)中所有分子之間的成對距離的矩陣，它們必須是一個(gè)單獨的優(yōu)化過(guò)程來(lái)創(chuàng )建三維結構。要使 AlphaFold 真正地從端到端，可直接從氨基酸的堿基序列到三維結構，跳過(guò)中間步驟。從機器學(xué)習中也可以發(fā)現，越是端到端，就越能使系統變得更好，系統比人類(lèi)設計者更善于學(xué)習約束條件。在這種情況下，三維結構要比有中間步驟更好，因為那必須手工進(jìn)入下個(gè)步驟。最好的辦法是讓梯度和學(xué)習一直流經(jīng)系統，從終點(diǎn)到想要的最終輸出，再到輸入。Lex Fridman：關(guān)于 AlphaFold 的設想，那或許是生物學(xué)中一個(gè)漫長(cháng)旅程的早期步驟，你認為同樣的方法是否預測更復雜的生物系統的結構和功能、多蛋白質(zhì)相互作用；其作為一個(gè)起點(diǎn)，能模擬越來(lái)越大的系統，最終模擬像人的大腦、人體這樣的東西嗎？你認為這是一個(gè)長(cháng)期的愿景嗎？Demis Hassabis：當然，一旦我們有了足夠強大的生物學(xué)系統，治療疾病和理解生物學(xué)就是我的 To Do List 上的首要任務(wù)，這也是我親自推動(dòng) AlphaFold 的原因之一，AlphaFold 只是一個(gè)開(kāi)始。AlphaFold 解決了蛋白質(zhì)結構這個(gè)巨大的問(wèn)題，但生物學(xué)是動(dòng)態(tài)的，我們所研究的所有東西都是蛋白質(zhì)液體結合。與分子發(fā)生反應，搭建通路，最終形成一個(gè)虛擬細胞，那是我的夢(mèng)想。我一直同很多生物學(xué)朋友交談，其中就包括了克里克研究所的生物學(xué)家 Paul Nurse。對生物學(xué)和疾病發(fā)現來(lái)說(shuō)，構建一個(gè)虛擬細胞是不可思議的，因為你可以在虛擬細胞上進(jìn)行大量實(shí)驗，最后階段再進(jìn)入實(shí)驗室來(lái)驗證。就發(fā)現新****而言，從確定目標到擁有一個(gè)候選****物大約需要10年時(shí)間，如果能在虛擬細胞中完成大部分工作，或許可以將時(shí)間縮短一個(gè)數量級。為了實(shí)現虛擬細胞，必須建立對生物學(xué)不同部分相互作用的理解。每隔幾年，我們就會(huì )與跟 Paul 談?wù)撨@個(gè)問(wèn)題。去年在 AlphaFold 之后，我說(shuō)現在終于是我們可以去做的時(shí)候了，Paul 非常激動(dòng)。我們與他的實(shí)驗室有一些合作。在 AlphaFold 的基礎上，相信生物學(xué)會(huì )有一些驚人的進(jìn)步，目前也可以看到，在 AlphaFold 開(kāi)源之后已經(jīng)有社區在做了。我認為有一天，人工智能系統可能會(huì )解決像廣義相對論這樣的問(wèn)題，而不僅僅是通過(guò)對互聯(lián)網(wǎng)或公共醫療上的內容進(jìn)行處理。這將非常有趣，看它會(huì )能夠想出什么。這有點(diǎn)像我們之前關(guān)于創(chuàng )造力發(fā)明圍棋的辯論，不是僅僅想出一個(gè)好的圍棋動(dòng)作。如果想要獲得像諾貝爾獎的獎項，那它需要做的是發(fā)明圍棋，而不是由人類(lèi)科學(xué)家或創(chuàng )造者來(lái)指定。Lex Fridman：很多人確實(shí)把科學(xué)看作是站在巨人的肩膀上，而問(wèn)題是你在巨人的肩膀上真正達到了多少？也許它只是吸收了過(guò)去的不同類(lèi)型的結果，最終以新的視角提供了突破性的想法。Demis Hassabis：這是一個(gè)很大的謎團，我相信在過(guò)去十年甚至未來(lái)幾十年中，很多新的重大突破都會(huì )出現在不同學(xué)科領(lǐng)域的交叉點(diǎn)上，在這些看似不相干的領(lǐng)域之間會(huì )發(fā)現一些新的聯(lián)系。人們甚至可以認為，深層思維是神經(jīng)科學(xué)思想和 AI 工程思想間的一種交叉學(xué)科。Lex Fridman：你有一篇論文是“通過(guò)深度強化學(xué)習對托卡馬克等離子體進(jìn)行磁控制”，所以你在尋求用深度強化學(xué)習來(lái)解決核聚變，做高溫等離子體的控制。你能解釋一下 AI 為什么最終能解決這個(gè)嗎？Demis Hassabis：過(guò)去的一兩年里，我們的工作非常有趣和看到了成效，我們啟動(dòng)了很多我的夢(mèng)想項目，這些是我多年來(lái)收集的同科學(xué)領(lǐng)域相關(guān)的項目。如果我們能參與推動(dòng)，或許能帶來(lái)具有變革性的影響，科學(xué)挑戰本身就是一個(gè)非常有趣的問(wèn)題。目前，核聚變面臨許多挑戰，主要在物理、材料、科學(xué)和工程等方面，以及如何建造這些大規模的核聚變反應堆并容納等離子體。我們與瑞士洛桑聯(lián)邦理工學(xué)院（EPFL）和瑞士技術(shù)研究所合作，他們有一個(gè)測試反應器愿意讓我們使用。這是一個(gè)驚人的測試反應堆，他們在上面嘗試各種相當瘋狂的實(shí)驗。而我們則看的是，當進(jìn)入一個(gè)新領(lǐng)域如核聚變時(shí)，瓶頸問(wèn)題是什么？從第一原理思考阻礙核聚變運作的底層問(wèn)題是什么？在這種情況下，血漿控制是完美的。這個(gè)等離子體有100萬(wàn)℃，比太陽(yáng)還熱，顯然沒(méi)有任何材料可以容納它。因此必須有非常強大的超導磁場(chǎng)，但問(wèn)題是等離子體相當不穩定，就像在一個(gè)反應堆中持有許多顆星，提前預測等離子體會(huì )做什么，你可以在幾百萬(wàn)秒內移動(dòng)磁場(chǎng)來(lái)控制它接下來(lái)會(huì )做什么。如果你把它看作是一個(gè)強化學(xué)習預測問(wèn)題，這似乎很完美，有控制器，可以移動(dòng)磁場(chǎng)和切割，但此前用的是傳統的控制器。我希望有一種可控的規則是他們不能在當下對等離子體做出反應，必須是硬編碼的。Lex Fridman：AI 最終解決了核聚變。Demis Hassabis：去年我們在《自然》雜志上發(fā)表了關(guān)于解決這個(gè)問(wèn)題的論文，把等離子體固定在一個(gè)特定的形狀。實(shí)際上這幾乎就像是把等離子體雕刻成不同的形狀，控制它并保持在那里創(chuàng )紀錄的時(shí)間。這是核聚變的一個(gè)未解決的問(wèn)題。把它包含在結構中并保持，還有一些不同形狀更有利于能量的產(chǎn)生，稱(chēng)為滴液等等，這是很重要的。我們正與許多核聚變初創(chuàng )公司溝通，看在核聚變領(lǐng)域可以解決的下一個(gè)問(wèn)題是什么。Lex Fridman：論文標題中還有一個(gè)迷人的地方，通過(guò)解決分數電子問(wèn)題來(lái)推動(dòng)密度函數的前沿。你能解釋一下這項工作嗎？AI 在未來(lái)能否對任意的量子力學(xué)系統進(jìn)行建模和模擬？Demis Hassabis：人們試圖寫(xiě)出密度函數的近似值以及對電子云的描述，觀(guān)察兩個(gè)元素放在一起時(shí)如何相互作用。而我們試圖做的是學(xué)習一種模擬，學(xué)習一種能夠描述更多化學(xué)類(lèi)型的化學(xué)函數。到目前為止，AI 可以運行昂貴的模擬，但只能模擬非常小和非常簡(jiǎn)單的分子，我們無(wú)法做到模擬大型材料。因此要建立函數近似值來(lái)展示其方程后，描述電子在做什么，所有材料科學(xué)和性質(zhì)都是由電子如何相互作用來(lái)控制的。Lex Fridman：通過(guò)功能對模擬進(jìn)行總結來(lái)接近實(shí)際模擬出來(lái)的結果，這項任務(wù)的難度在于運行復雜的模擬，學(xué)習從初始條件和模擬參數的映射任務(wù)，學(xué)習函數會(huì )是什么？Demis Hassabis：這很棘手，但好消息是我們已經(jīng)做到了，我們可以在計算集群上運行大量的模擬，即分子動(dòng)力學(xué)模擬，由此產(chǎn)生了大量的數據。在這種情況下，數據是生成的。這就是為什么我們使用游戲模擬器來(lái)生成數據，因為可以隨心所欲地創(chuàng )造出更多的數據。如果在云端有空閑的電腦，我們就可以運行這些計算。

3
AI 與人類(lèi)Lex Fridman：你怎么理解生命起源？Demis Hassabis：我認為 AI 的最終用途是將科學(xué)加速到極致。它有點(diǎn)像知識之樹(shù)。如果你想象這就是宇宙中要獲得的所有知識，但目前為止，我們幾乎只觸及了它的表面。AI 會(huì )加速這個(gè)過(guò)程，盡可能多地探索這棵知識樹(shù)。Lex Fridman：直覺(jué)告訴我，人類(lèi)的知識之樹(shù)是非常小的，考慮到我們的認知局限。即使有工具，我們仍然不能理解很多事情。這也許是非人類(lèi)系統能夠走得更遠的原因。Demis Hassabis：是的，很有可能。但首先，這是兩件不同的事情。就像我們今天理解了什么，人類(lèi)的思想能理解什么，我們要理解的整體是什么，這里有三個(gè)同心，你可以把它們想象成三棵更大的樹(shù)，或者探索這棵樹(shù)的更多分支。有了 AI 后我們會(huì )探索更多。現在的問(wèn)題是，如果你思考一下我們能理解的事物的總體是什么，可能有些事物不能被理解，比如模擬之外的事物，或宇宙之外的事物。Lex Fridman：因為人類(lèi)大腦已經(jīng)習慣了這個(gè)有時(shí)間的三維世界的狀態(tài)。Demis Hassabis：但我們的工具可以超越這些。它們可以是11維，12維的。我經(jīng)常舉的例子是當我和 Gary Kasparov 下棋時(shí)，我們討論過(guò)象棋之類(lèi)的東西，如果你很擅長(cháng)下棋，你不能想 Gary 他的走法，但他可以給你解釋。你可以將其理解為事后推理。有一個(gè)進(jìn)一步的解釋?zhuān)苍S你不可能發(fā)明這個(gè)東西，但你可以理解和欣賞，就像你欣賞維瓦爾第或莫扎特一樣欣賞它的美。Lex Fridman：我想問(wèn)一些更瘋狂的問(wèn)題。比如，你認為地球之外有外星文明嗎？Demis Hassabis：我個(gè)人的看法是，我們目前是孤獨的。我們已經(jīng)有各種天文望遠鏡和其他探測技術(shù)，嘗試著(zhù)在太空里尋找其他文明的信號，如果現在有許多外星文明在同時(shí)做這樣的事，那我們應該聽(tīng)到來(lái)自外太空的嘈雜聲音?？墒聦?shí)是，我們什么信號也沒(méi)收到。有很多人會(huì )爭辯說(shuō)，世界上有外星文明，只是我們還沒(méi)有真正好好地去搜索，或者說(shuō)我們找的波段錯誤，也有可能使用了錯誤的設備，我們沒(méi)有意識到外星人存在的形式非常不同，等等。但我不同意這些觀(guān)點(diǎn)，我們其實(shí)已經(jīng)做了很多探索了，如果真有那么多外星文明，那我們應該早就發(fā)現了。有趣的是，如果地球是孤獨的文明，從大過(guò)濾器（Great Filters）的角度來(lái)看，這還挺令人欣慰，這意味著(zhù)我們已經(jīng)通過(guò)大過(guò)濾器的篩選了。說(shuō)回你剛才問(wèn)的生命起源問(wèn)題，生命起源于一些令人難以置信的事物，而且沒(méi)人知道這些事是怎么發(fā)生的。如果在地球以外的地方看到單細胞的某種生命形式，比如細菌，我不會(huì )感到驚訝。但就憑其能夠捕獲線(xiàn)粒體并將線(xiàn)粒體為我所用的這個(gè)能力，多細胞生命的出現的難度就是空前絕后的。圖注：Demis Hassabis所提到的大過(guò)濾器理論Lex Fridman：你認為需要有意識才能有真正的智能嗎?Demis Hassabis：我個(gè)人認為，意識和智慧是雙重分離的，所以我們可以在沒(méi)有智慧的同時(shí)實(shí)現意識，反過(guò)來(lái)也一樣。舉個(gè)例子，很多動(dòng)物是有自我意識的，也會(huì )社交和做夢(mèng)，它們可以被定義為有一定的自我意識，但是它們沒(méi)有智慧。但同時(shí)，那些在某一任務(wù)上非常聰明的人工智能，它們會(huì )下象棋，或者執行其他任務(wù)執行得非常好，但是它們沒(méi)有任何的自我意識。Lex Fridman：前段時(shí)間谷歌的一個(gè)工程師認為某個(gè)語(yǔ)言模型是有感知的，你遇到過(guò)有感知的語(yǔ)言模型嗎？如果一個(gè)系統出現了“感知”，你怎么理解這種情況？Demis Hassabis：我不覺(jué)得目前世界上的任何一個(gè) AI 系統是有意識或者有感知的，這是我每天與 AI 互動(dòng)的真實(shí)感受。所謂感知，更多是我們大腦自己的投射，由于那是一個(gè)語(yǔ)言模型，與智慧息息相關(guān)，所以人們就很容易把系統擬人化。這也是為什么我認為圖靈測試有缺陷，因為它建立于人的反應和判斷上。我們應該和頂尖的哲學(xué)家談?wù)勔庾R，比如 Daniel Dennett 和 David Charmers，以及其他對意識有深刻思考的人。目前意識還沒(méi)有公認的定義，如果讓我來(lái)說(shuō)的話(huà)，我覺(jué)得意識的定義是，信息得到處理時(shí)帶來(lái)的感覺(jué)。Lex Fridman：讓我問(wèn)一個(gè)黑暗的私人問(wèn)題。你說(shuō)創(chuàng )造一個(gè)世界上最強大的超級人工智能系統。正如老話(huà)所說(shuō)，絕對權力導致腐敗，你也很有可能成為其中一員，因為你是最有可能控制這個(gè)系統的人。你會(huì )考慮這些么?Demis Hassabis：我每時(shí)每刻都在思考有什么能對抗這種腐敗的防御措施。人類(lèi)最大利益的工具或技術(shù)讓我們進(jìn)入一個(gè)激進(jìn)的世界，我們面臨著(zhù)許多艱巨的挑戰。AI 可以幫助我們解決問(wèn)題，最終使人類(lèi)走向終極繁榮，甚至找到外星人。而 AI 的創(chuàng )造者，AI 所依賴(lài)的文化，AI 擁有的價(jià)值觀(guān)，AI 系統的構建者都會(huì )影響它的發(fā)展。即使 AI 系統會(huì )自己學(xué)習，但其大部分知識也會(huì )帶有一定已有文化和創(chuàng )造者價(jià)值觀(guān)的殘留。不同的文化讓我們比以往任何時(shí)候都更加分裂，也許當我們進(jìn)入了一個(gè)極度富足的時(shí)代以后，資源不那么稀缺了，我們就不需要激烈競爭，而是可以轉向更好的合作。Lex Fridman：當資源受到重大限制時(shí)，一些暴行就會(huì )發(fā)生。Demis Hassabis：資源稀缺是導致競爭和破壞的原因之一，全人類(lèi)都想生活在善良、安全的世界里，所以我們必須解決稀缺性的問(wèn)題。但這還不足以達成和平，因為還有其他東西會(huì )產(chǎn)生腐敗。AI 不應該任由僅僅一個(gè)人、或者一個(gè)組織來(lái)運行。我認為 AI 應該屬于世界，屬于人類(lèi)，每個(gè)人都應該對 AI 有發(fā)言權。Lex Fridman：你對高中生和大學(xué)生有什么建議嗎? 如果年輕人有從事 AI 的愿望，或者想以自己的力量影響這個(gè)世界，他們應該如何獲得一份自己由衷感到自豪的職業(yè)？如何找到理想的生活？Demis Hassabis：我總喜歡對年輕人說(shuō)兩句話(huà)，第一句話(huà)是，你真正的激情在何處？年輕人應該去盡可能地探索這個(gè)世界。在人年輕時(shí)，我們有足夠多的時(shí)間，還能夠承擔探索帶來(lái)的風(fēng)險。以自己獨特的方式去尋找事物之間的聯(lián)系，我認為這是尋找激情所在的好方法。第二句話(huà)是，了解你自己。要花很多時(shí)間去了解自己最佳的工作方式是什么，最佳的工作時(shí)間是什么時(shí)候，最佳的學(xué)習方式是什么?，如何應對壓力。年輕人應該在不同的環(huán)境下測試自己，嘗試改進(jìn)自己的弱點(diǎn)，找出自己獨特的技能和優(yōu)勢，然后磨練它們，這些就是你以后在這個(gè)世界上的價(jià)值。如果你能把這兩件事結合起來(lái)，找到自己的激情所在，鍛煉出你自己獨特而強大的技能，那么你就會(huì )獲得不可思議的能量，給世界帶來(lái)巨大的改變。

來(lái)源：學(xué)術(shù)頭條

*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。