Kevin Kelly解讀人工智能狂熱：破解超人類(lèi)人工智能的五個(gè)假設

我聽(tīng)說(shuō)未來(lái)的計算機人工智能會(huì )變得比我們還要聰明得多，它們將奪走我們所有的工作和資源，而人類(lèi)將會(huì )滅絕。這是真的嗎?

這是我每次談?wù)?a class="contentlabel" href="http://dyxdggzs.com/news/listbylabel/label/人工智能">人工智能時(shí)最常碰見(jiàn)的問(wèn)題。提問(wèn)者是認真的;他們的擔心部分源自于一些會(huì )問(wèn)自己同樣問(wèn)題的專(zhuān)家。這些人都是當今世上中最聰明的一部分群體，比如史蒂芬·霍金、埃隆·馬斯克、馬克思?泰格馬克(譯注：Max Tegmark，MIT 物理學(xué)家，著(zhù)有《平行世界，平行生命》)、薩姆·哈里斯(譯注：Sam Harris，《自由意志》一書(shū)作者、神經(jīng)科學(xué)家、哲學(xué)家)和比爾·蓋茨，而他們認為這種情況很可能是真的。最近，在一個(gè)有關(guān)人工智能問(wèn)題的討論會(huì )上，一組由九位最知名的人工智能大師組成的專(zhuān)家小組一致認為，這種超人類(lèi)智能是不可避免的并且離我們并不遙遠，可在這里查看他們的討論：

然而，超人類(lèi)人工智能接管人類(lèi)的情況是有五個(gè)假設作為前提的，如果一一對其進(jìn)行檢查的話(huà)會(huì )發(fā)現它們并不基于任何證據。這些說(shuō)法在未來(lái)可能是真的，但到目前為止還沒(méi)有證據作為依托。即將成真的超人類(lèi)智能背后的這些假設是：

如果對一個(gè)超人類(lèi)人工智能接管人類(lèi)的預期是建立在五個(gè)沒(méi)有證據基礎的關(guān)鍵假設之上，那么這個(gè)想法更類(lèi)似于一個(gè)宗教信仰——一個(gè)神話(huà)(myth)。在下面的段落中，我分別擴展了對這五個(gè)反假設的證據，并舉例說(shuō)明，事實(shí)上一個(gè)超人類(lèi)人工智能就是一種神話(huà)。

一

關(guān)于人工智能最常見(jiàn)的誤解始于對自然智能的普遍誤解。這種誤解認為智能是單一維度的。大多數技術(shù)人員往往以 Nick Bostrom 在他的書(shū)《超級智能(Superintelligence)》中所使用的方法——作為表示幅度增加的一個(gè)逐字的單維線(xiàn)性圖——來(lái)描繪智能。其中一端是低智能，比如某種小動(dòng)物;另一端是高智能，比如一個(gè)天才——就好像智能是一個(gè)以分貝來(lái)表示的聲音大小等級。當然，之后就很容易進(jìn)行延伸想象，智能的響度繼續增長(cháng)，最終超過(guò)我們自己的高智能，成為一個(gè)超越人類(lèi)的超級響亮的智能方式——一聲咆哮!——甚至可能越出圖表的范圍。

這種模型的拓撲結構相當于一個(gè)梯子，因而智能的每一個(gè)梯級就是一層層地遞增。劣等動(dòng)物位于我們下面的較低層，而更高級別的智能(也即人工智能)將不可避免地超越我們而登上更高的階梯。這種情況發(fā)生的時(shí)間尺度并不重要;重要的是排名——這是智能增加的指標。

這個(gè)模型的問(wèn)題在于其本身是虛構的，就像進(jìn)化的階梯。在達爾文之前人們假定自然世界有一架生物存在(being)階梯，其中低等動(dòng)物居于人類(lèi)下面的階梯上。即使在達爾文之后，一個(gè)非常普遍的概念是進(jìn)化階梯，其中魚(yú)類(lèi)進(jìn)化成爬行動(dòng)物，然后進(jìn)入哺乳動(dòng)物階段，繼而進(jìn)化為靈長(cháng)類(lèi)動(dòng)物，最后進(jìn)入人類(lèi)階段，每一次進(jìn)化都比之前更加高級(當然也更加聰明)。所以智能的階梯與存在的階梯是平行的。但這兩種模式都提供了一個(gè)完全不科學(xué)的觀(guān)點(diǎn)。

一張更精確的物種自然進(jìn)化圖是一個(gè)向外輻射的圓盤(pán)，就像由德克薩斯大學(xué)的 David Hillis 首次設計的這張圖(上圖)那樣，它是基于 DNA 的。這個(gè)深度宗譜曼陀羅以最原始的生命形式從中間開(kāi)始，然后在一段時(shí)間之后向外分支。時(shí)間向外移動(dòng)，使得居于該星球上最近期的生命物種構成了此圈圓周的周長(cháng)。這幅畫(huà)著(zhù)重強調了一個(gè)難以理解的進(jìn)化方面的基本事實(shí)：現世存在的每一個(gè)物種的進(jìn)化程度都是相等的。人類(lèi)與蟑螂、蛤、蕨類(lèi)植物、狐貍和細菌一起存在于這個(gè)外環(huán)上。其中的每一個(gè)物種都經(jīng)歷了一個(gè)跨度三十億年的成功繁殖的完整鏈條，這意味著(zhù)現在的細菌和蟑螂與人類(lèi)的進(jìn)化程度是同等高級的。并不存在階梯。

同樣，也不存在智能階梯。智能不是單一維度的。它是多種類(lèi)型和認知方式的綜合體，每個(gè)都是一個(gè)連續體。讓我們做一個(gè)非常簡(jiǎn)單的任務(wù)：測量動(dòng)物的智能。如果智能是單一維度的話(huà)，我們應該就能將一只鸚鵡、一只海豚、一匹馬、一只松鼠、一只章魚(yú)、一只藍鯨、一只貓和一只大猩猩的智能按照正確的升序位置排列成一行。而我們目前還沒(méi)有支持該排序結果的科學(xué)證據。其中一個(gè)原因可能是：動(dòng)物智能之間沒(méi)有區別，但我們也無(wú)法證明這點(diǎn)。動(dòng)物的思考方式差異顯著(zhù)。但也許它們有著(zhù)同樣相關(guān)的通用智能(general intelligence)?可能是這樣，但我們沒(méi)法測量，也沒(méi)有衡量該智能的單一指標。相反，我們針對許多不同類(lèi)型的認知類(lèi)型有著(zhù)許多不同的指標。

一個(gè)更準確的智能模型是要繪制出它的可能性空間(possibility space)，而不是一條單一的分貝線(xiàn)，如上圖中由 Richard Dawkins 寫(xiě)的算法所創(chuàng )造的可能形式的渲染。智能是一個(gè)組合的連續體。多個(gè)節點(diǎn)，每個(gè)節點(diǎn)都是一個(gè)連續體，創(chuàng )建高度多樣性的高維復合體。有些智能可能很復雜，有許多思維的子節點(diǎn)。其它的可能更簡(jiǎn)單，但也更加極端，處于空間的某個(gè)偏遠角落。這些我們稱(chēng)之為智能的復合體可以被認為是包含多種樂(lè )器類(lèi)型的交響樂(lè )。不僅在響度方面，它們在音高、旋律、音色、節奏等方面也有差異。我們可以把它們看作生態(tài)系統。從這個(gè)意義上說(shuō)，思維的不同組成節點(diǎn)是相互依存并且是被共同創(chuàng )造的。

用 Marvin Minsky 的話(huà)來(lái)說(shuō)，人類(lèi)的心智就是心智社會(huì )(society of minds)。我們運行在思維的生態(tài)系統之上。我們包含多種類(lèi)型的認知，這些認知做著(zhù)許多類(lèi)型的思考：演繹、歸納、符號推理、情緒智能、空間邏輯、短期記憶和長(cháng)期記憶。人類(lèi)內臟之中的整個(gè)神經(jīng)系統也是一種類(lèi)型的大腦，有其自己的認知模式。我們并不是真的僅僅用腦子思考;而是用全身進(jìn)行思考。

各個(gè)個(gè)體與物種之間的這套認知體系各不相同。一只松鼠能記得幾年前存放幾千粒橡子的確切位置，這是人類(lèi)思維難以辦到的。所以在那一種認知中，松鼠是超過(guò)人類(lèi)的。那種超能力包含了一些與人類(lèi)能力相比并不顯著(zhù)的其它模式，從而會(huì )產(chǎn)生一只松鼠的思維。在動(dòng)物王國中，還有許多比人類(lèi)優(yōu)越的其它認知專(zhuān)長(cháng)，再次被包含進(jìn)不同的系統中。

人工智能領(lǐng)域也是如此。人造心智在某些維度上已經(jīng)超過(guò)人類(lèi)。你的計算器是數學(xué)方面的天才，谷歌的記憶在某一維度上已經(jīng)超出了人類(lèi)自己的記憶能力。我們正使人工智能在某些特定模式中被設計為最佳。其中的一些模式是我們人類(lèi)就可以完成的，但是它們還可以被設計得更好，比如概率或數學(xué)方面。其它還有一些我們人類(lèi)根本無(wú)法辦到的思維類(lèi)型——記住六十億張網(wǎng)頁(yè)上的每一個(gè)詞，這是任何搜索引擎都擁有的技能。在未來(lái)，我們將發(fā)明一種全新的認知模式，這種模式不存在于人類(lèi)身上，也不存在于任何生物學(xué)領(lǐng)域。當我們發(fā)明人造飛行機時(shí)，我們受到了生物飛行方式的啟發(fā)，主要就是拍動(dòng)翅膀。但是我們發(fā)明的這個(gè)飛行機——-螺旋槳固定在一個(gè)固定寬翼上——是一個(gè)新的飛行模式，它在我們的生物世界中是未知的。這是截然不同的飛行方式。同樣，我們也會(huì )發(fā)明自然界中不存在的全新的思維模式。在許多情況下，它們都會(huì )是針對具體工作的那些新而狹窄的小型具體模式)——或許某種類(lèi)型的只在統計學(xué)和概率論中有用的推理。

在其它情況下，新的心智將會(huì )是復雜類(lèi)型的認知，我們可以用它來(lái)解決單憑人類(lèi)智能所不能解決的問(wèn)題。商業(yè)和科學(xué)中的一些最困難的問(wèn)題可能需要一個(gè)兩步解決方案。第一步是：創(chuàng )造一種新的思維模式與人類(lèi)心智一起工作。第二步：結合二者以解決問(wèn)題。由于我們正在解決的是之前所無(wú)法解決的問(wèn)題，因此我們想要將其稱(chēng)為比我們聰明的認知，但實(shí)際上它與我們是不同的。思維的差異是人工智能的主要好處。我認為一個(gè)有用的人工智能模型就是把它看作是外星智能(或人造外星人)。它的異質(zhì)性將成為其主要資產(chǎn)。

同時(shí)，我們會(huì )將這些不同的認知模式整合到更加紛繁復雜的心智社會(huì )中。其中一些復合體會(huì )比我們人類(lèi)更加復雜，而由于它們能夠解決我們不能解決的問(wèn)題，因此有些人會(huì )想稱(chēng)其為超人類(lèi)。但我們不會(huì )把谷歌稱(chēng)作是一個(gè)超人類(lèi)的人工智能，即使它的記憶能力在我們之上，因為在很多事情上我們可以做得比它更好。這些人工智能復合體肯定會(huì )在許多方面超越我們，但沒(méi)有一個(gè)實(shí)體會(huì )擁有全盤(pán)的勝算。這類(lèi)似于人類(lèi)的體能。工業(yè)革命已經(jīng)持續了 200 年，而當所有機器作為一個(gè)可以擊敗單個(gè)人的體能成就(跑步速度、舉重、精密切割等)的類(lèi)別時(shí)，卻沒(méi)有一臺機器可以打敗一個(gè)普通人所做的一切事情。

即使某個(gè)人工智能中的心智社會(huì )變得更加復雜，這種復雜性在目前還很難被科學(xué)地度量。我們沒(méi)有良好的復雜性操作指標能夠用以判斷黃瓜是否比波音 747 更復雜，或者它們的復雜性可能會(huì )有所不同。這也是我們沒(méi)有智能度方面的良好指標的原因之一。要確定心智 A 是否比心智 B 更加復雜是一件非常困難的事情，智能度的比較同理。我們很快就會(huì )達到那個(gè)明顯的認知上來(lái)：「智能度」不是單一維度的，而我們真正關(guān)心的是智能運轉的許多其它方式——我們尚未發(fā)現的所有其它認知節點(diǎn)。

二

有關(guān)人類(lèi)智能的第二個(gè)誤解是我們對于通用智能的信念。這種反復的信念影響了人工智能研究者的一個(gè)常見(jiàn)的既定目標，即創(chuàng )造一個(gè)通用人工智能(AGI)。然而，如果我們認為智能提供了一個(gè)很大的可能性空間，那么就不會(huì )存在通用狀態(tài)。人類(lèi)智能并非處于某個(gè)中心位置且周?chē)衅渌奶厥庵悄芾@其旋轉。相反，人類(lèi)智能是一種非常特定類(lèi)型的智能，已經(jīng)演變了數百萬(wàn)年，使我們的物種生存在這個(gè)星球上。在所有可能的智能空間映射中，人類(lèi)智能類(lèi)型將被困在某個(gè)角落，就像我們的世界被困在廣闊的星系邊緣一樣。

我們當然可以想象甚至發(fā)明出一個(gè)瑞士軍刀類(lèi)型的思維。它可能在許多事情上都能表現得不錯，但沒(méi)有一個(gè)會(huì )特別好。人工智能將遵循同樣的工程學(xué)準則，這也是所有事物被發(fā)明和創(chuàng )造所必須遵循的準則：你不能優(yōu)化每一個(gè)維度。你只能權衡。你不能讓一個(gè)通用的多功能單元去優(yōu)于那些特定的功能。一種每件事都做的大心智不能在每一件事上都做到和那些專(zhuān)用代理一樣好。由于我們認為我們人類(lèi)的心智是通用的，因此我們往往認為認知不符合工程師的權衡，那么就有可能建立一個(gè)最大限度提高所有思維模式的智能。但我對此沒(méi)看到任何證據。我們只是沒(méi)有發(fā)明足夠的心智類(lèi)型來(lái)觀(guān)察整個(gè)空間而已(并且到目前為止，我們已經(jīng)傾向于把動(dòng)物的心智作為單一維度上一種幅度可變的單一類(lèi)型來(lái)看待。

三

這種最大化通用思想的一部分信念來(lái)自于通用計算的概念。后者在 1950 年被正式描述為丘奇-圖靈假設(Church-Turing hypothesis)，該猜想認為，滿(mǎn)足一定閾值的所有計算都是等價(jià)的。因此，所有計算都擁有一個(gè)普遍的核心，無(wú)論它是發(fā)生在一臺擁有眾多快速或緩慢運轉的部件的機器之上，或甚至于是發(fā)生在一個(gè)生物腦中，它們都遵循相同的邏輯過(guò)程。這意味著(zhù)你應該能夠在可以做通用計算的任何機器上模擬任何的計算過(guò)程(思維)。奇點(diǎn)論者對于制造硅腦來(lái)持有人類(lèi)思想的期望就是依靠這一原則，他們相信我們能夠造出像人類(lèi)一樣思考的人工心智，只是后者更加聰明。我們應該對這種希望持懷疑態(tài)度，因為它依賴(lài)于對丘奇-圖靈假設的誤解。

該理論的出發(fā)點(diǎn)是：「給定無(wú)限的磁盤(pán)空間(內存)和時(shí)間，所有計算都是等價(jià)的?！箚?wèn)題是在現實(shí)中，計算機并沒(méi)有無(wú)限的內存或時(shí)間。當它在現實(shí)世界中運行時(shí)會(huì )產(chǎn)生巨大的實(shí)時(shí)差，這通常是生與死的時(shí)差。是的，如果你忽略時(shí)間，所有的思維都是等價(jià)的。是的，你可以在任何你想要的矩陣中模擬人類(lèi)類(lèi)型的思維，只要你忽略時(shí)間或現實(shí)生活中的存儲和記憶約束。然而如果你納入時(shí)間因素，那么你就得以一種重要的方式對該原則進(jìn)行重申：在差距很大的平臺上運行著(zhù)的兩個(gè)計算系統不會(huì )是實(shí)時(shí)等值的。還可以這樣說(shuō)：獲得相同思維模式的唯一方法是讓計算機運行于相同的平臺基底之上。運行計算的物理物質(zhì)——特別是當它變得更加復雜時(shí)——會(huì )極大地影響實(shí)時(shí)情況下能夠被實(shí)現得很好的認知類(lèi)型。

我將更進(jìn)一步并斷言：獲得一個(gè)極其類(lèi)人的思維過(guò)程的唯一途徑，是將計算運行在類(lèi)似人體那樣的濕組織之上。這也意味著(zhù)，運行在干燥芯片之上的極其龐大而復雜的人工智能會(huì )產(chǎn)生大而復雜的非人類(lèi)思想。如果能用人工生長(cháng)的神經(jīng)元來(lái)構建人造濕腦，我預測它們的思想與我們的會(huì )更加相似。這樣一個(gè)潮濕大腦的好處正比于基底與人腦的相似度。創(chuàng )建濕件的代價(jià)是巨大的，而該組織與人類(lèi)腦組織越接近，那在成本效益上就越不如直接制造一個(gè)人類(lèi)。畢竟，制造一個(gè)人類(lèi)是我們在九個(gè)月之內可以做到的事情。

此外如上所述，我們是用自己的整個(gè)身體進(jìn)行思考，而不只是使用頭腦。我們有大量的數據顯示出我們的內臟神經(jīng)系統如何指導我們的理性決策過(guò)程，并能夠預測和學(xué)習。我們越多地模擬整個(gè)人體系統，我們就越能夠復制它。運行在一個(gè)十分不同的身體(干燥的硅片而非潮濕的碳基)之中的智能，其思考方式也不一樣。

我不認為這是一個(gè) bug，而是把它看做一項特性。正如我在第二點(diǎn)中談到的，與人類(lèi)不同的思維方式是人工智能的主要資產(chǎn)。這也是為什么我認為稱(chēng)它比人類(lèi)聰明是一種誤導的另一個(gè)原因。

四

超人類(lèi)智能(superhuman intelligence )的核心——特別是智能將自主改進(jìn)這個(gè)觀(guān)點(diǎn)——是智能不存在發(fā)展極限的根本信念。不過(guò)我沒(méi)有找到任何支撐該論斷的證據。再次，將智力誤解為評判的唯一尺度助長(cháng)了上述信念，不過(guò)我們也僅需要將其理解為一個(gè)信念即可。就目前科學(xué)所知，宇宙中不存在無(wú)限的物理尺度。溫度的高低不是無(wú)限的——低溫和高溫都是有限的。同理，時(shí)間、空間、速度都非無(wú)限?；蛟S數字是無(wú)限的，但是其它所有的物理屬性都是有限的。按理說(shuō)人類(lèi)理性自身也是有限的。于是問(wèn)題就成了：智能的極限在哪里?我們傾向于相信這個(gè)極限遠非我們所及，這種距離就猶如我們與一只螞蟻的差距一般。拋開(kāi)一直反復出現的「唯一尺度」問(wèn)題，我們有什么證據來(lái)證明這個(gè)極限就不是我們呢?為何我們就不能作為這個(gè)最大極值呢?亦或是這個(gè)極限距我們不遠?為何我們要相信智能就是可以永遠擴展下去的呢?

一個(gè)思考這個(gè)問(wèn)題更有效的方式是，將我們人類(lèi)的智能視作百萬(wàn)種可能智能的一員。所以，雖然每種認知能力和計算能力都存在一個(gè)極限，但是，如果存在成百上千種，那么便會(huì )有數不清的繁多的思維存在——它們其中沒(méi)有一個(gè)在任何層面上是無(wú)限的。當我們構建或是遭遇這些思維的時(shí)候，我們或許會(huì )很自然地認為它們其中一部分已經(jīng)超越了我們。在我最近初版的《必然(The Inevitable)》一書(shū)中，我勾勒出了這一部分在某種層面比我們高級的思維存在。以下是一份不完整的表單：

一種類(lèi)似于人類(lèi)心智的心智，只是回答速度更快(可以想到的最簡(jiǎn)單的人工智能心智)

一種非常慢的心智，主要由巨量存儲和記憶構成

由數百萬(wàn)單個(gè)較為蠢笨的心智聯(lián)合構成的全局超級心智

由許多非常聰明的心智構成的蜂巢心智(hive mind)，但并不知道它/它們自己是一個(gè)蜂巢

一種半有機半機械(borg)的超級心智，由許多非常聰明的心智構成，這些心智也清楚自己自己構成了一個(gè)聯(lián)合體

一種被訓練用來(lái)專(zhuān)用于增強你的個(gè)人心智的心智，但對其他人沒(méi)什么用處

一種能夠想象更好的心智的心智，但不能創(chuàng )造它

一種能夠創(chuàng )造更好的心智的心智，但對自己還不夠了解，所以無(wú)法想象它

一種能夠創(chuàng )造出更好的心智的心智，只能創(chuàng )造一次

一種能夠創(chuàng )造出更好的心智，且該心智還能繼續創(chuàng )造更好的心智的心智

當下有些人會(huì )想將這每一種思維存在都稱(chēng)為超人工智能。但是這些心智的如此這般的多樣性與差異性將會(huì )帶領(lǐng)我們找到關(guān)于智能和智慧新的概念和洞見(jiàn)。

第二，相信超人工智能的人們會(huì )假設智能將指數式地增長(cháng)(在一些未知的單一衡量標準上面)。這大約是因為他們也假設認為智能已經(jīng)在指數式地增長(cháng)了。然而，目前為止，沒(méi)有證據顯示(無(wú)論你怎么測量它)智能正在如此增長(cháng)。我所謂的指數式增長(cháng)是說(shuō)，人工智能在一定的時(shí)間間隔里發(fā)生冪函數式的翻倍。我根本不能找到這個(gè)說(shuō)法的證據。如果沒(méi)有這樣的證據，那么為何我們還要假設它將在不久之后發(fā)生呢?唯一會(huì )呈現指數曲線(xiàn)增長(cháng)的只有人工智能的輸入，也即那些被用于生成智慧或智能的資源。但是輸出性能并不會(huì )按照摩爾定律增長(cháng)，人工智能不會(huì )每3年或10年就聰明一倍。

我詢(xún)問(wèn)了很多人工智能專(zhuān)家以求得到人工智能性能在以指數式增加的證據，但是他們所有人都同意我們并沒(méi)有衡量智能的標準，此外，(即便在特定領(lǐng)域)智能也不是以指數式增長(cháng)的。當我問(wèn)到雷·庫茲韋爾，他提出的指數增長(cháng)這一概念，人工智能指數增長(cháng)趨勢的證據在哪里，他回復我說(shuō)，人工智能不以指數式增長(cháng)，但是其發(fā)展水平(level)是在以指數式增長(cháng)。他說(shuō)：「計算性和算法復雜度層面共同發(fā)生的指數式進(jìn)步會(huì )在整個(gè)發(fā)展過(guò)程中不斷為其添加上新的進(jìn)展層級(level)……于是我們就能夠期待去線(xiàn)性地添加這些層級。因為要進(jìn)一步添加新的層級就需要更大的指數復雜度。實(shí)際上，我們的能力在不斷指數式地前進(jìn)?！刮覀兙嚯x可與自己一教高下的所謂新皮層(neocortex)層級并不遙遠，因此，于我而言，我所預計的2029年這個(gè)節點(diǎn)(注：庫茲韋爾預計2029年為其所謂的奇點(diǎn)元年，即人工智能超越人類(lèi)智能的時(shí)間)依然適用。

庫茲韋爾的意思似乎不是說(shuō)人工智能的力量在指數爆炸，雖然人工智能的輸出在一定時(shí)間里僅僅會(huì )上升一個(gè)層級，但是那種創(chuàng )造這種智能的努力在指數式的爆炸。這幾乎站在了智能正在爆炸這個(gè)觀(guān)點(diǎn)的反面。未來(lái)說(shuō)不準，不過(guò)就現在而言，很顯然人工智能沒(méi)有指數式地增長(cháng)。

因此，當我們設想一個(gè)智能爆炸的場(chǎng)景時(shí)，我們應該想象它是新品種的落英繽紛，而非如注的暴雨傾盆;一個(gè)寒武紀式的生命爆發(fā)，而非核武器式的鏈式爆炸。加速的技術(shù)帶來(lái)的結果將不太可能是超人類(lèi)(super-human)，而是非人類(lèi)(extra-human)。它們外在于我們的經(jīng)驗，但不一定超越我們。

五

關(guān)于超級人工智能，還有另一個(gè)未批判就被人接受的信念，它沒(méi)有任何證據支撐，這個(gè)觀(guān)點(diǎn)即：一個(gè)超級的、幾乎無(wú)限的智能可以快速解決我們那些主要的未被解決的問(wèn)題。

很多擁護智能爆炸的觀(guān)點(diǎn)都期盼它也將促發(fā)進(jìn)步的爆炸。我稱(chēng)此為神話(huà)般的信念，即意淫主義(thinkism)。未來(lái)進(jìn)步的水平僅由缺乏思想的力量或是智力所阻礙，這個(gè)想法是存在謬誤的。(我也或許注意到了這樣一個(gè)現象，那種認為思想是可以治愈一切的靈丹妙藥的觀(guān)點(diǎn)被很多喜愛(ài)思考的人持有。)

我們以治愈癌癥或延長(cháng)壽命為例，這些問(wèn)題不是單單靠思考就可以解決的。任何一個(gè)意淫主義者都不會(huì )發(fā)現細胞的衰老，或是端粒的脫落。沒(méi)有一個(gè)智能，無(wú)論它多么厲害，可以?xún)H憑閱讀現今世界上所有已知的科學(xué)文獻，然后就對其產(chǎn)生深思。沒(méi)有一個(gè)超級人工智能可以簡(jiǎn)單地思考所有現今和過(guò)去的核裂變實(shí)驗，然后就能在一天之內想出可工作的核聚變方案。在事物工作方式的未知層面和已知層面之間還需要除思考之外的很多東西。在真實(shí)的世界中存在著(zhù)無(wú)數的實(shí)驗，它們其中的每一個(gè)都會(huì )產(chǎn)生出更多的矛盾的數據，這些數據需要進(jìn)一步的能夠形成正確的可工作的假設的實(shí)驗來(lái)研究。僅僅是對潛在數據的思考將不會(huì )產(chǎn)生正確的數據。

思考(智力)僅僅是科學(xué)的一部分，甚至或許是一小部分。例如，我們沒(méi)有足夠恰當的數據去接近如何解決死亡的問(wèn)題。大部分活體有機體的實(shí)驗都需要花很長(cháng)時(shí)間。一個(gè)細胞的緩慢新陳代謝不會(huì )加速。它們會(huì )花數年、數月或至少數天才能給出結果。如果我們想知道在亞原子層面發(fā)生了什么，那我們不能單靠思考去把握它。我們必須建造非常巨大、復雜且精妙的物理結構才能找出結果。即便那些最聰明的物理學(xué)家比他們現在還要聰明1000倍，沒(méi)有粒子對撞機，他們也不會(huì )知道任何新的東西。

毫無(wú)疑問(wèn)，一個(gè)超級人工智能會(huì )加速科學(xué)的進(jìn)程。我們可以在計算機上模擬原子或細胞，并且我們可以通過(guò)引入很多因素來(lái)讓它們持續加速。但是在立即獲得進(jìn)展的過(guò)程中，有兩個(gè)問(wèn)題限制了模擬的可用性。首先，模擬和模型只會(huì )比它們的本體更快，因為它們遺漏了一些因素。這是一個(gè)模型或模擬的本質(zhì)。也值得注意。這些模型的測試、檢查和證明也必須花和其本體一樣長(cháng)的時(shí)間才可以說(shuō)它們和其本體是匹配的。對自然真理的測試不能被加速。

這些模擬當中的簡(jiǎn)化版本可以有效地篩選出最有前景的可能道路，因此，它們可以加速進(jìn)程。但是現實(shí)世界中沒(méi)有多余;現實(shí)的一切都具有某種程度的獨特性，這是現實(shí)的定義之一。當模型和模擬被越來(lái)越多的細節所加強之后，它們會(huì )遭遇如下限制：現實(shí)會(huì )比一個(gè)100%對其模擬的模型來(lái)得更快。這是對現實(shí)的另一個(gè)定義：當前自由所有細節和程度的最快的可能性版本。如果你能夠模擬一個(gè)細胞中所有分子以及人體里的所有細胞，那么這個(gè)模擬就不會(huì )和人體過(guò)程一樣快。無(wú)論你思考了多少東西，你任然需要花時(shí)間去做實(shí)驗，不管是在真實(shí)系統中或是在模擬系統中。

人工智能必須在現實(shí)世界中發(fā)揮作用才能體現其價(jià)值，而這個(gè)世界也會(huì )反過(guò)來(lái)制衡其創(chuàng )新節奏。從試驗到原型到失敗再到實(shí)踐，如果沒(méi)有這些，人工智能僅僅是一種理論而毫無(wú)實(shí)際價(jià)值。如果沒(méi)有每一分鐘、每一小時(shí)、每一天或者每一年的創(chuàng )新發(fā)現，也不會(huì )出現比人還聰明的人工智能，而人工智能的發(fā)展無(wú)疑會(huì )顯著(zhù)加快其自身的進(jìn)步速度，部分原因是由于外星人般的人工智能會(huì )問(wèn)出人類(lèi)不會(huì )問(wèn)及的問(wèn)題;但是人工智能的強大(相比于人類(lèi))并不意味著(zhù)會(huì )立即帶來(lái)進(jìn)步。解決問(wèn)題所需要的遠不止是智能。

單靠智能不僅解決不了癌癥和壽命延長(cháng)問(wèn)題，應用到智能自身也如此。奇點(diǎn)鼓吹者慣用的一個(gè)說(shuō)法是，一旦你造出了一個(gè)比人類(lèi)聰明的人工智能，那么它立即就會(huì )努力開(kāi)發(fā)，造出一個(gè)比它自己還要聰明的人工智能，然后以此類(lèi)推，直到產(chǎn)生指數爆炸，智能體幾乎會(huì )變成類(lèi)似上帝一般的存在。我們沒(méi)有證據表明僅靠對智能的思考就可以創(chuàng )造出更高級的智能。這種意淫主義只是一種信念罷了。我們有很多證據表明，這項工作除了需要大量的智能外，還需要實(shí)驗的支持、數據、嘗試、錯誤和不尋常的質(zhì)疑等等一切超越智慧的東西來(lái)創(chuàng )造成功的新一代智能。

我的結論是，我的這些觀(guān)點(diǎn)可能是錯的。我們還處在早期。我們有可能發(fā)現一種智能的通用標準，有可能發(fā)現它在任何方向上都是無(wú)限的。因為我們對智能是什么的了解是如此之少(更不用說(shuō)意識為何物)，所以人工智能奇點(diǎn)的出現概率還是比0大。我認為雖然所有的證據都顯示，這樣的場(chǎng)景非常不可能發(fā)生，但是它依然有可能發(fā)生(可能性大于零)。

所以，盡管我不同意奇點(diǎn)主義的觀(guān)點(diǎn)，但是我依然同意 OpenAI 的更大目標，擔心超人類(lèi)人工智能的聰明人們認為我們應該開(kāi)發(fā)對人類(lèi)友善的人工智能并且向其灌輸可自主復制的符合我們人類(lèi)的價(jià)值觀(guān)。盡管我認為一個(gè)超人類(lèi)人工智能是一個(gè)存在于遙遠未來(lái)的可能隱患(它值得我們去考慮)，但是其可能性微乎其微，(基于我們目前擁有的證據)不應該來(lái)指導我們的科學(xué)、政策和發(fā)展。一顆砸到地球上小行星會(huì )引發(fā)大災難，這的確有可能(所以我們應該支持B612基金會(huì )。注：這是一個(gè)致力于星球防御的非營(yíng)利性組織。)但是我們不應該讓這種可能性去支配我們在，比如說(shuō)，氣候變化、太空旅行甚至城市規劃上作出的努力。

同樣，目前為止證據顯示人工智能很可能無(wú)法發(fā)展為超人類(lèi)人工智能，但它的確會(huì )成為人類(lèi)之外成百上千的會(huì )思靠的新物種;新物種與人類(lèi)大有不同，它們只能從事具體工作，也不會(huì )立即成為可以秒速解決大問(wèn)題的上帝。相反，將會(huì )有如星辰般豐富且有限的智能，它們在不同的超出我們想象的領(lǐng)域里工作，和我們一道及時(shí)解決現有的問(wèn)題，并發(fā)現新的問(wèn)題。

我理解一個(gè)超人類(lèi)人工智能上帝帶來(lái)的巨大吸引力，就像新的超人一般，但也正像超人，它是一個(gè)神話(huà)角色。在宇宙中的某處或許存在超人，但是這種可能性微乎其微。然而神話(huà)是有用的，一旦它們被發(fā)明出來(lái)，它們將不會(huì )消逝。關(guān)于超人的想法不會(huì )消逝，超人類(lèi)人工智能奇點(diǎn)的想法，既然已經(jīng)被提出，也將不會(huì )消逝。但是我們應該認識到，在當下這是一個(gè)類(lèi)似宗教而非科學(xué)的概念。如果我們考察我們目前所有的關(guān)于智能、人工和自然的證據，我們只能總結說(shuō)，我們關(guān)于一個(gè)超人類(lèi)人工智能的猜測僅僅是：神話(huà)。

二戰中，島群之中的很多孤島第一次與外界發(fā)生聯(lián)系。不為所知的神一般的存在乘坐著(zhù)轟轟作響的鐵鳥(niǎo)劃過(guò)島民頭頂的天空，把食物和物品空投在島上，一去不復返。島上的宗教信徒跳起舞來(lái)，祈禱神再次歸來(lái)，并空降更多的物資。即使是五十年后的今天，依然有很多島民祈禱著(zhù)鐵鳥(niǎo)再次歸來(lái)，空投物資。超人類(lèi)人工智能有可能被證明是另一種「物資崇拜」。一個(gè)世紀之后的人類(lèi)也許會(huì )回首現在，那時(shí)的我們無(wú)時(shí)無(wú)刻不期盼著(zhù)出現超人類(lèi)人工智能，帶來(lái)超乎想象的價(jià)值。數十年來(lái)人們一直等待著(zhù)超人類(lèi)人工智能的出現，并相信它會(huì )帶著(zhù)「物資」，很快到來(lái)。

然而非超人類(lèi)人工智能已經(jīng)實(shí)際存在。我們試圖重新定義、限制它以在未來(lái)掌控它，但是從智能的宏觀(guān)意義上來(lái)講——其范圍涵蓋不同種類(lèi)的機靈、智能、認知、理性、學(xué)習和意識——人工智能已遍布整個(gè)地球，并會(huì )持續地傳播、深化、多樣化和強大化。以前從不存在像人工智能這樣可以改變人類(lèi)世界的發(fā)明。在本世紀末，人工智能將無(wú)所不及并革新人類(lèi)的一切;但是，超人類(lèi)人工智能的神話(huà)——人類(lèi)獲得超級能力或者淪為超級奴隸(或者兩者兼而有之)——很可能一直存在，這種可能性對人類(lèi)來(lái)說(shuō)是如此迷魅以至于太難舍棄。