75歲Hinton中國大會(huì )最新演講「通往智能的兩種道路」，最后感慨：我已經(jīng)老了，未來(lái)交給年輕人（1）

「但我已經(jīng)老了，我所希望的是像你們這樣的年輕有為的研究人員，去想出我們如何能夠擁有這些超級智能，使我們的生活變得更好，而不是被它們控制?！?/span>

6 月 10 日，在 2023 北京智源大會(huì )的閉幕式演講中，在談到如何防止超級智能欺騙、控制人類(lèi)的話(huà)題時(shí)，今年 75 歲的圖靈獎得主 Geoffrey Hinton 不無(wú)感慨地說(shuō)道。

Hinton 本次的演講題目為「通往智能的兩種道路」（Two Paths to Intelligence），即以數字形式執行的不朽計算和依賴(lài)于硬件的可朽計算，它們的代表分別是數字計算機和人類(lèi)大腦。演講最后，他重點(diǎn)談到了大型語(yǔ)言模型（LLM）為他帶來(lái)的對超級智能威脅的擔憂(yōu)，對于這個(gè)涉及人類(lèi)文明未來(lái)的主題，他非常直白地展現了自己的悲觀(guān)態(tài)度。

演講一開(kāi)始，Hinton 便宣稱(chēng)，超級智能（superintelligence）誕生的時(shí)間可能會(huì )比他曾經(jīng)想象的早得多。這一觀(guān)察引出了兩大問(wèn)題：（1）人工神經(jīng)網(wǎng)絡(luò )的智能水平將會(huì )很快超越真實(shí)神經(jīng)網(wǎng)絡(luò )嗎？（2）人類(lèi)是否能保證對超級 AI 的控制？在大會(huì )演講中，他詳細討論了第一個(gè)問(wèn)題；針對第二個(gè)問(wèn)題，Hinton 在演講的最后表示：超級智能可能將很快到來(lái)。

首先，讓我們來(lái)看看傳統的計算方式。計算機的設計原則是要能精準地執行指令，也就是說(shuō)如果我們在不同的硬件上運行相同的程序（不管是不是神經(jīng)網(wǎng)絡(luò )），那么效果應該是一樣的。這就意味著(zhù)程序中包含的知識（如神經(jīng)網(wǎng)絡(luò )的權重）是不朽的，與具體的硬件沒(méi)有關(guān)系。

為了實(shí)現知識的不朽，我們的做法是以高功率運行晶體管，使其能以數字化（digital）的方式可靠運行。但這樣做的同時(shí)，我們就相當于拋棄了硬件其它一些性質(zhì)，比如豐富的模擬性（analog）和高度的可變性。

傳統計算機之所以采用那樣的設計模式，是因為傳統計算運行的程序都是人類(lèi)編寫(xiě)的?，F在隨著(zhù)機器學(xué)習技術(shù)的發(fā)展，計算機有了另一種獲取程序和任務(wù)目標的方法：基于樣本的學(xué)習。

這種新范式讓我們可以放棄之前計算機系統設計的一項最基本原則，即軟件設計與硬件分離；轉而進(jìn)行軟件與硬件的協(xié)同設計。

軟硬件分離設計的優(yōu)點(diǎn)是能將同一程序運行在許多不同的硬件上，同時(shí)我們在設計程序時(shí)也能只看軟件，不管硬件 —— 這也是計算機科學(xué)系與電子工程系能夠分開(kāi)設立的原因。

而對于軟硬件協(xié)同設計，Hinton 提出了一個(gè)新概念：Mortal Computation。對應于前面提到不朽形式的軟件，我們這里將其譯為「可朽計算」。

可朽計算是什么？

可朽計算放棄了可在不同硬件上運行同一軟件的不朽性，轉而采納了新的設計思路：知識與硬件的具體物理細節密不可分。這種新思路自然也有優(yōu)有劣。其中主要的優(yōu)勢包括節省能源和低硬件成本。

在節能方面可以參考人腦，人腦就是一種典型的可朽計算裝置。雖然人腦中也依然有一個(gè)比特的數字計算，即神經(jīng)元要么****要么不****，但整體來(lái)說(shuō)，人腦的絕大多數計算都是模擬計算，功耗非常低。

可朽計算也可以使用更低成本的硬件。相較于現如今以二維模式高精度生產(chǎn)的處理器，可朽計算的硬件能以三維模式「生長(cháng)」出來(lái)，因為我們不需要明確知道硬件的連接方式以及每個(gè)部件的確切功能。很顯然，為了實(shí)現計算硬件的「生長(cháng)」，我們需要很多新型納米技術(shù)或對生物神經(jīng)元進(jìn)行基因改造的能力。改造生物神經(jīng)元的方法可能更容易實(shí)現，因為我們已經(jīng)知道生物神經(jīng)元大致能夠完成我們想要的任務(wù)。

為了展示模擬計算的高效能力，Hinton 給出了一個(gè)示例：計算一個(gè)神經(jīng)活動(dòng)向量與一個(gè)權重矩陣的積（神經(jīng)網(wǎng)絡(luò )的大部分工作都是此類(lèi)計算）。

對于該任務(wù)，當前計算機的做法是使用高功耗的晶體管將數值表示成數字化的比特形式，然后執行 O (n2) 數字運算將兩個(gè) n 比特的數值相乘。雖然這只是計算機上的單個(gè)運算，但卻是 n2 個(gè)比特的運算。

而如果使用模擬計算呢？我們可以將神經(jīng)活動(dòng)視為電壓，將權重視為電導；那么每一單位時(shí)間里，電壓乘以電導可得到電荷，電荷可以疊加。這種工作方式的能效會(huì )高很多，而且其實(shí)現在已經(jīng)存在這樣工作的芯片了。但很不幸，Hinton 表示，現在人們還是要使用非常昂貴的轉換器將模擬形式的結果轉換成數字形式。他希望以后我們能在模擬領(lǐng)域完成整個(gè)計算過(guò)程。

可朽計算也面臨著(zhù)一些問(wèn)題，其中最主要的是難以保證結果的一致性，即在不同硬件上的計算結果可能會(huì )有所差別。另外，在反向傳播不可用的情況下，我們還需要找到新方法。