陳根：通用AI正在到來(lái)，人類(lèi)下一步是什么？

雖然過(guò)去人們對通用人工智能（AGI）總有各種抽象的想法，但如今，隨著(zhù)圖像生成、代碼生成、自然語(yǔ)言處理等AI生成技術(shù)的發(fā)展，通用人工智能似乎已經(jīng)走到了一個(gè)重要的十字路口。生成式AI是技術(shù)底座之上的場(chǎng)景革新，涵蓋了圖文創(chuàng )作、代碼生成、游戲、廣告、藝術(shù)平面設計等應用。

可以看到的是，以多模態(tài)預訓練大模型、生成式AI為代表的AI技術(shù)已經(jīng)來(lái)到規?；耙?、爆發(fā)前的奇點(diǎn)。一方面，人類(lèi)對AGI的想象開(kāi)始具象；另一方面，對AGI前途無(wú)量感到震驚的科學(xué)家們，則開(kāi)始著(zhù)手探討并如何塑造 AGI 的未來(lái)。

從狹義AI到通用AI

到目前為止，我們所接觸的AI產(chǎn)品大都還是狹義AI。

簡(jiǎn)單來(lái)說(shuō)，狹義AI就是一種被編程來(lái)執行單一任務(wù)的人工智能——無(wú)論是檢查天氣、下棋，還是分析原始數據以撰寫(xiě)新聞報道。狹義AI系統可以實(shí)時(shí)處理任務(wù)，但它們從特定的數據集中提取信息。因此，這些系統不會(huì )在它們設計要執行的單個(gè)任務(wù)之外執行。

Google assistant、Google Translate、Siri等自然語(yǔ)言處理工具都是狹義AI的產(chǎn)品。雖然它們能夠與我們交互并處理人類(lèi)語(yǔ)言，但這些機器遠沒(méi)有達到人類(lèi)的智能水平。比如，當我們與Siri交談時(shí)，Siri并不能靈活地來(lái)響應我們的查詢(xún)。相反，Siri所能做的，就是處理人類(lèi)語(yǔ)言，將其輸入搜索引擎，然后返回給我們。

通用AI則是指在不特別編碼知識與應用區域的情況下，應對多種甚至泛化問(wèn)題的人工智能技術(shù)。雖然從直覺(jué)上看，狹義AI與通用AI是同一類(lèi)東西，只是一種不太成熟和復雜的實(shí)現，但事實(shí)并非如此。

狹義AI就像是計算機發(fā)展的初期，人們最早設計電子計算機是為了代替人類(lèi)計算者完成特定的任務(wù)。而艾倫·圖靈等數學(xué)家則認為，我們應該制造通用計算機，我們可以對其編程，從而完成所有任務(wù)。

于是，曾經(jīng)在一段過(guò)渡時(shí)期，人們制造了各種各樣的計算機，包括為特定任務(wù)設計的計算機、模擬計算機、只能通過(guò)改變線(xiàn)路來(lái)改變用途的計算機，還有一些使用十進(jìn)制而非二進(jìn)制工作的計算機?，F在，幾乎所有的計算機都滿(mǎn)足圖靈設想的通用形式，我們稱(chēng)其為“通用圖靈機”。只要使用正確的軟件，現在的計算機幾乎可以執行任何任務(wù)。

市場(chǎng)的力量決定了通用計算機才是正確的發(fā)展方向。如今，即便使用定制化的解決方案，如專(zhuān)用芯片，可以更快、更節能地完成特定任務(wù)，但更多時(shí)候，人們還是更喜歡使用低成本、便捷的通用計算機?，F在，AI也將出現類(lèi)似的轉變——通用AI將成為主流，它們與人類(lèi)更類(lèi)似，能夠對幾乎所有東西進(jìn)行學(xué)習。

當然，通用AI并非全知全能。與任何其他智能存在一樣，根據它所要解決的問(wèn)題，它需要學(xué)習不同的知識內容。比如，負責尋找致癌基因的AI算法不需要識別面部的能力；而當同一個(gè)算法被要求在一大群人中找出十幾張臉時(shí)，它就不需要了解任何有關(guān)基因互作的知識。通用人工智能的實(shí)現僅僅意味著(zhù)單個(gè)算法可以做多件事情，而并不意味著(zhù)它可以同時(shí)做所有的事情。

值得一提的是，通用AI又與強人工智能不同。強人工智能（strong artificial intelligence）是約翰·希爾勒在提出“中文屋實(shí)驗”時(shí)設定的人工智能級別。這個(gè)等級的人工智能，不僅要具備人類(lèi)的某些能力，還要有知覺(jué)，有自我意識，可以獨立思考并解決問(wèn)題。雖然兩個(gè)概念似乎都對應著(zhù)人工智能解決問(wèn)題的能力，但通用AI更像是無(wú)所不能的計算機，而強人工智能則超越了技術(shù)的屬性成為類(lèi)似穿著(zhù)鋼鐵俠戰甲的人類(lèi)。

如何實(shí)現通用人工智能？

自人工智能誕生以來(lái)，科學(xué)家們就在努力實(shí)現通用AI，實(shí)現通用AI具體可以分為兩個(gè)路徑。

第一條路就是讓計算機在某些具體任務(wù)上超過(guò)人類(lèi)，如下圍棋、檢測醫學(xué)圖像中的癌細胞。如果能夠讓計算機在執行一些困難任務(wù)時(shí)的表現超過(guò)人類(lèi)，那么最終就會(huì )發(fā)現如何讓計算機在所有任務(wù)中都比人類(lèi)強。通過(guò)這種方式來(lái)實(shí)現通用AI，AI系統的工作原理以及計算機是否靈活就無(wú)關(guān)緊要了。

唯一重要的是，這樣的人工智能計算機在執行特定任務(wù)時(shí)比其他人工智能計算機更強，并最終超越最強的人類(lèi)。如果最強的計算機圍棋棋手在世界上僅僅位列第二名，那么它也不會(huì )登上媒體頭條，它甚至可能會(huì )被視為失敗者。但是，擊敗世界上頂尖的人類(lèi)棋手就會(huì )被視為一個(gè)重要的進(jìn)步。

第二條路，是重點(diǎn)關(guān)注AI的靈活性。通過(guò)這種方式，人工智能就不必具備比人類(lèi)更強的性能?？茖W(xué)家的目標就變成了創(chuàng )造可以做各種事情并且可以將從某個(gè)任務(wù)中學(xué)到的東西應用于另一個(gè)任務(wù)的機器。

比如，當前發(fā)展如火如荼的AI 生成就遵循了這樣的路徑。過(guò)去一年，有關(guān)AI生成技術(shù)上的進(jìn)展主要包括三個(gè)方面。一個(gè)是圖像生成，即以DALL-E 2、Stable Diffusion為代表的擴散模型；一個(gè)是NLP（自然語(yǔ)言處理），即基于GPT-3.5的ChatGPT；還有一個(gè)就是代碼生成，比如基于CodeX的Copilot。

以近日大火的ChatGPT為例，這款當今最火爆的AI語(yǔ)言模型，由美國人工智能實(shí)驗室OpenAI于去年11月底發(fā)布，并迅速火遍全球。不同于過(guò)去那些智能語(yǔ)音助手的傻瓜回答，這次ChatGPT卻出乎意料的聰明：它可以用來(lái)創(chuàng )作故事、撰寫(xiě)新聞、回答客觀(guān)問(wèn)題、聊天、寫(xiě)代碼和查找代碼問(wèn)題等。外媒評論甚至稱(chēng)，ChatGPT會(huì )成為科技行業(yè)的下一個(gè)顛覆者。

事實(shí)也確實(shí)如此，基于龐大的數據集，ChatGPT得以擁有更好的語(yǔ)言理解能力，這意味著(zhù)它可以更像一個(gè)通用的任務(wù)助理，能夠和不同行業(yè)結合，衍生出很多應用的場(chǎng)景?？梢哉f(shuō)，ChatGPT已經(jīng)為通用AI打開(kāi)了一扇大門(mén)。

并且，ChatGPT引入了人類(lèi)監督員，專(zhuān)門(mén)“教”AI如何更好地回答人類(lèi)問(wèn)題。AI的回答符合人類(lèi)評價(jià)標準時(shí)，就給AI打高分，否則就給AI打低分。這使得AI能夠按照人類(lèi)價(jià)值觀(guān)優(yōu)化數據和參數。也就是說(shuō)，互聯(lián)網(wǎng)中，只要涉及文本生成和對話(huà)的，都能夠被ChatGPT“洗一遍”，這使得ChatGPT能得到一個(gè)接近于自然人類(lèi)語(yǔ)言對話(huà)的效果。

以自動(dòng)駕駛為例，目前的自動(dòng)駕駛與人的交互還是比較機械的，比如前面有一輛車(chē)，按照規則，它有可能會(huì )無(wú)法正確判斷什么時(shí)候該繞行。而ChatGPT等人工智能的迭代，未來(lái)可能會(huì )讓機器更接近人的思維模式，學(xué)習人的駕駛行為，帶領(lǐng)自動(dòng)駕駛進(jìn)入“2.0時(shí)代”。

另外，“ChatGPT+”更是打開(kāi)了想象力大門(mén)。有用戶(hù)把 ChatGPT + Stable Diffusion（AI文生圖工具） 結合使用。即先要求 ChatGPT 生成隨機的藝術(shù) prompt，然后把 prompt 作為 Stable Diffusion 的輸入，生成一副藝術(shù)性很強的畫(huà)作。還有人提出“ChatGPT+WebGPT”， WebGPT為高階版網(wǎng)頁(yè)爬蟲(chóng)，從互聯(lián)網(wǎng)上摘取信息來(lái)回答問(wèn)題，并提供相應出處?！癈hatGPT+WebGPT”產(chǎn)生的結果信息可以實(shí)時(shí)更新，對于事實(shí)真假的判斷更為準確。

針對ChatGPT在解答數學(xué)題方面的拉垮表現，計算機科學(xué)家、Wolfram 語(yǔ)言之父 Stephen Wolfram 發(fā)文表示，正在將ChatGPT與自己的 Wolfram | Alpha 知識引擎結合起來(lái)用，因為后者具有強大的結構化計算能力，可以實(shí)現完美互補?！癈hatGPT+”效應的出現，似乎更進(jìn)一步推動(dòng)了通用AI走向我們。

接下去的路應該怎么走？

雖然AI生成的快速發(fā)展讓人們看到了通用AI的希望，但實(shí)際上，當前的AI生成依然不是根本性的突破。

今天的AI生成之所以能如此靈活，就在于其龐大的訓練數據集。也就是說(shuō)，如果沒(méi)有根本性的新創(chuàng )新，通用AI就可能會(huì )從更大規模的模型中產(chǎn)生。ChatGPT就是將海量的數據結合表達能力很強的Transformer模型結合，從而對自然語(yǔ)言進(jìn)行了一個(gè)非常深度的建模。盡管ChatGPT的相關(guān)數據并未被公開(kāi)，但它的上一代GPT-3的整個(gè)神經(jīng)網(wǎng)絡(luò )就已經(jīng)有1750億個(gè)參數了。

雖然越來(lái)越大的模型確實(shí)讓通用AI性能很強，比如圖像生成等任務(wù)都需要借助大模型，但龐大的模型也帶來(lái)了一些問(wèn)題。

首先，世界上可能沒(méi)有足夠的數據量來(lái)支持規模最大化。來(lái)自紐約大學(xué)和蘇黎世聯(lián)邦理工大學(xué)的研究人員William Merrill、Alex Warstadt和Tal Linzen最近提出了一個(gè)證明，稱(chēng)“目前的神經(jīng)語(yǔ)言模型不太適合在沒(méi)有大量數據的情況下提取自然語(yǔ)言的語(yǔ)義”。盡管這個(gè)證明中包含了太多的前置假設，但是如果這個(gè)假設接近正確的話(huà)，那么在規模上可能很快就會(huì )出現麻煩。

其次，世界上可能沒(méi)有足夠的可用計算資源支撐規模最大化。要知道，計算從來(lái)都是一件費電的事情。Miguel Solano認為，要想達到當前的超級基準，例如BIG-bench，將會(huì )需要消耗2022年全美國電力消耗的四分之一還多。而B(niǎo)IG-bench還只是一個(gè)眾包的基準數據集，旨在探索大型語(yǔ)言模型并推斷其未來(lái)的能力，其中包含200多個(gè)任務(wù)。

以AI生成為代表的通用AI除了面對發(fā)展中技術(shù)的問(wèn)題，還需要回應倫理的挑戰。隨著(zhù)自動(dòng)化的發(fā)展，人工智能將接管更多工作，人們的擔憂(yōu)是，人與機器地位的轉換可能會(huì )在我們毫無(wú)防備的情況下突然發(fā)生。實(shí)際上，我們已經(jīng)走在將人類(lèi)工作讓渡給人工智能的道路上了，而我們需要解決的問(wèn)題是：在一個(gè)處處受到人工智能協(xié)助的世界中，我們接下去的路應該怎么走？

顯然，為了讓人類(lèi)的受益最大化，并促進(jìn)自由、平等、透明和財富的分享，我們需要決定如何有效運用基于人工智能的各種技術(shù)。

一方面，我們不得不重視AI技術(shù)進(jìn)步給社會(huì )帶來(lái)的影響。ChatGPT、AlphaFold等工具出來(lái)后，人們發(fā)現，最先感受到AI沖擊的反而是創(chuàng )造性的工作，而這些涉及創(chuàng )造力、知識探索的行業(yè)，又是人文領(lǐng)域的核心，是人類(lèi)最擔心被機器化的部分。一直以來(lái)，AI在這些領(lǐng)域的重大突破都伴隨著(zhù)廣泛的倫理爭議。

世界復雜性科學(xué)研究中心、美國圣塔菲研究所教授梅勒妮·米切爾近日在接受媒體采訪(fǎng)時(shí)就談到，過(guò)于盲目采用這些技術(shù)，將我們的交流和創(chuàng )意自動(dòng)化，可能會(huì )導致人類(lèi)失去對機器的控制，“機器人會(huì )給機器人寫(xiě)電子郵件，而機器人會(huì )回復其他機器人”。米切爾說(shuō)，“我們作為人的特質(zhì)從我們的信息中被卷走了?！?/span>

另一方面，過(guò)分強調人工智能對人類(lèi)生存的威脅，會(huì )把人們的注意力從那些更緊迫的問(wèn)題上分散出去，也可能會(huì )助長(cháng)那些反對能造福社會(huì )技術(shù)的聲音、扼殺技術(shù)創(chuàng )新。實(shí)際上，AI的“思考模式”與人類(lèi)的思考模式完全不同。20年后，基于深度學(xué)習的機器及其“后代”也許會(huì )在很多任務(wù)上擊敗人類(lèi)，但在很多任務(wù)上，人類(lèi)會(huì )比機器更擅長(cháng)。

基于此，在未來(lái)，更可能出現的情況，或許是我們人類(lèi)與尋求人類(lèi)與AI的良性共生，而不是糾結于基于深度學(xué)習的AI能否成為或者何時(shí)成為通用人工智能的問(wèn)題。通用AI的出現，或許也向人們展示了這樣一個(gè)道理——不只有人類(lèi)才是智能的黃金標桿。