通用人工智能的四大基本問(wèn)題

　　《返樸》重新出發(fā)，我的人工智能(AI)專(zhuān)欄也繼續搭載。和以前的做法一樣，我會(huì )把AI作為一個(gè)科學(xué)問(wèn)題(而非技術(shù)或商業(yè)問(wèn)題)來(lái)討論，力圖提煉智能、認知、思維、意識等現象中的一般規律，或者說(shuō)探索在什么意義下計算機可以和人腦相提并論。和一般的科普不同，我寫(xiě)的更像是自己的“探險筆記”，因為這個(gè)領(lǐng)域仍處于百家爭鳴時(shí)期，尚未有很多公認的“科學(xué)”結論來(lái)被“普及”。如果讀者發(fā)覺(jué)我的“妄議”(或者“王議”)和別處看到的不同，可以想想哪種說(shuō)法更有道理，而不是哪種更流行。由于很多話(huà)題彼此交織，我會(huì )引用我以前寫(xiě)過(guò)的文字以避免重復。至于這個(gè)專(zhuān)欄的名稱(chēng)，自然不是說(shuō)AI像《水滸》里的牛二，“滿(mǎn)城人見(jiàn)那廝來(lái)都躲了”。這事以后會(huì )交代。今天以基本問(wèn)題開(kāi)篇，就是先把招牌掛出來(lái)，后面再陸續上貨

　　——王培

　　像很多其它研究領(lǐng)域一樣，人工智能的基本問(wèn)題可以提煉成四個(gè)：“做什么?” “能做嗎?” “怎么做?” “該做嗎?” 下面是我對這些問(wèn)題的簡(jiǎn)略分析。

　　研 究 目 標

　　我在《當你談?wù)?a class="contentlabel" href="http://dyxdggzs.com/news/listbylabel/label/人工智能">人工智能時(shí)，到底在談?wù)撌裁?》(點(diǎn)擊文末“閱讀原文”查看，下同)中已經(jīng)列舉了“人工智能”名下五類(lèi)不同的研究目標，而目前流行的“人工智能就是用計算機解決那些以前只有人腦才能解決的問(wèn)題”就是其中的“能力派”。這一派的優(yōu)勢是通俗易懂，直接見(jiàn)效，但缺點(diǎn)是圈畫(huà)得太大，以至于以前叫“自動(dòng)化”“計算機應用”的工作現在都趕時(shí)髦改叫“人工智能”了。由于這種界定使得AI涵蓋了大量完全不同的系統，在此范圍內建立一個(gè)統一的人工智能理論的可能性甚微。

　　在《人工智能迷途：計算機的高技能等于高智能嗎?》中，我介紹了“通用人工智能”的觀(guān)念及其在歷史中的浮沉。時(shí)至今日，這個(gè)詞越來(lái)越多地出現在各種討論中，但對其意義的理解仍有很多誤區。比如一個(gè)常見(jiàn)的說(shuō)法是把通用系統叫做“強人工智能”，而把專(zhuān)用系統叫做“弱人工智能”。這個(gè)區分不無(wú)道理(因為前者的目標遠高于后者)，但二者的區別其實(shí)不是能力的強弱(專(zhuān)用系統在能力上往往已經(jīng)遠勝于人)，而是應用范圍和工作原理，所以這種稱(chēng)呼會(huì )使人將二者間“質(zhì)”的差別誤判為“量”的差別，以為把各種專(zhuān)用系統整合在一起就是通用系統了。

　　即便在當前的通用人工智能研究者之中，對研究目的的確切設定也各有不同。有些人企圖盡可能忠實(shí)地模擬腦結構，有些人企圖在盡可能多的領(lǐng)域中取代人，有些人(包括我)企圖讓計算機遵循和人基本相同的“思維規律”。

　　有些讀者可能會(huì )想，連基本概念和目標都沒(méi)弄清還怎么研究，殊不知對很多復雜現象的準確刻畫(huà)不可能發(fā)生在研究的開(kāi)始，而會(huì )是研究結果的一部分，所以先“統一思想”是不現實(shí)的。另一方面，那種認為無(wú)需爭辯“智能”定義，只需跟著(zhù)直覺(jué)用法走就好的看法恰恰是目前這個(gè)領(lǐng)域中觀(guān)念混亂的重要原因，也是不可取的。人工智能研究中的很多爭論都可以回溯到對智能的不同理解，而這個(gè)問(wèn)題又不能靠字典、權威或民意測驗來(lái)解決。如果研究目標不一樣，對其它相關(guān)問(wèn)題的回答自然也就不會(huì )一樣。在這一議題上尚無(wú)共識，恰恰更意味著(zhù)我們應注意辨識不同的研究目標，而避免籠統地斷言“人工智能”如何如何。

　　成 功 可 能

　　從“人工智能”“思維機器”等成為研究對象時(shí)起，這種努力的成功可能性就一直是有爭議的。隨著(zhù)深度學(xué)習等技術(shù)的成功，目前流行話(huà)語(yǔ)中的人工智能(在某個(gè)具體問(wèn)題的解決能力上達到或超過(guò)人類(lèi))的可能性不再是問(wèn)題，但通用人工智能的可能性仍是受到廣泛懷疑的。

　　對這個(gè)問(wèn)題的肯定性論證即使在學(xué)術(shù)界認為大功告成之后的很長(cháng)時(shí)間內仍不會(huì )被公眾普遍接受，比如有人會(huì )堅持說(shuō)它沒(méi)有“靈魂”，不管它做到了什么。因此，我下面只簡(jiǎn)單說(shuō)明為什么現有的否定性論證都是不能成立的。這里有幾種不同的情況。

　　一類(lèi)“人工智能不可能”的斷言是出于對這個(gè)領(lǐng)域的研究目標的誤解，因而是在攻擊一個(gè)稻草人。持這種態(tài)度的人往往以為這個(gè)領(lǐng)域的目標是制造在所有方面都和人一摸一樣的計算機。找些證據說(shuō)明這不可能并不難，但問(wèn)題是，我還不知道任何研究者真是沖著(zhù)那個(gè)目標去的。實(shí)際上，所有研究人工智能(包括通用人工智能)的人都只是認為計算機可以在某些方面和某種程度上和人腦相類(lèi)似。很多研究者認為在“人類(lèi)智能”的諸多現象之中存在一個(gè)更一般的“智能”機制，而“人工智能”是這個(gè)機制的另一種實(shí)現方式。按照這種觀(guān)點(diǎn)，即使人工智能完全實(shí)現，也不會(huì )和人類(lèi)智能在外部表現上完全相同。因此，這種“人工智能不可能”的論斷不會(huì )對這個(gè)領(lǐng)域中的研究有任何影響。

　　相比之下，另一類(lèi)“人工智能不可能”的論證是值得重視的，因為它們是直指人工智能技術(shù)的某些“死穴”。比較常見(jiàn)的包括“計算機必須遵循程序，因此不可能有靈活性和創(chuàng )造性”“計算機只能根據形式來(lái)使用符號，但無(wú)法獲得其意義”“有些真理人能發(fā)現，但計算機永遠不能”。在這里，我不具體討論它們(參見(jiàn)我以前的文章)，只是指出它們的一個(gè)共同問(wèn)題：其實(shí)這里每個(gè)論證都是針對一個(gè)具體的智能技術(shù)或計算機用法，但結論卻往往是“人工智能”如何如何、“計算機”怎樣怎樣，其結果是夸大了其結論的適用范圍。這些討論對人工智能的發(fā)展是有益的，因為它們從反面為新理論、新技術(shù)的研發(fā)提供了借鑒。遺憾的是，至今仍有不少人以為它們限定了所有人工智能研究所能達到的高度。

　　具有諷刺意味的是，在近期對人工智能的限度的討論中，很多形如“人工智能永遠也無(wú)法……”的斷言反而是出自“人工智能專(zhuān)家”之口。這其實(shí)也源于主流人工智能在歷經(jīng)挫敗后對“大問(wèn)題”的回避。很多人研究多年“人工智能”，但只是注重于對某個(gè)別功能的實(shí)現和某個(gè)別問(wèn)題的解決，因此在他們說(shuō)“沒(méi)人知道如何實(shí)現通用智能”時(shí)，他們實(shí)際上說(shuō)的是“我不知道怎么做，而且我所追隨的那些名人也不知道怎么做。其它人的工作不值得注意，因為反正他們也還沒(méi)做出來(lái)呢”。由于有理由認為通用智能系統和專(zhuān)用系統是非常不同的領(lǐng)域，在后者的研究中成名的人物對前者發(fā)言時(shí)權威性其實(shí)是很有限的，而且“現在還沒(méi)做出來(lái)”和“永遠也不能做出來(lái)”顯然不是一回事。

　　總之，通用人工智能目前起碼應被看作是可能的，因為沒(méi)有足夠強的反面理由。

　　實(shí) 現 途 徑

　　由于專(zhuān)用系統的實(shí)現途徑因問(wèn)題而異，在這里我只討論通用人工智能，而且只集中分析幾種常見(jiàn)的觀(guān)點(diǎn)，而把對我自己的研究進(jìn)路的介紹留給其它文章。

　　在相信通用人工智能可能實(shí)現的人們當中，目前最被看好的技術(shù)自然非深度學(xué)習莫屬。每當深度學(xué)習的一個(gè)新用途出現，總會(huì )有人說(shuō) “這標志著(zhù)又向通用人工智能前進(jìn)了一步”，似乎在這個(gè)方向上走下去就是了。在《深度神經(jīng)網(wǎng)絡(luò )會(huì )產(chǎn)生人這樣的智能嗎?》中，我已經(jīng)說(shuō)明了通過(guò)深度學(xué)習以及相關(guān)的機器學(xué)習技術(shù)實(shí)現通用智能的困難。這里要補充的一點(diǎn)是：有人認為深度學(xué)習已經(jīng)是“通用”的了，因為這個(gè)技術(shù)可以被應用于很多不同的領(lǐng)域。但這不是“通用人工智能”的意思。深度神經(jīng)網(wǎng)絡(luò )的確既能被訓練下圍棋，也能識別照片，但同一個(gè)網(wǎng)絡(luò )不能同時(shí)做這兩件事。由于以往的機器學(xué)習研究基本上都是以“逼近單一函數”為指向的，把它們推廣到多目標(尤其是設計時(shí)沒(méi)有考慮過(guò)的目標)絕不是個(gè)容易的事，因為它要求整個(gè)研究規范的根本改變。時(shí)至今日，尚沒(méi)有一個(gè)用深度學(xué)習實(shí)現通用人工智能的完整路線(xiàn)圖，而相信這個(gè)可能性的人往往是從已有的成果做簡(jiǎn)單外推。

　　另一個(gè)想法是整合各種專(zhuān)用“模塊”于一個(gè)“構架”之中，以讓它們分工協(xié)作，成為一個(gè)通用系統。這是個(gè)很自然的想法，也有不少人在試。但是這條路遠不如看上去那么理所當然。隨便找一本人工智能教科書(shū)，其中提到的算法或設計就得有幾百個(gè)，各有不同的用途。把它們都實(shí)現在同一個(gè)計算機系統中在原則上是可能的，但決定在什么時(shí)候用哪個(gè)工具，這本身大概就需要通用智能了，更不要說(shuō)這些工具各自的理論預設往往是互相沖突的，因此無(wú)法互相協(xié)調。另一個(gè)大問(wèn)題是諸認知功能的劃分大致上是沿用心理學(xué)的傳統(如推理、學(xué)習、記憶、聯(lián)想、感知、運動(dòng)、語(yǔ)言、情緒、意識等等)，盡管它們之間的聯(lián)系顯然非常密切。如果智能的確是“橫看成嶺側成峰”，那么從不同角度和距離描繪不同的“嶺”和“峰”自然可以，但如果目的是給廬山造個(gè)模型，那么分別構造這些“嶺”和“峰”，然后再把它們“組裝”起來(lái)，這就不對了，因為這些“構件”更應被看作同一個(gè)對象的不同側面，而非不同部分。

　　有人試圖通過(guò)構造更“忠實(shí)于人腦”的模型來(lái)達到各認知功能的統一再現。像我在《深度神經(jīng)網(wǎng)絡(luò )會(huì )產(chǎn)生人這樣的智能嗎?》中所說(shuō)的，這條途徑的最大問(wèn)題不是其難度，而是其必要性。如果我們把智能看成一種有不同實(shí)現方式的認知機制，那就沒(méi)有理由認為人腦是唯一能實(shí)現它的方式，盡管它的確是我們最熟悉的方式。和人腦在實(shí)現細節上最接近的模型未必是人工智能最合適的模型，盡管這種模型對腦科學(xué)而言很有價(jià)值。

　　總之，在實(shí)現其它目的時(shí)有效的技術(shù)未必對通用人工智能有很大貢獻，因為這里的目標和制約條件非常不一樣。在選擇技術(shù)路線(xiàn)時(shí)應當從智能的特征出發(fā)，同時(shí)考慮計算機系統的現實(shí)條件。

　　倫 理 抉 擇

　　最后，即使我們發(fā)現了建造思維機器的途徑，那也不一定意味著(zhù)我們真要把它做出來(lái)。已經(jīng)有很多名人大聲疾呼地要求人工智能慢下來(lái)甚至停下來(lái)了，因為他們害怕人類(lèi)失去“萬(wàn)物之靈”的地位及其后果。關(guān)于這種詰難，我已經(jīng)寫(xiě)了《人工智能危險嗎?》來(lái)回應，而這里只是再加些補充。

　　首先，很多“人工智能專(zhuān)家”對AI安全性所做的保證往往只涉及他們所構建或能夠設想的系統，其中完全沒(méi)有適應性、靈活性、自主性、創(chuàng )造性等通用人工智能系統才可能具有的特征，因此說(shuō)的基本就是另外一個(gè)問(wèn)題。由于這些特征，通用人工智能帶來(lái)的倫理道德問(wèn)題和傳統技術(shù)有根本的不同，因此要求不同的應對方案。

　　作為適應性系統，通用人工智能最大的特點(diǎn)之一就是其行為不僅僅取決于設計(先天因素)，而更加依賴(lài)于經(jīng)驗(后天因素)，因此對這種系統的控制需要通過(guò)影響它的經(jīng)驗來(lái)實(shí)現，就像社會(huì )對個(gè)人的制約那樣。因此，不能指望人工智能工作者可以設計出永不犯錯的系統，也不能奢望對人工智能安全性的研究可以預先排除掉所有危險。而在另一方面，在這種系統上進(jìn)行的研究可以極大豐富我們對適應性系統(包括人和動(dòng)物)的認識，將教育學(xué)和社會(huì )學(xué)(甚至經(jīng)濟學(xué)和法學(xué))的研究范圍擴展至包括智能機器在內。

　　和其它問(wèn)題一樣，對人工智能的恐懼常常來(lái)自對其研究目標的誤解。很多人以為“通用人工智能”會(huì )是在一切領(lǐng)域超過(guò)人類(lèi)，以至于近乎全知全能的存在，所以這種系統的出現會(huì )在人類(lèi)歷史上造成一個(gè)“奇點(diǎn)”，此后的發(fā)展便不在我們的掌控甚至理解范圍之內了。至今為止，我還沒(méi)有看到足以使我相信這一結論的證據。我認為通用人工智能完全可以造出來(lái)，而這種系統會(huì )有和人非常類(lèi)似的認知功能。但是，這不意味著(zhù)計算機可以全面達到以至超越人的解決問(wèn)題能力，因為適應系統的行為依賴(lài)于其經(jīng)驗，而一個(gè)人工智能系統是不會(huì )擁有和人完全相同的經(jīng)驗的。因此，人和機器的具體能力會(huì )有重合，但仍會(huì )有人能解決但機器不能解決的問(wèn)題。像我在《人工智能迷途：計算機的高技能等于高智能嗎?》中所解釋的，通用的“智能”和專(zhuān)用的“技能”不是一回事。不同形式的智能，不論是人類(lèi)還是人造的，在前一方面都類(lèi)似，而在后一方面未必可比，就像沒(méi)法說(shuō)諸葛亮、達芬奇、莫扎特誰(shuí)更聰明。這也說(shuō)明通用人工智能的工作原理仍是我們可以理解的，其行為也是可以通過(guò)對其經(jīng)驗加以影響來(lái)控制的，盡管它的運算速度可能很快，存儲量可能很大，經(jīng)驗可能和我們非常不同，因此它的具體行為可能不是那么容易解釋或預測。

　　總之，人工智能研究的正當性既來(lái)自人類(lèi)認識思維一般規律的長(cháng)期渴望，也來(lái)自社會(huì )發(fā)展對復雜信息加工的實(shí)際需求。這項研究同時(shí)也帶來(lái)了新的挑戰，對此我們絕不能掉以輕心，但也不該盲目恐懼。要避免AI造成的危險，起碼要把AI是怎么回事搞對吧?那些“AI必然導致災難”的斷言在這一方面往往都不及格，其結果是和風(fēng)車(chē)作戰，反而對可能性大很多的危險毫無(wú)提防。除非我們有足夠的證據認為某項技術(shù)(包括各種意義下的人工智能)的確會(huì )是弊大于利，我們還是有充分理由來(lái)繼續這項探索，同時(shí)拒絕廉價(jià)的保票，準備好對該技術(shù)的各種后果進(jìn)行盡可能恰當的應對。