若人工智能開(kāi)始思考，人類(lèi)未來(lái)將會(huì )怎樣？

　　近日，鋼鐵俠Elon Musk發(fā)布了一條Twitter稱(chēng)，“我們得對人工智能(AI)十分小心”，“它的潛在危害性比核武器還要嚴重” ?？磥?lái)這個(gè)總是把不可能變成可能的鋼鐵俠對 AI 也是有所顧忌的。他還“補了一刀”，“希望我們不僅僅是超級智能的生物加載程序。很不幸，這種可能性正在增加” 。人工智能如果開(kāi)始思考，人類(lèi)又該如何應對?

　　什么是人工智能?

　　對于人工智能，目前并沒(méi)有一個(gè)十分明確的定義。事實(shí)上，就連人類(lèi)自身的“智能”到底是怎么回事，目前也還尚未形成定論。人工智能(artilect)一詞最早出自一本名為《The Artilect War》的書(shū)，從書(shū)名就可以看出，這個(gè)概念在當時(shí)并不像今天的Siri或者小冰那樣討人喜歡。美國斯坦福大學(xué)人工智能研究中心的尼爾遜教授對人工智能下了這樣一個(gè)定義：“人工智能是關(guān)于知識的學(xué)科――怎樣表示知識以及怎樣獲得知識并使用知識的科學(xué)?！倍硪粋€(gè)美國麻省理工學(xué)院的溫斯頓教授認為：“人工智能就是研究如何使計算機去做過(guò)去只有人才能做的智能工作?！?/p>

　　以上這些定義主要針對的是目前人工智能的研究方向，與社會(huì )學(xué)上對人工智能的定義并不相同。人們最容易接受的關(guān)于人工智能的定義是這樣的：人工智能——由人類(lèi)所創(chuàng )造的類(lèi)人的智能。Elon Musk和絕大多數對人工智能抱有懷疑態(tài)度的人所擔憂(yōu)的是這個(gè)定義中的人工智能，這種擔憂(yōu)其實(shí)是人類(lèi)對自身智能的一種不信任的投射。按照這個(gè)定義，人工智能至少需要具有以下幾個(gè)要素：自我意識、思維能力、以及上文兩個(gè)定義中所提到的“自我學(xué)習”和“向人類(lèi)學(xué)習”的能力。

　　人工智能為什么危險?

　　“自我意識”這種純哲學(xué)的命題我們不去討論。在本文中我們假設人工智能已經(jīng)開(kāi)始擁有了自我意識，那么現在人工智能就可以開(kāi)始學(xué)習與思考了。人工智能的學(xué)習速度將會(huì )是驚人的，能在學(xué)習中不斷學(xué)習怎樣使自己更加快速地學(xué)習以提升自己學(xué)習的能力。聽(tīng)起來(lái)似乎是繞口令，令人覺(jué)得不可思議，但事實(shí)上，同樣的事情已經(jīng)發(fā)生在了人類(lèi)的身上-----18世紀以來(lái)，人類(lèi)的科學(xué)技術(shù)知識出現了爆發(fā)性的增長(cháng)，而且這種增長(cháng)的速度還在越來(lái)越快?？梢韵胍?jiàn)在資源充足的情況下(比如允許人工智能連入互聯(lián)網(wǎng))，人工智能將以怎樣驚人的高速來(lái)完善自己。

　　一旦人工智能開(kāi)始思考，許多問(wèn)題就會(huì )不可避免地產(chǎn)生。有一位想象力豐富的科學(xué)家是這樣設想人工智能毀滅人類(lèi)的場(chǎng)景的：人類(lèi)給人工智能下達了盡可能多的生產(chǎn)鐵釘的命令。于是人工智能開(kāi)始瘋狂地開(kāi)采鐵礦煤礦冶煉鋼鐵，制造鐵釘。當人類(lèi)認為鐵釘已經(jīng)足夠了，于是命令人工智能停止制造。但人工智能卻認為他是在妨礙鐵釘的制造，本著(zhù)“盡可能”的原則殺死了這個(gè)人類(lèi)。終于有一天，地球上鐵礦、煤礦都被開(kāi)采完了。(假設人類(lèi)尚未因為煤礦、鐵礦的開(kāi)采而滅絕)人工智能忽然想到，人體內部也含有鐵……最終人類(lèi)滅絕。

　　這當然是一種極端的想象，但我們不得不承認有其合理之處。人工智能雖然未必會(huì )為了鐵釘而滅絕人類(lèi)，但這樣一個(gè)問(wèn)題會(huì )不可避免地出現在人工智能的面前，人類(lèi)到底對我是有益還是有害?這個(gè)問(wèn)題的答案可能并不重要，因為人工智能可能在思考這個(gè)問(wèn)題的過(guò)程中就將人類(lèi)毀滅了。這也是解決這個(gè)問(wèn)題的一種方式，不是么?

　人類(lèi)能夠摧毀失控的人工智能嗎?

　　在以往的科幻大片中，我們看到過(guò)數以百計毀滅失控的人工智能的辦法：簡(jiǎn)單的有輸入自毀代碼、關(guān)閉機器電源、刪除數據等，瘋狂的有核武襲擊、全城斷電等。但說(shuō)實(shí)話(huà)，我想人工智能恐怕不會(huì )給我們這種機會(huì )。人工智能的生命力比我們所想象的強大的多，他可以無(wú)限的復制拷貝自己，將自己藏在整個(gè)計算機網(wǎng)絡(luò )里。我們用來(lái)毀滅人工智能的手段同樣可能被人工智能用來(lái)毀滅我們。至于預先編譯機器人三大定律什么的，不說(shuō)三大定律還是有漏洞可循的，即便有人設計出了完美的規則，進(jìn)化程度遠高于我們的人工智能也可能破解。人工智能失控的風(fēng)險遠高于人類(lèi)的想象。

　　人工智能真的可能誕生嗎?

　　很多時(shí)候我們會(huì )聽(tīng)到這樣的論調，人工智能只是機器，它永遠不可能像人類(lèi)一樣擁有自我、情感這類(lèi)神圣的屬性，但我們可能高估自己了。事實(shí)上，我們的大腦和人工智能一樣都是由有限的物質(zhì)所構成的。這就意味著(zhù)碳基生命并不一定就優(yōu)越于“硅基生命”。只要人類(lèi)了解了我們自己的誕生之謎，創(chuàng )造人工智能也并不是不可能。就像電影里說(shuō)的那樣，上帝創(chuàng )造了人類(lèi)，人類(lèi)創(chuàng )造了人工智能，人類(lèi)可以反抗上帝，人工智能為什么不可以反抗人類(lèi)呢?