霍金的告誡：當心人工智能的反噬

　　在《未來(lái)戰士》《二十二世紀殺人網(wǎng)絡(luò )》等電影里，有機器人滿(mǎn)世界追打人類(lèi)的鏡頭。相信當時(shí)看過(guò)這些電影情節的人，內心的感受是復雜的。不過(guò)，緣于那些情節與現實(shí)生活還存在著(zhù)相當大的差距，因而人們所持的基本上都是不置可否的態(tài)度。然而，隨著(zhù)人工智能技術(shù)的不斷突破，機器人已由當初極其有限的“領(lǐng)悟力”轉變?yōu)槟軌蜃R別人類(lèi)面部表情并與人進(jìn)行情感交流的一個(gè)“活體”。本來(lái)，機器人面世后，就因為它們通常都是某一方面的行為專(zhuān)家，具有人類(lèi)個(gè)體所不能企及的特長(cháng)而讓人類(lèi)刮目相看?，F在，機器人具有了“情感”，具備了思索能力，那么，在將來(lái)的某一天，它們就會(huì )像人類(lèi)一樣，自我設計，自我制造，以致驅逐和殺戮人類(lèi)，最終終結人類(lèi)。

　　那么，會(huì )不會(huì )出現人工智能反噬人類(lèi)的情形呢?這是現代人杞人憂(yōu)天呢，還是有些人的故意危言聳聽(tīng)呢?可以說(shuō)，一切都未定論。在當今科技領(lǐng)域，包括一些頂尖人工智能專(zhuān)家都認為，人工智能會(huì )反噬人類(lèi)，人類(lèi)發(fā)展人工智能，將會(huì )讓人類(lèi)踏上不歸路。享譽(yù)世界的英國天體物理學(xué)家、英國劍橋大學(xué)著(zhù)名教授史蒂芬·威廉·霍金就是持這種觀(guān)點(diǎn)的人員之一。他發(fā)出警告道：“完美人工智能的開(kāi)發(fā)，便意味著(zhù)人類(lèi)的終結!”

　　2015年10月初，在Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”(Ask Me Anything)活動(dòng)環(huán)節中，霍金教授在回復提問(wèn)時(shí)，再次重申了他一直堅持的關(guān)于人工智能的觀(guān)點(diǎn)：“人工智能技術(shù)，未來(lái)必將對人類(lèi)構成威脅?！辈贿^(guò)，他同時(shí)強調，這其中最大的危險不是機器人會(huì )有計劃地摧毀人類(lèi)，而是它們完全拋棄了人類(lèi)，具有了自主決策的能力。他認為，機器人不可能會(huì )產(chǎn)生與人類(lèi)敵對的意識，但它們在追求自身設定的目標時(shí)，會(huì )對人類(lèi)的利益造成傷害。他說(shuō)：“真正的風(fēng)險不在于敵意，而在于能力。超級人工智能機器人將極善于達成自己所設定的目標，而如果它所設定的目標與我們的目標并不相互吻合，那么我們就有麻煩了。舉個(gè)例子，你有時(shí)候踩死一些螞蟻，但這并非出于你對螞蟻的主觀(guān)惡意，但如果你恰好準備在某個(gè)地區修建一個(gè)水電站，而那片地區正好有一個(gè)蟻穴，那么對于螞蟻來(lái)說(shuō)，這可真是個(gè)壞消息?！币簿褪钦f(shuō)，機器人帶給人類(lèi)的傷害，很大程度上屬于無(wú)意傷害。這也就意味著(zhù)人類(lèi)由地球上萬(wàn)物之靈長(cháng)的位置上跌落下來(lái)，淪落為由自己一手制造出來(lái)的機器人占主導地位之下的二等公民。因而，霍金揭示道：“不要把我們人類(lèi)自己放到那些螞蟻的位置上去?！?/p>

　　霍金認為，人工智能機器人因具有了情感，最終會(huì )進(jìn)化出對生存的渴望。他為此說(shuō)道：“未來(lái)一臺高度先進(jìn)的人工智能設備將逐漸發(fā)展出求生的本能，并將努力獲取實(shí)現其自身所設定目標所需要的資源。因為生存下來(lái)并獲取更多資源將能夠增加其實(shí)現其他目標的機會(huì )。對于人類(lèi)而言這將導致生存問(wèn)題的發(fā)生，因為我們的資源將會(huì )被掠奪?！彼赋?，隨著(zhù)人工智能技術(shù)的發(fā)展，智能機器人具備了人類(lèi)一樣的生存能力，它們就會(huì )不再依賴(lài)人類(lèi)，而是會(huì )自主進(jìn)行自我完善和自我升級。這時(shí)，機器人世界就會(huì )出現“技術(shù)大爆炸”。最終，機器人的技術(shù)能力就會(huì )遠遠超越人類(lèi)，終至把人類(lèi)越甩越遠，就如同現階段人類(lèi)的技術(shù)能力遠遠超越蝸牛一樣。

　　不過(guò)，霍金同時(shí)也表示，就目前人工智能技術(shù)發(fā)展現狀來(lái)說(shuō)，與研制出和人腦功能相當或遠超人腦功能的機器的要求還存在著(zhù)相當遙遠的差距。他說(shuō)：“當這件事最終發(fā)生時(shí)，那或許將成為人類(lèi)歷史上發(fā)生過(guò)的最好或是最壞的事，因此把這個(gè)問(wèn)題弄清楚將具有極大的價(jià)值。我們或許將花上幾十年的時(shí)間才能找出問(wèn)題的答案，那么就讓我們從今天開(kāi)始啟動(dòng)這項研究，而不是拖到超級機器人即將被啟動(dòng)的前一天晚上?！?/p>

　　霍金參與Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”活動(dòng)，一共獲得超過(guò)9000條的提問(wèn)和評論，成為該網(wǎng)站舉行的這類(lèi)活動(dòng)中關(guān)注度較高的一次。緣于工作和身體的原因，他在四個(gè)月之后才有時(shí)間回復網(wǎng)民的提問(wèn)。在回復的問(wèn)題中，大部分問(wèn)題都涉及人工智能領(lǐng)域，而在回復中他頻繁地表示了自己的擔憂(yōu)。在此次活動(dòng)前，他曾與幾位頂尖科學(xué)家和美國企業(yè)家埃隆·馬斯克簽署了一份公開(kāi)信，同樣表達了對未來(lái)人工智能對人類(lèi)構成威脅的擔憂(yōu)。他稱(chēng)，在下個(gè)世紀，人類(lèi)的能力將會(huì )被機器人超越。因而，科學(xué)家務(wù)必要確保人工智能的未來(lái)目標是與人類(lèi)的發(fā)展目標相一致的。

　　可以想象，機器人掌握了人類(lèi)的心理和應對模式之后，就可以輕易控制和塑造人類(lèi)情感。屆時(shí)，在機器人高人一等的優(yōu)越感面前，具有強烈自尊的人類(lèi)會(huì )不會(huì )感到無(wú)地自容而整體消亡呢?好在一切都還為時(shí)過(guò)早，也就有了與霍金相反的觀(guān)點(diǎn)。這些觀(guān)點(diǎn)認為，人工智能只是人的身體、智力的一種工具性延伸，它所不斷增強的也只是這種工具性的能力，而不是像人類(lèi)那樣具有無(wú)中生有的發(fā)明創(chuàng )造能力?，F今出現的機器人戰勝人類(lèi)的各種能力，棋藝也好，自動(dòng)駕駛技能也好，都是在人類(lèi)現有能力基礎上，對人類(lèi)知識、信息處理方式所總結出的一種優(yōu)化處理方式。即使是所謂的情感機器人，也只是對人類(lèi)的表情和語(yǔ)言特征進(jìn)行程序化應對，并不表明機器人擁有了同人類(lèi)一樣的情感。因而，人工智能就好比戰士手中的武器，它具有人類(lèi)肉身所不能取得的功效，但武器本身并不具備奪取生命的主動(dòng)權，而是完全聽(tīng)命于掌控它的使用者。

　　從技術(shù)和現實(shí)兩個(gè)層面來(lái)看，人工智能所放大的只是人類(lèi)現有的能力。受到特質(zhì)條件的限制，它不可能具備大規模自我批量升級和進(jìn)化的能力。因此，我們也就不用擔心它們會(huì )自己建廠(chǎng)，自我加工，自我提升腦力，自我升級。從人類(lèi)開(kāi)發(fā)的動(dòng)機的目的性上來(lái)說(shuō)，人工智能也不具備不可控性。

　　綜合各方觀(guān)點(diǎn)，無(wú)論是霍金的反噬論，還是相反的人工智能可控論，人工智能最終是天使還是魔鬼，完全取決于開(kāi)發(fā)和應用技術(shù)的人。只要人類(lèi)自身能約束好自己，未來(lái)的人工智能就一定會(huì )沿著(zhù)服務(wù)于人類(lèi)的方向前行。