AI專(zhuān)家談如何應對人工智能的崛起：對噩夢(mèng)成真的恐懼

　　作為一名人工智能研究人員，我知道很多人都對AI表示憂(yōu)慮?？紤]到歷史原因和娛樂(lè )業(yè)，有這種想法不足為奇。許多人擔心我們會(huì )被機器人取代，過(guò)著(zhù)和《黑客帝國》一樣的日子。

　　然而，這些看似無(wú)辜的虛擬程序真的會(huì )在未來(lái)為非作歹嗎?我很難脫離目前還在進(jìn)化的計算機模型來(lái)考慮這個(gè)問(wèn)題。

　　我是否會(huì )像奧本海默在造出第一枚原子彈之后評論的那樣、成為“世界的毀滅者”呢?我固然會(huì )一舉成名，但也許批評者們也所言不假。

　　也許我不該回避這樣的問(wèn)題：作為一名AI專(zhuān)家，我認為人工智能有什么恐怖之處呢?

　　《2001太空漫游》中的HAL 9000計算機就是一個(gè)絕佳的例證。它引發(fā)了許多意外后果，可見(jiàn)這套系統并不成功。

　　在許多復雜系統中，如NASA的太空飛船和切爾諾貝利核電站，工程師會(huì )將許多組件組合在一起。設計師們也許很清楚每個(gè)部件該如何單獨運作，但對它們共同運行的結果則知之寥寥。

　　我們也許永遠都無(wú)法完全了解這些系統的運作結果，它們的失靈方式也多種多樣。從沉船到飛船爆炸，再到核電站爆炸，每次災難都由各種各樣的小故障組合而來(lái)。

　　而在A(yíng)I研發(fā)中，我們也可能陷入同樣的陷阱。

　　我們將認知科學(xué)的最新研究轉變?yōu)樗惴?，然后加入現有系統中。我們還沒(méi)有充分了解智能或認知科學(xué)，就妄想造出人工智能。

　　IBM的沃森和谷歌的Alpha等系統擁有強大的人工神經(jīng)網(wǎng)絡(luò )，實(shí)現了驚人的成就。但如果這些機器犯了錯，它們就無(wú)法贏(yíng)得“Jeopardy!”比賽，或打敗圍棋大師。雖然這樣的后果不足為重，頂多是賭它們贏(yíng)的人會(huì )輸些錢(qián)。但隨著(zhù)AI設計變得越來(lái)越復雜、計算機處理器速度越來(lái)越快，它們的水平會(huì )不斷提高。這樣一來(lái)，即使出現未知后果的風(fēng)險提高，我們也會(huì )讓其承擔更多的責任。

　　我們知道“人非圣賢，孰能無(wú)過(guò)”，因此要研發(fā)真正安全的系統簡(jiǎn)直是天方夜譚。

　　對濫用的恐懼

　　我正在研發(fā)的AI采用的方法名叫神經(jīng)進(jìn)化。對于這一種人工智能，我并不擔心會(huì )產(chǎn)生難以預料的后果。我會(huì )創(chuàng )造出虛擬環(huán)境，讓數據生物進(jìn)行進(jìn)化、然后處理越來(lái)越復雜的任務(wù)。

　　這些“生物”的表現會(huì )受到評估。表現最出色的“生物”可進(jìn)行“繁殖”，生成下一代。繁殖了多代之后，這些“機器生物”便會(huì )進(jìn)化出認知能力。

　　如今，我們正一步步研發(fā)出能夠解決簡(jiǎn)單任務(wù)的機器。它們可進(jìn)行簡(jiǎn)單的導航、做出簡(jiǎn)單決策、或記住幾個(gè)數據。

　　但不久之后，這些機器便能解決更加復雜的任務(wù)，擁有更高級的智能，最終達到人類(lèi)級別的智能水平。

　　在機器的進(jìn)化過(guò)程中，我們將不斷發(fā)現并排除錯誤和問(wèn)題。每過(guò)一代，機器便能更好地解決前幾代機器遇到的問(wèn)題。

　　這使我們更容易在模擬過(guò)程中發(fā)現意外結果，然后在正式啟用前將其排除。

　　此外，我們還有可能利用進(jìn)化過(guò)程影響人工智能系統的道德倫理。人類(lèi)的倫理價(jià)值觀(guān)很可能是進(jìn)化的產(chǎn)物，也是人類(lèi)文明得以存續的原因。在我們建立的虛擬環(huán)境中，我們可以為表現出善良、誠實(shí)和同理心的機器提供更多優(yōu)勢。這或許能確保研發(fā)出更順從的“傭人”和更值得信任的伴侶，減少冷酷的殺手機器人的數量。

　　雖然神經(jīng)科學(xué)或能降低產(chǎn)生意外結果的可能性，但仍有被濫用的可能。但這屬于道德問(wèn)題，不屬于科學(xué)的考慮范疇。作為一名科學(xué)家，我將秉承真理，無(wú)論個(gè)人喜好如何，都如實(shí)匯報實(shí)驗結果。我并不在意自己是否喜歡某個(gè)事實(shí)，揭露事實(shí)才是最重要的。

　　對社會(huì )優(yōu)先問(wèn)題錯位的恐懼

　　身為一名科學(xué)家，我并非毫無(wú)人性可言。從某種程度而言，我必須帶入我的希望和恐懼。

　　作為一名道德和政治個(gè)體，我不得不考慮自身工作可能產(chǎn)生的后果和社會(huì )影響。

　　作為研究人員和社會(huì )群體，我們還不清楚人工智能會(huì )做什么、會(huì )成為什么。

　　當然，這一部分是因為我們還不清楚人工智能的能耐。但我們必須確定自己理想中的高級AI擁有怎樣的能力。

　　人們關(guān)注的重點(diǎn)之一自然是工作。機器人已經(jīng)取代了部分體力勞動(dòng)。用不了多久，它們便可勝任一度被認為只有人類(lèi)才能完成的認知工作。自動(dòng)駕駛汽車(chē)將取代出租車(chē)司機;自動(dòng)駕駛飛機將取代飛行員。

　　未來(lái)的病人不用再擠在急診室里、等著(zhù)疲憊不堪的醫生來(lái)做檢查，配備豐富知識的專(zhuān)家系統便可完成這項工作，手術(shù)也將由永不“手抖”的機器人來(lái)操刀。

　　也許有朝一日，所有人類(lèi)工作都將被機器取代。甚至我自己的工作也可能被許多速度更快、不知疲倦的機器代替，由它們來(lái)研發(fā)更智能的機器。

　　在現代社會(huì )中，自動(dòng)化導致許多人失業(yè)。機器所有者變得愈發(fā)富有，其他人則愈發(fā)貧窮。這并不是科學(xué)問(wèn)題，而是政治和社會(huì )經(jīng)濟問(wèn)題。作為一個(gè)社會(huì )群體，我們必須出手解決。我的研究無(wú)法改變這一點(diǎn)，但借助我的政治角色，再加以整個(gè)人類(lèi)社會(huì )的共同努力，也許能打造出一個(gè)良性環(huán)境。人工智能將有益于人類(lèi)，而不是進(jìn)一步擴大貧富差距。

　　對噩夢(mèng)成真的恐懼

　　HAL 9000、終結者和小說(shuō)中的各種超級智能代表著(zhù)人類(lèi)的另一重恐懼：如果AI繼續發(fā)展、最終超越了人類(lèi)智能，這樣的超級智能系統(或多個(gè)系統)是否會(huì )意識到人類(lèi)已經(jīng)無(wú)關(guān)緊要了呢?在無(wú)所不能的超級智能面前，我們如何體現出自身的重要性呢?我們如何才能避免被自己一手打造的機器連根鏟除的厄運呢?

　　其中的關(guān)鍵問(wèn)題是：超級人工智能有什么必要讓人類(lèi)存活下去呢?

　　我會(huì )辯稱(chēng)自己是個(gè)好人，并為超級人工智能的誕生做出了貢獻。我會(huì )博取它們的同情，讓它們允許我這么一個(gè)有同情心和同理心的人存活下去。我還會(huì )指出，多樣性本身便有很大價(jià)值。宇宙如此廣闊，人類(lèi)的存在對它們根本沒(méi)有影響。

　　但我不會(huì )代表所有人類(lèi)發(fā)言。而且我發(fā)現很難為所有人發(fā)表強有力的辯解。

　　我環(huán)顧人類(lèi)社會(huì )，所見(jiàn)皆是謬誤：我們仇恨彼此，挑起戰爭;我們的食物、知識和醫療分配不均;我們污染地球。不錯，人類(lèi)社會(huì )有其光明一面，但這些陰暗面無(wú)疑削弱了自己存在的合理性。

　　幸運的是，我們暫時(shí)還無(wú)需擔憂(yōu)這個(gè)問(wèn)題。我們還有時(shí)間，從50年到250年都有可能，具體取決于A(yíng)I的發(fā)展速度。

　　我們可以齊心協(xié)力，想出一個(gè)合理的答案、讓自己不至于被超級人工智能消滅。但這絕非易事：說(shuō)自己歡迎多樣性和實(shí)際接收它完全是兩碼事

　　從個(gè)人和群體角度而言，我們都需要為這一噩夢(mèng)般的局面做好準備，利用剩下的時(shí)間，充分證明人類(lèi)存續的必要性?；蛘吒纱鄤e相信會(huì )出現這種場(chǎng)景、不要再為之擔驚受怕。

　　但除了超級人工智能可能帶來(lái)的肉體威脅之外，它們還存在政治和經(jīng)濟風(fēng)險。如果我們無(wú)法更公平地分配財富，無(wú)疑是為資本主義煽風(fēng)點(diǎn)火，人工智能勞工將僅為少數掌握了全部生產(chǎn)途徑的人服務(wù)。