波音空難背后:人類(lèi)應該在何種程度上信任AI?
隨便舉個(gè)例子。比如判定一個(gè)人是不是禿頂,這個(gè)標準其實(shí)就很模糊。假如他確實(shí)一根頭發(fā)都沒(méi)有,那么事情就清楚明白了,無(wú)論是AI還是普通人,都會(huì )認為他就是禿頂。但假如他只有一根頭發(fā)呢?在AI看來(lái),哪怕它只有一根頭發(fā),他也已經(jīng)不是禿頂了,但在普通人的習慣性認知里,他依然是個(gè)禿頂。那么,如果要給AI設計一個(gè)程序,到底這個(gè)量級應該設置在多少呢?一根頭發(fā)?兩根頭發(fā)?還是一萬(wàn)根頭發(fā)?這是一個(gè)界限很模糊的事情,在A(yíng)I的認知中極難判定,但在人類(lèi)的認知中這幾乎不是什么難題。
本文引用地址:http://dyxdggzs.com/article/201903/398603.htmAI是有漏洞的,它處理問(wèn)題過(guò)于剛性,有時(shí)候會(huì )釀出慘禍。因此在西方科學(xué)界,很多大咖都提醒人類(lèi),對待AI要慎重,這是一把雙刃劍,它的副作用必須引起警示。
自動(dòng)駕駛技術(shù)也是這樣。在飛機上,當然應該裝自動(dòng)駕駛系統,但是在最后決定權的歸屬上,一般默認人類(lèi)應該有超越AI的權限。
為什么在最終抉擇時(shí),人類(lèi)選擇相信自己呢?這也是一個(gè)頗有爭議性的話(huà)題。
眾所周知的事實(shí)是,人類(lèi)存在一大堆弱點(diǎn)。人類(lèi)自身的計算能力遠沒(méi)有機器精準,軀體遠沒(méi)有機械強悍,在保持客觀(guān)理性的判斷力上,人類(lèi)也乏善可陳,很多時(shí)候人類(lèi)都是憑情感來(lái)做選擇的。
那么,人類(lèi)憑什么這么自信呢?
這也許只是源于人類(lèi)的盲目自信,甚至是自大,但可能更大的原因在于,人類(lèi)知道純粹的剛性思維往往會(huì )帶來(lái)極其嚴重的社會(huì )后果,比如算法歧視、規則排他性等等。一旦AI掌握游戲規則的最終裁定權,很可能會(huì )產(chǎn)生一個(gè)讓人類(lèi)絕望的AI暴政時(shí)代。設想一下,假如AI計算后認為,只有某類(lèi)人才有生存的價(jià)值,那么一場(chǎng)大屠殺就要開(kāi)始了,那可能比納粹更離譜。
AI不會(huì )自我修正,但人類(lèi)可以,反省精神可能是人類(lèi)優(yōu)于A(yíng)I的一個(gè)方面。
已故科學(xué)巨匠霍金一直對AI保持警惕的態(tài)度。
2016年10月19日,霍金劍橋大學(xué)發(fā)表演講。他在演講中批評了人工智能的無(wú)節制發(fā)展,他認為,人工智能技術(shù)的確有希望帶來(lái)巨大的福利,比如根除疾病和貧困,但是它同樣也可能帶來(lái)危險,比如強大的自主式武器,或者幫助少數人壓迫多數人。
2017年3月,霍金在接受《泰晤士報》采訪(fǎng)時(shí)再次發(fā)出警告,“人類(lèi)需要控制以人工智能為代表的新興科技,以防止它們在未來(lái)可能對人類(lèi)生存帶來(lái)的毀滅性威脅?!彼€說(shuō),“自從人類(lèi)文明開(kāi)始以來(lái),侵略便一直存在,往往出現在相對具有生存能力優(yōu)勢的不同群體之間,而未來(lái)人工智能進(jìn)一步發(fā)展便可能具備這種‘優(yōu)勢’。他們本身也是生根于達爾文的進(jìn)化論之中。因此人類(lèi)需要利用邏輯和理性去控制未來(lái)可能發(fā)生的威脅?!?/p>
在歐美國家,對于人工智能的立場(chǎng)分為截然不同的很多派別。不過(guò)即便是最樂(lè )觀(guān)的派系,也遠不及我們身邊的大多數人對于A(yíng)I技術(shù)的樂(lè )觀(guān)。
目前我所能查到的國內有關(guān)民航無(wú)人駕駛系統應用的論文,對于A(yíng)I技術(shù)的態(tài)度都是持高度肯定和樂(lè )觀(guān)態(tài)度的,甚至很多文章通篇洋溢著(zhù)浪漫主義的情懷。至于媒體的報道則更是如此,比如前幾年關(guān)于波音、空客民航大客機做飛行表演時(shí)的報道,很多媒體對于A(yíng)I控制系統成為飛機的實(shí)際控制者的消息歡欣鼓舞。在大多數人看來(lái),AI技術(shù)只要做好防范黑客攻擊這一道關(guān),其他方面都不是問(wèn)題。
其他領(lǐng)域也是一樣,比如關(guān)于機器換人的新聞,基本上都持高度肯定及贊賞的態(tài)度,金融資本圈對于A(yíng)I技術(shù)、大數據技術(shù)的追捧同樣是大家有目共睹的。
但是,AI技術(shù)對于現實(shí)生活的反噬其實(shí)已經(jīng)開(kāi)始顯現。比如,AI技術(shù)的基礎建立于大數據之上,而大數據非法采集及信息泄露問(wèn)題,現在層出不窮。但遺憾的是,盡管這個(gè)問(wèn)題已經(jīng)泛濫了好幾年,現在卻依然沒(méi)有看到局面改變的跡象,甚至愈演愈烈。
算法的歧視問(wèn)題也越來(lái)越嚴重。比如去年IG奪冠,王思聰微博抽獎,113名獲獎?wù)咧兄挥?名男性,隨即有人發(fā)現,幾乎所有的微博抽獎都是女性獲獎,而有人更是深挖出背后的計算邏輯,即系統并不考慮性別,但如果用戶(hù)對化妝品之類(lèi)的商品敏感度高、購買(mǎi)力強,則不會(huì )被標注為“垃圾用戶(hù)”。今年更曝出猛料,如果某女性在某電商平臺上買(mǎi)了幾條低于128元的裙子,基本上她已經(jīng)失去了被人追求的價(jià)值。
更令人細思極恐的是,在隱私權被無(wú)視之后,大數據和AI技術(shù)實(shí)際上是可以獲得你的一切信息的,包括你的容貌、身份信息、指紋、密碼、生活習慣,你在網(wǎng)絡(luò )上留下的任何痕跡都會(huì )面臨潛在的非法使用風(fēng)險。那么如果有一天,AI創(chuàng )造了另外一個(gè)你,那么你該如何證明自己才是真實(shí)的本主呢?
結語(yǔ)
當下我們所處的時(shí)代還只是一個(gè)初級AI時(shí)代,不過(guò)阿爾法狗已經(jīng)向人類(lèi)證明了AI強大的自我學(xué)習能力,假以時(shí)日,強人工智能時(shí)代終將來(lái)臨。
考慮到硬件的快速發(fā)展和軟件的創(chuàng )新是同時(shí)發(fā)生的,強人工智能時(shí)代可能比我們預期的更早降臨,因為指數級增長(cháng)的開(kāi)端可能像蝸牛漫步,但是后期會(huì )跑的非???。
以當下我們身邊很多人對AI技術(shù)的樂(lè )觀(guān)態(tài)度,未來(lái)人類(lèi)會(huì )和與人類(lèi)智能相當的強人工智能電腦平等快樂(lè )地生活在一起?;蛘吒硐胍稽c(diǎn),一群智能遠超人類(lèi)的機器人甘愿為人類(lèi)的幸福默默地奉獻一切。我不知道這種設想是否正確,但我希望它是真的,畢竟誰(shuí)不希望未來(lái)會(huì )更加美好呢?
但這個(gè)星球上依然有很多人對于A(yíng)I心存警惕。比如當獅航空難和埃航空難發(fā)生之后,仍然有很多人認為,對于關(guān)乎人類(lèi)性命的事情,最后的裁決權依然應該交給人類(lèi),而不能交給冰冷的AI,即便它無(wú)比強大。
評論