波音空難背后：人類(lèi)應該在何種程度上信任AI？

　　隨便舉個(gè)例子。比如判定一個(gè)人是不是禿頂，這個(gè)標準其實(shí)就很模糊。假如他確實(shí)一根頭發(fā)都沒(méi)有，那么事情就清楚明白了，無(wú)論是AI還是普通人，都會(huì )認為他就是禿頂。但假如他只有一根頭發(fā)呢?在AI看來(lái)，哪怕它只有一根頭發(fā)，他也已經(jīng)不是禿頂了，但在普通人的習慣性認知里，他依然是個(gè)禿頂。那么，如果要給AI設計一個(gè)程序，到底這個(gè)量級應該設置在多少呢?一根頭發(fā)?兩根頭發(fā)?還是一萬(wàn)根頭發(fā)?這是一個(gè)界限很模糊的事情，在A(yíng)I的認知中極難判定，但在人類(lèi)的認知中這幾乎不是什么難題。

　　AI是有漏洞的，它處理問(wèn)題過(guò)于剛性，有時(shí)候會(huì )釀出慘禍。因此在西方科學(xué)界，很多大咖都提醒人類(lèi)，對待AI要慎重，這是一把雙刃劍，它的副作用必須引起警示。

　　自動(dòng)駕駛技術(shù)也是這樣。在飛機上，當然應該裝自動(dòng)駕駛系統，但是在最后決定權的歸屬上，一般默認人類(lèi)應該有超越AI的權限。

　　為什么在最終抉擇時(shí)，人類(lèi)選擇相信自己呢?這也是一個(gè)頗有爭議性的話(huà)題。

　　眾所周知的事實(shí)是，人類(lèi)存在一大堆弱點(diǎn)。人類(lèi)自身的計算能力遠沒(méi)有機器精準，軀體遠沒(méi)有機械強悍，在保持客觀(guān)理性的判斷力上，人類(lèi)也乏善可陳，很多時(shí)候人類(lèi)都是憑情感來(lái)做選擇的。

　　那么，人類(lèi)憑什么這么自信呢?

　　這也許只是源于人類(lèi)的盲目自信，甚至是自大，但可能更大的原因在于，人類(lèi)知道純粹的剛性思維往往會(huì )帶來(lái)極其嚴重的社會(huì )后果，比如算法歧視、規則排他性等等。一旦AI掌握游戲規則的最終裁定權，很可能會(huì )產(chǎn)生一個(gè)讓人類(lèi)絕望的AI暴政時(shí)代。設想一下，假如AI計算后認為，只有某類(lèi)人才有生存的價(jià)值，那么一場(chǎng)大屠殺就要開(kāi)始了，那可能比納粹更離譜。

　　AI不會(huì )自我修正，但人類(lèi)可以，反省精神可能是人類(lèi)優(yōu)于A(yíng)I的一個(gè)方面。

　　已故科學(xué)巨匠霍金一直對AI保持警惕的態(tài)度。

　　2016年10月19日，霍金劍橋大學(xué)發(fā)表演講。他在演講中批評了人工智能的無(wú)節制發(fā)展，他認為，人工智能技術(shù)的確有希望帶來(lái)巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來(lái)危險，比如強大的自主式武器，或者幫助少數人壓迫多數人。

　　2017年3月，霍金在接受《泰晤士報》采訪(fǎng)時(shí)再次發(fā)出警告，“人類(lèi)需要控制以人工智能為代表的新興科技，以防止它們在未來(lái)可能對人類(lèi)生存帶來(lái)的毀滅性威脅?！彼€說(shuō)，“自從人類(lèi)文明開(kāi)始以來(lái)，侵略便一直存在，往往出現在相對具有生存能力優(yōu)勢的不同群體之間，而未來(lái)人工智能進(jìn)一步發(fā)展便可能具備這種‘優(yōu)勢’。他們本身也是生根于達爾文的進(jìn)化論之中。因此人類(lèi)需要利用邏輯和理性去控制未來(lái)可能發(fā)生的威脅?！?/p>

　　在歐美國家，對于人工智能的立場(chǎng)分為截然不同的很多派別。不過(guò)即便是最樂(lè )觀(guān)的派系，也遠不及我們身邊的大多數人對于A(yíng)I技術(shù)的樂(lè )觀(guān)。

　　目前我所能查到的國內有關(guān)民航無(wú)人駕駛系統應用的論文，對于A(yíng)I技術(shù)的態(tài)度都是持高度肯定和樂(lè )觀(guān)態(tài)度的，甚至很多文章通篇洋溢著(zhù)浪漫主義的情懷。至于媒體的報道則更是如此，比如前幾年關(guān)于波音、空客民航大客機做飛行表演時(shí)的報道，很多媒體對于A(yíng)I控制系統成為飛機的實(shí)際控制者的消息歡欣鼓舞。在大多數人看來(lái)，AI技術(shù)只要做好防范黑客攻擊這一道關(guān)，其他方面都不是問(wèn)題。

　　其他領(lǐng)域也是一樣，比如關(guān)于機器換人的新聞，基本上都持高度肯定及贊賞的態(tài)度，金融資本圈對于A(yíng)I技術(shù)、大數據技術(shù)的追捧同樣是大家有目共睹的。

　　但是，AI技術(shù)對于現實(shí)生活的反噬其實(shí)已經(jīng)開(kāi)始顯現。比如，AI技術(shù)的基礎建立于大數據之上，而大數據非法采集及信息泄露問(wèn)題，現在層出不窮。但遺憾的是，盡管這個(gè)問(wèn)題已經(jīng)泛濫了好幾年，現在卻依然沒(méi)有看到局面改變的跡象，甚至愈演愈烈。

　　算法的歧視問(wèn)題也越來(lái)越嚴重。比如去年IG奪冠，王思聰微博抽獎，113名獲獎?wù)咧兄挥?名男性，隨即有人發(fā)現，幾乎所有的微博抽獎都是女性獲獎，而有人更是深挖出背后的計算邏輯，即系統并不考慮性別，但如果用戶(hù)對化妝品之類(lèi)的商品敏感度高、購買(mǎi)力強，則不會(huì )被標注為“垃圾用戶(hù)”。今年更曝出猛料，如果某女性在某電商平臺上買(mǎi)了幾條低于128元的裙子，基本上她已經(jīng)失去了被人追求的價(jià)值。

　　更令人細思極恐的是，在隱私權被無(wú)視之后，大數據和AI技術(shù)實(shí)際上是可以獲得你的一切信息的，包括你的容貌、身份信息、指紋、密碼、生活習慣，你在網(wǎng)絡(luò )上留下的任何痕跡都會(huì )面臨潛在的非法使用風(fēng)險。那么如果有一天，AI創(chuàng )造了另外一個(gè)你，那么你該如何證明自己才是真實(shí)的本主呢?

　　結語(yǔ)

　　當下我們所處的時(shí)代還只是一個(gè)初級AI時(shí)代，不過(guò)阿爾法狗已經(jīng)向人類(lèi)證明了AI強大的自我學(xué)習能力，假以時(shí)日，強人工智能時(shí)代終將來(lái)臨。

　　考慮到硬件的快速發(fā)展和軟件的創(chuàng )新是同時(shí)發(fā)生的，強人工智能時(shí)代可能比我們預期的更早降臨，因為指數級增長(cháng)的開(kāi)端可能像蝸牛漫步，但是后期會(huì )跑的非?？?。

　　以當下我們身邊很多人對AI技術(shù)的樂(lè )觀(guān)態(tài)度，未來(lái)人類(lèi)會(huì )和與人類(lèi)智能相當的強人工智能電腦平等快樂(lè )地生活在一起?；蛘吒硐胍稽c(diǎn)，一群智能遠超人類(lèi)的機器人甘愿為人類(lèi)的幸福默默地奉獻一切。我不知道這種設想是否正確，但我希望它是真的，畢竟誰(shuí)不希望未來(lái)會(huì )更加美好呢?

　　但這個(gè)星球上依然有很多人對于A(yíng)I心存警惕。比如當獅航空難和埃航空難發(fā)生之后，仍然有很多人認為，對于關(guān)乎人類(lèi)性命的事情，最后的裁決權依然應該交給人類(lèi)，而不能交給冰冷的AI，即便它無(wú)比強大。