波音空難背后：人類(lèi)應該在何種程度上信任AI？

　　3月10日，埃塞俄比亞航空公司一架波音737MAX8客機在起飛6分鐘之后墜毀，機上搭乘的149名乘客和8名機組成員全部遇難，其中包括8名中國乘客。

　　這是近五個(gè)月來(lái)第二架波音737MAX8客機墜毀。

　　該機型的上一次空難發(fā)生在2018年10月29日，當時(shí)印尼獅航的一架載有189人的波音737MAX8客機在起飛13分鐘后墜海，機上人員全部遇難。

　　短期內連續兩場(chǎng)空難，346條鮮活的生命瞬間消逝，這樣的慘劇已經(jīng)引起了全球輿論震動(dòng)，而兩次空難背后的留下的思考已經(jīng)超越空難本身。對于金融投資領(lǐng)域來(lái)說(shuō)，人們關(guān)心的是今晚的波音公司股價(jià)波動(dòng)，但是我們更應該關(guān)心的是，人類(lèi)到底應該在何種程度上信任AI技術(shù)。

　　目前尚無(wú)證據表明這兩起空難之間存在聯(lián)系，但波音737MAX8是一款新機型，兩年前才完成首飛，埃航墜毀的這架飛機才僅僅使用了4個(gè)月，而去年獅航墜毀的那架飛機機齡才77天，二者都不存在機械老化問(wèn)題。這種情況意味著(zhù)，這款新機型有可能存在設計隱患。

　　航空制造業(yè)對于這類(lèi)隱患一直都是零容忍的。飛機屬于高端制造業(yè)，自有飛機以來(lái)，安全問(wèn)題就備受關(guān)注，人們可能無(wú)法記錄這世上的每一起車(chē)禍，但每一起空難的經(jīng)過(guò)都有案可查。假如波音737MAX8真的有設計隱患，那波音公司可就攤上大事兒了，隨之而來(lái)巨額索賠可能會(huì )讓它遭受致命打擊。CNN航空分析師、美國運輸部前監察長(cháng)瑪麗·夏沃昨日對埃航事件發(fā)表評論時(shí)說(shuō)：“新款飛機，一年內兩次墜毀，這種情況根本不應該發(fā)生?！?/p>

　　對于波音來(lái)說(shuō)，目前的形勢非常糟糕，因為兩起空難之間存在著(zhù)不少相似之處。

　　比如獅航空難是起飛后13分鐘就墜毀，埃航這次空難是起飛6分鐘后墜毀，都屬于起飛后不久即出現問(wèn)題。另外，獅航那次空難前幾秒鐘，飛機高度出現劇烈波動(dòng)，而埃航這次出事前，飛機的高度確實(shí)是下降了，然后在墜毀前恢復了高度。

　　埃航空難原因目前仍不明朗，但去年10月發(fā)生的獅航空難中，有一種比較主流的觀(guān)點(diǎn)認為，事故的根源在于波音737MAX8安裝的那套全新的安全系統。

　　獅航空難一周后，波音公司曾向全球737MAX用戶(hù)發(fā)出了通告，要求所有的737MAX機組注意，在事故調查過(guò)程中發(fā)現，飛機AOA迎角傳感器錯誤數據，會(huì )導致飛機的尾翼配平系統啟動(dòng)自動(dòng)保護功能，在未經(jīng)飛行員操縱的情況下，自動(dòng)讓機頭向下。

　　據稱(chēng)，這個(gè)隱藏很深的自動(dòng)保護功能可以在A(yíng)OA迎角傳感器數據錯誤導致的自動(dòng)駕駛斷開(kāi)后，在飛行員手動(dòng)飛行情況下，自動(dòng)觸發(fā)的飛機水平尾翼配平“子程序”。但這一點(diǎn)事先并沒(méi)有寫(xiě)進(jìn)飛行手冊里，飛行員并不知道有這個(gè)設計。如果知道這個(gè)設計，那么還是有方法可以控制飛機的。

　　這個(gè)子程序只有在飛機遇到某種特定故障時(shí)候，才會(huì )自動(dòng)觸發(fā)啟動(dòng)保護功能。它只干一件事：壓低機頭，讓飛機進(jìn)入俯沖狀態(tài)。

　　那么是不是這個(gè)子程序本身存在的致命問(wèn)題呢?這個(gè)事其實(shí)也不好說(shuō)。觸發(fā)該子程序的條件是，飛行控制系統通過(guò)機身傳感器獲知機頭上揚的角度不斷增大，將要進(jìn)入失速狀態(tài)，如果不立刻壓低機頭，飛機就會(huì )有墜毀的風(fēng)險。由此看來(lái)，該子程序設計的初衷是沒(méi)有問(wèn)題的。

　　但是，有不少專(zhuān)業(yè)人士認為，為了達到省油的目的，MAX加大了發(fā)動(dòng)機尺寸，無(wú)奈起落架太短，只好把發(fā)動(dòng)機在機翼上的位置上移，但會(huì )造成更大的抬頭力矩而容易失速。波音給MAX設計了一個(gè)自動(dòng)低頭的配平系統MCAS，但這個(gè)系統只要收到錯誤的信號，就會(huì )自動(dòng)讓飛機低頭。

　　這個(gè)失速保護的子程序非常強勢，它能在手動(dòng)模式下自動(dòng)開(kāi)啟失速保護，也就是說(shuō)，它可以在特殊情況下，對飛行員的操作行使“一票否決權”。這套AI系統超級自信，它有極高的權限，它可以否定飛行員的判斷，堅持按照自己的程序邏輯一條道走到黑，哪怕前方等待著(zhù)人們的是死亡，它也不會(huì )有絲毫猶豫。

　　根據這種程序邏輯，在某些特殊情況下，當飛行員還不知道發(fā)生了什么事情的時(shí)候，該子程序可能會(huì )自行啟動(dòng)“拯救”飛機的操作，直接控制水平尾翼，讓飛機低頭俯沖。而當機組人員發(fā)現時(shí)，通常會(huì )首先啟動(dòng)手動(dòng)模式。所謂手動(dòng)模式，一般來(lái)說(shuō)，就是飛行員取回飛行掌控權，自控系統必須聽(tīng)命于飛行員的指揮，但是該子程序可能在手動(dòng)模式下自動(dòng)開(kāi)啟失速保護，也就是說(shuō)，在飛行員認為完全掌控飛機的時(shí)候，它仍然在悄悄地爭奪控制權。這種人機大戰模式相當危險，在空難發(fā)生前的短時(shí)間內很可能就決定了上百人的生死。

　　波音考慮過(guò)“人機大戰”的可能性，所以控制系統內是有命令該子程序徹底停止運行的方法的，但是它隱藏得太深，加上這種情況本身就是極小概率事件，因此很多飛行員不熟悉關(guān)閉方法。

　　在去年的獅航事故中，波音公司辯稱(chēng)，飛行員本應確認該系統正在運行，并將其關(guān)閉。但是波音自己心里是清楚的，這個(gè)指責多少有點(diǎn)牽強，所以在獅航事故之后，波音立刻發(fā)布緊急通告，要求所有航空公司確保他們對飛行員進(jìn)行了關(guān)機程序的培訓。

　　埃航事故原因是否和獅航事故原因一致，目前尚未有結論，但埃航事故發(fā)生之后，中國民航總局已經(jīng)通知國內航空公司立刻停止波音737MAX客機的運行，改由其他機型執行航線(xiàn)運行任務(wù)。

　　近年來(lái)，汽車(chē)的無(wú)人駕駛技術(shù)進(jìn)入了大眾視野，很多人在暢想未來(lái)無(wú)人駕駛汽車(chē)普及之后的社會(huì )場(chǎng)景。在當前的設想場(chǎng)景里，安裝了無(wú)人駕駛系統的汽車(chē)首先應有一個(gè)全方位的雷達感應器，它可以感知車(chē)身一定距離之外的全景環(huán)境，并通過(guò)計算機技術(shù)實(shí)現精算，再作出即時(shí)反應，這就是無(wú)人駕駛。這種技術(shù)聽(tīng)起來(lái)似乎很玄妙，但實(shí)際上并不高深，它比飛機的自動(dòng)駕駛系統要簡(jiǎn)單得多。

　　那么，既然技術(shù)上沒(méi)有大的障礙，無(wú)人駕駛汽車(chē)是不是很快就會(huì )到來(lái)呢?考慮到很多社會(huì )配套體系尚未完備，無(wú)人駕駛汽車(chē)時(shí)代可能還要等上一些年頭。

　　飛機為什么要有自動(dòng)駕駛系統呢?

　　軍事無(wú)人機是為了最大限度降低降低己方飛行員戰損數量，而民用飛機的自動(dòng)駕駛系統主要是出于駕駛安全本身的考量。人類(lèi)會(huì )疲勞，而駕駛飛機需要飛行員精神高度集中，這種狀態(tài)會(huì )讓飛行員更加容易疲勞，但是自動(dòng)駕駛系統不存在這個(gè)問(wèn)題。

　　幾十年前人類(lèi)就發(fā)明了自動(dòng)駕駛儀，由機載計算機控制飛機自動(dòng)飛行。那個(gè)時(shí)代的自動(dòng)駕駛儀比較簡(jiǎn)單，由高度表、陀螺儀、加速度計、簡(jiǎn)單的電路和檢測飛機狀態(tài)信息的設備構成，由于儀表精度不高，最終校正飛行狀態(tài)的工作還是需要飛行員去完成，但自動(dòng)駕駛儀已經(jīng)在很大程度上減少了飛行員的工作量。

　　現代的自動(dòng)駕駛系統則已經(jīng)有了極大的變化，儀器越來(lái)越精密，精準度早已超越了人工所能達到的極限，飛機在自動(dòng)控制狀態(tài)下飛行時(shí)，任何一點(diǎn)點(diǎn)狀態(tài)的改變系統都可以察覺(jué)出來(lái)。飛機在飛行中利用計算機產(chǎn)生精確的信號與地勤保持聯(lián)系，飛機航線(xiàn)無(wú)需飛行員人工干預，校正工作則由衛星定位系統完成。

　　如此看來(lái)，似乎飛行員這個(gè)職業(yè)已經(jīng)可以退出歷史舞臺了，但是實(shí)際上并非如此。

　　由于歷史原因，大多數東方人對于科學(xué)的認知總是處于極端狀態(tài)，人們時(shí)而視科學(xué)如洪水猛獸，時(shí)而又視科學(xué)如無(wú)所不能的神跡。這兩種認知都有很大的問(wèn)題，相對而言，西方人對于科學(xué)技術(shù)的態(tài)度比東方人更加謹慎。

　　科技的進(jìn)步有時(shí)候是存在重大bug的，而這種bug有時(shí)候隱藏得很深。精準的檢測、精細的算法、完美的運算過(guò)程，這一切看起來(lái)都沒(méi)有問(wèn)題，但它們并不總是帶來(lái)正確的結果。AI技術(shù)的難點(diǎn)在于，它實(shí)在是過(guò)于精準了，以致于做出的判斷都是非常剛性的，它們習慣于對事物采取一刀切的處理方式，而遺憾的是，世間事有許多并無(wú)明晰的界定，甚至那些看似明晰的界定本身也是在不斷變化不斷修正中的。