代碼之外，我們能在多大程度上信任人工智能呢

　　關(guān)于人工智能(AI)這個(gè)相當過(guò)時(shí)的概念，最近引起了大量的討論。人工智能充斥著(zhù)我們的生活，涉及了無(wú)數的應用程序，從谷歌搜索，到Uber或Lyft打車(chē)軟件，到機票價(jià)格，到智能助手Alexa或Siri。對一些人來(lái)說(shuō)，人工智能是一種拯救，它會(huì )提高生活質(zhì)量，同時(shí)在眾多成熟的行業(yè)中注入創(chuàng )新元素。然而，另一些人則發(fā)出了可怕的警告：我們很快就會(huì )完全被高超的機器智能所征服。人工智能是典型的軟件主導，而軟件是容易出現漏洞的?？紤]到這一點(diǎn)，我們如何知道人工智能本身是足夠可靠去完成工作的?或者更確切地說(shuō)，我們對于人工智能的成果能夠信任到什么程度?

　　盲目信任的風(fēng)險

　　我們來(lái)討論一下自動(dòng)駕駛汽車(chē)。汽車(chē)自動(dòng)駕駛系統的發(fā)展中，人工智能的元素發(fā)揮了很大的作用?，F在制造出了大部分時(shí)間都遵守道路規則的車(chē)輛。這里有一個(gè)案例，一輛自動(dòng)駕駛汽車(chē)在佛羅里達州側面撞上一輛轉彎的卡車(chē)，導致“司機”死亡。這起事故最終被歸咎于“司機”的失誤，因為自動(dòng)控制裝置被認為是在他們的設計范圍內運行的。當時(shí)的躲避系統設計要求雷達和視覺(jué)系統的結果達成一致后做出閃避的動(dòng)作。

　　然而，有證據表明，白色卡車(chē)在明亮的陽(yáng)光下轉彎時(shí)造成眩光晃到了這輛車(chē)的視覺(jué)系統。于是這個(gè)系統既沒(méi)有察覺(jué)到，也沒(méi)有對即將到來(lái)的危險做出反應。并且，在這次事故中，還有其他證據表明，當時(shí)“司機”正在看《哈利波特》電影。這名“司機”顯然對自動(dòng)駕駛系統過(guò)于自信，并沒(méi)有對其行為進(jìn)行積極的監控，也沒(méi)能發(fā)現它的漏洞，盡管估計有7秒鐘的可以讓他預見(jiàn)到風(fēng)險的時(shí)間。

　　設計的保護等級已經(jīng)確定，但司機沒(méi)有意識到他的自動(dòng)駕駛儀仍然需要他全神貫注的注意力。在這種罕見(jiàn)的情況下，對于人工智能系統的錯誤信任引發(fā)了致命的結果。

　　建立信任的門(mén)檻

　　人工智能的發(fā)展確實(shí)令人印象深刻。美國國防部高級研究計劃局(DARPA)在2016年年底完成了“網(wǎng)絡(luò )大挑戰”(CGC)競賽。CGC上，機器可以獨立地玩一種被稱(chēng)為“奪旗必死”的實(shí)時(shí)黑客游戲。在這里，“旗幟”隱藏在代碼中，黑客的工作就是利用漏洞攻擊對手的“旗幟”。CGC為最成功的球隊提供了200萬(wàn)美元的獎金。CGC最后一輪在一個(gè)普通的封閉網(wǎng)絡(luò )上，在沒(méi)有人為干預的情況下，七臺機器相互競爭。這些機器必須識別對手系統中的漏洞，在自己的系統上進(jìn)行修復，并在對手的系統中利用這些漏洞來(lái)奪旗?？▋然仿〈髮W(xué)的Mayhem團隊獲得勝利。

　　美國國防部高級研究規劃局信息創(chuàng )新辦公室主任John Launchbury將與CGC有關(guān)的人工智能的特征描述為手工制造的知識。這項技術(shù)從早期的專(zhuān)業(yè)系統中脫穎而出，對于現代人工智能的發(fā)展至關(guān)重要。在手工制造的知識中，系統根據復雜的、手動(dòng)定義的規則集進(jìn)行推理。這種人工智能具有推理能力，但在感知方面是有限的，它沒(méi)有學(xué)習和進(jìn)行抽象的能力。

　　在對于未來(lái)的推理型人工智能可以快速診斷和修復軟件漏洞這方面建立信心的同時(shí)，需要指出CGC是有范圍限制的。出于競賽的目的，開(kāi)源操作系統的擴展被簡(jiǎn)化了，被植入的惡意軟件版本，相對于真實(shí)生活中的惡意軟件來(lái)說(shuō)，是大打折扣的。這就有意地減輕了開(kāi)發(fā)負擔，為競爭評估建立了統一的基礎，并降低了將競爭對手的軟件不經(jīng)重大修改就發(fā)布到更大的聯(lián)網(wǎng)世界的風(fēng)險。

　　在游戲中使用“卑鄙的手段”來(lái)?yè)魯κ?，是一個(gè)更黑暗的維度。盡管重新設計代碼以快速隔離和修復漏洞是好的，但將這些漏洞轉化為有效利用其他代碼的機會(huì )是另一回事。一些人擔心，如果這種能力得到釋放并失去控制，它可能會(huì )變成一種“超級代碼”——既規避了常見(jiàn)的漏洞，也能利用同樣的漏洞來(lái)控制他人的網(wǎng)絡(luò )，包括日益增長(cháng)和可能還很脆弱的物聯(lián)網(wǎng)。這種擔憂(yōu)促使電子前沿基金會(huì )呼吁人工智能開(kāi)發(fā)者“道德規范”，以限制推理系統在可信賴(lài)的狀態(tài)下執行。

機器學(xué)習增加了信任的賭注

　　Launchbury把統計學(xué)習這個(gè)詞歸于他認為的第二次浪潮。在這里，感知和學(xué)習能力很強，但這項技術(shù)缺乏執行推理和抽象的能力。雖然統計數據令人印象深刻，但機器學(xué)習會(huì )周期性地產(chǎn)生不可靠的結果，通常表現為奇怪的異常值。隨著(zhù)時(shí)間的推移，機器學(xué)習也會(huì )因受到污染的訓練數據而出現偏差?？紤]到并非所有的人工智能學(xué)習都能產(chǎn)生可預測的結果，這導致了人工智能系統可能會(huì )以意想不到的方式出錯。那么，有效地定義人工智能工具的信任等級就是個(gè)很大的障礙。

　　從本質(zhì)上講，人工智能是一種高階結構。在實(shí)踐中，大量松散聯(lián)合的實(shí)踐和算法似乎構成了大多數人工智能的組成部分——通?？缭皆S多局部領(lǐng)域。事實(shí)上，人工智能已經(jīng)遠遠超出了計算機科學(xué)的范疇，涵蓋了神經(jīng)科學(xué)、語(yǔ)言學(xué)、數學(xué)、統計學(xué)、物理學(xué)、心理學(xué)、生理學(xué)、網(wǎng)絡(luò )科學(xué)、倫理學(xué)等領(lǐng)域。

　　為了實(shí)現機器學(xué)習的某種狀態(tài)，有大量的潛在算法和方法存在，這就帶來(lái)了一些嚴重的信任問(wèn)題，特別是對于那些為了確保信任等級而參與軟件測試的人來(lái)說(shuō)。當人工智能與任務(wù)臨界狀態(tài)相關(guān)時(shí)，就像越來(lái)越多的情況一樣，測試人員必須為多個(gè)因素建立基礎，例如程序一致性、可重復性、穿透性、應用路徑跟蹤，或可識別的系統故障模式。

　　關(guān)于什么是最合適的人工智能算法這個(gè)關(guān)鍵問(wèn)題的歷史，可以追溯到1976年。人工智能從業(yè)者都面臨著(zhù)一個(gè)復雜的問(wèn)題，那就是如何使用合適的算法來(lái)適應所需的人工智能設計。給定一個(gè)預期結果，那么，哪種算法最準確?哪一種效率最高?在預期的環(huán)境中，哪一種最容易實(shí)現?哪一種隨時(shí)間擁有最大的潛力?哪些是最熟悉、最有可能讓用戶(hù)參與其中的?設計是基于某種集中式還是分布式代理、或者是集群軟件代理?這一切要怎么進(jìn)行測試呢?

　　這些問(wèn)題表明，在各種與人工智能相關(guān)的算法和技術(shù)之間存在必要的設計權衡。這么多人工智能可替代方法的存在表明，大多數人工智能架構都遠非那么一致或有凝聚力。更糟糕的是，對于推理和學(xué)習系統來(lái)說(shuō)哦，它們都需要高度的基于上下文的個(gè)性化。當然，這也是在說(shuō)人工智能測試，因為每一種算法和它的個(gè)性化實(shí)現都會(huì )帶來(lái)獨特的深度測試的挑戰，即使是在單元級別。

　　一個(gè)高級人工智能測試評估了正確識別和分類(lèi)圖像的能力。在某些情況下，這項測試已經(jīng)超越了人類(lèi)做出此類(lèi)評估的能力。例如，在人面數據庫(LFW)中的數據集用13000張圖片支持人臉識別技術(shù)的訓練，并使用用神經(jīng)網(wǎng)絡(luò )或深度學(xué)習來(lái)校準面部識別機器學(xué)習工具。新的自動(dòng)化人工智能圖像識別工具可以使用這個(gè)數據表在統計學(xué)上超越人類(lèi)的面部識別能力。然而，眼前的任務(wù)本質(zhì)上是感性的。這些任務(wù)通過(guò)數學(xué)上相關(guān)的幾何圖形來(lái)區分，但沒(méi)有任何形式的高階認知推理。此外，盡管它將選擇性識別的準確率與人類(lèi)能力進(jìn)行了比較，但在這個(gè)測試中，底層代碼基礎的其他關(guān)鍵任務(wù)方面仍未得到檢測。

　　代碼之外

　　機器學(xué)習的測試變得更加復雜，因為在學(xué)習環(huán)境中需要大量的數據集來(lái)“訓練”人工智能。不僅人工智能應該被證明是無(wú)懈可擊的，在訓練中使用的數據理論上也應該具有最高的質(zhì)量。然而，在現實(shí)世界中，數據集往往是不平衡的、稀少的、不連貫的，而且往往是不準確的。下面的圖片表明，信息經(jīng)常是由解決歧義得到的。即使在受控條件下，使用單個(gè)或多個(gè)經(jīng)過(guò)驗證的數據集來(lái)訓練和測試分類(lèi)器也會(huì )產(chǎn)生顯著(zhù)的差異。因此，即使是對分類(lèi)器的受控測試也會(huì )變得非常復雜，必須仔細研究。

　　其他與信任相關(guān)的因素遠遠超出了代碼的范圍。因為編程既是一種創(chuàng )造性行為，又是一種句法科學(xué)，因此它需要一定程度的翻譯解釋。程序員可以將有意的或無(wú)意的文化或個(gè)人偏見(jiàn)注入到產(chǎn)生的人工智能代碼中?？紤]一下程序員的情況，他們創(chuàng )造了一種非常精確的面部識別程序，但忽略了皮膚色素沉著(zhù)是識別標準中的一個(gè)決定性因素。這一動(dòng)作會(huì )使結果偏離原本由皮膚顏色強化的功能。相反，罪犯的再犯率扭曲了一些以美國為基地的監獄釋放決定。這意味著(zhù)，一些在押人員比其他人更有機會(huì )得到提前釋放的數據——而無(wú)視了普遍的情況。語(yǔ)義上的不一致性可能會(huì )進(jìn)一步危害人工智能代碼的中立性，尤其是在涉及自然語(yǔ)言處理或慣用語(yǔ)音識別的情況下。

　　一些人認為，所有的IT從業(yè)者都是網(wǎng)絡(luò )安全從業(yè)者。這也對人工智能的發(fā)展和實(shí)施產(chǎn)生了巨大的影響。從網(wǎng)絡(luò )安全的角度來(lái)看，“誰(shuí)知道機器知道什么、機器是什么時(shí)候知道的?”的問(wèn)題就變得尤為重要。機器學(xué)習的東西往往不是很容易被觀(guān)察到的，而是被深度編碼的。這不僅會(huì )影響新入網(wǎng)的數據，而且——在物聯(lián)網(wǎng)中——這些數據會(huì )讓執行器觸發(fā)激活器，從而將“學(xué)習”轉化為某種行為。由于缺乏具體的刺激身份和出身，整個(gè)人工智能引發(fā)的物聯(lián)網(wǎng)刺激反應機制也變得同樣不確定。在任務(wù)關(guān)鍵型系統中產(chǎn)生的行為需要嚴格的驗證。

　　第三次浪潮

　　Launchbury預言了一個(gè)尚未完善的人工智能第三次浪潮，他將其命名為“語(yǔ)境適應”。這項技術(shù)需要更多的工作，將感知、學(xué)習和推理的優(yōu)勢集中在一起，并支持跨領(lǐng)域抽象的更高水平。

　　2017年5月，年度本體峰會(huì )被命名為“人工智能、學(xué)習、推理和本體”。印證了Launchbury的觀(guān)察，峰會(huì )公報草案得出結論說(shuō)，到目前為止，大多數人工智能方法，包括機器學(xué)習工具和使用的計算技術(shù)都是在運用計算技術(shù)的亞符號水平上運行，是不接近人類(lèi)思維的。盡管在許多形式的人工智能中已經(jīng)取得了巨大的進(jìn)步，但在象征層面上對知識表現的全面處理還有待于成熟。相應地，本體作為正式的語(yǔ)義組織工具的實(shí)用性，對人工智能及其最終測試環(huán)境的優(yōu)勢有限。

　　語(yǔ)義網(wǎng)絡(luò )涉及到以節點(diǎn)和弧的圖形形式來(lái)表現知識。它提供了一種理解和視覺(jué)化符號之間關(guān)系的方式，通常用積極的詞語(yǔ)來(lái)表示。在不同的上下文語(yǔ)境中，這些詞表達不同的意思。人工智能在很大程度上是象征性的，它需要以一種更加正式的方式來(lái)處理應用語(yǔ)義，以實(shí)現第三浪潮的狀態(tài)。在這種情況下，人工智能就變成了非線(xiàn)性的，因果關(guān)系通過(guò)多個(gè)執行線(xiàn)程逐漸解耦。這就導致了復雜的自適應系統(CAS)的建立，這種系統往往會(huì )受到非線(xiàn)性網(wǎng)絡(luò )行為的影響。

　　在CAS中，隨著(zhù)時(shí)間的推移，新的行為會(huì )基于環(huán)境的情況出現。在這里，可以有多個(gè)自組織的路徑通向成功或失敗，所有這些路徑都是由高度多樣化的節點(diǎn)和弧線(xiàn)所觸發(fā)的，這些節點(diǎn)和弧線(xiàn)可以隨著(zhù)時(shí)間的推移而變化、增長(cháng)、收縮和消失。這種網(wǎng)絡(luò )在使用嵌入式軟件時(shí)，違背了傳統的遞歸單元測試，而這與數據是相關(guān)聯(lián)的。這是因為，在CAS中，整體往往不僅僅是各部分的總和。相反，從應用網(wǎng)絡(luò )科學(xué)出現的新方法，提供了一種更好的方法來(lái)評估隨時(shí)間推移而出現的動(dòng)態(tài)人工智能行為。與圖論相關(guān)的時(shí)間指標逐漸被更好地理解為一種描述動(dòng)態(tài)行為的方法，這些動(dòng)態(tài)行為是一些未能遵循線(xiàn)性路徑來(lái)達到預期效果的行為。

　　除非采用可靠的方法來(lái)評估人工智能的信任程度，不然喊口號就必須謹慎。對于尚不那么可靠的技術(shù)，如果盲目信任則有可能會(huì )造成誤導，有時(shí)甚至會(huì )導致危險的結果。