三大頂級學(xué)府發(fā)布98頁(yè)人工智能報告：警告！AI面臨黑客攻擊風(fēng)險

　　一份新的報告警告說(shuō)，人工智能的快速發(fā)展正在增加危險，惡意用戶(hù)很快就會(huì )利用這項技術(shù)來(lái)安裝自動(dòng)黑客攻擊，導致無(wú)人駕駛汽車(chē)碰撞或將商用無(wú)人機變成有針對性的武器。

　　這項研究由來(lái)自劍橋、牛津和耶魯大學(xué)的25名技術(shù)和公共政策研究人員以及隱私和軍事專(zhuān)家于周三發(fā)布，他們對流氓國家、罪犯和孤狼襲擊者可能濫用人工智能的行為發(fā)出了警告。

　　研究人員說(shuō)，人工智能的惡意使用會(huì )對數字、物理和政治安全構成迫在眉睫的威脅，因為它允許大規模、精細目標、高效的攻擊。這項研究的關(guān)注重點(diǎn)是5年內的合理發(fā)展。

　　“我們都認為人工智能有很多積極的應用。”牛津大學(xué)人類(lèi)學(xué)院未來(lái)研究員邁爾斯·布倫達奇說(shuō)，“但在有關(guān)惡意使用的文獻卻是一片空白。”

　　AI，即人工智能，包括使用計算機執行通常需要人類(lèi)智能的任務(wù)，比如決策或識別文本、語(yǔ)音或視覺(jué)圖像。

　　人工智能被認為是開(kāi)啟各種技術(shù)可能性的強大力量，但它已成為尖銳辯論的焦點(diǎn)，即它所支持的大規模自動(dòng)化是否會(huì )導致廣泛的失業(yè)和其他社會(huì )混亂。

　　這篇98頁(yè)的文章警告說(shuō)，通過(guò)使用AI來(lái)完成可能需要人力和專(zhuān)業(yè)知識的任務(wù)，可能會(huì )降低攻擊的成本。 可能會(huì )出現新的攻擊，單靠人類(lèi)獨自開(kāi)發(fā)或利用AI系統本身的脆弱性是不切實(shí)際的。

　　報告審查了越來(lái)越多的關(guān)于人工智能安全風(fēng)險的學(xué)術(shù)研究，并呼吁各國政府和政策和技術(shù)專(zhuān)家合作并化解這些危險。

　　研究人員詳細描述了人工智能的力量，以生成合成圖像、文字和音頻，以模仿他人的在線(xiàn)行為，以改變公眾的觀(guān)點(diǎn)，并指出專(zhuān)制政權可能會(huì )使用這種技術(shù)。

　　該報告提出了一系列建議，包括將人工智能作為一種軍民兩用的軍事/商業(yè)技術(shù)。

　　它還提出了一些問(wèn)題，即學(xué)者和其他人是否應該控制他們發(fā)布或披露人工智能的新進(jìn)展，直到該領(lǐng)域的其他專(zhuān)家有機會(huì )研究并對他們可能構成的潛在危險做出反應。

　　“相比得到答案，最終會(huì )冒出更多問(wèn)題。”布倫達奇說(shuō)。

　　這篇論文是在2017年初的一個(gè)研討會(huì )上誕生的，它的一些預測在撰寫(xiě)的時(shí)候基本實(shí)現了。作者推測，人工智能可以用來(lái)制作高度真實(shí)的虛假音頻和視頻，用于宣傳目的。

　　去年晚些時(shí)候，所謂的“deepfake”色情視頻開(kāi)始在網(wǎng)上出現，明星們的面孔實(shí)際上融合到了不同的身體上。

　　“這發(fā)生在色情行業(yè)，而非宣傳，”OpenAI的政策主管杰克·克拉克(Jack Clark)說(shuō)，該集團由特斯拉首席執行官埃隆·馬斯克和硅谷投資家山姆·奧特曼(Sam Altman)創(chuàng )立，專(zhuān)注于造福人類(lèi)的友好人工智能。“但是，沒(méi)有任何關(guān)于deepfake的東西表明它不會(huì )用于宣傳。”