AI安全可信護航計劃啟動(dòng)！首批31家公司加入

在13日的北京人工智能產(chǎn)業(yè)創(chuàng )新發(fā)展大會(huì )上，國家工業(yè)信息安全發(fā)展研究中心聯(lián)合北京市門(mén)頭溝區政府、中關(guān)村發(fā)展集團、華為公司，共同發(fā)起“人工智能安全可信護航計劃”，旨在聯(lián)合有關(guān)單位共同探索人工智能安全可信管理解決方案。

中國聯(lián)通、奇安信、綠盟科技、山石網(wǎng)科、麒麟軟件、格靈深瞳、軟通動(dòng)力等31家首批伙伴加入，未來(lái)將參與理論研究、標準制定、評估評測等相關(guān)工作。

該計劃將面向不同行業(yè)和地區，設立“生態(tài)發(fā)展中心”，其中北京昇騰人工智能生態(tài)創(chuàng )新中心成為首個(gè)中心，重點(diǎn)面向北京市開(kāi)展人工智能安全可信管理實(shí)踐試點(diǎn)和推廣應用工作。

什么是“安全可信”？

根據公開(kāi)論文定義，安全可信指的是網(wǎng)絡(luò )設備所具備的安全性能。即在設備工作的同時(shí)，內含的安全部件進(jìn)行動(dòng)態(tài)并行實(shí)時(shí)全方位安全檢驗，確保計算過(guò)程及資源不被破壞和篡改，正確完成計算任務(wù)。

這是“雙面”人工智能的另一個(gè)切面——AI帶來(lái)技術(shù)便利性的同時(shí)，風(fēng)險也相伴而生。

以ChatGPT為例，這一聊天機器“黑馬”一路狂飆爆火之后，其安全可靠問(wèn)題備受關(guān)注，美國國會(huì )議員也正考慮是否應該對其加強監管，套上“韁繩”。

美國眾議院科學(xué)委員會(huì )民主黨籍眾議員Ted Lieu日前試著(zhù)用ChatGPT起草了一項決議，內容為國會(huì )應該關(guān)注人工智能，以確保人工智能的開(kāi)發(fā)和部署符合安全和道德等原則，在尊重所有美國人的權利和隱私的同時(shí)，其收益能夠廣泛分配。

同樣，積極為其“帶貨”的微軟和亞馬遜允許員工使用ChatGPT，但也禁止員工向ChatGPT分享敏感數據，以防后者的輸出包含或出現類(lèi)似公司機密信息——這是AI安全問(wèn)題的一類(lèi)，即獲取數據方面的問(wèn)題。

“數據投毒”則是這一方面問(wèn)題的另一個(gè)案例。AI算法對數據具有較強依賴(lài)性，而“投毒”指在人工AI智能訓練數據中加入偽裝數據、惡意樣本等，導致訓練的算法模型決策出現偏差。由微軟推出的另一聊天機器人Tay曾在這一問(wèn)題上“翻車(chē)”。彼時(shí)，Tay發(fā)出歧視性和攻擊性言論而被關(guān)閉，主要原因便是對話(huà)數據集中被惡意增加不當數據。

另一類(lèi)，則是惡意應用導致的問(wèn)題。近年來(lái)，通過(guò)深度合成和生成式AI技術(shù)制造虛假音視頻圖像進(jìn)行誣陷、誹謗、詐騙、勒索等違法行為已屢見(jiàn)不鮮。

▌AI安全可信成為全球共識 海內外政策多點(diǎn)開(kāi)花

隨著(zhù)AI技術(shù)迭代與應用規模擴大，發(fā)展安全可信的人工智能正在成為全球共識。

G20已提出“G20 人工智能原則”，強調要以人為本、發(fā)展可信人工智能；歐盟和美國也都將增強用戶(hù)信任、發(fā)展可信人工智能放在其人工智能倫理和治理的核心位置。

同時(shí)，我國網(wǎng)信辦等三部門(mén)已出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》，其中針對深度合成技術(shù)服務(wù)提出的要求和管理措施，諸如禁止性要求、標識要求、安全評估等，亦適用于A(yíng)IGC。

此前，國家工業(yè)信息安全發(fā)展研究中心已聯(lián)合華為等，發(fā)布《人工智能算力基礎設施安全發(fā)展白皮書(shū)》指出，人工智能算力基礎設施不同于傳統的算力基礎設施，既是“基礎設施”又是“人工智能算力”也是“公共設施”，具有基建屬性、技術(shù)屬性、公共屬性三重屬性。

至于如何推進(jìn)AI安全可信？

北京航空航天大學(xué)劉祥龍教授表示，從技術(shù)上來(lái)看應形成從安全性測試到安全性分析與安全性加固的完整技術(shù)手段，最終形成標準化的測試流程。未來(lái)的人工智能安全應該圍繞從數據、算法到系統各個(gè)層次上的全面評測，同時(shí)配合一套整體的從硬件到軟件的安全可信計算環(huán)境。

落實(shí)到具體標的上，除去本文開(kāi)頭提到的公司之外，民生證券還建議關(guān)注底層數據及算法安全廠(chǎng)商，包括電科網(wǎng)安、吉大正元、中新賽克、浩瀚深度、美亞柏科等。