谷歌發(fā)布計劃保護您免受人工智能威脅

Credit: JHVEPhoto / iStock Editorial / Getty Images Plus

隨著(zhù)越來(lái)越多的組織開(kāi)始采用生成人工智能（AI），谷歌（Google）希望我們都更加關(guān)注安全問(wèn)題。為此，近日，這家科技巨頭發(fā)布了其安全人工智能框架（Secure AI Framework，SAIF），這是一種安全路線(xiàn)圖，盡管暫時(shí)只是一個(gè)粗略的路線(xiàn)圖。

以下是該框架的六個(gè)“核心要素（core elements）”的摘要：

▲ 要素1和2是關(guān)于首先擴大組織現有的安全框架，將人工智能威脅包括在內。

▲ 要素3是關(guān)于將人工智能集成到防御人工智能威脅中，這令人不安地讓人想起核軍備競賽，無(wú)論這是否有意。

▲ 要素4是關(guān)于人工智能相關(guān)“控制框架”中統一性的安全優(yōu)勢。

▲ 要素5和6是關(guān)于不斷檢查、評估和實(shí)戰測試人工智能應用程序，以確保它們能夠抵御攻擊，并且不會(huì )使您面臨不必要的風(fēng)險。

目前看來(lái)，谷歌主要只是希望組織將基本的網(wǎng)絡(luò )安全理念融入人工智能。正如谷歌云的信息安全主管Phil Venables告訴Axios的那樣，“即使人們在尋找更先進(jìn)的方法，人們也應該真正記住，你也必須掌握好基本知識?！?/p>

但隨著(zhù)像ChatGPT這樣的生成性人工智能應用程序的出現，現在已經(jīng)出現了一些新的、獨特的安全問(wèn)題。例如，安全研究人員已經(jīng)確定了一個(gè)潛在的風(fēng)險：“prompt injections”， 這是一種奇怪的人工智能利用形式，針對毫無(wú)戒心的人工智能聊天機器人插件的惡意命令在某個(gè)文本塊中。當人工智能掃描prompt injections時(shí)，它會(huì )改變給人工智能的命令的性質(zhì)。

prompt injections只是谷歌特別表示希望幫助遏制的新型威脅之一。其他還包括：

▲ “Stealing the model”， 這是一種誘使翻譯模型泄露秘密的可能方式。

▲ “Data poisoning”， 即一個(gè)不良行為者故意用錯誤的數據破壞訓練過(guò)程。

▲ “Constructing prompts”，可以提取最初用于訓練模型的潛在機密或敏感逐字文本。

谷歌關(guān)于SAIF的博客文章顯示，這個(gè)框架正在被谷歌采用。至于“框架”的發(fā)布對更廣泛的世界意味著(zhù)什么，它可能基本上一無(wú)所獲，但也可以作為一種標準。例如，美國政府的國家標準與技術(shù)研究所（NIST）在2014年發(fā)布了一個(gè)更通用的網(wǎng)絡(luò )安全框架。這旨在保護關(guān)鍵基礎設施免受網(wǎng)絡(luò )攻擊，但它也具有很高的影響力，并被大多數接受調查的IT專(zhuān)業(yè)人士公認為網(wǎng)絡(luò )安全的黃金標準。