擔心數據安全 美國太空部隊禁用生成式AI工具

10月12日消息，在最新泄露的備忘錄中，美國太空部隊已經(jīng)決定暫時(shí)禁止使用基于網(wǎng)絡(luò )的生成式人工智能工具和所謂的大語(yǔ)言模型，理由是數據安全和其他方面的擔憂(yōu)。

這份日期為9月29日的備忘錄是寫(xiě)給“守衛者”的，這是對美國太空部隊成員的內部稱(chēng)呼。在備忘錄中，美國太空部隊禁止其成員在基于網(wǎng)絡(luò )的生成式人工智能工具上使用任何政府數據，這些工具可以根據簡(jiǎn)單的提示創(chuàng )建文本、圖像或其他形式的內容。備忘錄中稱(chēng)，除非特別批準，否則上述工具“沒(méi)有被授權”在政府系統上使用。

像OpenAI的ChatGPT這樣的聊天機器人已經(jīng)十分受歡迎，它們利用經(jīng)過(guò)大量數據訓練的語(yǔ)言模型來(lái)預測和生成新的文本。這樣的大語(yǔ)言模型催生了大量人工智能工具，它們可以搜索大量文檔，提取關(guān)鍵細節，并以各種語(yǔ)言風(fēng)格的連貫方式呈現出來(lái)。

美國太空部隊首席技術(shù)和創(chuàng )新官麗莎·科斯塔（Lisa Costa）在備忘錄中表示，生成式人工智能“毫無(wú)疑問(wèn)將徹底改變我們的員工隊伍，提高‘守衛者’的業(yè)務(wù)能力?！钡扑顾蔡岬搅藢W(wǎng)絡(luò )安全、數據處理和采購要求的擔憂(yōu)，稱(chēng)人工智能和大語(yǔ)言模型的采用需要“負起責任”。

美國太空部隊沒(méi)有提供進(jìn)一步的解釋。專(zhuān)家們指出了一種風(fēng)險，即在某些情況下，提供給大模型的文檔和提示中大量潛在的非公開(kāi)數據可能最終被泄露到公共領(lǐng)域，或以其他方式被黑客入侵。備忘錄稱(chēng)，科斯塔計劃在30天內發(fā)布新的指引。

美國太空部隊的發(fā)言人表示，媒體看到的備忘錄是真實(shí)存在的，在決定如何整合支持任務(wù)和增強“守衛者”能力的同時(shí)，該機構已經(jīng)發(fā)布了禁令以保護人員和太空部隊的數據。

太空部隊的上述決定影響了至少500名使用Ask Sage生成式人工智能平臺的人，該公司創(chuàng )始人尼古拉斯·沙伊蘭(Nicolas Chaillan)說(shuō)。據沙伊蘭稱(chēng)，Ask Sage旨在提供一個(gè)安全的生成式人工智能平臺，該平臺可與多種大語(yǔ)言模型兼容，包括微軟和谷歌的模型。

沙伊蘭曾是美國空軍和太空部隊的首席軟件官，他批評了后者暫停使用生成式人工智能的決定，尤其是在國防部呼吁加速采用人工智能的情況下。今年8月，美國國防部成立了一個(gè)生成式人工智能工作組，專(zhuān)門(mén)研究大語(yǔ)言模型的用例，以及如何在整個(gè)國防部分析和整合這些用例?！斑@是一個(gè)非常短視的決定，”沙伊蘭說(shuō)。

美國中情局也已經(jīng)開(kāi)發(fā)了一種生成式人工智能工具，打算在情報界廣泛使用。沙伊蘭表示，他的平臺已經(jīng)滿(mǎn)足了保護數據的安全要求。

沙伊蘭補充說(shuō)，除了美國太空部隊的用戶(hù)外，國防部其他部門(mén)的1萬(wàn)多名用戶(hù)，包括空軍的6500名用戶(hù)，仍在使用其公司的軟件。他說(shuō)，國防部的一些用戶(hù)甚至自掏腰包支付每月30美元的費用，這有助于他們減輕撰寫(xiě)報告的負擔。