生成式人工智能對中國CIO和安全團隊的影響
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對面交流
海量資料庫查詢(xún)
ChatGPT的熱烈炒作、廣泛使用和快速蔓延提升了最終用戶(hù)對LLM和GenAI的認識，引發(fā)了一波商業(yè)實(shí)驗和AI初創(chuàng )企業(yè)的浪潮。2023年4月的Gartner網(wǎng)絡(luò )研討會(huì )發(fā)現，381名中國參會(huì )人員有70%已經(jīng)或計劃啟動(dòng)GenAI項?，其中6%已在生產(chǎn)環(huán)境部署了GenAI，26%在試點(diǎn)GenAI，38%處于規劃階段。
本文引用地址：http://dyxdggzs.com/article/202312/454130.htm
CIO及其安全團隊需要為GenAI的影響做好準備，在以下四個(gè)方面采取措施：
1. 為構建GenAI應用提供安全保護：AI應用攻擊面不斷擴大，產(chǎn)生了新的潛在風(fēng)險，需要對現有應用安全實(shí)踐進(jìn)行調整。
2. 管理和監控使用GenAI的方式：各企業(yè)機構正在探索如何使用嵌?現有應用的GenAI助手，這些應用都有獨特的安全要求，是傳統安全控制措施無(wú)法滿(mǎn)足的。
3. 利用生成式網(wǎng)絡(luò )安全AI進(jìn)行防御：有效抓住GenAI機遇，從而改善安全和風(fēng)險管理、 優(yōu)化資源、抵御新興攻擊技術(shù)，甚至降低成本。Gartner將生成式?絡(luò )安全AI定義為 GenAI技術(shù)在網(wǎng)絡(luò )安全中的應用。
4. 為受到GenAI攻擊做好準備：GenAI工具和技術(shù)不斷發(fā)展，各企業(yè)機構必須適應惡意行為者不斷發(fā)展的技術(shù)或新的攻擊向量。
圖1對此進(jìn)行了說(shuō)明
CIO及其安全團隊不應只是試圖跟上新技術(shù)發(fā)展的步伐，也需要規劃和建立一致而有效的AI安全治理計劃，以應對GenAI采用激增的局面和各類(lèi)新興場(chǎng)景。
AI安全治理項目應整體覆蓋組織架構、技術(shù)和政策。其早期任務(wù)之一就是制定所有構建或部署AI的團隊必須遵循的標準，包括安全AI開(kāi)發(fā)、AI數據安全和AI安全應急響應標準。中國CIO和安全團隊應與利益相關(guān)者和企業(yè)機構領(lǐng)導者合作，制定五個(gè)階段的AI安全治理計劃（見(jiàn)表1）。
表1: AI安全治理項目的五個(gè)階段及主要行動(dòng)
階段 | 主要行動(dòng) |
1.樹(shù)立意識 | 這一階段的關(guān)鍵是了解AI安全現狀。初步建立跨職能的指導委員會(huì )，可為確保所有利益相關(guān)者的參與打下基礎。 具體任務(wù)： § 清點(diǎn)AI應用和服務(wù) § 了解威脅態(tài)勢 § 設立指導委員會(huì )，該委員會(huì )可以獨立運行，也可以是現有的AI指導委員會(huì )或網(wǎng)絡(luò )安全指導委員會(huì )的一部分 |
2.發(fā)現與維護 | 發(fā)現過(guò)程在這一階段真正開(kāi)始。很多CIO發(fā)現，并沒(méi)有人在負責AI安全，也沒(méi)有人可以準確地清點(diǎn)企業(yè)的全部AI應用。 具體任務(wù)： § 根據業(yè)務(wù)影響識別用例并進(jìn)行分類(lèi) § 識別相應的攻擊面 § 進(jìn)行安全風(fēng)險評估 § 起草“負責、批準、咨詢(xún)、告知（RACI）”矩陣，用于責任分配 |
3.彌補差距 | 在這一階段，安全漏洞被明顯摸清，為制定補救規劃奠定了基礎。使用第三方Gen AI應用或與供應商合作時(shí)，會(huì )明確定義選擇標準和流程。 具體任務(wù)： § 制定用戶(hù)政策、培訓和指南 § 定義廠(chǎng)商選擇流程和標準 § 更新RACI矩陣 |
4.集成 | 在這一階段，初步的關(guān)鍵網(wǎng)絡(luò )安全修復工作已經(jīng)完成，重點(diǎn)轉向持續監控和長(cháng)期管理 具體任務(wù)： § 將AI保護集成到集中統一的安全控制措施中 § 定義指標 § 加強指導委員會(huì )的參與和監督 § 任命“安全大使”或“安全冠軍” |
5.優(yōu)化 | 重點(diǎn)是優(yōu)化網(wǎng)絡(luò )安全工作，以實(shí)現業(yè)務(wù)韌性、運營(yíng)差異化和增長(cháng)。 具體任務(wù)： § 培訓安全和業(yè)務(wù)人員 § 建立跨職能實(shí)踐社區（CoP）和開(kāi)展研討會(huì ) § 針對集中式安全工具，開(kāi)放共享訪(fǎng)問(wèn)并共同承擔責任 |
評論