Gartner預測到2027年，跨境GenAI濫用引起的AI數據泄露比例將達到40%

Gartner預測，到2027年，跨境生成式人工智能（GenAI）引起的AI相關(guān)數據泄露比例將超過(guò)40%。

GenAI在終端用戶(hù)中的普及速度已超過(guò)了數據治理和安全措施的發(fā)展速度，而支持這些技術(shù)所需的集中算力引發(fā)了對數據本地化的擔憂(yōu)。

Gartner研究副總裁Joerg Fritsch表示：“由于監管不力，常常會(huì )發(fā)生意外的跨境數據傳輸，尤其是當GenAI被集成到現有產(chǎn)品但卻沒(méi)有明確的說(shuō)明或公告時(shí)。企業(yè)注意到員工使用GenAI工具創(chuàng )作內容的變化。雖然此類(lèi)工具可用于經(jīng)過(guò)批準的業(yè)務(wù)應用，但如果它們將敏感提示發(fā)送到托管在未知位置的AI工具和 API，就會(huì )產(chǎn)生安全風(fēng)險?！?/p>

全球AI標準缺失導致運營(yíng)效率低下

缺乏全球統一的AI和數據治理最佳實(shí)踐與標準，導致市場(chǎng)碎片化，企業(yè)不得不制定針對特定地區的戰略，這加劇了企業(yè)所面臨的挑戰，這可能會(huì )限制企業(yè)在全球擴展業(yè)務(wù)和從AI產(chǎn)品與服務(wù)中獲益的能力。

Fritsch表示：“本地化AI政策增加了管理數據流和保持質(zhì)量的復雜性，而這會(huì )降低企業(yè)的運營(yíng)效率。為了保護敏感數據和確保合規性，企業(yè)必須投資于先進(jìn)的AI治理和安全性。這一需求可能會(huì )推動(dòng)AI安全、治理與合規服務(wù)市場(chǎng)的增長(cháng)并促進(jìn)提高AI流程透明度和可控性的技術(shù)解決方案的發(fā)展?！?/p>

企業(yè)必須在A(yíng)I治理成為全球性規定之前采取行動(dòng)

Gartner預測，到2027年，全球所有主權AI法律法規都將要求企業(yè)落實(shí)AI治理。

Fritsch表示：“如果企業(yè)無(wú)法整合所需要的治理模型和控制措施，就會(huì )處于競爭劣勢，尤其是缺乏資源快速擴展現有數據治理框架的企業(yè)?！?/p>

為了降低AI數據泄露風(fēng)險，尤其是跨境GenAI的濫用風(fēng)險并確保合規性，Gartner 建議企業(yè)采取以下戰略行動(dòng)：

●   加強數據治理： 企業(yè)必須擴展數據治理框架并加入關(guān)于使用AI處理數據的準則，確保遵守國際法規并對意外的跨境數據傳輸進(jìn)行監控。為此，企業(yè)需要將數據沿襲和數據傳輸影響評估納入常規隱私影響評估。

●   成立治理委員會(huì )：成立委員會(huì )加強AI監督，確保AI部署和數據處理的溝通透明。該委員會(huì )需要負責技術(shù)監督、風(fēng)險和合規管理以及溝通和決策報告。

●   加強數據安全性： 使用先進(jìn)技術(shù)、加密和匿名化保護敏感數據。例如，驗證特定地理區域的執行環(huán)境是否可信并在數據必須離開(kāi)這些區域時(shí)使用差分隱私等先進(jìn)的匿名化技術(shù)。

●   投資TRiSM產(chǎn)品：為專(zhuān)為AI打造的信任、風(fēng)險和安全管理（TRiSM）產(chǎn)品與功能規劃和分配預算，包括AI治理、數據安全治理、提示過(guò)濾和編輯以及非結構化數據合成生成。Gartner預測，到2026年，采用AI TRiSM控制措施的企業(yè)將減少至少50%的不準確或不合法信息，并因此減少錯誤決策。