Gartner發(fā)布安全且大規模實(shí)現AI價(jià)值的四大新興挑戰

2024年第二季度Gartner對451名高級技術(shù)領(lǐng)導者進(jìn)行的一項調研顯示，57%的首席信息官（CIO）表示自身肩負著(zhù)企業(yè)人工智能（AI）戰略的領(lǐng)導責任。然而，四大新興挑戰令CIO很難實(shí)現AI的價(jià)值。

Gartner杰出研究副總裁Mary Mesaglio表示：“由于技術(shù)供應商之間的持續創(chuàng )新競爭，CIO常常覺(jué)得自己身處技術(shù)炒作之中；但在推動(dòng)AI成果方面的事實(shí)——價(jià)值難以實(shí)現，又讓他們感到身處低谷?！?/p>

Gartner杰出研究副總裁兼院士級分析師Hung LeHong表示：“CIO其實(shí)可以掌控AI成果的推進(jìn)節奏。如果企業(yè)的AI目標較為適中，并且所在行業(yè)尚未被AI顛覆，CIO可以采用相對穩健的節奏，即AI穩健型步伐（AI-steady pace）。如果企業(yè)的AI目標更為宏大，或所在行業(yè)正被AI重塑，CIO就需要采用更快速的節奏，即AI加速型步伐（AI-accelerated pace）。無(wú)論是以AI穩健型步伐還是以AI加速型步伐前進(jìn)，最終都必須推動(dòng)價(jià)值和成果的實(shí)現?！?/p>

在近期舉行的Gartner IT Symposium/Xpo開(kāi)幕主題演講中，面向現場(chǎng)8,000余名CIO和IT高管，Gartner分析師闡述了如何應對四大新興挑戰，以安全的方式大規模實(shí)現AI價(jià)值。

使用AI未必總能實(shí)現業(yè)務(wù)效益

使用生成式人工智能（GenAI）創(chuàng )造業(yè)務(wù)價(jià)值的前提是，必須在工作流中持續使用GenAI工具。2024年第二季度，Gartner對美國、英國、印度、澳大利亞和中國的5,000余名數字工作者進(jìn)行了調研。結果顯示，使用GenAI的員工平均每周可節省3.6小時(shí)，但并非所有使用GenAI的員工都能獲得同等程度的效益。

LeHong表示：“這是AI生產(chǎn)力面臨的真正挑戰。GenAI帶來(lái)的生產(chǎn)力提升并非均勻分布，而是因員工而異，這不僅是因為個(gè)人興趣和采用程度存在差異，還取決于工作的復雜程度和經(jīng)驗水平?！?/p>

采用AI加速型步伐的企業(yè)機構不僅尋求生產(chǎn)力方面的效益，還在尋求其他層面的改進(jìn)，包括運營(yíng)和流程層面的改進(jìn)（例如實(shí)現關(guān)鍵業(yè)務(wù)流程的自動(dòng)化或重塑與聊天機器人協(xié)作的職位）以及業(yè)務(wù)層面的變革性改進(jìn)（例如能夠創(chuàng )造新收入來(lái)源或重塑企業(yè)價(jià)值主張的成果）。

Mesaglio表示：“在這種情況下，CIO應像管理投資組合一樣管理AI收益，確定每個(gè)收益領(lǐng)域的投入大小，并平衡整個(gè)組合的風(fēng)險與回報?！?/p>

AI成本可能會(huì )迅速失控

Gartner于2024年6月和7月對300余名CIO進(jìn)行的調研結果顯示，超過(guò)90%的CIO表示成本管理限制了其利用AI創(chuàng )造價(jià)值的能力。實(shí)際上，Gartner認為成本是與安全或幻覺(jué)同等重要的AI風(fēng)險。

根據Gartner的估算，如果不了解GenAI成本如何擴展，CIO的成本計算可能會(huì )出現高達5到10倍的誤差。

LeHong表示：“CIO需要清楚AI的成本構成，不僅要了解成本的組成和定價(jià)模式選項，還要掌握如何降低成本并與供應商談判。CIO應創(chuàng )建概念驗證，除測試技術(shù)的可行性外，還要重點(diǎn)評估成本的擴展情況?！?/p>

無(wú)處不在的數據和AI帶來(lái)了新的挑戰和風(fēng)險

AI和數據在企業(yè)中廣泛應用，已不再是IT部門(mén)直接控制的集中資產(chǎn)。Gartner對300余名CIO進(jìn)行的調研發(fā)現，未來(lái)平均只有35%的AI能力由內部IT團隊構建。這意味著(zhù)企業(yè)需要采取新的方法來(lái)管理和保護數據訪(fǎng)問(wèn)、治理AI的輸入和輸出，并安全地實(shí)現AI價(jià)值。

在描述未來(lái)的AI技術(shù)堆棧時(shí)，LeHong表示：“這里將提及‘技術(shù)架構組合’的概念。組合的底層是所有來(lái)自IT的資產(chǎn)，通常是集中的資產(chǎn)；頂部是來(lái)自企業(yè)各處的資產(chǎn)，通常是分散的資產(chǎn)；中間則是保證所有資產(chǎn)安全的信任、風(fēng)險和安全管理（TRiSM）技術(shù)。這種組合框架有助于企業(yè)應對各種類(lèi)型的AI和數據?！?/p>

Mesaglio表示：“CIO應當設計一個(gè)技術(shù)架構組合，既能應對AI復雜性，又能對新的機遇保持開(kāi)放。采取AI穩健型步伐的企業(yè)機構（AI項目不超過(guò)十個(gè)）將通過(guò)人類(lèi)團隊和委員會(huì )管理其技術(shù)架構組合。采用AI加速型步伐的企業(yè)機構將通過(guò)引入TRiSM技術(shù)——一系列用于建立信任、監控風(fēng)險、管理安全的技術(shù)，以確保大規模AI應用的安全性?！?/p>

使用AI對員工績(jì)效和福祉來(lái)說(shuō)是一把雙刃劍

有些員工可能會(huì )很喜歡AI工具，有些則會(huì )感覺(jué)受到威脅或產(chǎn)生反感。對AI的強烈反應可能會(huì )引發(fā)意想不到的行為結果，進(jìn)而對員工的工作表現產(chǎn)生負面影響，例如對使用AI的同事產(chǎn)生嫉妒以及對AI工具的過(guò)度依賴(lài)等。

然而，很少有企業(yè)機構在積極管理這些行為結果。Gartner在2024年6月和7月進(jìn)行的這項調研顯示，只有20%的CIO表示自己致力于減少GenAI對員工福祉的潛在負面影響。

“大多數企業(yè)不太關(guān)心員工對于A(yíng)I的感受，但這一點(diǎn)其實(shí)很重要，因為AI可能會(huì )引發(fā)各種意想不到的行為結果?！盡esaglio表示，“關(guān)鍵在于，通過(guò)變革管理解決這個(gè)問(wèn)題時(shí)，企業(yè)必須明確行為結果的相應負責人，像管理技術(shù)和業(yè)務(wù)成果一樣嚴格管理行為結果?！?/p>