Gartner：中國大語(yǔ)言模型價(jià)格戰推動(dòng)人工智能加速上云

Gartner研究表明，隨著(zhù)時(shí)間的推移和價(jià)格的持續下降，以及云部署在敏捷性、創(chuàng )新速度和生態(tài)系統方面的優(yōu)勢，中國企業(yè)的人工智能（AI）部署將逐步從本地轉向云端。Gartner預測，到2027年，中國的全部AI推理工作負載中，基于云的工作負載占比將從前的20%上升至80%。

Gartner高級研究總監方琦表示：“多家中國生成式人工智能（GenAI）廠(chǎng)商，其大語(yǔ)言模型應用編程接口（API）的推理成本已經(jīng)降低了90%以上，有力地推動(dòng)了企業(yè)地GenAI采用。企業(yè)數據和分析（D&A）領(lǐng)導者應積極評估相關(guān)影響，并擴展GenAI解決方案，以滿(mǎn)足未來(lái)需要?！?/p>

DeepSeek于2024年5月6日推出了V2模型，價(jià)格僅為GPT-4 Turbo的1/75。幾天后，字節跳動(dòng)于5月16日推出豆包大模型，宣稱(chēng)比行業(yè)平均價(jià)格便宜99.3%。作為應對，阿里巴巴、百度和騰訊紛紛調整了其大語(yǔ)言模型API的價(jià)格。

圖1 中國主流廠(chǎng)商大語(yǔ)言模型與OpenAI的價(jià)格變化情況比較

API價(jià)格下降短期內對企業(yè)的影響有限

在計算企業(yè)GenAI解決方案的總擁有成本（TCO）時(shí)，需要將微調成本考慮在內。首先，可以使用高端GenAI模型來(lái)評估企業(yè)用例的技術(shù)可行性，然后使用企業(yè)自身的數據，對小型模型進(jìn)行微調，以執行特定的下游任務(wù)。此外，在使用API將數據上傳到云端時(shí)，還應考慮額外的數據安全和隱私要求。與規模較小的模型相比，最先進(jìn)的大語(yǔ)言模型的價(jià)格變化并不顯著(zhù)，這將進(jìn)一步減輕價(jià)格變動(dòng)的影響。

方琦表示：“已部署本地GenAI解決方案的中國企業(yè)，不會(huì )受到大語(yǔ)言模型 API價(jià)格變化的影響。對于云部署來(lái)說(shuō)，API成本只是GenAI解決方案整體成本的一部分。需要注意的是，價(jià)格只是評估因素之一，還需要對其他因素進(jìn)行仔細審查，如模型質(zhì)量、吞吐量和延時(shí)?！?/p>

API價(jià)格的持續下降，推動(dòng)了對AI部署策略的重新評估

企業(yè)應根據業(yè)務(wù)重點(diǎn)來(lái)選擇AI部署方式，尤其需要從六個(gè)角度比較云部署和本地部署方案的優(yōu)劣勢，這六個(gè)角度分別是：企業(yè)數據的主要存放位置、安全和監管合規、專(zhuān)門(mén)的基礎設施、平臺/集成的優(yōu)劣勢、運營(yíng)支出（OpEx）與資本性支出（CapEx）、人才和技能集合。

方琦表示：“隨著(zhù)大語(yǔ)言模型API的平均價(jià)格不斷下降，云部署解決方案在未來(lái)將擁有更明顯的優(yōu)勢。此外，隨著(zhù)技術(shù)的加速迭代和相關(guān)架構的日益復雜化，云部署解決方案的優(yōu)勢將在許多場(chǎng)景中更加突顯。因此，各企業(yè)機構需要重新評估其AI部署戰略。