<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>

新聞中心

EEPW首頁(yè) > 智能計算 > 業(yè)界動(dòng)態(tài) > 外媒:DeepSeek省了訓練費,但推理模型應用成"燒錢(qián)黑洞"

外媒:DeepSeek省了訓練費,但推理模型應用成"燒錢(qián)黑洞"

作者: 時(shí)間:2025-02-24 來(lái)源:網(wǎng)易科技 收藏

2月24日消息,盡管投資者曾一度產(chǎn)生疑慮,但來(lái)自大型科技企業(yè)、各國政府以及風(fēng)投機構的巨額資金正以前所未有的速度流入領(lǐng)域。要理解這一現象背后的原因,關(guān)鍵在于洞察技術(shù)本身的演進(jìn)趨勢。

本文引用地址:http://dyxdggzs.com/article/202502/467212.htm

當前,技術(shù)正從傳統的大語(yǔ)言模型向推理模型和代理轉變。傳統的大語(yǔ)言模型,即多數免費人工智能聊天機器人所使用的模型,其訓練過(guò)程需要消耗龐大的電力和計算時(shí)間。然而,隨著(zhù)技術(shù)的進(jìn)步,我們正在迅速找到方法,在用戶(hù)調用這些模型時(shí)減少其運行所需的資源。與之不同,基于大型語(yǔ)言模型的推理模型,其實(shí)際運行過(guò)程消耗的計算和電力資源是傳統模型的數倍。

自Open于2024年9月發(fā)布其首款推理模型o1以來(lái),人工智能公司紛紛加速推出能與之抗衡的系統。這其中包括 R1,它震撼了整個(gè)人工智能行業(yè),并讓許多科技和能源企業(yè)的估值出現波動(dòng)。上周,埃隆·馬斯克(Elon Musk)旗下人工智能初創(chuàng )公司x也推出了其推理模型Grok 3。

的推出之所以引發(fā)了一定程度的恐慌,是因為它證明了人工智能模型可以以更低的成本進(jìn)行訓練,這可能會(huì )削減對數據中心和昂貴先進(jìn)芯片的需求。然而,實(shí)際上推動(dòng)了人工智能行業(yè)更堅定地邁向資源密集型的推理模型,這意味著(zhù)計算基礎設施的需求依然十分強勁。

鑒于推理模型具備更強大的能力,它們可能很快成為人們使用人工智能執行多種任務(wù)時(shí)的默認方式。OpenAI首席執行官山姆·奧特曼(Sam Altman)曾表示,該公司人工智能模型的下一次重大升級將包含高級推理能力。

那么,為何推理模型及其相關(guān)產(chǎn)品(如“深度研究”工具和AI代理)需要如此多的算力資源?答案在于它們的工作原理。

英偉達人工智能產(chǎn)品管理副總裁卡里·布里斯基(Kari Briski)在最近一篇博客中解釋稱(chēng),人工智能推理模型消耗的算力資源,通常是傳統大語(yǔ)言模型的100倍以上,這是因為推理模型在“思維鏈”中需要長(cháng)時(shí)間與自己對話(huà),而這些推理過(guò)程用戶(hù)往往看不見(jiàn)。模型消耗的算力資源與其生成的詞匯量成正比,因此,如果推理模型生成的詞匯量是常規模型的100倍,那么它也將消耗相應的電力和算力資源。

當推理模型接入互聯(lián)網(wǎng)時(shí),如谷歌、OpenAI和Perplexity的“深度研究”模型所做的那樣,資源消耗會(huì )更多。這些模型對算力資源的需求還只是開(kāi)始。對此,谷歌、微軟和Meta計劃在2025年總共投入至少2150億美元用于資本支出,其中大部分將用于建設人工智能數據中心。這標志著(zhù)他們的資本支出較去年增長(cháng)了45%。

今年1月,隨著(zhù)中國AI模型DeepSeek R1的發(fā)布,每token的算力成本(包括電力與硬件支出)似乎將迎來(lái)斷崖式下降。DeepSeek通過(guò)論文證明,其AI模型的訓練與部署效率遠超美國AI實(shí)驗室此前公開(kāi)的方法。

表面上看,這似乎預示著(zhù)人工智能未來(lái)對算力資源的需求將大幅降低,可能只有當前需求的十分之一,甚至更少。但隨著(zhù)推理模型的問(wèn)世,當它們回答查詢(xún)時(shí)對算力資源的需求可能會(huì )大幅增加。簡(jiǎn)而言之,若基于DeepSeek技術(shù)的新型高效模型將AI算力需求削減至十分之一,而推理模型的普及使其使用需求激增100倍,未來(lái)整體算力需求仍將凈增10倍。

而這只是起點(diǎn)。隨著(zhù)企業(yè)發(fā)現新型人工智能模型的能力更強,它們會(huì )越來(lái)越頻繁地調用這些模型,這使得對算力資源的需求從模型訓練轉向模型使用,即人工智能行業(yè)所稱(chēng)的“推理”。

為其他公司提供人工智能算力資源的Baseten公司首席執行官圖欣·斯里瓦斯塔瓦(Tuhin Srivastava)表示,這種向推理需求的轉變已在進(jìn)行中。他的客戶(hù)包括在應用程序和服務(wù)中使用人工智能的科技公司,如允許內容創(chuàng )作者通過(guò)轉錄編輯音頻和視頻的Descript,以及處理醫療記錄的初創(chuàng )公司PicnicHealth。

斯里瓦斯塔瓦稱(chēng),隨著(zhù)客戶(hù)自身產(chǎn)品需求的快速增長(cháng),他們發(fā)現需要更多的人工智能處理能力。他補充道:“六個(gè)月前,我們幫助一位客戶(hù)將算力資源需求降低了60%,但僅僅三個(gè)月后,他們的算力消耗已反超原水平?!?/p>

OpenAI、谷歌和Meta等公司仍在競相訓練能力更強的人工智能模型。無(wú)論成本多高,它們的目標都是盡可能搶占尚處萌芽階段的人工智能市場(chǎng)。Fractional AI首席執行官克里斯·泰勒(Chris Taylor)表示:“我認為,尖端實(shí)驗室很可能需要持續投入巨額資金以推動(dòng)前沿技術(shù)的發(fā)展?!彼墓?,如同Baseten及蓬勃發(fā)展的人工智能生態(tài)系統中的許多其他企業(yè),依賴(lài)這些尖端模型為客戶(hù)提供服務(wù)。

風(fēng)險投資家、Theory Ventures創(chuàng )始人托馬斯·通古茲(Tomasz Tunguz)預測,未來(lái)幾年,新的創(chuàng )新和更多人工智能專(zhuān)用微芯片可能使得人工智能系統比今天更高效,或使終端系統效率提升千倍。投資者和大型科技公司押注的是,在未來(lái)十年內,由于推理模型的普及和快速采用,對人工智能模型的需求可能會(huì )急劇增長(cháng)。

通古茲表示:“你每一次鍵盤(pán)敲擊,或對著(zhù)麥克風(fēng)說(shuō)的每一個(gè)音節,每個(gè)操作節點(diǎn)都將由至少一個(gè)AI系統實(shí)時(shí)處理?!比绻媸沁@樣,他補充道,人工智能市場(chǎng)的規??赡芎芸鞎?huì )比現在擴大1000倍。



關(guān)鍵詞: DeepSeek 人工智能 AI

評論


相關(guān)推薦

技術(shù)專(zhuān)區

關(guān)閉
国产精品自在自线亚洲|国产精品无圣光一区二区|国产日产欧洲无码视频|久久久一本精品99久久K精品66|欧美人与动牲交片免费播放
<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>