<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>

新聞中心

EEPW首頁(yè) > 智能計算 > 新品快遞 > 性能可提升30倍英偉達發(fā)布全新構架,一套或售20萬(wàn)美元

性能可提升30倍英偉達發(fā)布全新構架,一套或售20萬(wàn)美元

作者: 時(shí)間:2024-03-19 來(lái)源:網(wǎng)易科技 收藏

3月19日消息,當地時(shí)間周一,在美國加州圣何塞(San Jose)舉辦的全球開(kāi)發(fā)者大會(huì )上,隆重發(fā)布了最新一代人工智能專(zhuān)用GPU芯片以及運行人工智能模型的軟件,意圖進(jìn)一步鞏固其作為人工智能領(lǐng)域首選供應商的地位。

本文引用地址:http://dyxdggzs.com/article/202403/456497.htm

推出的新一代人工智能GPU架構命名為Blackwell,首款基于該架構的GB200芯片預計將在今年晚些時(shí)候推出。

在處理大型語(yǔ)言模型(LLM)推理工作負載時(shí),GB200性能可提升30倍,同時(shí)在成本和能效上也有顯著(zhù)提升。稱(chēng),與H100相比,“GB200能將成本和能耗降低至多達25倍”。

盡管當前市面上如Hopper架構的H100芯片等舊款產(chǎn)品依然供不應求,英偉達仍通過(guò)推出更高性能的新芯片來(lái)吸引客戶(hù),鼓勵他們持續下單。

自2022年底,隨著(zhù)OpenAI推出聊天機器人ChatGPT,掀起了一股人工智能熱潮,英偉達股價(jià)隨之飆升五倍,營(yíng)業(yè)收入也增長(cháng)了逾兩倍。英偉達的高性能GPU對于訓練和運行大型人工智能模型至關(guān)重要。像微軟、Meta這樣的科技巨頭,都斥資幾十億美元購買(mǎi)這種芯片。英偉達首席執行官在大會(huì )上表示:“Hopper架構固然出色,但我們追求的是更加強大的GPU?!?/p>

英偉達股價(jià)在周一盤(pán)后交易中微跌超過(guò)1%。

為了讓客戶(hù)在面對日益增多的競爭產(chǎn)品時(shí)更傾向于選擇英偉達芯片,公司還推出了一款名為NIM的付費軟件,使得部署人工智能變得更加簡(jiǎn)單。

英偉達高管表示,公司正從單一芯片供應商轉型為類(lèi)似于微軟或蘋(píng)果那樣的平臺提供者,其他公司可以在其平臺上開(kāi)發(fā)軟件。

坦言:“Blackwell不僅僅是一款芯片,它代表的是一個(gè)平臺?!?/p>

英偉達企業(yè)計算部門(mén)副總裁馬努維爾·達斯(Manuvir Das)在接受采訪(fǎng)時(shí)表示:“最暢銷(xiāo)的商業(yè)產(chǎn)品仍是GPU,軟件則是為了幫助用戶(hù)以不同的方式使用GPU?!彼a充道:“當然,我們依然在致力于產(chǎn)品的創(chuàng )新。但現在,我們真正實(shí)現了轉變,已經(jīng)發(fā)展出了自己的商業(yè)軟件業(yè)務(wù)?!?/p>

英偉達新軟件能讓在所有英偉達GPU上運行程序變得更加簡(jiǎn)便,即便是對于那些老款GPU,它們雖更適合于部署人工智能應用,而非開(kāi)發(fā),也能輕松應對。

達斯說(shuō):“如果您是開(kāi)發(fā)者,手中有一個(gè)備受期待的模型,希望能讓更多人采用,只需將其部署在NIM上。我們承諾將兼容所有英偉達GPU,確保模型能觸及廣泛用戶(hù)群?!?/p>

Hopper架構的繼任者Blackwell

每隔兩年,英偉達都會(huì )更新其GPU架構,從而實(shí)現性能的顯著(zhù)躍升。在過(guò)去一年中,眾多發(fā)布的人工智能模型均在2022年宣布的Hopper架構基礎上進(jìn)行訓練,此架構涵蓋了包括H100在內的多款芯片。

據英偉達介紹,基于Blackwell架構的GB200芯片將為人工智能領(lǐng)域公司帶來(lái)性能上巨大的飛躍,其人工智能計算能力可達每秒20千萬(wàn)億次,遠超過(guò)H100芯片的每秒4千萬(wàn)億次。


這一強大的計算能力將使企業(yè)得以訓練規模更大、復雜度更高的人工智能模型。

GB200芯片還特別集成了英偉達的高性能Transformer推理引擎,該技術(shù)專(zhuān)為運行基于Transformer架構的人工智能設計,正是構成流行聊天機器人ChatGPT核心技術(shù)的關(guān)鍵部分。

Blackwell架構的GPU芯片體積龐大,實(shí)際上是由兩塊獨立制造的芯片集成于一塊臺積電代工的芯片上。英偉達同時(shí)推出了配套的GB200 NVLink 2服務(wù)器,內置72塊Blackwell架構GPU,以及其他用于人工智能模型訓練的專(zhuān)業(yè)組件。

知名云服務(wù)提供商,包括亞馬遜、谷歌、微軟及甲骨文等,均將提供GB200芯片的云服務(wù)。每套GB200系統由兩塊基于Blackwell架構的B200 GPU和一塊基于A(yíng)RM架構的Grace CPU組成。英偉達透露,亞馬遜網(wǎng)絡(luò )服務(wù)(AWS)計劃建立一個(gè)包含2萬(wàn)套GB200系統的超級計算集群。

英偉達表示,亞馬遜的服務(wù)器集群能夠部署達到27萬(wàn)億個(gè)參數的人工智能模型,規模遠超目前已知最大的GPT-4模型,后者擁有1.7萬(wàn)億個(gè)參數。許多人工智能研究人員認為,擁有更多參數和數據的超大模型能夠展現出更為強大的能力。

雖然英偉達未公布GB200芯片及其系統的具體售價(jià),但根據分析師估計,參照Hopper架構H100芯片的售價(jià)范圍(每塊約2.5萬(wàn)至4萬(wàn)美元),一整套GB200系統的成本可能高達20萬(wàn)美元。

英偉達的推理微服務(wù)

英偉達還宣布,在其企業(yè)軟件訂閱服務(wù)中新增了一款名為NIM的產(chǎn)品,即英偉達推理微服務(wù)( Inference Microservices)的縮寫(xiě),旨在簡(jiǎn)化使用舊型號GPU進(jìn)行人工智能推理和軟件運行的過(guò)程,使企業(yè)能夠繼續利用現有的數億塊英偉達GPU資源。相較于訓練新的人工智能模型,推理計算所需的計算資源更少,因此,企業(yè)可以通過(guò)NIM更加便捷地運行自己的人工智能模型,而不必依賴(lài)于OpenAI等公司提供的計算服務(wù)。

作為其戰略的一部分,英偉達鼓勵購買(mǎi)其服務(wù)器的客戶(hù)訂閱英偉達企業(yè)服務(wù),并按每塊GPU每年4500美元的標準收取許可費。此外,英偉達將與微軟、Hugging Face等領(lǐng)先的人工智能企業(yè)合作,確保它們開(kāi)發(fā)的人工智能模型能夠在所有兼容的英偉達芯片上順暢運行。開(kāi)發(fā)者可通過(guò)NIM服務(wù),無(wú)需復雜配置,就能在自己的服務(wù)器或基于云的英偉達服務(wù)器上高效地運行模型。

“在原本調用OpenAI服務(wù)的代碼中,僅需替換一行代碼,即可將其連接至英偉達提供的NIM服務(wù),”達斯解釋說(shuō)。

英偉達表示, NIM軟件不僅能在云服務(wù)器上運行,還能使配備英偉達GPU的筆記本電腦上順暢運行人工智能應用,進(jìn)一步擴展了NIM服務(wù)的應用場(chǎng)景。



關(guān)鍵詞: 英偉達 NVIDIA 黃仁勛

評論


相關(guān)推薦

技術(shù)專(zhuān)區

關(guān)閉
国产精品自在自线亚洲|国产精品无圣光一区二区|国产日产欧洲无码视频|久久久一本精品99久久K精品66|欧美人与动牲交片免费播放
<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>