EEPW首頁(yè) >>
主題列表 >>
dynamo
dynamo 文章 進(jìn)入dynamo技術(shù)社區
英偉達推出開(kāi)源推理軟件Dynamo 為AI工廠(chǎng)降本增效
- 3月19日消息，英偉達在2025GTC大會(huì )上推出了開(kāi)源推理軟件 NVIDIA Dynamo，旨在以高效率、低成本加速并擴展 AI 工廠(chǎng)中的 AI 推理模型。據介紹，NVIDIA Dynamo 是一款全新的 AI 推理服務(wù)軟件，旨在為部署推理 AI 模型的 AI 工廠(chǎng)最大化其 token 收益。它協(xié)調并加速數千個(gè) GPU 之間的推理通信，并使用分離服務(wù)將大語(yǔ)言模型 (LLM) 的處理階段和生成階段在不同 GPU 上分離開(kāi)來(lái)。這使得每個(gè)階段的特定需求可以進(jìn)行單獨優(yōu)化，并確保更大程度地利用 GPU 資源?！叭?/li>
- 關(guān)鍵字： 英偉達 開(kāi)源 推理軟件 Dynamo AI工廠(chǎng) NVIDIA Dynamo GTC
| 共1條 1/1 1 |
dynamo介紹
您好，目前還沒(méi)有人創(chuàng )建詞條dynamo!
歡迎您創(chuàng )建該詞條，闡述對dynamo的理解，并與今后在此搜索dynamo的朋友們分享。 創(chuàng )建詞條
歡迎您創(chuàng )建該詞條，闡述對dynamo的理解，并與今后在此搜索dynamo的朋友們分享。 創(chuàng )建詞條
關(guān)于我們 -
廣告服務(wù) -
企業(yè)會(huì )員服務(wù) -
網(wǎng)站地圖 -
聯(lián)系我們 -
征稿 -
友情鏈接 -
手機EEPW
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產(chǎn)品世界》雜志社 版權所有 北京東曉國際技術(shù)信息咨詢(xún)有限公司
京ICP備12027778號-2 北京市公安局備案：1101082052 京公網(wǎng)安備11010802012473
Copyright ?2000-2015 ELECTRONIC ENGINEERING & PRODUCT WORLD. All rights reserved.
《電子產(chǎn)品世界》雜志社 版權所有 北京東曉國際技術(shù)信息咨詢(xún)有限公司
京ICP備12027778號-2 北京市公安局備案：1101082052 京公網(wǎng)安備11010802012473