紅帽與Run:ai為混合云優(yōu)化人工智能工作負載
全球領(lǐng)先的開(kāi)源解決方案提供商紅帽公司與人工智能(AI)優(yōu)化和編排領(lǐng)域的領(lǐng)導者Run:ai今日宣布展開(kāi)合作,將Run:ai的資源優(yōu)化功能集成到紅帽OpenShift AI中。此合作通過(guò)簡(jiǎn)化AI操作和優(yōu)化底層基礎設施,使企業(yè)能夠充分利用AI資源。在一個(gè)可靠的MLOps平臺上,企業(yè)可以高效地構建、調整、部署和監控AI應用和模型,從而最大化人力和硬件資源的效用。
本文引用地址:http://dyxdggzs.com/article/202405/458818.htmGPU是推動(dòng)AI工作流程的核心計算引擎,支持模型訓練、推理和實(shí)驗等。鑒于這些專(zhuān)用處理器的高昂成本,特別是在分布式訓練和推理場(chǎng)景中。紅帽與Run:ai正聯(lián)合提供解決方案,通過(guò)在紅帽OpenShift AI上部署經(jīng)認證的Run:ai OpenShift Operator,滿(mǎn)足GPU資源優(yōu)化的關(guān)鍵需求,幫助用戶(hù)在任何場(chǎng)景下擴展和優(yōu)化其AI工作負載。Run:ai的云原生計算編排平臺在紅帽OpenShift AI上提供的幫助包括:
● 利用專(zhuān)用工作負載調度程序,解決AI工作負載的GPU調度問(wèn)題,輕松確定關(guān)鍵任務(wù)工作負載的優(yōu)先級,并確保分配足夠資源支持這些工作負載。
● 通過(guò)部分GPU使用和監控功能,根據設定的優(yōu)先級和策略動(dòng)態(tài)分配資源,提升基礎設施效率。
● 改善對共享GPU基礎設施的控制和可見(jiàn)性,為IT、數據科學(xué)和應用開(kāi)發(fā)團隊提供更便捷的訪(fǎng)問(wèn)和資源分配方式。
Run:ai的認證OpenShift Operator現已可用。展望未來(lái),紅帽和Run:ai計劃繼續加強合作,在紅帽OpenShift AI上為Run:ai引入更多集成功能。此舉旨在提供更無(wú)縫的客戶(hù)體驗,并進(jìn)一步加速AI模型向生產(chǎn)工作流的轉移,實(shí)現更高的一致性。
支持證言
Steven Huels,紅帽副總裁兼AI事業(yè)部總經(jīng)理
“隨著(zhù)AI采用率的提高和對GPU需求的增加,企業(yè)需優(yōu)化其AI平臺,以充分利用運營(yíng)和基礎設施,無(wú)論這些資源位于混合云的哪個(gè)部分。通過(guò)與Run:ai的合作,讓企業(yè)能夠在不犧牲AI/ML平臺的可靠性或寶貴的GPU資源的情況下,在任何必需的地方最大限度地擴展AI工作負載?!?/p>
Omri Geller,Run:ai首席執行官兼創(chuàng )始人
“我們很高興能與紅帽OpenShift AI合作,增強AI運營(yíng)的能力和潛力。通過(guò)利用紅帽OpenShift的MLOps優(yōu)勢和Run:ai在A(yíng)I基礎設施管理方面的專(zhuān)業(yè)知識,我們正在為企業(yè)AI設立新標準,提供無(wú)縫的可擴展性和優(yōu)化的資源管理?!?/p>
評論