紅帽OpenShift AI加速混合云中的生成性AI采用

為專(zhuān)業(yè)合作伙伴生態(tài)系統提供強大、可擴展的基礎，包括IBM下一代AI創(chuàng )新成果watsonx.ai

中國北京 – 紅帽峰會(huì ) – 2023年5月29日 – 世界領(lǐng)先的開(kāi)源解決方案供應商紅帽日前宣布為紅帽OpenShift AI再添多項新功能。紅帽OpenShift AI基于開(kāi)源技術(shù)，以紅帽OpenShift和紅帽OpenShift 數據科學(xué)為基礎進(jìn)行構建，并在此基礎上進(jìn)一步擴展后，能夠為IT領(lǐng)導者提供一致且可擴展的基礎，同時(shí)為數據科學(xué)家和開(kāi)發(fā)人員創(chuàng )建專(zhuān)業(yè)合作伙伴生態(tài)系統，幫助他們獲取AI領(lǐng)域的創(chuàng )新成果。為實(shí)現這一目的，紅帽OpenShift AI為IBM watsonx.AI的生成式AI服務(wù)提供支撐。作為IBM的人工智能平臺，watsonx.ai可以擴展企業(yè)各方面的智能應用和服務(wù)，推進(jìn)下一代基礎模型的采用。 

隨著(zhù)GPT-4和LLaMA等大型語(yǔ)言模型 (LLM) 成為主流，所有領(lǐng)域和行業(yè)的研究人員，及應用開(kāi)發(fā)人員都在探索如何從這些以及其他基礎模型中獲益?？蛻?hù)可以使用針對特定領(lǐng)域的數據對商業(yè)或開(kāi)源模型進(jìn)行微調，使其更準確地匹配特定的用例。AI模型的初始訓練會(huì )耗費大量基礎設施資源，需要使用專(zhuān)門(mén)的平臺和工具，然后才能考慮服務(wù)、調整和模型管理。如果沒(méi)有一個(gè)能夠滿(mǎn)足這些需求的平臺，企業(yè)在實(shí)際使用AI/ML方面往往會(huì )面臨諸多局限性。 

OpenShift AI通過(guò)采用一致的基礎設施進(jìn)行訓練、部署和推理而應對這些挑戰，以充分發(fā)揮AI的潛力。

面向開(kāi)放混合云的AI 

紅帽OpenShift AI為創(chuàng )建用于生產(chǎn)環(huán)境的AI/ML模型，以及運行最終應用提供了標準化基礎，有助于消除多項障礙。OpenShift AI為紅帽OpenShift提供了一致性、易用性和從云到邊緣的部署選項。平臺工程師可以根據數據科學(xué)家和開(kāi)發(fā)人員的需求創(chuàng )建可擴展的配置。OpenShift AI可用于微調現有的模型，從而節省初始模型訓練成本，加速實(shí)現價(jià)值的速度，并使AI可供專(zhuān)業(yè)數據科學(xué)家之外的其他人員使用。 

紅帽OpenShift AI提供了多種可選的技術(shù)合作伙伴產(chǎn)品，包括Anaconda、IBM Watson Studio、Intel OpenVINO和AI Analytics Toolkit、NVIDIA AI Enterprise以及Starburst。作為OpenShift生態(tài)系統的一部分，該解決方案還可接入另外30個(gè)AI/ML認證合作伙伴的產(chǎn)品。 

對于需要滿(mǎn)足特定監管和合規要求的客戶(hù)，包括物理隔離和無(wú)連接的環(huán)境，他們可以使用OpenShift AI準備數據，并在本地開(kāi)發(fā)、訓練和部署模型?？蛻?hù)還可以在公有云中開(kāi)發(fā)模型，并使用相同的一致工具和接口在本地或邊緣部署模型，從而提供獨特的混合MLOps環(huán)境，推動(dòng)IT運營(yíng)、數據科學(xué)和應用開(kāi)發(fā)人員之間的協(xié)作。 

OpenShift AI的基礎經(jīng)過(guò)驗證，使客戶(hù)能夠在本地或通過(guò)云服務(wù)使用OpenShift的原生GPU加速功能更可靠地擴展，從而對基礎模型進(jìn)行訓練。 

紅帽OpenShift AI最新增強的功能包括：

?  用于AI/ML實(shí)驗跟蹤和自動(dòng)化ML工作流的部署管道，可幫助數據科學(xué)家和智能應用開(kāi)發(fā)人員更快地迭代機器學(xué)習項目，并將自動(dòng)化結合到應用部署和更新中。

?  模型服務(wù)現在包括GPU對推理的支持，以及可以提高推理性能的定制模型服務(wù)運行時(shí)，并改進(jìn)了基礎模型的部署。

?  模型監控使企業(yè)能夠通過(guò)中央儀表板來(lái)管理性能和運營(yíng)指標。

OpenShift AI助力IBM watsonx和Ansible Lightspeed

紅帽OpenShift AI為IBM人工智能技術(shù)的最新成果提供了基礎，包括IBM Watson Code Assistant，可為您的IT組織和開(kāi)發(fā)團隊提供針對特定領(lǐng)域的人工智能。 

Ansible Lightspeed將IBM Watson Code Assistant的強大能力帶到Ansible中，使不同技能等級的用戶(hù)都能使用人工智能生成的建議編寫(xiě)Ansible操作手冊。Ansible Lightspeed有助于提高Ansible用戶(hù)的生產(chǎn)力，無(wú)論他們在自動(dòng)化方面的熟練程度如何，都能用英語(yǔ)命令創(chuàng )建Ansible操作手冊。 

各行各業(yè)的企業(yè)紛紛使用紅帽OpenShift AI推動(dòng)AI/ML創(chuàng )新，其中包括：

?  Atruvia，為全球金融機構提供IT服務(wù)（包括人工智能）的德國公司，部署了基于紅帽OpenShift AI的數據科學(xué)平臺。

?  Clalit Health Care Services，以色列最大的醫療服務(wù)機構，選擇使用紅帽OpenShift AI作為構建臨床研究人工智能模型的基礎。

?  Guidehouse，全球咨詢(xún)和管理服務(wù)提供商，選擇使用紅帽OpenShift AI作為綜合平臺的組成部分。

?  Tirando X Colombia，哥倫比亞一家以生殖健康為核心業(yè)務(wù)的非營(yíng)利組織，部署了紅帽OpenShift AI用于優(yōu)化其AI/ML工作。

?  Veripark，為金融服務(wù)組織提供解決方案的全球供應商，使用紅帽OpenShift 數據科學(xué)構建了可以同時(shí)在云端和本地平臺上運行的全球AI/ML解決方案。

支持證言 

Chris Wright，紅帽首席技術(shù)官兼全球工程高級副總裁 

“在充分利用人工智能獲得好處方面，基礎模型可以為企業(yè)提供實(shí)實(shí)在在的好處，但仍需要在訓練和微調方面進(jìn)一步投資，以滿(mǎn)足企業(yè)的獨特需求。紅帽的企業(yè)級AI愿景依托紅帽OpenShift AI的當前能力而制定，為基礎模型在生產(chǎn)中的訓練、維護、微調和實(shí)際使用奠定了靈活而且可擴展的基礎。最重要的是，OpenShift AI依然是OpenShift，這意味著(zhù)IT組織信任并理解它，并且可以擴展AI/ML的應用范圍，從而滿(mǎn)足當前和未來(lái)需求。”

Liora Shechter，Clalit首席信息官

“Clalit正在經(jīng)歷IT基礎架構的演變和革新，而OpenShift是我們想要依賴(lài)的關(guān)鍵新基礎架構之一。”

Sebastian Jaramillo，Tirando x Colombia社會(huì )創(chuàng )新經(jīng)理 

 “在紅帽團隊和紅帽OpenShift 數據科學(xué)的指導下，我們在應用中成功優(yōu)化了端到端ML/AI流程管理。這個(gè)平臺對于推進(jìn)我們的工作至關(guān)重要，并將對我們的業(yè)務(wù)增長(cháng)產(chǎn)生重大影響。我們?yōu)椴捎脤ι鐣?huì )產(chǎn)生積極影響的技術(shù)而深感自豪。”