紅帽通過(guò)RHEL AI推動(dòng)開(kāi)源生成式AI創(chuàng )新的普及

●   這是首個(gè)通過(guò)紅帽靈活而成熟的企業(yè)訂閱模式提供支持、保障，并且開(kāi)源授權的IBM Granite大型語(yǔ)言模型（LLM）

●   向全球領(lǐng)先的企業(yè)級Linux平臺引入開(kāi)源的InstructLab模型對齊工具，旨在簡(jiǎn)化生成式AI模型的實(shí)驗及調整對齊

●   在A(yíng)MD、Intel和NVIDIA平臺上提供受支持的、企業(yè)就緒的模型運行時(shí)環(huán)境，推動(dòng)基于開(kāi)源的AI創(chuàng )新

世界領(lǐng)先的開(kāi)源解決方案供應商紅帽公司日前宣布推出紅帽企業(yè)Linux AI（RHEL AI）。這是一個(gè)基礎模型平臺，能夠使用戶(hù)更加便捷地開(kāi)發(fā)、測試和部署生成式人工智能（GenAI）模型。RHEL AI整合了IBM研究院的開(kāi)源授權Granite大型語(yǔ)言模型（LLM）系列、基于大規模對話(huà)機器人對齊（LAB）方法的InstructLab模型對齊工具，以及通過(guò)InstructLab項目實(shí)施的社區驅動(dòng)模型開(kāi)發(fā)方法。該解決方案被封裝成一個(gè)優(yōu)化的、可啟動(dòng)的RHEL鏡像，用于在混合云環(huán)境中部署單個(gè)服務(wù)器，并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學(xué)習運營(yíng)（MLOps）平臺，能夠在分布式集群環(huán)境中大規模運行模型和InstructLab。

ChatGPT的推出極大地激發(fā)了社會(huì )對生成式AI的興趣，自那以來(lái)，相關(guān)創(chuàng )新的步伐不斷加速。企業(yè)已從對生成式AI服務(wù)的初步評估轉向開(kāi)發(fā)并啟用AI的應用程序。一個(gè)快速成長(cháng)的開(kāi)放模型生態(tài)系統進(jìn)一步促進(jìn)了AI的創(chuàng )新，并說(shuō)明了不會(huì )有一個(gè)獨占鰲頭的模型?？蛻?hù)將受益于多樣化的選擇，從而滿(mǎn)足其特定需求，這一過(guò)程還將通過(guò)開(kāi)放創(chuàng )新的方式得到加速推進(jìn)。

實(shí)施AI策略遠不止選擇一個(gè)模型那么簡(jiǎn)單。企業(yè)需要專(zhuān)業(yè)知識來(lái)為特定場(chǎng)景調整適當的模型，并且還必須處理AI實(shí)施過(guò)程中的顯著(zhù)成本難題。數據科學(xué)技能的稀缺性，加之以下幾個(gè)方面的財務(wù)需求，使得情況更為復雜：

●   購置AI基礎設施或使用AI服務(wù)

●   針對特定商業(yè)需求調整AI模型的復雜流程

●   將AI融入企業(yè)應用

●   管理應用程序及其模型的生命周期 

為了真正降低進(jìn)入AI創(chuàng )新的門(mén)檻，企業(yè)需要擴大參與AI項目的人員范圍，同時(shí)控制相關(guān)成本。通過(guò)使用InstructLab對齊工具、Granite模型和RHEL AI，紅帽致力于將自由獲取、重復利用、透明開(kāi)放以及鼓勵貢獻等開(kāi)源項目的優(yōu)勢應用于生成式AI。

通過(guò)InstructLab在開(kāi)放環(huán)境中構建AI

IBM研究院開(kāi)發(fā)了大規模對話(huà)機器人對齊（LAB）技術(shù)，這是一種利用分類(lèi)指導合成數據生成和創(chuàng )新的多階段調整框架的模型對齊方法。此方法通過(guò)減少對昂貴人工注釋和專(zhuān)有模型的依賴(lài)，使AI模型的開(kāi)發(fā)變得更加開(kāi)放和易于接觸。采用LAB方法，可以通過(guò)指定分類(lèi)下的技能和知識，大規模生成影響模型的合成數據，并利用這些數據訓練模型。

在意識到LAB方法能顯著(zhù)提升模型性能后，IBM和紅帽決定推出InstructLab，這是一個(gè)圍繞LAB方法和IBM開(kāi)源Granite模型構建的開(kāi)源社區。InstructLab項目的目標是使開(kāi)發(fā)者通過(guò)簡(jiǎn)化LLM的創(chuàng )建、構建和貢獻過(guò)程，像參與任何其他開(kāi)源項目一樣，將LLM開(kāi)發(fā)的權力交到開(kāi)發(fā)者手中。

在InstructLab的啟動(dòng)過(guò)程中，IBM還公開(kāi)發(fā)布了一系列精選的Granite英語(yǔ)和編程模型。這些模型在A(yíng)pache許可證下發(fā)布，確保了對訓練模型所用數據集的透明度。Granite 7B英語(yǔ)模型已整合到InstructLab社區，最終用戶(hù)可以像對其他任何開(kāi)源項目那樣，共同貢獻技能和知識，從而提升該模型。對于Granite編程模型，InstructLab將很快提供類(lèi)似的支持。

在可信賴(lài)的Linux基礎上進(jìn)行開(kāi)源AI創(chuàng )新

RHEL AI沿用這種開(kāi)放式AI創(chuàng )新方法，融合了企業(yè)級就緒的InstructLab項目和Granite語(yǔ)言與代碼模型，及全球領(lǐng)先的企業(yè)級Linux平臺，簡(jiǎn)化了混合基礎設施環(huán)境中的部署。這樣構建了一個(gè)基礎模型平臺，使開(kāi)源許可的生成式AI模型能夠被企業(yè)所使用。RHEL AI包括：

●   紅帽支持和保障的開(kāi)源許可Granite語(yǔ)言和代碼模型。

●   提供支持并具有生命周期管理的InstructLab分發(fā)版本，這是一種可擴展且成本效益高的解決方案，能夠增強大型語(yǔ)言模型（LLM）的功能，并使知識與技能的貢獻得到更廣泛的用戶(hù)接納。

●   通過(guò)RHEL鏡像方式提供的優(yōu)化可啟動(dòng)模型運行實(shí)例，包括Granite模型和InstructLab工具包，及優(yōu)化的Pytorch運行時(shí)庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

●   紅帽提供的完整企業(yè)支持和生命周期保證，從可信的企業(yè)產(chǎn)品分發(fā)開(kāi)始，提供24小時(shí)全天候生產(chǎn)支持和擴展的生命周期支持。

隨著(zhù)各組織在RHEL AI上試驗和調整新AI模型，他們可以通過(guò)紅帽OpenShift AI來(lái)擴展這些工作流，OpenShift AI將包含RHEL AI，并利用OpenShift的Kubernetes引擎在大規模訓練和部署AI模型，以及OpenShift AI的集成MLOps能力來(lái)管理模型的生命周期。IBM的watsonx.ai企業(yè)工作室建立在紅帽OpenShift AI上，RHEL AI一旦在OpenShift AI中可用，將帶來(lái)額外的企業(yè)AI開(kāi)發(fā)、數據管理、模型治理和性?xún)r(jià)比改進(jìn)的能力。

云是混合的，AI亦如此

過(guò)去三十多年，開(kāi)源技術(shù)不僅推動(dòng)了快速創(chuàng )新，還大幅降低了IT成本并降低了創(chuàng )新門(mén)檻。從21世紀初通過(guò)RHEL提供開(kāi)放式企業(yè)Linux平臺，到通過(guò)紅帽OpenShift推動(dòng)容器和Kubernetes成為開(kāi)放式混合云和云原生計算的基礎，紅帽幾乎一直引領(lǐng)著(zhù)這一潮流。

紅帽在開(kāi)放混合云中賦能人工智能/機器學(xué)習戰略，支持人工智能工作負載在數據所在的地方運行，無(wú)論是在數據中心、多個(gè)公有云或邊緣。除了支持工作負載外，紅帽的人工智能愿景還將模型訓練和調整引向同一方向，以更好地應對數據主權、合規和操作完整性等方面的限制。紅帽的平臺為這些工作負載提供跨環(huán)境的一致性，無(wú)論它們在何處運行，這對于順利推進(jìn)人工智能創(chuàng )新至關(guān)重要。

RHEL AI和InstructLab社區進(jìn)一步落實(shí)了這一愿景，消除了試驗和構建AI模型的多個(gè)障礙，提供了推動(dòng)下一代智能工作負載所需的工具、數據和概念。

上市時(shí)間

紅帽企業(yè)Linux AI目前已作為開(kāi)發(fā)者預覽版提供。在IBM云上已建立的GPU基礎設施用于訓練Granite模型并支持InstructLab，現IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業(yè)能夠更輕松地將生成式AI部署至其關(guān)鍵任務(wù)應用程序中。

支持證言

Ashesh Badani，紅帽高級副總裁兼首席產(chǎn)品官

“對企業(yè)來(lái)說(shuō)，生成式AI（GenAI）代表了一次革命性的飛躍，但這需要企業(yè)真正部署起來(lái)，并針對其具體業(yè)務(wù)需求使用AI模型。通過(guò)結合紅帽OpenShift AI的廣泛應用，RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰，從數據科學(xué)技能的限制到巨大的資源需求，同時(shí)促進(jìn)企業(yè)的部署并推動(dòng)上游社區的創(chuàng )新?！?/p>

Ramine Roane，AMD公司AI部門(mén)副總裁

“AI是過(guò)去五十年中技術(shù)最重要的變革之一。為了促進(jìn)AI更廣泛的采用，構建AI應用的模型和工具需要對企業(yè)可達。RHEL AI基于可信賴(lài)的Linux基礎，配備開(kāi)源工具和模型，是支持此類(lèi)需求的平臺之一，我們很高興支持紅帽利用我們的AMD技術(shù)推動(dòng)企業(yè)AI的進(jìn)步?！?/p>

Jeremy Foster，思科網(wǎng)絡(luò )-計算部門(mén)高級副總裁兼總經(jīng)理

“AI運動(dòng)是企業(yè)的一次巨大變革，許多組織正在探索最佳前進(jìn)路徑。思科持續與紅帽緊密合作，推進(jìn)AI的采用，RHEL AI將通過(guò)提供開(kāi)源啟用的大型語(yǔ)言模型（LLM），作為企業(yè)就緒的Linux平臺的一部分來(lái)加速創(chuàng )新?！?/p>

Gil Shneorson，戴爾解決方案平臺高級副總裁

“戴爾一直在提供可靠和一致的基礎設施生命周期管理方面處于先驅地位；我們認為，隨著(zhù)系統的持續演化，為企業(yè)IT操作提供持續的、可靠和安全的系統更新至關(guān)重要。使組織能夠擴展代碼更新并減少部署時(shí)間的新技術(shù)，將是保持創(chuàng )新進(jìn)程的關(guān)鍵?！?/p>

Frances Guida，惠普企業(yè)計算解決方案和AI總監

“HPE與紅帽合作了二十年，提供結合了HPE計算平臺和RHEL的行業(yè)領(lǐng)先解決方案。在快速增長(cháng)的技術(shù)領(lǐng)域如生成式AI中，開(kāi)放環(huán)境對創(chuàng )新至關(guān)重要，我們期待與RHEL AI和紅帽探索新的合作領(lǐng)域，助力惠普客戶(hù)取得成功?！?/p>

Darío Gil，IBM高級副總裁兼研究總監

“真正的開(kāi)源創(chuàng )新引入AI模型開(kāi)發(fā)，并利用廣闊的社區力量，將改變企業(yè)對AI采用和擴展計劃的思考方式。IBM一直支持開(kāi)源社區，支持了Linux、Apache和Eclipse等有影響力的社區，我們與紅帽的合作是我們致力于構建安全、負責任且高效AI的開(kāi)放方式的一大步。RHEL AI和InstructLab，結合IBM的開(kāi)源Granite模型家族，將為那些尋求為其特定用途構建模型的客戶(hù)提供新的價(jià)值和選擇?！?/p>

Hillery Hunter，IBM基礎設施創(chuàng )新首席技術(shù)官兼總經(jīng)理

“許多企業(yè)都在努力將AI融入其關(guān)鍵任務(wù)應用程序。RHEL AI和OpenShift AI在IBM云上的可用性將徹底改變社區和公司構建及利用生成式AI的方式。我們正在促進(jìn)開(kāi)放合作，簡(jiǎn)化模型定制，并為將AI整合到每個(gè)應用程序中提供企業(yè)級支持的模型和工具?！?/p>

Justin Hotard，英特爾數據中心及AI集團執行副總裁兼總經(jīng)理

“AI的廣泛采用需要完全開(kāi)源，社區成員應該貢獻并創(chuàng )造新的應用和使用案例。通過(guò)整合開(kāi)源的Granite模型和InstructLab項目，RHEL AI正為我們與生產(chǎn)中的AI模型的互動(dòng)方式、調整和最終使用中帶來(lái)重大變革?！?/p>

Kirk Skaugen，聯(lián)想ISG總裁

“部署AI驅動(dòng)應用的客戶(hù)需要能在一個(gè)可信、熟悉但仍具創(chuàng )新性的平臺上測試和實(shí)驗潛在模型。聯(lián)想認為AI的未來(lái)是混合式的，我們視RHEL AI為廣泛混合AI創(chuàng )新的關(guān)鍵途徑，并通過(guò)紅帽OpenShift AI實(shí)現生產(chǎn)規?；?。我們很高興與紅帽合作，在我們的ThinkSystem 8-GPU服務(wù)器上進(jìn)行聯(lián)合測試，推動(dòng)混合AI創(chuàng )新?！?/p>

Justin Boitano，NVIDIA企業(yè)產(chǎn)品副總裁

“紅帽和NVIDIA長(cháng)期以來(lái)一直保持緊密合作，紅帽企業(yè)Linux AI展示了我們共同致力于為開(kāi)發(fā)者和研究者提供全面的計算和軟件解決方案，幫助他們構建下一波AI技術(shù)和應用?！?/p>