紅帽完成收購Neural Magic，加速混合云中生成式AI的優(yōu)化創(chuàng )新

全球領(lǐng)先的開(kāi)源解決方案提供商紅帽公司近日宣布已完成對Neural Magic的收購。Neural Magic是一家在加速生成式AI（gen AI）推理工作負載的軟件與算法領(lǐng)域的先鋒企業(yè)。

通過(guò)此次收購，紅帽引入了推理性能優(yōu)化和模型優(yōu)化領(lǐng)域的專(zhuān)業(yè)能力，進(jìn)一步推進(jìn)其愿景，即在混合云的任意位置，根據客戶(hù)獨特需求提供高性能的AI工作負載支持。支撐當前生成式AI應用的大型語(yǔ)言模型（LLM）雖然具有創(chuàng )新性，但往往成本高昂且資源消耗巨大，大多數組織難以有效利用。為應對這些挑戰，紅帽認為，未來(lái)AI戰略的成功關(guān)鍵在于開(kāi)發(fā)更小、更優(yōu)化并采用開(kāi)源許可的模型，通過(guò)在計算架構和部署環(huán)境中的開(kāi)放創(chuàng )新來(lái)實(shí)現。

Neural Magic致力于將優(yōu)化且高效的AI模型變?yōu)楝F實(shí)，這進(jìn)一步增強了紅帽實(shí)現AI愿景的能力。Neural Magic也是vLLM的主要貢獻者之一，vLLM是由加州大學(xué)伯克利分校開(kāi)發(fā)的一個(gè)開(kāi)源項目，專(zhuān)注于開(kāi)放模型服務(wù)，這將為組織在構建和部署AI工作負載方面提供更多選擇和更高的可及性。

面向混合云的生成式AI未來(lái)

借助Neural Magic的技術(shù)與性能工程專(zhuān)業(yè)知識，紅帽致力于破解大規模企業(yè)AI面臨的挑戰，通過(guò)開(kāi)源創(chuàng )新進(jìn)一步推動(dòng)AI變革的普及。具體路徑包括：

●   開(kāi)源許可模型：提供從10億到數千億參數規模的模型，可靈活運行于混合云的任意環(huán)境中——包括企業(yè)數據中心、多云部署以及邊緣場(chǎng)景。

●   模型微調能力：幫助企業(yè)更高效地根據私有數據和特定用例定制大型語(yǔ)言模型（LLM），同時(shí)增強安全性。

●   推理性能優(yōu)化專(zhuān)業(yè)知識：顯著(zhù)提升運營(yíng)效率和基礎設施利用率。

●   合作伙伴與開(kāi)源生態(tài)系統支持：從LLM和相關(guān)工具，到認證服務(wù)器硬件及底層芯片架構，為客戶(hù)提供更豐富的選擇，滿(mǎn)足多樣化需求。

“選擇”這一理念對于今天的生成式AI至關(guān)重要，就如同幾年前的云原生和容器化應用一樣。成功的生成式AI戰略依賴(lài)于合適的環(huán)境（如云、服務(wù)器、邊緣等）、加速計算能力以及推理服務(wù)器。紅帽始終致力于在混合云環(huán)境中為客戶(hù)提供廣泛的選擇，尤其是在A(yíng)I領(lǐng)域。收購Neural Magic進(jìn)一步鞏固了我們對這一承諾的支持。

紅帽AI：構建AI的開(kāi)源基礎

Neural Magic的技術(shù)和專(zhuān)業(yè)能力將融入紅帽AI，打造一個(gè)專(zhuān)為生成式AI平臺設計的產(chǎn)品組合，秉承混合云架構，紅帽AI包括：

●   紅帽企業(yè)Linux AI（RHEL AI）：基礎模型平臺，在Linux服務(wù)器上無(wú)縫開(kāi)發(fā)、測試和運行IBM Granite開(kāi)源許可LLM家族，支持企業(yè)應用。

●   紅帽OpenShift AI：AI平臺，提供工具快速開(kāi)發(fā)、訓練、部署和監控機器學(xué)習模型，涵蓋本地、公共云及邊緣分布式Kubernetes環(huán)境。

●   InstructLab：由紅帽與IBM聯(lián)合創(chuàng )建的開(kāi)源AI社區項目，通過(guò)協(xié)作改進(jìn)開(kāi)源許可的Granite LLM，利用InstructLab的微調技術(shù)，讓任何人都能參與塑造生成式AI的未來(lái)。

vLLM、LLM Compressor、預優(yōu)化模型等將被整合到紅帽AI，讓Neural Magic成為紅帽AI平臺的關(guān)鍵組成部分。

支持證言

Matt Hicks，紅帽總裁兼CEO

“效率、優(yōu)化和選擇是傳統企業(yè)IT中的核心概念，我們認為生成式AI也應如此。通過(guò)將Neural Magic在生成式AI性能工程和優(yōu)化方面的專(zhuān)長(cháng)引入紅帽AI，從工作負載的運行環(huán)境到模型的調優(yōu)與訓練，我們進(jìn)一步履行了為客戶(hù)提供滿(mǎn)足其獨特需求的生成式AI承諾?！?/p>

Brian Stevens，Neural Magic首席執行官

“Neural Magic在開(kāi)源AI領(lǐng)域的研究和技術(shù)貢獻，顯著(zhù)降低了部署大規模先進(jìn)大型語(yǔ)言模型所需的基礎設施。紅帽與我們共同認為‘AI的未來(lái)在于開(kāi)源’，我們期待與紅帽合作，幫助企業(yè)更輕松地實(shí)現生成式AI的價(jià)值?！?/p>

Dave McCarthy，IDC云與邊緣服務(wù)全球基礎設施研究副總裁

“紅帽收購Neural Magic是對其AI能力的戰略增強，憑借Neural Magic在模型優(yōu)化和推理加速方面的專(zhuān)長(cháng)，促進(jìn)了AI在混合云中的部署。這不僅契合紅帽對開(kāi)源創(chuàng )新的承諾，也使公司能夠提供更具成本效益和可擴展性的AI解決方案，減少對專(zhuān)用硬件的依賴(lài)?！?/p>