紅帽宣布達成收購Neural Magic的最終協(xié)議

●   此次交易體現了紅帽致力于幫助客戶(hù)在混合云環(huán)境中實(shí)現靈活部署，支持從本地數據中心到公有云，再到邊緣計算的應用和工作負載交付，滿(mǎn)足包括人工智能（AI）在內的各類(lèi)需求

●   Neural Magic將為紅帽帶來(lái)在生成式AI性能工程方面的專(zhuān)業(yè)技術(shù)，以及先進(jìn)的模型優(yōu)化算法和高效的GPU與CPU推理服務(wù)

全球領(lǐng)先的開(kāi)源解決方案提供商紅帽公司近日宣布，已簽署最終協(xié)議收購Neural Magic，這是一家在加速生成式AI（gen AI）推理工作負載領(lǐng)域的軟件和算法領(lǐng)域的先驅公司。

Neural Magic在推理性能工程方面的專(zhuān)長(cháng)及其對開(kāi)源的承諾，與紅帽的高性能AI工作負載愿景高度契合。這些AI工作負載能夠精準匹配客戶(hù)特定的使用場(chǎng)景和數據，覆蓋混合云環(huán)境的各個(gè)層面，無(wú)論在本地部署、公有云還是邊緣計算中。

盡管生成式AI在當前技術(shù)領(lǐng)域中占據主導地位，但支撐這些系統的大型語(yǔ)言模型（LLM）仍在不斷擴展。因此，構建高效、可靠的LLM服務(wù)需要巨大的計算能力、能源資源和專(zhuān)業(yè)操作技能。這些挑戰使得定制化、部署就緒并注重安全的AI解決方案，對大多數企業(yè)來(lái)說(shuō)變得遙不可及。

紅帽計劃通過(guò)開(kāi)放創(chuàng )新的vLLM項目，簡(jiǎn)化生成式AI的訪(fǎng)問(wèn)，幫助更多企業(yè)應對這些挑戰。vLLM由加利福尼亞大學(xué)伯克利分校開(kāi)發(fā)，是一個(gè)社區驅動(dòng)的開(kāi)源項目，旨在提供開(kāi)放的模型服務(wù)（即生成式AI模型如何推理和解決問(wèn)題）。它支持所有主流模型、先進(jìn)的推理加速研究，并兼容多種硬件后端，包括AMD GPU、AWS Neuron、Google TPUs、Intel Gaudi、NVIDIA GPU和x86 CPU等。

Neural Magic在vLLM中的領(lǐng)導地位與紅帽強大的混合云AI技術(shù)平臺相結合，將為企業(yè)提供一個(gè)開(kāi)放且靈活的解決方案，助力構建滿(mǎn)足其獨特需求的AI戰略，無(wú)論數據存儲于何處。

紅帽 + Neural Magic：引領(lǐng)混合云就緒的生成式AI未來(lái)

Neural Magic于2018年從麻省理工學(xué)院（MIT）獨立出來(lái)，致力于為深度學(xué)習構建高效的推理軟件。憑借Neural Magic在技術(shù)和性能工程方面的深厚積淀，紅帽將加速其AI未來(lái)愿景的實(shí)現，依托紅帽的AI技術(shù)組合，突破大規模企業(yè)AI應用的瓶頸。紅帽通過(guò)開(kāi)源創(chuàng )新，推動(dòng)AI變革力的普及，具體體現在以下幾個(gè)方面：

●   開(kāi)源許可的模型，參數規模從1B到405B，支持在混合云環(huán)境中任何位置運行——包括企業(yè)數據中心、多云平臺和邊緣設備。

●   微調功能，使組織能夠輕松定制大型語(yǔ)言模型（LLM），將其調整為滿(mǎn)足私有數據和特定場(chǎng)景的需求，提升安全性。

●   推理性能工程專(zhuān)業(yè)技術(shù)，提升運營(yíng)效率和基礎設施效能，確保更高的性能。

●   強大的合作伙伴和開(kāi)源生態(tài)系統，通過(guò)提供從LLM和工具到認證服務(wù)器硬件及底層芯片架構的全面支持，擴大客戶(hù)選擇空間。

增強紅帽AI在vLLM領(lǐng)域的領(lǐng)導地位

Neural Magic憑借其在vLLM領(lǐng)域的深厚技術(shù)積累，構建了企業(yè)級推理架構，使客戶(hù)能夠在混合云環(huán)境中優(yōu)化、部署并擴展LLM工作負載，全面掌控基礎設施選擇、安全策略和模型生命周期。同時(shí)，Neural Magic還深入開(kāi)展模型優(yōu)化研究，推出LLM Compressor（一個(gè)通過(guò)最先進(jìn)的稀疏化和量化算法優(yōu)化LLM的統一庫），并維護一個(gè)預優(yōu)化模型庫，客戶(hù)可直接通過(guò)vLLM進(jìn)行部署。

紅帽AI通過(guò)強大的技術(shù)幫助客戶(hù)降低AI應用的成本和技能門(mén)檻，具體包括：

●   紅帽企業(yè)Linux AI（RHEL AI）：基礎模型平臺，旨在更無(wú)縫地開(kāi)發(fā)、測試和運行IBM Granite系列的開(kāi)源LLM，支持Linux服務(wù)器上的企業(yè)應用。

●   紅帽OpenShift AI：一個(gè)全面的AI平臺，提供工具來(lái)快速開(kāi)發(fā)、訓練、服務(wù)和監控機器學(xué)習模型，支持在分布式Kubernetes環(huán)境中的部署，無(wú)論是在本地、公有云，還是邊緣設備。

●   InstructLab：由紅帽和IBM共同創(chuàng )建的開(kāi)源AI社區項目，致力于通過(guò)InstructLab的微調技術(shù)改進(jìn)開(kāi)源許可的Granite LLM，幫助任何人共同塑造生成式AI的未來(lái)。

Neural Magic在vLLM技術(shù)上的領(lǐng)導地位將進(jìn)一步增強紅帽AI在混合云環(huán)境中支持LLM部署的能力，提供一個(gè)現成且高度優(yōu)化的開(kāi)源推理架構。

此次交易需經(jīng)過(guò)相關(guān)監管審查及其他常規完成條件。

支持證言

Matt Hicks，紅帽總裁兼CEO

“AI工作負載需要在客戶(hù)數據所在的任何地方運行，這要求平臺和工具具有靈活性、標準化和開(kāi)放性，幫助企業(yè)根據其獨特的運營(yíng)和數據需求選擇最合適的環(huán)境、資源和架構。我們很高興通過(guò)Neural Magic的創(chuàng )新成果，進(jìn)一步完善我們的混合云AI產(chǎn)品組合，推動(dòng)紅帽不僅成為開(kāi)源領(lǐng)域的領(lǐng)導者，也成為AI領(lǐng)域的引領(lǐng)者?！?/p>

Brian Stevens，Neural Magic CEO

“事實(shí)一再證明，開(kāi)源可以通過(guò)社區協(xié)作的力量推動(dòng)創(chuàng )新。在Neural Magic，我們匯聚了業(yè)內頂尖的AI性能工程專(zhuān)家，專(zhuān)注于構建開(kāi)放、跨平臺的高效LLM服務(wù)。加入紅帽不僅是文化上的契合，也將幫助各類(lèi)企業(yè)，無(wú)論大小，滿(mǎn)足其AI轉型的需求?！?/p>

Dario Gil，IBM高級副總裁兼研究總監

“隨著(zhù)客戶(hù)在混合環(huán)境中擴展AI應用，基于開(kāi)放基礎的虛擬化、云原生LLM將成為行業(yè)標準。紅帽在開(kāi)源領(lǐng)域的領(lǐng)導地位，加上像IBM Granite和Neural Magic這樣的高效開(kāi)源模型，為企業(yè)提供了更多選擇，并賦予他們所需的控制和靈活性，助力AI在各個(gè)平臺的擴展?！?/p>