人工智能大模型年代需要什么樣的操作系統？紅帽給出了當下更好的回答

AI大模型從ChatGPT3.5問(wèn)世以來(lái)取得了革命性突破。大語(yǔ)言模型通過(guò)深度學(xué)習算法和大量數據訓練，具備創(chuàng )造出高質(zhì)量的文本、圖片、視頻等新內容的能力，為腦力勞動(dòng)帶來(lái)了創(chuàng )新與效率的雙重提升。

而AI新時(shí)代的到來(lái)，也為操作系統帶來(lái)更多挑戰。目前市面上缺少AI原生的操作系統，操作系統對大模型的嵌入深度和廣度，還遠未達到AI大模型的應用水平。

紅帽最新的工作，則是對人工智能大模型的理解，以及對于使用者的支撐。

一、操作系統的演進(jìn)路線(xiàn)

大型機到個(gè)人電腦時(shí)代，Windows操作系統搭配Intel的X86架構處理器，憑借其相對友好的圖形用戶(hù)界面、強大的辦公套件、互聯(lián)網(wǎng)瀏覽等殺手級應用，極大地降低了電腦使用的門(mén)檻，標志著(zhù)個(gè)人電腦時(shí)代的正式到來(lái)。

個(gè)人電腦到智能手機時(shí)代，傳統的PC操作系統無(wú)法滿(mǎn)足新應用場(chǎng)景，蘋(píng)果iOS系統以其封閉而優(yōu)化的生態(tài)，以及谷歌Android系統以其開(kāi)源、可定制性強的優(yōu)勢，結合Arm架構低功耗、小體積的特點(diǎn)，共同引領(lǐng)了智能手機發(fā)展。

AI大模型時(shí)代，操作系統需更好支持大規模數據處理、模型訓練和高效推理，應具備高度集成的AI服務(wù)框架、高效的異構計算調度、動(dòng)態(tài)資源管理、優(yōu)秀的數據安全機制以及跨平臺的兼容性。

二、AI大模型年代的操作系統應該具備哪些特征？

●   高度集成的AI服務(wù)。操作系統應內嵌AI服務(wù)平臺，原生支持主流AI框架、集成API，使開(kāi)發(fā)者能夠通過(guò)簡(jiǎn)單的接口調用，快速實(shí)現自然語(yǔ)言處理、圖像識別、聲音分析等多種復雜功能。

●   異構計算支持與優(yōu)化。大模型對算力要求高、突發(fā)性強，操作系統需整合異構計算架構，通過(guò)智能調度算法動(dòng)態(tài)分配任務(wù)，確保在不同的硬件平臺上都能發(fā)揮最大效能。系統也應支持不同類(lèi)型的優(yōu)化算法，減少計算延遲，提升能效比。

●   跨平臺與多設備協(xié)同。操作系統應具備強大的跨平臺能力，實(shí)現邊緣計算到云計算資源的靈活調度，確保AI大模型應用能在電腦、手機、服務(wù)器等多種設備高效運行。

●   生態(tài)開(kāi)放與標準化。操作系統應建立開(kāi)放的標準和API，推動(dòng)第三方開(kāi)發(fā)者和云服務(wù)提供商廣泛參與，形成繁榮的生態(tài)系統，促進(jìn)技術(shù)創(chuàng )新。

●   增強的數據安全與隱私保護機制。大模型涉及大量敏感數據，如公司機密信息、個(gè)人隱私信息等，若本地算力不足還需接入云端處理。因此，操作系統需集成數據保護技術(shù)，確保數據傳輸存儲安全，并建立嚴格的數據訪(fǎng)問(wèn)控制體系。

紅帽的OpenShift平臺就滿(mǎn)足了以上大部分需求。

●   AI服務(wù)集成方面，OpenShift內置DevOps功能，使MLOps能夠加快交付AI驅動(dòng)型應用，并簡(jiǎn)化集成ML模型和持續重新部署以提高預測準確性的迭代流程。包括OpenShift Build、OpenShift Pipelines、OpenShift GitOps用于構建應用、迭代開(kāi)發(fā)及自動(dòng)化部署。

●   算力優(yōu)化方面，OpenShift通過(guò)紅帽認證GPU operator，集成了流行的硬件加速器，從而可以無(wú)縫地滿(mǎn)足高計算資源要求，幫助選擇最佳 ML 模型以提供最高預測準確性，并在模型在生產(chǎn)中遇到新數據時(shí)協(xié)助ML推理工作。

●   跨平臺方面，OpenShift包含多項關(guān)鍵功能，可以跨數據中心、公共云計算和邊緣計算以一致的方式實(shí)現機器學(xué)習運維（MLOps）。

●   生態(tài)方面，紅帽的開(kāi)放混合云平臺整合了容器、Kubernetes、DevOps等技術(shù)與實(shí)踐，由廣泛的合作伙伴提供支持，幫助開(kāi)發(fā)者為生產(chǎn)就緒型AI/ML 環(huán)境構建堅實(shí)的基礎，同時(shí)提供AI云服務(wù)和快速采用培訓。

三、本地化部署AI大模型可能是第一步

（1）為什么大模型需要本地化部署？

●   數據安全合規。金融、醫療、IT、工業(yè)等行業(yè)AI大模型應用中，私有化部署將確保數據存儲與處理均在企業(yè)防火墻之內，符合歐洲GDPR、美國加州CCPA等數據保護法規要求，防止數據外泄風(fēng)險。

●   行業(yè)專(zhuān)屬模型。私有化部署AI大模型，企業(yè)能根據自身業(yè)務(wù)流程和市場(chǎng)需求定制AI功能，加速產(chǎn)品和服務(wù)的創(chuàng )新。如模型微調、新算法快速測試部署、與現有IT系統深度集成，促進(jìn)AI技術(shù)與業(yè)務(wù)深度融合。

●   長(cháng)期成本效益。長(cháng)期來(lái)看，私有化部署可以降低云服務(wù)費用，特別是在數據處理量巨大或模型頻繁使用的情況下，成本效益更為明顯。

（2）大模型應該怎么私有化部署？

AI大模型本地化部署全套服務(wù)的成本較高。授權費用通常包含模型使用權、技術(shù)支持與維護等服務(wù)，加上必要的硬件投資，總體開(kāi)銷(xiāo)不容小覷。

圖片來(lái)源：智譜AI開(kāi)放平臺

考慮到成本控制的需求，企業(yè)可以選擇一種更為經(jīng)濟靈活的路徑——采用開(kāi)源大模型加定制化部署服務(wù)的模式。

LLAMA、Qwen等提供開(kāi)源預訓練模型，企業(yè)按需選擇合適的模型二次開(kāi)發(fā)和微調。通過(guò)第三方技術(shù)服務(wù)商，企業(yè)獲得模型選型、部署到后期運維的一站式解決方案，享受開(kāi)源成本優(yōu)勢，確保系統穩定運行。

——紅帽就提供了本地化部署和服務(wù)的商業(yè)模式。

紅帽OpenShift提供了一個(gè)適合AI工作負載的可擴展應用平臺，并以主流的硬件加速器來(lái)加以完善。加拿大皇家銀行與紅帽、英偉達合作，內部交付AI私有云功能，推動(dòng)企業(yè)IT技術(shù)進(jìn)步的同時(shí)，也保障了數據的隱私。

四、端云結合，可能是未來(lái)AI大模型操作系統的重點(diǎn)方向

大模型本地化部署面臨算力瓶頸問(wèn)題，訓練效率與推理性能受限。需在模型性能上妥協(xié)，以適應有限的計算資源。

云平臺是AI大模型訓練和推理的理想場(chǎng)所，可結合高算力訓練、優(yōu)化、運行參數量更大的模型。此外，云平臺還可以接入自然語(yǔ)言理解、圖像識別、視頻分析等API，可調用服務(wù)實(shí)現功能的快速集成。

此外，隨著(zhù)阿里云、火山引擎等國內大廠(chǎng)相繼推出大模型降價(jià)甚至免費的策略，大大降低了企業(yè)和開(kāi)發(fā)者接入高質(zhì)量AI服務(wù)的門(mén)檻。

圖片來(lái)源：阿里云大模型服務(wù)平臺百煉

面向未來(lái)，AI大模型需端云結合。端側私有化部署，減少數據延遲，減少敏感數據傳輸，增強隱私保護和數據安全性。云端進(jìn)行模型訓練、更大參數模型推理，結合各種接口開(kāi)發(fā)應用，并基于端側新數據迭代優(yōu)化模型，持續迭代優(yōu)化。

紅帽的AI端云協(xié)同的平臺OpenShift ，可以跨公共云、本地、混合云或邊緣架構提供一致體驗?？梢钥鐢祿行?、公共云計算和邊緣計算以一致的方式實(shí)現機器學(xué)習運維。通過(guò)應用 DevOps 和 GitOps 原則，企業(yè)可以自動(dòng)化并簡(jiǎn)化將機器學(xué)習模型集成到軟件開(kāi)發(fā)、生產(chǎn)、監控、再訓練和重新部署的迭代流程。

總結

AI大模型的浪潮不僅推動(dòng)了技術(shù)邊界的拓展，也對傳統操作系統提出了新的挑戰。當前市場(chǎng)上，真正意義上的AI原生操作系統尚屬空白，處理大模型所需的高效數據流轉、異構資源調度、以及模型生命周期管理等方面的能力存在局限。

紅帽作為開(kāi)源操作系統解決方案的領(lǐng)導者，正探索將AI大模型更深融入操作系統。他們一方面理解AI大模型的技術(shù)特性與應用需求，包括模型架構、訓練與推理的優(yōu)化策略，如何利用端側和云端的資源；同時(shí)，構建面向用戶(hù)的支撐體系，簡(jiǎn)化開(kāi)發(fā)者、運維人員在操作系統層面上，集成、部署、監控AI大模型的流程，提供一套易用的工具鏈和框架，快速實(shí)現AI大模型的價(jià)值轉化?；诖?，紅帽旨在打造更智能、靈活的操作系統，最大限度地釋放AI技術(shù)的生產(chǎn)力。

關(guān)于作者

劉延

關(guān)注硬科技、數碼等領(lǐng)域。知乎優(yōu)秀答主。