封閉沒(méi)有前途！Intel打造開(kāi)放AI生態(tài) 誓要虎口奪食

Intel日前舉辦了Vision 2024年度產(chǎn)業(yè)創(chuàng )新大會(huì )，亮點(diǎn)不少，號稱(chēng)大幅超越NVIDIA H100的新一代AI加速器Gaudi 3、品牌全新升級的至強6、AI算力猛增的下一代超低功耗處理器Lunar Lake，都吸引了不少目光。

不過(guò)對于AI開(kāi)發(fā)者、AI產(chǎn)業(yè)尤其是企業(yè)AI而言，這次大會(huì )上還有一件大事：

Intel聯(lián)合眾多行業(yè)巨頭，發(fā)起了開(kāi)放企業(yè)AI平臺，推動(dòng)企業(yè)AI創(chuàng )新應用，同時(shí)通過(guò)超以太網(wǎng)聯(lián)盟(UEC)和一系列AI優(yōu)化以太網(wǎng)解決方案，推進(jìn)企業(yè)AI高速互連網(wǎng)絡(luò )創(chuàng )新。

如今說(shuō)到大規模AI部署，很多人腦海中會(huì )立刻浮現兩個(gè)名字：

一個(gè)是OpenAI，大模型和算法的一枝獨秀；另一個(gè)是NVIDIA，硬件算力和生態(tài)的典型代表。

但是每每說(shuō)到NVIDIA，以及CUDA為代表的生態(tài)圈，其一貫以來(lái)的封閉做法頗為人所詬病，被譽(yù)為“硅仙人”的芯片開(kāi)發(fā)大神 Jim Keller就一直對NVIDIA的做法極為不滿(mǎn)，斥責CUDA不是護城河而是沼澤，NVLink這種私有互連標準也應該摒棄。

坦白說(shuō)，NVIDIA AI不僅僅在硬件性能上“遙遙領(lǐng)先”，更大的資本正是耗費十幾年時(shí)間和無(wú)數美元砸出來(lái)的CUDA生態(tài)，成為其“壟斷行業(yè)”、獲利無(wú)數的制勝法寶。

只不過(guò)時(shí)代在變化，無(wú)論企業(yè)還是開(kāi)發(fā)者，都不希望被束縛在一個(gè)小圈子里，更希望在開(kāi)放共享的世界里自由前行，這正好給了其他廠(chǎng)商追趕甚至超越NVIDIA的大好機會(huì )。

Intel就瞅準這一趨勢和需求，聯(lián)合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick、Zilliz等眾多行業(yè)伙伴宣布，將聯(lián)合創(chuàng )建企業(yè)AI開(kāi)放平臺，助力企業(yè)推動(dòng)AI創(chuàng )新。

它將為企業(yè)AI提供一個(gè)從下到上的完整平臺，底層基于Intel完整覆蓋云、數據中心、邊緣、PC各個(gè)領(lǐng)域的AI算力硬件，也就是XPU理念。

構筑其上的是標準化和可擴展的基礎設施生態(tài)、安全可靠的軟件生態(tài)、開(kāi)放便捷的應用生態(tài)，而且全都是對整個(gè)行業(yè)開(kāi)放的。

這一計劃凝結了全行業(yè)的力量，旨在開(kāi)發(fā)開(kāi)放的、多供應商的AIGC系統，通過(guò)RAG(檢索增強生成)技術(shù)，提供一流的部署便利性、性能和價(jià)值。

對于企業(yè)當前正在標準云基礎設施上運行的大量專(zhuān)有數據源，RAG可以幫助他們通過(guò)開(kāi)放大語(yǔ)言模型進(jìn)行功能上的增強，從而加速AIGC在企業(yè)中的應用。

在Intel看來(lái)，堅持開(kāi)源開(kāi)放，并以此撬動(dòng)開(kāi)放的AI生態(tài)飛速發(fā)展，至關(guān)重要。

Intel副總裁、Intel中國軟件和先進(jìn)技術(shù)事業(yè)部總經(jīng)理李映在接受采訪(fǎng)時(shí)表示：“傳統模式中，幾家領(lǐng)導公司組建一個(gè)開(kāi)放聯(lián)盟，各自有明確分工，更多的是一個(gè)選擇問(wèn)題。如今基于A(yíng)I大模型的變化，開(kāi)放開(kāi)源第一次和整個(gè)行業(yè)的技術(shù)創(chuàng )新爆發(fā)結合在一起?，F在，開(kāi)放開(kāi)源和閉源同時(shí)出現，不再是選擇，而是一個(gè)自然演變、發(fā)展的過(guò)程?！?/p>

Intel院士、大數據技術(shù)全球首席技術(shù)官、大數據分析和人工智能創(chuàng )新院院長(cháng)戴金權也指出，一個(gè)開(kāi)放的生態(tài)，可以讓同一生態(tài)的創(chuàng )新相互促進(jìn)，在新的應用場(chǎng)景可以互通。

整個(gè)行業(yè)都在逐漸意識到，構建一個(gè)AIGC應用，并不是只需要一個(gè)大模型，一些最先進(jìn)的系統解決方案，其實(shí)更多的是相當于構建一個(gè)AI系統來(lái)解決問(wèn)題。

在這個(gè)企業(yè)AI開(kāi)放平臺中，Intel的一個(gè)突出重點(diǎn)就是加快構建開(kāi)放的AI軟件生態(tài)，通過(guò)構建基礎軟件為開(kāi)發(fā)者提供便利，幫助大企業(yè)簡(jiǎn)化和深入AI的大規模開(kāi)發(fā)和部署。

李映指出，在開(kāi)放AI軟件生態(tài)方面，對于Intel而言，非常重要的一個(gè)點(diǎn)是如何通過(guò)軟件加速企業(yè)AI的發(fā)展，如何把企業(yè)原來(lái)的云架構和未來(lái)基于大模型、數據的AI架構融合在一起。

軟件可以在這個(gè)過(guò)程中起到非常重要的加速作用，而從整個(gè)軟件堆棧的角度來(lái)講，Intel正是極少數可以真正在各個(gè)層面上通過(guò)軟件提供優(yōu)化、提供技術(shù)的頭部企業(yè)之一。

同時(shí)，Intel一直在極力推動(dòng)基于A(yíng)I的軟件創(chuàng )新，最典型的就是oneAPI，下載量已經(jīng)超過(guò)100萬(wàn)次。

第三就是如何幫助開(kāi)發(fā)者提高開(kāi)發(fā)效率，其中很重要的一部分就是Intel開(kāi)發(fā)者云平臺。

它不但可以讓開(kāi)發(fā)者最早接觸到最新的至強、Gaudi AI加速器，還能保證各種開(kāi)源框架、組件在同一環(huán)境中的兼容性，從而提升開(kāi)發(fā)效率、優(yōu)化用戶(hù)體驗。

另外非常值得一提的是，Intel也在積極為開(kāi)源社區貢獻技術(shù)、創(chuàng )新和經(jīng)驗，推進(jìn)開(kāi)放標準。

比如，PyTorch已逐漸成為標準的AI框架，Intel一直都是PyTorch非?？壳暗闹匾暙I者，并以高級會(huì )員的身份加入了PyTorch基金會(huì )。

除了對PyTorch本身進(jìn)行優(yōu)化，Intel的一些技術(shù)創(chuàng )新都投入到了PyTorch開(kāi)源框架之中，讓更多企業(yè)和開(kāi)發(fā)者共享，讓整個(gè)AI軟件框架更加開(kāi)源、開(kāi)放。

再比如openEuler、龍蜥這些開(kāi)源的中國Linux社區，Intel對其的投入都已經(jīng)和國際同步，甚至在某些領(lǐng)域領(lǐng)先于國際上其他一些Linux的分布和發(fā)展。

最后再來(lái)回顧一下Intel本次揭曉的三大算力產(chǎn)品。

Gaudi 3 AI加速器采用臺積電5nm工藝，配備8個(gè)矩陣引擎、64個(gè)張量核心、96MB SRAM緩存、1024-bit 128GB HBM2E內存(帶寬3.7TB/s)，還有16個(gè)PCIe 5.0通道、24個(gè)2000GbE網(wǎng)絡(luò )、JPEG/VP9/H.264/H.265解碼器。

功耗有600/900W兩個(gè)級別，提供OAM兼容夾層卡、通用基板、PCIe擴展卡三種形態(tài)。

Gaudi 3相比上代擁有2倍的FP8 AI算力(1835TFlops)、4倍的BF16 AI算力、2倍的網(wǎng)絡(luò )帶寬、1.5倍的內存帶寬。

Intel還聲稱(chēng)，它對比NVIDIA H100 LLM推理性能領(lǐng)先50％、訓練時(shí)間快40-70％，能效領(lǐng)先最多達2.3倍。

另外，得益于強大、便捷的開(kāi)發(fā)工具，開(kāi)發(fā)者最少只需改變3行代碼，就能將其他AI應用移植到Gaudi 3之上。

全新的至強6包含兩個(gè)分支，其中Sierra Forest第二季度發(fā)布，堪稱(chēng)至強處理器歷史上最大的一次變革，首次采用純能效核(E核)設計。

它重點(diǎn)針對效率進(jìn)行優(yōu)化，適合高密度、可擴展的工作負載，最多288核心288線(xiàn)程。

按照官方說(shuō)法，相比第二代至強，Sierra Forest可以帶來(lái)2.4倍的能效提升，機架密度則可以提高2.7倍。

Granite Rapids則是傳統的純性能核(P核)設計，重點(diǎn)針對性能優(yōu)化，適合計算密集型應用和高強度的AI負載。

它新增了對MXFP4數據格式的軟件支持，能夠運行700億參數的Llama 2大模型，對比四代至強能將令牌延遲縮短最多6.5倍。

代號Lunar Lake的下一代超低功耗酷睿Ultra處理器，AI算力將超過(guò)100TOPS(100萬(wàn)億次每秒)，是現有一代酷睿Ultra Meteor Lake的足足三倍！

其中，單單是NPU單元就可以提供大約45TOPS的算力，是目前的多達四倍，自己即可滿(mǎn)足微軟定義下一代AI PC的需求。

可以說(shuō)，Intel擁有目前最為完善的AI體系，從底層覆蓋云端、數據中心端、邊緣端、客戶(hù)端的XPU硬件算力，到上層的網(wǎng)絡(luò )方案、開(kāi)發(fā)工具，再到廣泛的生態(tài)合作，如今又組建了開(kāi)放的企業(yè)AI平臺，可以說(shuō)萬(wàn)事俱備，在A(yíng)I訓練與他推理、AIGC領(lǐng)域必定會(huì )有一番作為。