英特爾以全棧軟硬件布局,擁抱人工智能發(fā)展新機遇

今日，英特爾數據中心與人工智能集團副總裁兼中國區總經(jīng)理陳葆立在2023年中國國際服務(wù)貿易交易會(huì )的中國AIGC創(chuàng )新發(fā)展論壇上，發(fā)表題為“面向中國市場(chǎng)的英特爾AI戰略”的演講。陳葆立從通用計算和加速計算兩個(gè)維度出發(fā)，詳細闡述了英特爾如何通過(guò)全面的異構產(chǎn)品組合以及開(kāi)放的軟件棧，與廣泛的中國生態(tài)伙伴持續探索和創(chuàng )新，以把握AI時(shí)代機遇，創(chuàng )造無(wú)限可能。

陳葆立指出，“致力于創(chuàng )造改變世界的技術(shù)，英特爾自1985年進(jìn)入中國以來(lái)，始終通過(guò)不斷的技術(shù)變革，為中國客戶(hù)創(chuàng )造更高價(jià)值，推動(dòng)更深層的本地創(chuàng )新和發(fā)展。在A(yíng)I‘黃金時(shí)代’的初期，憑借在芯片制造和創(chuàng )新領(lǐng)域的深厚積累，英特爾也正利用自身的行業(yè)領(lǐng)先優(yōu)勢，通過(guò)在云、網(wǎng)絡(luò )、邊緣、客戶(hù)端等領(lǐng)域的全方位布局，為行業(yè)的持續發(fā)展提供助力?！?/p>

AI的數據流包括廣泛而復雜的工作負載和多模態(tài)數據集。而面對AI的計算需求，并沒(méi)有一種通用的解決方案。如今，受多重技術(shù)和經(jīng)濟因素影響，很大一部分AI工作負載是在通用處理器上運行。x86架構的大規模普及和其內置的AI能力使通用處理器已經(jīng)成為解決AI數據流的理想解決方案。

基于此，英特爾在企業(yè)級硬件方面，打造內置英特爾^?高級矩陣擴展（英特爾^? AMX）加速引擎的第四代英特爾^?至強^?可擴展處理器，提供比上一代高達10倍的AI推理和訓練性能提升，并實(shí)現對大多數大型AI模型，包括實(shí)時(shí)、中等吞吐量、低延遲稀疏推理，以及中、小型規模的訓練和邊緣推理的支持。此外，還通過(guò)廣泛的生態(tài)系統、專(zhuān)用于簡(jiǎn)化流程的軟件工具以及優(yōu)化的編譯器，讓客戶(hù)能夠更輕松部署英特爾解決方案，以及持續對更高級別軟件堆棧的投入，如oneAPI和OpenVINO，讓開(kāi)發(fā)者更輕松地使用其所熟悉的AI框架。

基于集成英特爾^?AMX的第四代英特爾^?至強^?可擴展處理器，百度也打造自身的人工智能自然語(yǔ)言處理模型ERNIE-Tiny。這款百度在飛槳文心大模型核心產(chǎn)品上推出的輕量化版本，在引入英特爾^? AMX之后，整體推理性能得到多倍提升，同時(shí)也使其在通用CPU平臺上獲得令人滿(mǎn)意的推理效能，從而能進(jìn)一步擴大普范圍，幫助更多用戶(hù)在既有IT設施中更為方便地部署文心模型。

而面臨爆炸式增長(cháng)的個(gè)人電腦AI應用，英特爾在提供強大硬件的同時(shí)，也通過(guò)可擴展的軟件棧加持，讓更多開(kāi)源模型能夠運行在個(gè)人的客戶(hù)端上。一方面，第13代英特爾^?酷睿?處理器通過(guò)XPU加速、低位量化、軟件優(yōu)化以及對16GB及以上內存容量的支持，使得高達160億參數的大型語(yǔ)言模型能夠通過(guò)BigDL-LLM框架在個(gè)人電腦上運行。而英特爾^?銳炬^?Xe顯卡和英特爾銳炫?顯卡通過(guò)硬件優(yōu)化和精度控制，能夠穩定地支持FP16精度的深度學(xué)習模型推理。這對于加速深度學(xué)習工作負載，提高計算效率具有重要意義。另一方面，英特爾亦通過(guò)可擴展的軟件棧支持通用AI框架，使得用戶(hù)可以輕松地在不同框架中進(jìn)行模型推理。

盡管英特爾至強^?可擴展^?處理器可以運行諸多AI工作負載，但為支持更大的模型規模和滿(mǎn)足廣泛的系統需求，需要采用異構計算的方法，使用不同的計算架構。對于這些應用場(chǎng)景，英特爾^?數據中心GPU Max系列和Gaudi深度學(xué)習加速器可提供硬件支持。其中，英特爾全新Gaudi2處理器于今年7月面世中國市場(chǎng)。作為英特爾從云到端產(chǎn)品組合的重要組成，為深度學(xué)習而生的Gaudi2致力于以多方位性能與能效比提升，加速AI訓練及推理。值得注意的是，其出色的性能表現亦在近期公布的MLCommons^? MLPerf^?基準測試1中得到充分驗證，與其他同類(lèi)產(chǎn)品相比，是大規模部署AI的更優(yōu)解。而得益于SynapseAI^?軟件套件的優(yōu)化，Gaudi2在簡(jiǎn)化模型的開(kāi)發(fā)和遷移方面也獨具優(yōu)勢。

一直以來(lái)，英特爾始終在中國積極推動(dòng)技術(shù)轉型，不僅加速PC在中國的普及率，也通過(guò)與廣大本地生態(tài)伙伴的深入合作，推動(dòng)云計算和邊緣計算發(fā)展，賦能行業(yè)的數字化轉型。在人工智能浪潮呈席卷之勢的當下，英特爾也將利用自身的深厚積淀與前沿洞察，與生態(tài)伙伴一同緊抓行業(yè)發(fā)展新機遇，為AI在中國的全面綻放注入源源不斷的動(dòng)力。

注釋?zhuān)?. https://mlcommons.org/en/training-normal-30