英特爾AI平臺在微軟Phi-3 AI模型發(fā)布當天即實(shí)現優(yōu)化支持

近日，英特爾針對微軟的多個(gè)Phi-3家族的開(kāi)放模型，驗證并優(yōu)化了其跨客戶(hù)端、邊緣和數據中心的AI產(chǎn)品組合。Phi-3家族的小型開(kāi)放模型可在低算力的硬件上運行，且更容易微調以滿(mǎn)足特定的用戶(hù)要求，使開(kāi)發(fā)者能夠輕松構建在本地運行的應用。支持該模型的產(chǎn)品組合包括面向數據中心應用的英特爾^?至強^?處理器、英特爾^? Gaudi AI加速器，以及面向客戶(hù)端的英特爾^?酷睿? Ultra處理器和英特爾銳炫?顯卡。

英特爾^?酷睿? Ultra處理器支持Phi-3家族開(kāi)放模型

“我們?yōu)榭蛻?hù)和開(kāi)發(fā)者提供強大的AI解決方案，這些解決方案采用了業(yè)界最新的AI模型與軟件。英特爾與微軟等AI軟件生態(tài)系統領(lǐng)軍企業(yè)的深入合作，是推動(dòng)AI無(wú)處不在的關(guān)鍵。此次，我們非常高興能與微軟攜手，使涵蓋數據中心、邊緣以及客戶(hù)端的一系列英特爾硬件產(chǎn)品為多種新的Phi-3模型提供支持?！?/p>

——Pallavi Mahajan，英特爾公司副總裁兼數據中心與人工智能軟件總經(jīng)理

重要意義：為了推動(dòng)AI無(wú)處不在，英特爾通過(guò)與AI領(lǐng)導者和創(chuàng )新者合作，持續深耕AI軟件生態(tài)系統。

英特爾與微軟合作，其產(chǎn)品組合在發(fā)布當天即為Phi-3模型提供支持，其中包含英特爾中央處理器 (CPU)、圖形處理單元 (GPU) 和英特爾Gaudi加速器。此外，英特爾與微軟在DeepSpeed中共同設計了一款易用的深度學(xué)習優(yōu)化軟件套件——加速器抽象層，并拓展了Hugging Face上Phi-3和其他模型的自動(dòng)張量并行支持。

Phi-3模型的大小非常適用于設備端推理，并讓在A(yíng)I PC和邊緣設備上進(jìn)行微調或定制等輕量級模型開(kāi)發(fā)成為可能。同時(shí)，英特爾客戶(hù)端硬件通過(guò)全面的軟件框架和工具實(shí)現加速，其中包括PyTorch和用于本地研發(fā)的英特爾^? PyTorch擴展包，以及用于模型開(kāi)發(fā)和推理的OpenVINO?工具包。

未來(lái)，英特爾將持續滿(mǎn)足企業(yè)用戶(hù)的生成式AI需求，并將繼續支持和優(yōu)化針對Phi-3及其他行業(yè)領(lǐng)先語(yǔ)言模型的軟件。