你敢要它就有！至強6新品治好選擇困難癥

2月下旬，英特爾新一代數據中心處理器至強6大家族迎來(lái)了第三波的新品發(fā)布，主要包括代號Granite Rapids-SP的至強6700/6500性能核處理器，以及代號Granite Rapids-D的至強6系統級芯片（SoC）。

至強6700/6500系列性能核處理器上市，意味著(zhù)至強6性能核產(chǎn)品陣容終于“補全”，覆蓋從8至128核，得以更好地銜接第四代/第五代至強可擴展處理器產(chǎn)品線(xiàn)，與去年發(fā)布的至強6700系列能效核處理器形成清晰的分工。

至強6全家福

由于至強6產(chǎn)品家族旗下型號多，且發(fā)布時(shí)間跨度較長(cháng)，定位差異也很大，我們先簡(jiǎn)要回顧至強6家族已經(jīng)上市的產(chǎn)品線(xiàn)。

2024年6月，至強6首次亮相，發(fā)布的是代號為Sierra Forest-SP的至強6700能效核處理器。該系列的計算單元采用英特爾3制造工藝，提供了144個(gè)能效核，主要針對高密度、橫向擴展工作負載，如云原生、CDN、微服務(wù)等，在為這類(lèi)應用帶來(lái)性能改善的同時(shí)，能效也有更為明顯的提升。至強6700系列能效核處理器最大功耗350瓦，采用Socket E2接口（LGA 4710），支持8通道DDR5 6400MT/s，88個(gè)PCIe 5.0通道及64個(gè)CXL 2.0通道。

2024年9月發(fā)布的至強6900系列性能核處理器代號Granite Rapids-AP，定位為旗艦級，適合要求嚴苛的云、科學(xué)計算、AI（機頭）等領(lǐng)域，可以在同樣的空間內部署更多的性能核（單插槽可以達到128個(gè)性能核）、提供更大的內存帶寬（12通道內存，并支持MRDIMM 8800MT/s）、更多的PCIe 5.0通道（96個(gè)）或CXL 2.0通道（64個(gè)），以及6個(gè)UPI2.0鏈路。相應的，至強6900系列性能核處理器需要使用更大面積的接口Socket BR（LGA 7529），最大功耗也增加到500瓦。其新的性能核前端設計有較大改進(jìn)，在翻倍的內核數量和內存帶寬加持下，性能表現是至強6整個(gè)家族中的佼佼者，在很多主流應用負載上的性能表現都能達到上一代產(chǎn)品的2-3倍。

今年2月發(fā)布的至強6700/6500系列性能核處理器代號Granite Rapids-SP，集成了8到86個(gè)性能核，平均每核分配的末級緩存多數都在4MB以上，完整支持AMX指令集，DSA、QAT、IAA和DLB等加速器也都開(kāi)啟。至強6700/6500性能核處理器使用與至強6700能效核處理器相同的接口和功耗上限，PCIe、CXL擴展能力相同，支持8通道DDR5 6400MT/s，部分型號還提供了MRDIMM 8000MT/s的支持能力。該系列的市場(chǎng)定位更偏向主流的數據中心、電信基礎設施，以及企業(yè)級服務(wù)器和邊緣場(chǎng)景。

在此，我們先做一個(gè)小結：至強6家族規劃了AP與SP，以及性能核與能效核的微架構，由此交叉構成多個(gè)產(chǎn)品大類(lèi)：AP+性能核對應至強6900性能核產(chǎn)品線(xiàn)（最高128核），負責提供這代產(chǎn)品目前最強性能輸出水平（內核數和內存通道），PCIe和CXL擴展能力也要更強一些，使用面積更大的封裝和插座。至強6900性能核的6個(gè)UPI2.0鏈路全部用于雙路互聯(lián)，可以充分提升跨處理器的訪(fǎng)問(wèn)帶寬以盡可能提高性能，但不考慮用于構建多路系統。SP+能效核及性能核，對應的產(chǎn)品線(xiàn)則分別為至強6700能效核（最高144核）與至強6700/6500性能核產(chǎn)品線(xiàn)（最高86核），更多是用于主流服務(wù)器機型的升級換代，封裝尺寸與前幾代至強保持一致。

應用新主流：生成式AI、結構化數據

至強6700/6500系列性能核處理器與已經(jīng)發(fā)布半年多的至強6700系列能效核處理器可以使用相同的服務(wù)器平臺，因此在發(fā)布后可以迅速進(jìn)入市場(chǎng)。由于過(guò)去一年AI需求高漲，業(yè)內一直期待性能核與能效核處理器能夠盡快形成清晰明確的分工，以完整覆蓋主流市場(chǎng)各種類(lèi)型業(yè)務(wù)的需求：傳統業(yè)務(wù)需要降本增效，新興業(yè)務(wù)需要提質(zhì)增量。

傳統業(yè)務(wù)混合AI負載

在大模型蔚為風(fēng)潮的背景下，至強6性能核擁有更多的內核、較大的內存帶寬，以及AMX這類(lèi)為AI任務(wù)優(yōu)化的加速器，不論是傳統的神經(jīng)網(wǎng)絡(luò )推理，還是Transformer大語(yǔ)言模型推理的性能都相較上一代至強處理器有大幅提升。主流的200億參數以下的中、小規模的模型在至強6上都可以順暢運行，再得益于至強本身在通用計算領(lǐng)域的競爭力和積累，就使得至強6700性能核非常適合混合部署AI業(yè)務(wù)的用戶(hù)。譬如在互聯(lián)網(wǎng)行業(yè)中已經(jīng)驗證成熟的推廣搜（廣告、推薦、搜索），企業(yè)應用中滲透率很高的自然語(yǔ)言處理，正在蓬勃發(fā)展的智能客服、知識助理等大模型私有部署等。這些業(yè)務(wù)都可以與傳統業(yè)務(wù)部署在同一個(gè)節點(diǎn)、同一個(gè)資源池當中。

生成式AI

如果說(shuō)至強6900性能核是AI訓練的最佳機頭，那么至強6700/6500系列性能核也有望成為AI推理的優(yōu)秀機頭，搭配GPU或其他AI專(zhuān)用加速器運行以生成式AI為代表的，大參數、高并發(fā)的大語(yǔ)言模型推理任務(wù)。

上一小節中提到了至強6性能核自身核心性能、內存帶寬的優(yōu)勢。在至強6700/6500系列性能核上，還比較容易獲得內存容量的優(yōu)勢?；趥鹘y布局，雙路至強6700/6500系列性能核機型依舊可以輕松提供32條內存插槽，可以較低成本部署2~4TB本地內存，上限可以達到8TB。部分型號還可以享受MRDIMM 8000MT/s提供的更高帶寬。除了充裕的內存容量和帶寬，充足的PCIe 5.0通道數有利于配置多塊AI加速器和高性能網(wǎng)卡。至強6700/6500系列的雙路節點(diǎn)可以提供176條PCIe 5.0通道，單路節點(diǎn)可提供136條。這使得在4U機箱內部署8卡不再需要依賴(lài)PCIe Switch板，在液冷的支持下部署更高的密度也依然游刃有余。

隨著(zhù)以KTransformer為代表的開(kāi)源大語(yǔ)言模型推理優(yōu)化框架的出現，利用MoE架構稀疏性的特點(diǎn)在CPU和GPU上實(shí)現異構分層部署推理任務(wù)逐漸引起重視。這種異構協(xié)同的方案可以充分利用算力、存儲資源，大幅降低部署門(mén)檻，顯著(zhù)提升推理速度。這種模式也能讓至強6處理器的計算性能、內存優(yōu)勢及AMX加速能力獲得更大的發(fā)揮空間。而且至強6性能核產(chǎn)品線(xiàn)中的DSA、QAT、DLB、IAA等加速器也全都默認開(kāi)放，讓數據流的預處理、節點(diǎn)間交互的效率更高。尤其是6700性能核的高性能產(chǎn)品線(xiàn)當中，4種加速器都各提供4個(gè)，能助力CPU卸載加密、壓縮、數據傳輸和轉換等任務(wù)。這些特性有利于改善節點(diǎn)內南北向、東西向數據傳輸中的消耗，在構建高并行、多節點(diǎn)的AI集群時(shí)可進(jìn)一步提升效率。

至強處理器在可信或隱私計算方面較為獨到的技術(shù)特性，也在這次至強6700/6500系列性能核發(fā)布時(shí)得到了進(jìn)一步增強。其從第四代至強可擴展處理器開(kāi)始集成的TDX（Trust Domain Extensions）技術(shù)，原本可基于硬件的可信執行環(huán)境部署信任域（TD）讓敏感數據和應用程序獲得虛擬機/容器級別的隔離，免受未經(jīng)授權的訪(fǎng)問(wèn)。這次也隨新品將機密計算的覆蓋范圍進(jìn)一步增強，通過(guò)新增的TDX Connect，可在CPU和PCIe設備之間實(shí)現高性能的加密連接，這可以更好地保護加載于主內存、CPU、加速卡全鏈路中的數據。TDX Connect對于需要租賃彈性算力部署私有AI業(yè)務(wù)的用戶(hù)而言是一個(gè)非常重要的保障，畢竟在算力平權的時(shí)代，自有數據和微調的垂直模型才是企業(yè)核心競爭力的有力保障。

向量數據庫

生成式AI帶動(dòng)了業(yè)內對向量數據庫的關(guān)注。由于大語(yǔ)言模型的知識是在訓練和微調時(shí)固化的，遇到“超綱”的問(wèn)題時(shí)，模型可能會(huì )拒絕回答或胡說(shuō)八道。通過(guò)檢索增強生成（RAG）讓模型可以檢索外部數據獲取更多的信息以補充其知識盲區。對于私有化部署大語(yǔ)言模型的企業(yè)而言，必須通過(guò)微調強化模型在特定領(lǐng)域的專(zhuān)業(yè)度，并建議搭配向量數據庫以實(shí)現RAG，可以充分利用私有信息并不斷更新。簡(jiǎn)單說(shuō)，參數規模決定了大語(yǔ)言模型的智力水平，向量數據庫決定了大語(yǔ)言模型的專(zhuān)業(yè)度、可信度，以及可持續發(fā)展。

向量數據庫與傳統的以行或列組織信息的數據庫不同，其使用數據的高維度嵌入作為信息單元，并基于嵌入進(jìn)行相似性檢索。因此在構建向量數據庫時(shí)需要通過(guò)模型對篩選、收集的文檔進(jìn)行提取、格式化、切分。結構化數據庫的向量操作非常適合使用至強6性能核進(jìn)行處理。單路的至強6性能核的典型應用場(chǎng)景是全閃存儲節點(diǎn)，在此基礎上部署向量數據庫能進(jìn)一步發(fā)揮處理器的性能特點(diǎn)：適宜的處理能力和豐富的擴展性。

內存數據庫

相較于至強6900性能核處理器和6700能效核處理器，至強6700/6500系列性能核處理器還擁有一個(gè)關(guān)鍵的特點(diǎn)，它們傳承了英特爾在x86市場(chǎng)的獨門(mén)絕技：可以原生擴展至4路和8路，這意味著(zhù)單臺服務(wù)器通過(guò)八路配置即可提供688個(gè)性能核以及32TB本地DDR5內存，尤其適合用于大型內存數據庫以及科學(xué)計算集群的胖節點(diǎn)等。以SAP HANA為代表的大型內存數據庫為聯(lián)機事物處理（OLTP）等關(guān)鍵業(yè)務(wù)提供了有力支撐，將盡可能多的數據放置在內存當中有利于提高并發(fā)事務(wù)吞吐量、加快決策速度。

另外，根據以往的經(jīng)驗，頂尖的服務(wù)器廠(chǎng)商還會(huì )通過(guò)節點(diǎn)控制器進(jìn)一步拓展處理器數量和內存容量。不過(guò)在至強6性能核上還有更簡(jiǎn)單的內存擴展方式——CXL2.0內存。至強6性能核獨有的CXL平面內存模式（Flat Memory Mode）可以平滑地擴展內存容量和帶寬，不需要操作系統內核或部署專(zhuān)用的軟件支持。平面內存模式與本地內存的配置比例是1:1，理論上可以將服務(wù)器的內存容量翻倍，或者允許使用相對更便宜的基于DDR4的CXL內存。以配置32TB內存為例，如果完全使用本地內存，必須使用單條128GB的DDR5 RDIMM，價(jià)格比較昂貴；而搭配CXL內存，本地內存就可以使用更為常見(jiàn)64GB DDR5 RDIMM，從而有效降低整體成本，總帶寬還有所提升。

產(chǎn)品陣容進(jìn)一步解析

至強6700/6500性能核處理器規劃了非常綿密和多樣的產(chǎn)品線(xiàn)，內核數量從8核至86核，UPI數量和啟用的加速器數量也有所差別。為了構成如此多樣的規格，英特爾設計了三種類(lèi)型的封裝形態(tài)：XCC、HCC、LCC。

• XCC：擁有兩個(gè)計算單元（Compute Tile）和兩個(gè)IO單元（IO Tile），分別由Intel 3和Intel 7工藝制造。XCC所使用計算單元與組成至強6900性能核的UCC相同，都是單芯片44個(gè)內核、4通道內存控制器，區別是UCC使用了3個(gè)計算單元。XCC的兩個(gè)計算單元提供最多86個(gè)內核。

• HCC：一個(gè)計算單元和兩個(gè)IO單元。HCC的計算單元提供最多48個(gè)核心，以及8通道內存控制器。HCC沒(méi)有考慮對MRDIMM的支持。

• LCC：一個(gè)16核心的計算單元和兩個(gè)IO單元，不支持MRDIMM。使用LCC的處理器UPI鏈接數只有3，這可能與其計算單元和IO單元之間的EMIB連接較少有關(guān)。

從產(chǎn)品定位角度看，至強6700/6500性能核處理器可以進(jìn)一步細分為高性能、主流、多路、單路等產(chǎn)品線(xiàn)。

高性能產(chǎn)品線(xiàn)

高性能產(chǎn)品線(xiàn)提供了最多86核的型號（6787P），多數型號的加速器全部打開(kāi)。至強6的每個(gè)IO單元提供2個(gè)加速器模塊，每個(gè)模塊有DSA、QAT、DLB、IAA各1。兩個(gè)IO單元就是4種加速器各4個(gè)?；贚CC的6517P 和 6507P提供的加速器是各兩個(gè)。

高性能產(chǎn)品線(xiàn)涵蓋了XCC、HCC、LCC三種封裝，因此內核數量、內存支持、功耗的差異也很大。其中，以第三位數字為界，674xP以上的4款均是XCC，內核數量最多86，LCC末級緩存最多336MB，均支持MRDIMM 8000MT/s。這里有一個(gè)特例是6730P，它也基于XCC，提供了288MB末級緩存，但不支持MRDIMM。

其中，6745P以32核享受了多達336MB的末級緩存，平均每核緩存超過(guò)10MB！它的頻率也較高，基礎頻率超過(guò)3GHz，全核睿頻可以達到4.1GHz，單核4.3GHz。這種核少、高頻、大緩存的SKU更適合追求低內存延遲、高處理壓力的任務(wù)，譬如大數據分析、科學(xué)計算等。而核數更多的型號則更適合高并行性的任務(wù)。

6527P、6736P、6737P這幾個(gè)SKU使用的HCC封裝，提供16到36核的配置。HCC理論上最多48核，提供192MB末級緩存。6737P只使用了其中的32核，但享用了全部末級緩存，因此其定位略高于核數略多的6736P（36核）。

6507和6517P使用LCC封裝，核數少，基礎頻率高，可以達到3.2GHz以上，睿頻可以達到4.3GHz，而功耗不到200瓦。LCC給每個(gè)性能核準備了4.5~6MB的末級緩存，要多于其他系列的原生設計。高頻率、大緩存有都利于在核數相對較少的情況下提升性能。

主流產(chǎn)品線(xiàn)

主流產(chǎn)品線(xiàn)的核數跨度在12個(gè)到64個(gè)之間，顯然也使用了三種版本的內核封裝。其中兩款67x0P使用XCC，卻沒(méi)有開(kāi)放MRDIMM的支持。不過(guò)好在二者的末級緩存都較大，平均每核心的緩存容量達到至少5MB。相比高性能產(chǎn)品線(xiàn)，主流產(chǎn)品線(xiàn)的加速器只開(kāi)放了一半，分別只有2個(gè)，每CPU的TDX數量也減半了。

這一組產(chǎn)品的型號非常直觀(guān)，第三位數字可以與實(shí)際內核數掛鉤。譬如6760P的第三位是6，核數是64；6520P的2對應24核。唯一的特例是6505P，它不是8核而是12核。

多路產(chǎn)品線(xiàn)

多路產(chǎn)品線(xiàn)是為4路、8路服務(wù)器準備的，售價(jià)較高，均被列入67xxP序列。該產(chǎn)品線(xiàn)的型號也比較容易理解，第三位數字大致對應了核數多寡；第四位數字是8或4，清晰體現了其原生的UPI直連多路支持能力。譬如6724P和6714P基于LCC，每個(gè)插槽有3個(gè)UPI鏈接，正好可以分別直連其他3個(gè)插座以構成全連接的4路系統，或通過(guò)節點(diǎn)控制器實(shí)現8路。其余尾數為8的處理器都有4個(gè)UPI，可以構成典型的8路系統。

這些面向多路的產(chǎn)品都不支持MRDIMM，即使是其中兩款基于XCC也是如此。其實(shí)對于多路系統而言，相鄰任意兩個(gè)處理器之間頂多只有一條UPI鏈接，跨插座的內存訪(fǎng)問(wèn)帶寬遠低于雙路產(chǎn)品線(xiàn)——作為對比，雙路旗艦6900性能核系列會(huì )使用全部6個(gè)UPI互聯(lián)。因此，多路系統全局訪(fǎng)問(wèn)內存的瓶頸在于UPI的帶寬，很難發(fā)揮MRDIMM的帶寬優(yōu)勢，暫時(shí)也就沒(méi)有啟用的必要。長(cháng)遠看，由于MRDIMM有單條內存容量翻倍的潛力，未來(lái)的多路系統還是會(huì )擇機引入MDRIMM的。

多路產(chǎn)品線(xiàn)中超過(guò)16核的SKU都開(kāi)放了全部的加速器。6748P是已公開(kāi)的至強6產(chǎn)品線(xiàn)中，唯一使用了“滿(mǎn)血”HCC的SKU，提供48核和192MB末級緩存。

8核的6714P和16核的6724P基于LCC打造，它倆的核數較少，但設定了比高性能產(chǎn)品線(xiàn)的6507P和6517P更高的功耗和頻率。實(shí)際上，6714P和6724P是整個(gè)至強6家族當中頻率最高的SKU，基礎頻率甚至達到了4GHz，不論是之前提到的高性能產(chǎn)品線(xiàn)還是后面要提到的單路產(chǎn)品線(xiàn)都沒(méi)有達到這個(gè)水平。高頻也是它們雖然基于LCC，但依舊可以冠以67xxP之名的原因之一。這樣的規格雖不適合高并發(fā)的處理，但優(yōu)勢在于響應速度更快，在配合某些根據內核數收取授權費的軟件使用時(shí)也可以適當降低成本。

單路產(chǎn)品線(xiàn)

至強6700和6500性能核的單路產(chǎn)品線(xiàn)所有產(chǎn)品名稱(chēng)的第四位數字均為1，第三位數字與核數的對應關(guān)系也最為“整齊”，核數均為8的整倍數，沒(méi)有特例。單路處理器不需要使用UPI互聯(lián)，因此IO單元中原本可用作UPI x24的幾個(gè)UIO可被用作x16的PCIe或CXL通道。最終它們的PCIe通道數比雙路“同胞”們多了48個(gè)，達到136個(gè)。

（圖注：性能核處理器的IO單元功能模塊）

單路至強6性能核處理器的加速器數量大多為3組，介于性能（4組）和主流（2組）產(chǎn)品線(xiàn)之間。80和64核的單路處理器支持MRDIMM 8000MT/s，但同樣使用XCC的48核6741P卻不支持MRDIMM。

由于當前處理器的內核數量已經(jīng)足夠的多，專(zhuān)門(mén)規劃單路至強可以控制成本，或用于提升機箱內擴展設備的部署密度。以全閃存儲節點(diǎn)為例，如果2U前窗提供24個(gè)U.2 NVMe盤(pán)位，不依賴(lài)PCIe Switch或擴展卡的話(huà)，需要96個(gè)NVMe通道。單路至強6性能核滿(mǎn)足NVMe SSD后，還有40個(gè)PCIe 5.0通道，可分配給兩塊100/200G IB網(wǎng)卡服務(wù)存儲集群，還有1塊OCP網(wǎng)卡做管理。對于并行度較高的業(yè)務(wù)，譬如云、輕量級推理、視頻轉碼等，如果在原本雙路機箱內部署兩個(gè)單路節點(diǎn)，在內核數相同的前提下，可以?huà)燧d更多的PCIe設備用于推理、轉碼、存儲等。

至強6系統級芯片、至強6300

在至強6700/6500性能核發(fā)布同期，英特爾也正式推出了至強6系統級芯片與至強6300，在這里我們對二者也順便做一些簡(jiǎn)要介紹。

至強6系統級芯片的計算單元與XCC、HCC、LCC是通用的，但搭配了一個(gè)重新設計的IO單元。這個(gè)IO單元取消了UIO，減少了IO模塊，僅支持較少、較低規格的PCIe和CXL，主要面積用于提供2×100Gbps以太網(wǎng)、媒體加速器、vRAN加速器等。這也從另一個(gè)角度體現了至強6產(chǎn)品家族將計算單元和IO單元解耦的意義。通過(guò)調整IO單元的規格，配置不同的擴展能力、多樣化的加速器，可以更好地適配更豐富的細分場(chǎng)景。

至強6系統級芯片將通用計算、AI推理、媒體編碼、以太網(wǎng)等功能整合在單一封裝內，主要部署于邊緣側，如網(wǎng)絡(luò )安全加速器、媒體服務(wù)器、5G虛擬基站等。目前已經(jīng)公開(kāi)規格的至強6系統級芯片最多42核（6726P-B），使用BGA4368封裝，TDP最高235瓦，支持4通道DDR5 6400MT/S。英特爾也透露了72核的存在，后續還會(huì )陸續發(fā)布。

至強6300系列定位于入門(mén)級服務(wù)器，采用的內核是Raptor Lake，提供8個(gè)核心，支持雙通道DDR5 4800MT/s ECC UDIMM。Raptor Lake就是13代酷睿處理器中的性能核，只是用在至強產(chǎn)品線(xiàn)當中時(shí)沒(méi)有再用酷睿那種性能核與能效核并存，或者是大小核的設計，而是使用全性能核的設計。它還提供ECC內存支持，并搭配C260系列PCH。同樣的內核、同樣的LGA1700插座，其實(shí)英特爾在2024年第四季度推出過(guò)至強E-2400系列。至強6300系列的出現看起來(lái)像是有意將至強E-2400統一到至強6品牌之下。

至強6全家福成形：高低搭配，平滑過(guò)渡

至強6700/6500性能核的發(fā)布，進(jìn)一步完善了至強6家族產(chǎn)品線(xiàn)。整個(gè)面向主流和中高端市場(chǎng)的產(chǎn)品線(xiàn)覆蓋了8核到144核，提供了領(lǐng)先的內核數量、獨一份的內存帶寬、具有前瞻性的加速器。對于正在進(jìn)入換代周期的第二、第三代至強可擴展處理器的機型用戶(hù)而言，至強6可以很好地承接業(yè)務(wù)遷移、升級的需求。對于保持傳統業(yè)務(wù)的用戶(hù)，至強6能效核可以平滑遷移并提供數倍的部署密度以及更好的能效，以改善運營(yíng)成本。對于希望與時(shí)俱進(jìn)，跟上AI浪潮的用戶(hù)，至強6性能核不僅僅是提供更大更多的內核，其實(shí)還提供了更適應AI需求的加速器，以實(shí)現1+1＞2的效果。

至強6為旗艦與主流產(chǎn)品提供了不同的封裝規模。后者的封裝尺寸與第三代至強可擴展處理器以來(lái)的幾代產(chǎn)品保持相同，TDP的增長(cháng)也比較謹慎。這意味著(zhù)對于多數用戶(hù)而言，這數年來(lái)積累的系統布局、運維習慣可以基本保持不變。

狂飆的內核與穩定的外形，這并非反差，而是技術(shù)前瞻性和對市場(chǎng)持久承諾的結合。