各大巨頭紛紛入局DPU： DPU真正的魅力何在?

過(guò)去十年中，計算已經(jīng)不僅僅局限在個(gè)人電腦和服務(wù)器內，CPU和GPU已經(jīng)被廣泛地用于各個(gè)新型超大規模數據中心。這些數據中心通過(guò)功能強大的新型處理器連接在一起，DPU（ Data Processing Unit ，數據處理器）已經(jīng)成為了以數據為中心的加速計算模型的第三個(gè)計算單元。

CPU用于通用計算，GPU用于加速計算，而數據中心中傳輸數據的DPU則進(jìn)行數據處理。

歡迎來(lái)到啟用DPU的數據革命時(shí)代

根據現今最著(zhù)名的歷史學(xué)家之一Yuval Noah Harari的說(shuō)法 ，人類(lèi)面臨著(zhù)四次重大革命：

· 公元前70,000年發(fā)生的認知革命定義了語(yǔ)言的誕生和交流的能力。它也克服了尼安德特人，將智人帶到了舞臺的前列。

· 農業(yè)革命發(fā)生在公元前10000年，它定義了人類(lèi)馴養家畜和種植農作物的能力，加速了人類(lèi)人口的增長(cháng)，推動(dòng)了城市的崛起。

· 科學(xué)革命是一系列事件，標志著(zhù)現代科學(xué)在早期現代時(shí)期的出現，當時(shí)數學(xué)、物理、天文學(xué)和科學(xué)的發(fā)展為我們現代生活方式奠定了基礎。

· 我們今天目睹的第四次革命是數據革命。

與之前的重大技術(shù)變革（例如個(gè)人計算機、客戶(hù)端服務(wù)器甚至虛擬化）不同，數據革命比以前的革命更隱蔽。這種轉變的核心是需要發(fā)動(dòng)下一次重大技術(shù)飛躍，其中機器學(xué)習是實(shí)現真正人工智能的起點(diǎn)。為了達到這個(gè)目標，我們需要處理大量的數據。

隨著(zhù)我們進(jìn)入數據革命時(shí)代，對更高計算性能的不斷增長(cháng)的需求正在推動(dòng)新的數據中心加速器和處理單元的誕生。以前CPU和GPU是計算能力的主要來(lái)源。數據量和復雜性的指數級增長(cháng)推動(dòng)了以數據為中心的體系結構和新型加速器單元的創(chuàng )建。

在以數據為中心的設計中，完整的基礎架構堆棧（包括計算，存儲和網(wǎng)絡(luò )）的架構旨在快速有效地捕獲、分析、分類(lèi)、管理和存檔大量數據，新一代加速器應運而生 —— DPU。

CPU，GPU和DPU的組合是協(xié)同處理的下一個(gè)飛躍，它將利用這些革命性的硬件加速技術(shù)和軟件定義的可編程性來(lái)應對以數據為中心和邊緣計算架構的挑戰，最大程度地提高投資回報率，并使不可能成為可能。

DPU有什么與眾不同之處？

為什么人們如此渴望使用DPU？首先，它更安全，因為控制平面可以在系統內和系統集群之間與數據平面分離。目前服務(wù)器要處理的資料日益增多，除了原有的加解密、封包壓縮外，加速器也讓服務(wù)器要處理的資料量變得更龐大，就會(huì )造成原有CPU在處理安全能力表現上出現瓶頸。

DPU可以執行原本需要CPU處理的網(wǎng)絡(luò )、存儲和安全等任務(wù)。這就意味著(zhù)如果在數據中心中采用了DPU，那么CPU的不少運算能力可以被釋放出來(lái)，去執行廣泛的企業(yè)應用。

DPU的主要作用就在于替代了數據中心原本用來(lái)處理分布式存儲和網(wǎng)絡(luò )通信的CPU處理器資源。在DPU之前，智能網(wǎng)卡（SmartNIC）正在網(wǎng)絡(luò )安全和網(wǎng)絡(luò )互連協(xié)議方面逐漸取代CPU。而現在DPU的出現，相當于是智能網(wǎng)卡的升級替代版本，一方面增強了智能網(wǎng)卡對網(wǎng)絡(luò )安全和網(wǎng)絡(luò )協(xié)議的處理能力，一方面又整合和加強了分布式存儲的處理能力，從而在這兩個(gè)領(lǐng)域更好地替代CPU，從而釋放CPU的算力給到其他更多應用。

有了DPU的出現，就可以先在DPU將大量的信息先做消化，接著(zhù)再傳遞給CPU做其他的分配，如此一來(lái)能減少CPU約30%的消耗。

DPU是一種新型可編程處理器，是一種SOC（System On Chip），它結合了：

· 行業(yè)標準的、高性能及軟件可編程的多核CPU，通?；谝褢脧V泛的Arm架構，與其的SOC組件密切配合。

· 高性能網(wǎng)絡(luò )接口，能以線(xiàn)速或網(wǎng)絡(luò )中的可用速度解析、處理數據，并高效地將數據傳輸到GPU和CPU。

· 各種靈活和可編程的加速引擎，可以卸載AI、機器學(xué)習、安全、電信和存儲等應用，并提升性能。

DPU引入機器學(xué)習算法可對數據進(jìn)行智能管理、控制和分析，從而減少閃存擦寫(xiě)次數，延長(cháng)SSD使用壽命；還可減少盤(pán)內計算和總線(xiàn)數據量，減輕主機CPU的負擔。所有這些DPU功能對于實(shí)現安全的、裸性能的、原生云計算的下一代云上大規模計算至關(guān)重要。

CPU、GPU、DPU將代表未來(lái)計算的三大支柱。這三者之間，CPU用于通用計算，GPU用于加速計算，而DPU在數據中心周?chē)苿?dòng)數據進(jìn)行數據處理。DPU可以和CPU、GPU相結合，構成完全可編程的單一AI計算單元，實(shí)現前所未有的安全性和算力支持。

國際巨頭開(kāi)始紛紛提前布局

自1950年代以來(lái)，中央處理器“ CPU”一直是每臺計算機或智能設備的核心；到1990年代以來(lái)，GPU或圖形處理單元扮演了重要角色。在過(guò)去的十年中，計算已經(jīng)擺脫了PC和服務(wù)器的繁瑣局限，CPU和GPU為龐大的新超大規模數據中心提供了動(dòng)力。然而最近幾年，隨著(zhù)系統中的CPU承受越來(lái)越多的網(wǎng)絡(luò )和存儲工作負載，DPU已成為以數據為中心的加速計算模型的第三個(gè)成員。

根據THENEXTPLATFORM的分析指出，在2020年，在這個(gè)領(lǐng)域的玩家或者潛在玩家主要包括Broadcom、Intel、英偉達、Netronome、Pensando、Fungible和Xilinx，還包括云供應商三大巨頭。

DPU是英偉達最新的一個(gè)布局。英偉達對DPU尤為重視，最主要的布局就在于2019年3月，花費69億美元收購了以色列芯片公司Mellanox —— Mellanox在2015年9月以8.11億美元的天價(jià)收購了EZchip公司，該公司擁有多核芯片創(chuàng )業(yè)公司Tilera的資產(chǎn)，Tilera是最早使用知識產(chǎn)權的高度并行SmartNIC實(shí)施之一，該實(shí)施源自更早的MIT研究項目。

Mellanox所擅長(cháng)的正是為服務(wù)器、存儲和超融合基礎設施提供包括以太網(wǎng)交換機、芯片和InfiniBand智能互連解決方案在內的大量的數據中心產(chǎn)品。英偉達的GPU與Mellanox的互連技術(shù)結合，可以使得數據中心工作負載將在整個(gè)計算、網(wǎng)絡(luò )和存儲堆棧中得以?xún)?yōu)化，并能實(shí)現更高的性能、更高的利用率和更低的運營(yíng)成本。

黃仁勛把Mellanox的技術(shù)看作是公司的“X因素”，也就是把數據中心改造成一個(gè)可以解決高性能計算要求的大型處理器架構。而如今我們看到DPU的出現，已經(jīng)是具有這一架構雛形的一種嘗試了。

英偉達在DPU上的技術(shù)突破，是在收購Mellanox之后，在這家公司的硬件基礎上開(kāi)發(fā)出BlueFeild系列的兩款DPU —— 英偉達BlueField-2 DPU與BlueField-2X DPU。

英偉達發(fā)力DPU建設的深層目的：一個(gè)是DPU試圖再一次復制GPU替代顯示加速卡成為通用顯示芯片的路徑；再一個(gè)是DOCA試圖再一次復制CUDA在GPU通用化過(guò)程中所起到的開(kāi)創(chuàng )生態(tài)之功。

與此同時(shí)，隨著(zhù)數據中心網(wǎng)絡(luò )中傳送的數據量以每年25％的速度增長(cháng)，英特爾也對DPU很感興趣。因為預算不能以這種速度增長(cháng)，而且由于對原始CPU計算的偏見(jiàn)投資（與構建平衡的系統以更充分地利用可用的計算能力相反），網(wǎng)絡(luò )通常不超過(guò)分布式成本的10％系統。面對所有這些壓力，英特爾必須創(chuàng )新并幫助改善網(wǎng)絡(luò )，英特爾認為集成顯得很重要。

在DPU上，英特爾主要是將CPU和FPGA結合在一起，但英特爾并自己做，而是由Inventec和Silicom制造的。前者對于hyperscalers和云構建者來(lái)說(shuō)是日益重要的ODM，而后者則是過(guò)去二十年來(lái)的網(wǎng)絡(luò )接口供應商。

另外，英特爾收購了深度學(xué)習芯片公司Nervana Systems，以及移動(dòng)和嵌入式機器學(xué)習公司Movidius，給未來(lái)的深度學(xué)習下了重注。而英特爾所做的這一切，正是在為未來(lái)適應深度學(xué)習的數據流（DPU）架構升級布局。

越來(lái)越多供應商紛紛涌入DPU架構。DPU能否演繹CPU和GPU的佳話(huà)？十年前，隨著(zhù)硬件加速技術(shù)的第一次重大沖擊，我們對GPU產(chǎn)品充滿(mǎn)了興趣?，F在，隨著(zhù)FPGA擴展到超過(guò)300萬(wàn)個(gè)邏輯單元，FPGA得以與其他可組合的處理模塊緊密地結合在一起，以實(shí)現網(wǎng)絡(luò )、內存、存儲和計算。有了這些進(jìn)步，我們開(kāi)始認識到第二次硬件加速浪潮的形成。讓我們靜待其變。

英偉達挑戰英特爾，距離還有多遠

另外一個(gè)值得注意的是英偉達提出配合DPU處理器的軟件開(kāi)發(fā)工具包 —— DOCA（Data-Center-Infrastructure-On-A-Chip Architecture）。英偉達的專(zhuān)家將DOCA類(lèi)比為數據中心服務(wù)器領(lǐng)域的CUDA，其意圖在于幫助開(kāi)發(fā)人員在DPU加速的數據中心基礎設施上構建相應的應用程序，從而豐富DPU的應用開(kāi)發(fā)生態(tài)。

如果和不久前英偉達收購ARM的消息結合起來(lái)，我們看到英偉達的一個(gè)重要考量，就是以ARM架構的CPU為核心，從服務(wù)器的應用加速擴展到服務(wù)器的全部應用場(chǎng)景，從而實(shí)現在數據中心服務(wù)器領(lǐng)域的更大突破，目標自然是英特爾CPU為代表的X86服務(wù)器生態(tài)。

自從英偉達開(kāi)始收購ARM，外界能夠看到英偉達已經(jīng)多次顯示出其試圖利用ARM處理器進(jìn)一步占領(lǐng)數據中心服務(wù)器市場(chǎng)的決心，而集成了ARM核心的DPU將成為其打入數據中心存量市場(chǎng)取代X86 CPU的第一個(gè)切入點(diǎn)。

英偉達推出DPU來(lái)切入這個(gè)市場(chǎng)，而非直接用ARM核心CPU來(lái)與X86 CPU直接競爭，其實(shí)是一種比較討巧的做法，相當于用集成了網(wǎng)絡(luò )、存儲、安全等任務(wù)的下一代CPU產(chǎn)品來(lái)達到逐漸替換CPU的目的，即使其中所內涵的ARM CPU性能無(wú)法對標同一代的X86 CPU，但是整體機由于在DPU SoC上集成了專(zhuān)用的處理加速模塊，因此總體性能一定是超過(guò)X86 CPU的。

但是英偉達想要在中高端處理器市場(chǎng)來(lái)挑戰英特爾，還要面臨一系列的困難。首先，正是英偉達的GPU與X86 CPU已經(jīng)形成一種非常穩定的強互補關(guān)系。英偉達想要采用基于A(yíng)RM架構的處理器做高端服務(wù)器，還需要ARM處理器性能出現大幅的提升，而現在這一進(jìn)程并不明朗。

英偉達在數據中心領(lǐng)域的成功與否，都與能否實(shí)現數據中心的規?；\算有關(guān)，從發(fā)展自研的DGX系列服務(wù)器到整合Mellanox的技術(shù)，再到借助ARM生態(tài)發(fā)展全新的數據中心計算架構，都是為轉型數據中心業(yè)務(wù)所作的準備。當然，想要實(shí)現這一目標，還要看下英特爾如何應對。

英特爾早已為應對英偉達的種種挑戰進(jìn)行了相應的回應和布局。早在2017年，英特爾就宣布要開(kāi)發(fā)全棧的GPU產(chǎn)品組合，而預計明年英特爾的首批GPU將在使用GPU的各個(gè)市場(chǎng)上發(fā)布。

目前來(lái)說(shuō)，數據中心當中，95％左右的GPU仍然還是連接到x86的CPU之上，英偉達如果單純只是做GPU的增量，仍然無(wú)法撼動(dòng)英特爾在數據中心服務(wù)器的霸主地位。

數據中心業(yè)務(wù)對于英特爾來(lái)說(shuō)，也正在成為其最核心的業(yè)務(wù)組成。2019年Q4英特爾的數據中心業(yè)務(wù)超越PC業(yè)務(wù)，成為其收入的主要來(lái)源；而在今年，英特爾對其技術(shù)組織和執行團隊的重組，也被外界視為全面轉型數據中心業(yè)務(wù)的開(kāi)始。

可以想見(jiàn)在未來(lái)的數據中心處理器業(yè)務(wù)上，英偉達將迎來(lái)英特爾最為強勁的保衛戰和反擊戰，而廣大的服務(wù)器集成商或將成為這場(chǎng)角力賽的受益方。

英偉達還要面對ADM這一新對手的追趕，不久前ADM曝出要花費300億美金收購賽靈思，就被看作是叫板英特爾，阻擊英偉達的雙戰略。

除此之外，英偉達還要在數據中心處理器業(yè)務(wù)中面臨來(lái)自客戶(hù)自研芯片的挑戰。云服務(wù)商本身也不愿意完全將自身的計算核心完全交給英偉達，無(wú)論是AWS、還是谷歌、阿里巴巴、華為，都已經(jīng)在布局自己的云端處理器。

數據中心已經(jīng)成為英特爾、英偉達、AMD這些老牌芯片巨頭未來(lái)爭奪的主戰場(chǎng)，DPU是數據中心戰場(chǎng)中重要一役。

作為一個(gè)“芯”生事物，走穩是當下的要務(wù)。DPU還在早期階段，這走的或是類(lèi)似GPU的革命路線(xiàn)。GPU剛出來(lái)時(shí)業(yè)界均不看好，但英偉達卻矢志不渝，不斷迭代和優(yōu)化，最終GPU一路狂奔，到最后全面接管了圖形圖像的顯示控制，并在A(yíng)I時(shí)代成為主力核心。但DPU真的會(huì )成另一個(gè)GPU嗎？