中科馭數DPU技術(shù)開(kāi)放日

一、DPU的產(chǎn)業(yè)應用價(jià)值及落地情況

·  證券基金行業(yè)

金融信創(chuàng )已步入深水區，由“邊緣替代”邁向“核心替代”。在金融行業(yè)，核心交易系統對網(wǎng)絡(luò )時(shí)延的需求從毫秒級提升到微秒甚至納秒，低時(shí)延網(wǎng)絡(luò )領(lǐng)域的核心設備長(cháng)期被國外廠(chǎng)商Solarflare與Mellanox壟斷，時(shí)延和安全問(wèn)題成了制約銀行、證券、期貨等行業(yè)發(fā)展的難點(diǎn)之一，行業(yè)內純軟件的加速方案遭遇瓶頸，超低時(shí)延網(wǎng)絡(luò )解決方案可有效解決這一難題，并實(shí)現完全自主可控。

中科馭數基于自主研發(fā)的低時(shí)延網(wǎng)絡(luò )DPU卡構建超低時(shí)延網(wǎng)絡(luò )，支撐金融交易核心鏈路從底層硬件到上層應用系統具備超低時(shí)延、低抖動(dòng)、完全自主可控等特性，在超低時(shí)延網(wǎng)絡(luò )領(lǐng)域真正打破壟斷，實(shí)現國產(chǎn)升級替代。目前，中科馭數的DPU系列產(chǎn)品已經(jīng)在金融證券領(lǐng)域實(shí)現規?；涞?，同時(shí)也是上交所天相實(shí)驗室、以及申萬(wàn)宏源、東證期貨等低時(shí)延實(shí)驗室參與方，助力超過(guò)30家金融機構完成核心超低時(shí)延系統替換，有力保障金融系統的平穩運行。

以國內某頭部證券機構廠(chǎng)商的落地情況為例，中科馭數低時(shí)延網(wǎng)絡(luò )DPU卡在部署某金融機構核心交易系統之后，解決了該金融機構交易系統的低時(shí)延問(wèn)題，幫助高頻交易客戶(hù)實(shí)現交易全鏈路時(shí)延優(yōu)化，滿(mǎn)足了核心交易場(chǎng)景下對低時(shí)延、低抖動(dòng)的極致要求。

中科馭數低時(shí)延網(wǎng)絡(luò )DPU卡作為證券交易鏈路的關(guān)鍵一環(huán)，對于證券行業(yè)全國產(chǎn)信創(chuàng )改造至關(guān)重要。申萬(wàn)宏源聯(lián)合中科馭數等多家軟硬件廠(chǎng)商成立低時(shí)延實(shí)驗室，針對國內證券機構核心業(yè)務(wù)全信創(chuàng )改造的可能性進(jìn)行了權威實(shí)驗測試，全面對比了全信創(chuàng )方案與非信創(chuàng )方案在基礎設施測評、以及業(yè)務(wù)系統測評下的不同技術(shù)性能表現。測試結果顯示，基于當前性能最優(yōu)的超頻服務(wù)器，與Arista7150構成的集成測試環(huán)境中，D廠(chǎng)柜臺在使用中科馭數網(wǎng)卡時(shí)性能表現最佳，柜臺應答全鏈路時(shí)延領(lǐng)先17%；相比當前半信創(chuàng )生產(chǎn)環(huán)境，采用華為CE6885 + 鯤鵬920 + 中科馭數SWIFT-2200N，在全信創(chuàng )環(huán)境下整體提升6%-11%。鏈接參考：https://mp.weixin.qq.com/s/kpA32s8X1oJiFmwy6DKvmQ

隨著(zhù)信創(chuàng )全面提速和展開(kāi)，信創(chuàng )云也是當前證券機構上云的重要選擇。東方證券信創(chuàng )云平臺歷時(shí)4年多的持續建設和技術(shù)積累，目前已初具規模。從2023年開(kāi)始，東方證券開(kāi)始和中科馭數接觸，進(jìn)行相關(guān)技術(shù)研討和產(chǎn)品的POC測試，嘗試引入低時(shí)延技術(shù)引入到我們信創(chuàng )云之中。隨著(zhù)國產(chǎn)DPU卡的引入，進(jìn)一步優(yōu)化低時(shí)延信創(chuàng )云平臺業(yè)務(wù)架構，圍繞信創(chuàng )建設和時(shí)延優(yōu)化雙重目標，打造一云多芯、超低時(shí)延的信創(chuàng )云?！耙辉贫嘈尽?作為信創(chuàng )產(chǎn)業(yè)鏈承上啟下的關(guān)鍵環(huán)節，對下納管多種國產(chǎn)CPU和DPU網(wǎng)絡(luò )設備，實(shí)現統一調度資源，屏蔽底層差異性；對上兼容各種國產(chǎn)操作系統、國產(chǎn)數據庫和各類(lèi)低時(shí)延應用。

·  銀行

在銀行領(lǐng)域，近年來(lái)移動(dòng)互聯(lián)網(wǎng)與金融科技的飛速發(fā)展，銀行數據中心的業(yè)務(wù)請求數量以及數據處理數量極速上漲。同時(shí)由于金融創(chuàng )新需求，銀行業(yè)開(kāi)展的的業(yè)務(wù)種類(lèi)也呈現爆發(fā)式增長(cháng)。這些現狀都對銀行業(yè)的IT基礎設施，尤其是云化設施提出了新的嚴苛挑戰。隨著(zhù)云原生技術(shù)的發(fā)展，其更加輕量的應用部署策略與更加完善的生命周期管理機制，逐漸成為下一代云計算的操作系統基座。同時(shí)，隨著(zhù)數據中心網(wǎng)絡(luò )帶寬的更新?lián)Q代以及存儲技術(shù)的進(jìn)步，云計算基礎設施消耗的CPU資源逐漸增加。

在此背景下，作為中科馭數重要客戶(hù)的某大型國有銀行希望能借助新興的DPU技術(shù)完成下一代云計算系統的驗證與建設，達到降本增效的目的。中科馭數解決方案可以匹配該銀行的各種應用需求，包括高性能網(wǎng)絡(luò )、存儲底座，虛擬機、容器與裸金屬服務(wù)器的共池管理，VPC網(wǎng)絡(luò )等，可以幫助銀行數據中心高效、安全、平穩地過(guò)渡到云原生業(yè)務(wù)架構。

·  云計算

中科馭數的DPU產(chǎn)品已經(jīng)在某頭部云計算廠(chǎng)商的云數據中心中落地?；贒PU的方案使得裸金屬服務(wù)的業(yè)務(wù)邏輯發(fā)生了明顯變化，可以大大縮短裸金屬服務(wù)的交付時(shí)間，實(shí)現了虛擬網(wǎng)絡(luò )功能的全面卸載，也為存算分離相關(guān)的多種存儲技術(shù)提供了統一的接口。中科馭數自主研發(fā)的DPU產(chǎn)品不但能夠提升云數據中心業(yè)務(wù)的性能表現，節省寶貴的算力資源，還可以從根本上消除非國產(chǎn)設備導致的潛在安全風(fēng)險。

在某大型金融機構的數據中心中，DPU的高吞吐和低延遲特性幫助了該數據中心高效、安全、平穩地過(guò)渡到云原生業(yè)務(wù)架構，為其打造了更為高效可靠、自主可控的金融交易底座。憑借DPU芯片在新型數據中心的落地實(shí)踐，中科馭數相關(guān)產(chǎn)品和解決方案獲評新型數據中心創(chuàng )新發(fā)展案例。

·  5G通信

中科馭數是國內三大運營(yíng)商的硬件合作伙伴，共同探索DPU在5G通信和云計算領(lǐng)域的技術(shù)解決方案。在5G通信網(wǎng)絡(luò )快速發(fā)展的過(guò)程中，算力和網(wǎng)絡(luò )融合發(fā)展需要更加綠色高效的數據處理硬件加速技術(shù)，亟待DPU提升系統性能。DPU將在高性能數據處理、低延遲數據傳輸、網(wǎng)絡(luò )管理、存儲以及安全等基礎設施底層建設發(fā)揮關(guān)鍵作用。DPU通過(guò)接手CPU不擅長(cháng)的網(wǎng)絡(luò )協(xié)議處理、數據加解密等數據處理任務(wù)，不僅可以提高網(wǎng)絡(luò )傳輸效率，而且釋放了CPU算力資源。在新型算力DPU的加持下，能夠提供靈活高效的硬件加速服務(wù)，支持云基礎設施層功能卸載，云邊協(xié)同、云網(wǎng)一體都將逐步實(shí)現。

聯(lián)通研究院曹暢博士曾在2023中國計算機大會(huì )上表示，DPU是銜接計算和網(wǎng)絡(luò )兩大領(lǐng)域的重要樞紐，云、網(wǎng)、算協(xié)同，通過(guò)資源的深度感知與一體化編排，可以實(shí)現算力發(fā)現和跨域互通，打通數據與計算節點(diǎn)的通路。DPU作為網(wǎng)絡(luò )和計算的銜接點(diǎn)，可解決數據傳輸的“最后一米”問(wèn)題。通過(guò)DPU可以實(shí)現虛擬化層的全卸載和定制化的業(yè)務(wù)加速能力，具有更強的可編程能力。

對于未來(lái)中國聯(lián)通研究院與中科馭數的合作，中國聯(lián)通研究院唐雄燕院長(cháng)也表達了三點(diǎn)期待：一是在談到未來(lái)移動(dòng)通信研究時(shí)，表達了借用DPU技術(shù)提供新的高效能硬件加速解決方案的期望。二是認為在引入DPU后，雙方可以為聯(lián)通包括云服務(wù)、超算服務(wù)等在內的服務(wù)體系提供差異化的服務(wù)，通過(guò)深度融合創(chuàng )新技術(shù)為用戶(hù)提供更靈活、高效的服務(wù)。三是積極探索在算網(wǎng)融合技術(shù)的研發(fā)和推廣應用，共建算力網(wǎng)絡(luò )生態(tài)。

中國移動(dòng)云能力中心劉軍衛也在2023移動(dòng)云大會(huì )中分享到，中國移動(dòng)將助力打造國家級自主可控的高性能算力基礎設施，通過(guò)布局國產(chǎn)化智算生態(tài)、共建自主GPU+DPU產(chǎn)業(yè)聯(lián)盟、聯(lián)創(chuàng )高性能網(wǎng)絡(luò )技術(shù)三大舉措，帶動(dòng)國產(chǎn)化智算產(chǎn)業(yè)成熟發(fā)展，抓住云計算技術(shù)定義權，引領(lǐng)云計算市場(chǎng)下一個(gè)黃金十年。到2024年，打通DPU、GPU、HPN三大單元，面向大模型場(chǎng)景打造一套全棧自主可控的系統。

二、中科馭數DPU技術(shù)開(kāi)放日解決方案相關(guān)簡(jiǎn)介

三、中科馭數企業(yè)基本情況

·  中科馭數是DPU新型算力基礎設施領(lǐng)軍企業(yè)

中科馭數專(zhuān)注于DPU芯片的研發(fā)設計，基于自研KPU芯片架構率先在國內進(jìn)行了三代DPU芯片研發(fā)。自主研發(fā)的國際領(lǐng)先DPU芯片及系列產(chǎn)品，可以廣泛應用于超低延遲網(wǎng)絡(luò )、云和數據中心、金融計算、大數據處理、5G邊緣計算、高性能計算等場(chǎng)景，助力算力成為數字時(shí)代的新生產(chǎn)力。

發(fā)展至今，中科馭數從芯片底層架構，到網(wǎng)絡(luò )、存儲、計算等上層應用系統，已形成深厚的核心技術(shù)積累，成長(cháng)為DPU芯片細分領(lǐng)域內唯一的國家專(zhuān)精特新小巨人企業(yè)、國家高新技術(shù)企業(yè)、北京市知識產(chǎn)權試點(diǎn)單位，獲得了多項國家級及省部級科技獎項。中科馭數牽頭并參與了30余項行業(yè)標準及團隊標準的制定，是DPU標準的重要推動(dòng)者和參與者。

·  軟硬協(xié)同發(fā)展的技術(shù)路線(xiàn)

DPU的研發(fā)基于軟硬協(xié)同的自主研發(fā)技術(shù)。芯片設計的核心技術(shù)方面，中科馭數創(chuàng )新性地提出了軟件定義加速器（Software Defined Accelerator）技術(shù)路線(xiàn)，自主開(kāi)發(fā)敏捷異構KPU創(chuàng )新架構，解決DPU芯片設計碎片化的問(wèn)題，具有軟件定義可配置、低設計成本、計算高效的優(yōu)勢。在芯片軟件生態(tài)方面，中科馭數自研的DPU軟件開(kāi)發(fā)平臺HADOS，可兼容多種操作系統，大幅降低應用軟件開(kāi)發(fā)難度。

·  中科馭數芯片產(chǎn)品及解決方案布局

中科馭數基于DPU打造超低時(shí)延網(wǎng)絡(luò )、云原生網(wǎng)絡(luò )、智算網(wǎng)絡(luò )三大方案，搭建了完善的應用生態(tài)，客戶(hù)可覆蓋云服務(wù)廠(chǎng)商、數據中心、運營(yíng)商、證券基金、銀行等數字經(jīng)濟領(lǐng)域企業(yè)。

·  中科馭數生態(tài)建設情況

基DPU軟件開(kāi)發(fā)平臺HADOS，中科馭數全面擁抱國產(chǎn)化生態(tài)，已與國內6大CPU芯片、12家主流操作系統、9家主流數據庫廠(chǎng)商、8家頭部云/云原生廠(chǎng)商、17家TOP級服務(wù)器廠(chǎng)商完成兼容性適配。參與10大開(kāi)源社區平臺，共同推動(dòng)技術(shù)發(fā)展

四、DPU技術(shù)發(fā)展背景

·  DPU已被證明是支撐下一代數據中心IaaS及PaaS的重要基礎設施

隨著(zhù)信息技術(shù)的持續發(fā)展，數據中心網(wǎng)絡(luò )帶寬從100G邁入400G，甚至將提升至800G或1.6T。然而，作為提供算力的物理載體，受限于通用CPU的結構的馮諾依曼瓶頸、摩爾定律逐漸失效等因素的影響，以CPU為網(wǎng)絡(luò )核心的數據處理能力難以支持大規模新型數據中心的網(wǎng)絡(luò )和數據的算力需求。在此背景下，DPU已經(jīng)成為繼CPU、GPU之后未來(lái)數據中心的第三顆主力芯片。

舉例來(lái)說(shuō)，如果將數據中心中的每一臺服務(wù)器比喻為一座“城市”，在每個(gè)城市人口不斷膨脹，城市間交互需求爆炸式增長(cháng)的背景下，對比傳統網(wǎng)卡，DPU幫助數據中心完成了從“鄉間公路”到“高速鐵路”的轉變。DPU提供的高吞吐、低時(shí)延、基礎設施卸載能力，幫助數據中心完美的規避了“信息孤島”問(wèn)題。未來(lái)的技術(shù)發(fā)展趨勢將會(huì )是高度集成化的片上數據中心的模式（Data Center Infrastructure on a chip），即一個(gè)GPU、CPU、DPU共存的時(shí)代。

·  DPU國內市場(chǎng)規模巨大

隨著(zhù)新一代信息技術(shù)發(fā)展、算力應用場(chǎng)景不斷涌現，數據中心需求穩步提升，未來(lái)國內數據中心建設將繼續加大。根據2023年《中國數據中心產(chǎn)業(yè)發(fā)展白皮書(shū)》,預計至 2025 年“十四五”規劃期末，擬實(shí)現數據中心機架規模增長(cháng)至 1400 萬(wàn)架，規?？偭糠瓋杀?，總增量投資約 7000 億元。

按服務(wù)器規模預計，未來(lái)幾年云與數據中心領(lǐng)域每年國內服務(wù)器出貨量將維持在500萬(wàn)臺左右，其中DPU滲透率在10%左右，單臺服務(wù)器可以配置一塊到多塊DPU板卡，預計每年DPU需求量將在100萬(wàn)片左右。

·  政策密集出臺，利好DPU產(chǎn)業(yè)發(fā)展

信創(chuàng )產(chǎn)業(yè)是數字經(jīng)濟、信息安全發(fā)展的基礎。從國家層面的頂層設計、到地方發(fā)展規劃，加快建設算力基礎設施的各種重磅政策和方案接連出臺，產(chǎn)業(yè)技術(shù)創(chuàng )新受到高度重視。國家十四五規劃明確將“自主可控”列為制造強國戰略的必要要求。與CPU、GPU芯片一樣，當前國產(chǎn)自主網(wǎng)卡芯片的市場(chǎng)占有率極低。根據國務(wù)院印發(fā)的《新時(shí)期促進(jìn)集成電路產(chǎn)業(yè)和軟件產(chǎn)業(yè)高質(zhì)量發(fā)展的若干政策》要求，中國芯片自給率要在2025年達到70%。

2023年10月，工信部、中央網(wǎng)信辦、國務(wù)院國資委等六部門(mén)2023年10月聯(lián)合印發(fā)《算力基礎設施高質(zhì)量發(fā)展行動(dòng)計劃》，提出到2025年，算力規模超過(guò)300 EFLOPS，并將數據處理器 (DPU) 設為重要任務(wù)之一。