<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>
"); //-->

博客專(zhuān)欄

EEPW首頁(yè) > 博客 > AI算力應用中的光模塊產(chǎn)品

AI算力應用中的光模塊產(chǎn)品

發(fā)布人:chaser1 時(shí)間:2024-01-02 來(lái)源:工程師 發(fā)布文章

以ChatGPT為代表的AI大模型應用普及將推動(dòng)算力需求快速增長(cháng),服務(wù)器產(chǎn)業(yè)鏈是其中重要的受益環(huán)節之一,AI計算的普及將推動(dòng)服務(wù)器產(chǎn)業(yè)鏈光模塊向800G升級提速。

算力網(wǎng)絡(luò )驅動(dòng)下光模塊市場(chǎng)需求預測

光模塊是數據中心內部互連和數據中心相互連接的核心部件。100G和400G是主流產(chǎn)品,800G過(guò)去主要用在超算等領(lǐng)域。據LightCounting預計,2023年800G全球普及率僅0.62%。而以ChatGPT為代表的AI大模型,對數據中心內外的數據流量都提出了新要求,有望推動(dòng)光模塊加速向800G升級。800G光模塊將從2025年底開(kāi)始主導光模塊市場(chǎng)。

光模塊市場(chǎng)

根據LightCounting的數據,2016年至2020年,全球光模塊市場(chǎng)規模從58.6億美元增長(cháng)到66.7億美元,預測2025年全球光模塊市場(chǎng)將達到113億美元,為2020年的1.7倍。從結構上看數通市場(chǎng)占60%,電信市場(chǎng)占40%左右。

光模塊市場(chǎng)

 

AI算力場(chǎng)景光模塊應用情況

首先我們以英偉達的SuperPOD為例測算單顆GPU與光模塊的比例。測算僅考慮IB網(wǎng)絡(luò )對應的光模塊需求。以140個(gè)節點(diǎn)的集群為例,每臺舉例服務(wù)器需要8顆GPU芯片,共需140×8=1120顆芯片;集群中每20臺服務(wù)器組成一個(gè)SU(scalable units,可擴展單元),共7個(gè)SU。IB網(wǎng)絡(luò )架構下實(shí)現了完整的胖樹(shù)(Fat-Tree)拓撲結構,胖樹(shù)架構在訓練場(chǎng)景中最優(yōu)的配置是上下行端口數一樣,即無(wú)阻塞的網(wǎng)絡(luò ),具體來(lái)看:

  1. 第一層:每個(gè)SU 中配置8臺葉交換機,共有56臺葉交換機;

  2. 第二層:每10臺脊交換機組成一個(gè)交換機組Spine Group( SG),每個(gè)SU 的第一個(gè)葉交換機連接到SG1中的每個(gè)交換機,每個(gè)SU的第二個(gè)葉交換機連接到SG2中的每個(gè)交換機,共有80個(gè)脊交換機;

  3. 第三層:每14臺核心交換機組成一個(gè)交換機組Core Group(CG),對應共28個(gè)核心交換機。

使用系統的對應計算側和存儲側線(xiàn)纜全部采用AOC有源光纜,因此每個(gè)端口對應一個(gè)光模塊,即每條光纜對應2個(gè)光模塊,因此計算側和存儲側共需要(1120+1124+1120)×2+(280+92+288)×2=8048個(gè)光模塊,即單顆GPU對應所需200G光模塊數量約為1:7.2

DGX GH200超級計算機搭載256個(gè)超級芯片,每個(gè)超級芯片可視為一個(gè)服務(wù)器,通過(guò)交換機進(jìn)行互聯(lián)。從結構上來(lái)看,超級計算機采用兩層的胖樹(shù)拓撲結構,第一、二層分別使用96個(gè)、36個(gè)交換機,每臺交換機擁有32個(gè)速率為800G的端口;此外超級計算機還配備了24個(gè)IB交換機用于IB網(wǎng)絡(luò )。按照端口進(jìn)行估算,L1層距離較近因此假定使用銅纜進(jìn)行連接不涉及光模塊,L2層36個(gè)交換機在無(wú)收斂胖樹(shù)架構下,第二層交換機端口向下與L1層交換機上行端口互聯(lián),因此共需要36×32×2=1152個(gè)800G光模塊;IB網(wǎng)絡(luò )架構下,24臺交換機需要24×32=768個(gè)800G光模塊;則DGX GH200超級計算機共需要1152+768=1920個(gè)800G光模塊,對應每顆芯片12個(gè)800G光模塊。則GPT-3單日完成訓練需要8萬(wàn)顆以上200G光模塊,如果考慮到FLOPS的利用率約為20%-30%,則需要光模塊的數量將約為35萬(wàn)顆。

易飛揚應用于算力場(chǎng)景的光模塊

AI發(fā)展促進(jìn)了海量光模塊需求,易飛揚則已于2023年完成800G/400G AI應用光模塊產(chǎn)線(xiàn)建設任務(wù),新建成的生產(chǎn)線(xiàn)主要用于4×100G PAM4和8×100G PAM4光模塊和有源光纜的生產(chǎn)。

易飛揚光模塊

易飛揚光模塊

得益于供應鏈的支持,易飛揚的系列AI光模塊量產(chǎn)順利,公司本身的產(chǎn)品多樣化設計能力、訂單能力和供應鏈能力形成了較好的匹配關(guān)系??梢詾橹行】蛻?hù)提供靈活有效的需求交付和樣品測試。


*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。



關(guān)鍵詞: 光模塊 AI

相關(guān)推薦

技術(shù)專(zhuān)區

關(guān)閉
国产精品自在自线亚洲|国产精品无圣光一区二区|国产日产欧洲无码视频|久久久一本精品99久久K精品66|欧美人与动牲交片免费播放
<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>