Habana Labs宣布推出Gaudi?人工智能訓練處理器

2019年6月19日，中國北京——行業(yè)領(lǐng)先的人工智能處理器開(kāi)發(fā)商Habana Labs宣布推出Habana Gaudi?人工智能訓練處理器，基于Gaudi的訓練系統實(shí)現了比擁有相同數量的GPU系統高四倍的處理能力。

Gaudi?處理器的創(chuàng )新架構可實(shí)現訓練系統性能的近線(xiàn)性擴展，即使是在較小Batch Size的情況下，也能保持高計算力。因此，基于Gaudi?處理器的訓練性能可實(shí)現從單一設備擴展至由數百個(gè)處理器搭建的大型系統的線(xiàn)性擴展。

除了領(lǐng)先的性能，Gaudi?處理器還為人工智能訓練帶來(lái)了另一項“行業(yè)第一”。該人工智能處理器片上集成了 RDMA over Converged Ethernet (RoCE v2) 功能，從而讓人工智能系統能夠使用標準以太網(wǎng)擴展至任何規模。憑借Gaudi?處理器，Habana Labs的客戶(hù)亦可利用標準以太網(wǎng)交換進(jìn)行人工智能訓練系統的縱向擴展和橫向擴展。同時(shí)，以太網(wǎng)交換機已被數據中心應用于計算系統和存儲系統的擴展中，在速度和端口數方面可提供幾乎無(wú)限的可擴展性。另外，與Habana的標準設計相比，基于GPU的系統依賴(lài)于專(zhuān)有的系統接口，對系統設計人員來(lái)說(shuō)，這從本質(zhì)上限制了可擴展性和選擇性。

Linley集團首席分析師Linley Gwennap評論說(shuō)：“Habana Labs推出新產(chǎn)品，其產(chǎn)品組合迅速地從推理處理器擴展到訓練處理器，涵蓋了神經(jīng)網(wǎng)絡(luò )的所有功能。在眾多的人工智能訓練加速器產(chǎn)品中，Gaudi?處理器能夠提供強大的性能，達到行業(yè)領(lǐng)先的能效水平。作為首款集成100G以太網(wǎng)鏈路并支持RoCE的人工智能處理器，Gaudi?為使用行業(yè)標準組件構建而成的大型加速器集群提供了強大的支持?！?/p>

Gaudi?人工智能訓練處理器配備32GB HBM-2內存，目前提供兩種規格：

·HL-200 - PCIe卡，設有8個(gè)100Gb以太網(wǎng)端口；

·HL-205 - 基于OCP-OAM標準的子卡，設有10個(gè)100Gb以太網(wǎng)端口或20個(gè)50Gb以太網(wǎng)端口。

另外，Habana推出了一款名為HLS-1的8-Gaudi系統，配備了8個(gè)HL-205子卡、PCIe外部主機連接器和24個(gè)用于連接現有以太網(wǎng)交換機的100Gbps以太網(wǎng)端口，讓客戶(hù)能夠通過(guò)在19英寸標準機柜中部署多個(gè)HLS-1系統實(shí)現性能擴展。

Gaudi?處理器是Habana Labs繼去年推出Goya?人工智能推理處理器后的第二款人工智能專(zhuān)用處理器。Goya?處理器自2018年第四季度開(kāi)始發(fā)貨，并向業(yè)界展示了領(lǐng)先的推理性能，可實(shí)現業(yè)界最高的吞吐量、功效比（圖片/每秒瓦）以及實(shí)時(shí)。

Habana Labs首席執行官David Dahan 表示：“人工智能模型訓練所需的計算能力每年呈指數增長(cháng)。因此，提高生產(chǎn)率和可擴展性，解決數據中心和云計算對計算能力的迫切需求成為至關(guān)重要的任務(wù)。憑借Gaudi?處理器的創(chuàng )新架構，Habana Labs帶來(lái)了業(yè)界最高的性能，同時(shí)集成了標準以太網(wǎng)，進(jìn)而實(shí)現無(wú)限可擴展性。Gaudi?處理器將打破人工智能訓練處理器領(lǐng)域的現狀?！?/p>

Facebook技術(shù)和戰略總監Vijay Rao表示：“Facebook正在尋找開(kāi)放的平臺以進(jìn)行行業(yè)創(chuàng )新融合。我們很高興看到Habana Labs的Goya?人工智能推理處理器為Glow機器學(xué)習編譯器實(shí)現后端開(kāi)源，并且Gaudi?人工智能訓練處理器采用OCP加速器模塊 (OAM) 規范?！?/p>

Gaudi?是一款完全可編程且可定制的處理器，搭載第二代Tensor處理核 (TPC?) 并集成開(kāi)發(fā)工具、庫和編譯器，共同提供全面而靈活的解決方案。此外，Habana Labs的SynapseAI?軟件棧包含一個(gè)豐富的內核庫和開(kāi)放工具鏈，以供客戶(hù)添加專(zhuān)有內核。

Habana Labs將于2019年下半年面向特定客戶(hù)提供Gaudi?人工智能訓練處理器的樣品。