Habana Gaudi處理器為亞馬遜 EC2客戶(hù)帶來(lái)低成本的人工智能訓練體驗
加入技術(shù)交流群
在近日舉行的re:Invent 2020 CEO主題大會(huì )上，AWS 宣布 了采用多達8個(gè)Habana? Gaudi?加速器的EC2實(shí)例，比目前GPU的EC2實(shí)例在機器學(xué)習性?xún)r(jià)比上提升了40%1，基于Gaudi?的EC2實(shí)例計劃于2021年上半年提供使用。
本文引用地址：http://dyxdggzs.com/article/202012/421026.htm在主題大會(huì )上，AWS首席執行官Andy Jassy強調了各行業(yè)對高性能、更實(shí)惠的人工智能工作的巨大需求。隨著(zhù)公司計劃引入以Gaudi為特色的新EC2實(shí)例進(jìn)行深度學(xué)習訓練，AWS將進(jìn)一步降低AI數據集的訓練成本，并降低希望利用AI提供業(yè)務(wù)分析、改善效率和增強用戶(hù)體驗的客戶(hù)的運營(yíng)總成本。
8卡的Gaudi 解決方案可以在TensorFlow上每秒處理12000張圖像訓練ResNet-50模型。每個(gè)Gaudi處理器集成了32GB的HBM2內存，并集成了用于服務(wù)器內部處理器互聯(lián)的RoCE功能。憑借AWS彈性架構適配器（EFA）的技術(shù)可以跨服務(wù)器擴展，從而允許AWS及其客戶(hù)無(wú)縫地擴展使用多個(gè)基于Gaudi的系統以實(shí)現高效和可擴展的分布式訓練。
Habana的SynapseAI軟件套件專(zhuān)為在Habana Gaudi處理器上提供高性能的深度學(xué)習訓練，SynapseAI與TensorFlow和Pythorch等流行的深度學(xué)習框架集成，對Gaudi進(jìn)行了優(yōu)化。開(kāi)發(fā)人員將可以獲取開(kāi)放的Gaudi軟件、參考模型和文檔。參考模型將在Habana的GitHub知識庫中公開(kāi)發(fā)布，并將包括各種流行的模型，如圖像分類(lèi)、對象檢測、自然語(yǔ)言處理和推薦系統。SynapseAI軟件套件包括Habana的圖形編譯器和實(shí)時(shí)Tensor Processor Core (TPC)內核庫、固件和驅動(dòng)程序，以及用于定制內核開(kāi)發(fā)的TPC SDK和SynapseAI Profiler等開(kāi)發(fā)工具。
Habana將在目前Gaudi效能基礎上，推出下一代TSMC 7nm 的Gaudi2?，讓AI訓練應用和服務(wù)廣大客戶(hù)、數據科學(xué)家和研究人員。
1該 性?xún)r(jià)比 由AWS根據AWS內部測試給出。 Habana? Labs不控制或審核第三方數據；您的成本和結果可能會(huì )有所不同。
Gaudi?性能基于8個(gè)Gaudi?處理器的服務(wù)器，HLS—1和0.11版本的SynapseAI軟件套件。
評論