Habana Labs為Amazon EC2 DL1實(shí)例搭載Habana Gaudi AI加速器并提供強勁動(dòng)
在訓練機器學(xué)習模型中,與目前這一代基于GPU的實(shí)例相比,新的Amazon EC2實(shí)例的性?xún)r(jià)比提升高達40%。
本文引用地址:http://dyxdggzs.com/article/202111/429781.htmHabana Labs為Amazon EC2 DL1實(shí)例搭載Gaudi AI加速器并提供強勁動(dòng)力,新的實(shí)例專(zhuān)為深度訓練模型而設計(來(lái)源:英特爾)
新增功能:AWS近日宣布,將正式推出Amazon EC2 DL1實(shí)例,這是一種專(zhuān)為訓練深度學(xué)習模型而設計的新實(shí)例類(lèi)型?,F在,AWS的機器學(xué)習客戶(hù)可以利用這些由Habana? Gaudi? AI加速器支持的新實(shí)例,針對AI工作量實(shí)現高達40%的性?xún)r(jià)比提升1,新實(shí)例支持自然語(yǔ)言處理和計算機視覺(jué)應用程序,包括對象檢測和圖像分類(lèi)。
“Habana的Gaudi AI加速器采用旨在提高AI計算效率的全新設計,資源利用率更高,集成的成本效益大于GPU。因此,使用這些新的Amazon EC2 DL1實(shí)例來(lái)訓練機器學(xué)習模型時(shí),每小時(shí)定價(jià)更低,從而節省了大量成本?!?/p>
– Habana Labs首席商務(wù)官Eitan Medina
行業(yè)重要性:機器學(xué)習業(yè)已成為主流,因為各個(gè)公司和組織訓練的模型越來(lái)越多,訓練后的模型會(huì )部署到整個(gè)企業(yè)中,用于分析大量數據以搜索并識別模式。為了保持和優(yōu)化這些模型的預測準確性和高質(zhì)量,數據研究人員需要經(jīng)常調整并重新訓練模型,這就要求有高性能的計算資源,可能會(huì )讓公司和組織望而卻步。
獨特之處:與基于GPU的實(shí)例相比,由Habana Gaudi AI加速器支持的Amazon EC2 DL1實(shí)例能以更低的成本提供更高的計算效率。這些新實(shí)例配備多達8個(gè)Gaudi加速器、256GB高帶寬存儲、768GB系統存儲、第二代Amazon定制的英特爾?至強?可擴展(“Cascade Lake”)處理器、400 Gbps網(wǎng)絡(luò )吞吐量和高達4TB的本地NVMe存儲器。這些特色配置綜合在一起使性?xún)r(jià)比得到大幅提升,相比用于訓練常見(jiàn)機器學(xué)習模型的最新基于GPU的Amazon EC2實(shí)例,性?xún)r(jià)比提升幅度高達40%1。
“客戶(hù)希望利用深度學(xué)習帶來(lái)的優(yōu)勢 - 提高業(yè)務(wù)洞察力、改善用戶(hù)體驗和優(yōu)化盈利能力?!盇mazon Web Services(AWS)產(chǎn)品管理EC2高級經(jīng)理Chetan Kapoor表示說(shuō):“該項技術(shù)已經(jīng)開(kāi)始騰飛,運用該項技術(shù)后,我們的客戶(hù)也需要更高的計算效率。支持新EC2 DL1實(shí)例的Habana Gaudi AI加速器可確保在目前云端的AI培訓具有最佳性?xún)r(jià)比?!?/p>
可用市場(chǎng):Amazon EC2 DL1實(shí)例首先會(huì )在兩個(gè)地區發(fā)布:美國東部(弗吉尼亞北部)和美國西部(俄勒岡)。EC2 DL1實(shí)例支持按需實(shí)例、預留實(shí)例和現貨購買(mǎi)選項,也可用作儲蓄計劃的一部分。
評論