Graphcore與Cirrascale聯(lián)合發(fā)布Graphcloud利用Graphcore MK2 IPU云計算加速創(chuàng )新
近日,Graphcore宣布其在幫助客戶(hù)加速創(chuàng )新和大規模利用人工智能技術(shù)上,又邁出了新的一步。
本文引用地址:http://dyxdggzs.com/article/202101/422415.htmGraphcore與Cirrascale Cloud Services (以下簡(jiǎn)稱(chēng)Cirrascale)攜手,為云上人工智能帶來(lái)全新內容:借助首個(gè)公開(kāi)發(fā)行的、基于第二代IPU的IPU-POD(MK2 IPU-POD)橫向擴展集群,不需要擁有和運營(yíng)數據中心,我們提供了一種簡(jiǎn)單方法來(lái)實(shí)現來(lái)按需增加計算容量。
Graphcore認識到,人工智能技術(shù)為市場(chǎng)帶來(lái)了巨大的機遇,同時(shí)也帶來(lái)了一系列獨特的計算挑戰:模型的尺寸正在迅速增加,精度的標準也在不斷提高。如果客戶(hù)想要充分利用最新的創(chuàng )新,他們就需要一個(gè)緊密集成的、專(zhuān)門(mén)為人工智能構建的硬件和軟件系統。
Graphcloud是一項安全可靠的IPU-POD系列云服務(wù),讓客戶(hù)在從實(shí)驗、概念驗證和試點(diǎn)項目擴展到更大的生產(chǎn)系統時(shí),能夠獲取Graphcore IPU的強大功能。
首發(fā)時(shí),Graphcore提供兩款可用產(chǎn)品。在未來(lái)數月,Graphcore將提供更大的橫向擴展系統:
● IPU-POD16:提供4 PetaFLOPS的人工智能計算(4個(gè)IPU-M2000,即16個(gè)Colossus MK2 GC200 IPU)
● IPU-POD64:提供16 PetaFLOPS的人工智能計算(16個(gè)IPU-M2000,即64個(gè)Colossus MK2 GC200 IPU)
與最新的GPU系統相比 ,IPU-POD系統可降低訓練總成本,并縮短解決時(shí)間。
Graphcloud系統實(shí)例已預裝了Poplar和系統軟件。示例代碼和應用示例可在本地獲得,并可用于那些在Graphcore基準測試中使用的先進(jìn)模型,包括BERT和EfficientNet。用戶(hù)還可以訪(fǎng)問(wèn)全面的文檔,這些文檔可幫助他們快速啟用包括PyTorch和TensorFlow在內的多個(gè)框架。
總部位于英國的 Healx 是最早使用Graphcloud的Graphcore客戶(hù)之一,該公司的人工智能藥物研發(fā)平臺正在尋找罕見(jiàn)疾病的新療法。該公司在2019年人工智能大獎中獲得“健康和醫學(xué)領(lǐng)域的最佳AI應用獎”(Best Use of AI in Health and Medicine)。
Healx機器學(xué)習工程技術(shù)負責人Dan O’Donovan表示:“我們從2020年12月下旬開(kāi)始在Graphcloud上使用IPU-POD16,將我們現有的MK1 IPU代碼遷移到MK2系統上運行。這一過(guò)程毫無(wú)障礙,并且帶來(lái)巨大的性能優(yōu)勢。為模型提供更多的存儲意味著(zhù)我們不再需要切分模型,而只需專(zhuān)注切分數據即可。這使得代碼更為簡(jiǎn)單,模型訓練更加高效?!?/p>
他還指出:“在與Graphcore的合作中,Graphcore始終為我們開(kāi)放最新硬件、SDK和工具的訪(fǎng)問(wèn)權限。此外,我們還可以通過(guò)直接會(huì )議和支持服務(wù)部門(mén)與Graphcore的硬件和軟件專(zhuān)業(yè)工程師持續進(jìn)行對話(huà)溝通?!?/p>
對于Graphcloud的發(fā)布,Graphcore聯(lián)合創(chuàng )始人兼CEO Nigel Toon表示:“無(wú)論用戶(hù)是初次評估我們的硬件和Poplar軟件棧,還是擴展人工智能計算資源,借助Graphcloud,啟用IPU變得前所未有的簡(jiǎn)單。我們很高興與Cirrascale合作,將Graphcloud推向世界。Graphcloud與我們的全球合作伙伴計劃、內部銷(xiāo)售和工程支持等重要組成部分,共同構成/構建了Graphcore全方位的產(chǎn)品與服務(wù)?!?/p>
Cirrascale CEO PJ Go表示:“ Cirrascale對于與Graphcore的戰略合作感到非常自豪,此次合作進(jìn)一步推動(dòng)了基于云的機器學(xué)習解決方案時(shí)代的發(fā)展,進(jìn)而與財富500強公司一起進(jìn)行全新的、大規模商業(yè)部署?!?/p>
定價(jià)與規格
可用系統類(lèi)型
IPU-POD16 4個(gè)IPU-M2000系統
IPU-POD64 16個(gè)IPU-M2000系統
定價(jià)
系統 | IPU-POD16 | IPU-POD64 |
費用/三年 | $212500 | $850000 |
費用/小時(shí) (三年付) | $8.08 | $32.34 |
費用/年 | $118750 | $475000 |
費用/小時(shí) (一年付) | $13.55 | $54.22 |
費用/月 | $16000 | $64000 |
費用/小時(shí) (一月付) | $22.22 | $88.88 |
費用/周 | $5000 | $20000 |
費用/小時(shí) (一周付) | $29.76 | $119.05 |
規格
● 兩個(gè)系統都利用了Graphcore獨特的IPU-Fabric?互連架構。IPU-Fabric?專(zhuān)為消除通信瓶頸設計,并允許成千上萬(wàn)個(gè)IPU作為單個(gè)高性能、超快速凝聚單元在機器智能工作負載上運行。
● 每個(gè)IPU-POD64實(shí)例均由4臺Dell R6525主機服務(wù)器支持,并且配有最強大的本地人工智能數據中心系統所使用的雙插槽AMD EPYC2 CPU,而每個(gè)IPU-POD16均有一臺相同規格的專(zhuān)用服務(wù)器。
● 為IPU-POD64和IPU-POD16分別提供了16TB和4TB的安全本地NVMe存儲。
● 每個(gè)IPU-POD64都提供57.6GB的處理器內存儲和2048GB的流存儲(32 x 64GB DIMM)。
● 每個(gè)IPU-POD16提供14.4GB處理器內存儲和512GB流存儲(8 x 64GB DIMM)。
評論