一文了解FPGA蝶變之旅 原來(lái)它才是英特爾、英偉達的隱形對手？

　　Versal的功力

　　被寄與厚望的Versal平臺究竟有何“功力”擔當重任?

　　先來(lái)看其硬件。賽靈思產(chǎn)品及技術(shù)營(yíng)銷(xiāo)高級技術(shù)總監Kirk Saban指出，異構計算平臺必須要有多個(gè)不同類(lèi)型的處理引擎，以應對不同的工作負載。Versal平臺整合了三種類(lèi)型的可編程處理器即標量引擎雙Arm Cortex-A72和Cortex-R5處理器、自適應引擎PL、智能引擎即AI引擎和DSP引擎，以及前沿的存儲器、高速收發(fā)器和多種接口技術(shù)等。

　　這些引擎形成一個(gè)緊密集成的異構計算平臺，并且各司其職。Kirk Saban介紹，Arm處理器通常用于控制應用、操作系統、通信接口等;PL執行數據操作和傳輸、非基于向量的計算和連接;AI引擎為基于向量的算法提供了高達五倍的計算密度。同時(shí)，這一切與片上網(wǎng)絡(luò ) (NoC) 連通，提供對所有三種處理單元類(lèi)型的存儲器映射訪(fǎng)問(wèn)，從而比任何一種單獨架構都支持更高的定制和性能提升。

　　值得一提的是，賽靈思獨創(chuàng )的AI引擎是一種新型硬件模塊，包括用于定點(diǎn)和浮點(diǎn)運算的向量處理器、標量處理器、專(zhuān)用程序和數據存儲器、專(zhuān)用AXI 數據移動(dòng)通道以及 DMA 和鎖止。它針對計算和DSP進(jìn)行了優(yōu)化，可滿(mǎn)足高吞吐量和高性能計算要求。相對于業(yè)界領(lǐng)先的GPU，AI 推斷性能預計能提升3-8倍，功耗降低 50%。

　　在軟件層面，Kirk Saban提到，Versal平臺引入革新性的軟件堆棧即NoC平臺管理控制器，提供了無(wú)縫連接的功能，可直接通過(guò)軟件進(jìn)行編程和配置。同時(shí)，符合業(yè)界標準設計流程的一系列工具、軟件、庫、IP等助力，使得Versal ACAP 的硬件和軟件均可由開(kāi)發(fā)者進(jìn)行編程和優(yōu)化，而這在賽靈思的歷史上也是絕無(wú)僅有的。

　　由此，硬件和軟件的共同創(chuàng )新成就了Versal ACAP 這一顛覆性的異構計算平臺，實(shí)現了顯著(zhù)的性能提升。Kirk Saban舉出了具體數字，其速度超過(guò)當前最高速的FPGA 20倍、比當今最快的CPU快100倍，同時(shí)可實(shí)現低于2ms的時(shí)延，相信數據中心、有線(xiàn)網(wǎng)絡(luò )、5G無(wú)線(xiàn)和ADAS等應用將樂(lè )見(jiàn)其成。

　　據悉，Versal平臺組合包括Versal基礎系列(Versal Prime)、Versal旗艦系列(Versal Premium)和HBM系列，提供不同的性能、連接性、帶寬和集成功能。此外，還包括Versal AI系列，包括AI核心(AI Core)系列、AI邊緣系列和AI射頻系列。Versal Prime 系列和AI Core 系列將于2019年下半年上市。前者具廣泛的適用性，用于在線(xiàn)加速和各種工作負載;后者提供高計算性能和最低時(shí)延，實(shí)現突破性的 AI 推斷吞吐量和性能。

　　同時(shí)，賽靈思還公布了發(fā)展路線(xiàn)圖，2020年將推出Premium和AI邊緣系列，下半年將上市AI射頻系列，而HBM將于2021年下半年面世。

　　其他架構自求多福?

　　Versal橫空出世，其它選手如CPU、ASIC等如何應對?

　　畢竟它們各有“苦衷”。Kirk Saban認為，標量處理單元(例如 CPU)在具有不同決策樹(shù)和廣泛庫的復雜算法中非常有效，但在性能擴展方面受到限制。而在先進(jìn)制程后摩爾定律已經(jīng)不再有效，CPU已無(wú)法適應最先進(jìn)的應用了。

　　而矢量處理單元(如GPU)在并行計算上效率更高,但由于存儲器層級結構不靈活，它們會(huì )受時(shí)延和效率的影響。它們可能在某一個(gè)功能領(lǐng)域的加速性能不錯，但靈活度不夠，無(wú)法適應創(chuàng )新的速度。

　　并且，通用AI芯片不是正確的方向。Kirk Saban分析說(shuō)，ASIC針對某個(gè)CNN、DNN來(lái)優(yōu)化形成固定功能，一旦有新的算法或者框架就需要重新設計，在目前發(fā)展態(tài)勢下對于變量少的行業(yè)ASIC相對適用，如果變化快ASIC很快就會(huì )過(guò)時(shí)，實(shí)際上連谷歌的TPU也概莫能外。

　　雖然GPU等有著(zhù)相對完善的生態(tài)系統，但Versal作為新興勢力，在生態(tài)的構建上也在大張旗鼓，一方面Versal可軟硬件編輯，開(kāi)發(fā)便利;另一方面，在著(zhù)力與合作伙伴一起互惠共贏(yíng)。 “Versal不會(huì )取代所有的GPU，但肯定會(huì )有越來(lái)越多的應用采用靈活應變的平臺?！边@是Victor Peng的判斷也是寄望。

　　為何著(zhù)重AI推斷?

　　需要指出的是，Versal看重的是AI推斷市場(chǎng)。

　　Salil Raje指出，AI有訓練和推斷兩大階段。對于訓練來(lái)說(shuō)海量數據非常重要，但延遲和功耗都不那么重要。而無(wú)論是在邊緣端還是云端的推斷，數據量很少，實(shí)時(shí)響應的性能非常重要，對延遲要求極高，而且對功耗也極為看重。

　　“AI訓練和推斷的要求是不一的，不能把訓練的解決方案直接應用到推斷上。在過(guò)去幾年，全球關(guān)注的主要是AI訓練，這是因為眾多新的AI應用需要應用AI模型，但今后AI模型將大量應用在云端和邊緣端，因而未來(lái)的模式更多的是AI推斷，而不是訓練?！?/p>

　　由此亦帶來(lái)了新的挑戰。Salil Raje指出，挑戰在于一是AI創(chuàng )新的速度，就像要追隨移動(dòng)的靶子一樣。二是需要低時(shí)延、高帶寬和高性能，最大的挑戰是功耗。三是要實(shí)現整體的應用加速，而不僅是機器學(xué)習的加速。

　　當然，AI訓練也是非常重要的市場(chǎng)。Salil Raje表示，賽靈思也在研發(fā)訓練用FPGA方案，不排除進(jìn)入這一市場(chǎng)的可能性。

　　中國AI初創(chuàng )企業(yè)不應熱衷于造芯

　　Versal平臺染指AI應用，也預示著(zhù)賽靈思要直面國內火爆的AI造芯廠(chǎng)商的競爭，對于這一點(diǎn)，賽靈思也有自己的見(jiàn)解。

　　“中國有大量AI初創(chuàng )企業(yè)，也有很多廠(chǎng)商在投入造芯，但賽靈思認為他們其實(shí)不一定要熱衷于造芯。因為設計AI芯片目前要采用16納米甚至7納米的工藝，所需的投入是巨大的，風(fēng)險也很大?！?Victor Peng提出了建議，“其實(shí)他們可在算法和框架方面深入研究，從這些層面來(lái)創(chuàng )造更多的價(jià)值;或者采用Versal平臺開(kāi)發(fā)具體應用，而不是投資幾億元去做芯片?！?/p>

　　“就像深鑒科技，兩年前就基于賽靈思產(chǎn)品做AI方面的開(kāi)發(fā)，因此在被收購后其成果可迅速應用到Versal平臺上，深鑒科技最為核心的就是DPU及神經(jīng)網(wǎng)絡(luò )壓縮編譯技術(shù)，應用此技術(shù)的Versal平臺可適應不同精度不同位寬，并且時(shí)延大幅降低?！盨alil Raje提及。

　　而對于華為、阿里都在打造屬于自有AI芯片的情形，Victor Peng表示，這表明目前正處于A(yíng)I革命的早期，大家都在尋找不同的解決方案，這帶來(lái)了眾多機遇?？赡苡幸恍╊I(lǐng)域是適用于固定功能的芯片，但絕大多數應用還將使用靈活平臺作為解決方案。

　　為何還要推出加速器卡?

　　除了打造Versal平臺之外，賽靈思也意識到在云端和數據中心的服務(wù)器中，FPGA作為一種服務(wù)即FaaS的部署正在加快。Victor Peng介紹說(shuō)，FaaS最初是從亞馬遜開(kāi)始部署，現已有8個(gè)國家在采用，今年賽靈思已培訓超過(guò)14000名的開(kāi)發(fā)者，實(shí)現了36個(gè)應用。在XDF大會(huì )上，亞馬遜就面向中國開(kāi)發(fā)者宣布AWS F1覆蓋區域數量翻番，并正式落地中國。

　　與之相呼應的是，據分析，全球加速器卡的市場(chǎng)將達到120億美元，而中國市場(chǎng)占據半壁江山。

　　為此，賽靈思還推出了功能強大的加速器卡——Alveo，它的優(yōu)勢在于客戶(hù)可對硬件進(jìn)行重配置，針對工作負載、新標準和新算法進(jìn)行調整和優(yōu)化，并且更加易用，同時(shí)性能更加出色。

　　就機器學(xué)習而言，Alveo U250實(shí)時(shí)推斷吞吐量比高端 CPU高出20 倍，相對于高端GPU等，能讓2毫秒以下的低時(shí)延應用性能提升4倍以上，堪稱(chēng)全球最快的數據中心加速卡。

　　而且，目前Alveo得到了合作伙伴和 OEM 廠(chǎng)商生態(tài)系統的廣泛支持，有14 家合作伙伴開(kāi)發(fā)完成的應用可立即投入部署，國內如華為、阿里云、浪潮等都已在合作，推出基于賽靈思的加速方案。此外，部分OEM芯片廠(chǎng)商將和賽靈思進(jìn)入更深入合作，認證采用Alveo加速器卡的多個(gè)服務(wù)器SKU，包括Dell EMC、Fujitsu和IBM等。這些關(guān)鍵應用涵蓋AI/ML、視頻轉碼、數據分析、金融風(fēng)險建模、安全和基因組學(xué)等。

　　阿里云FPGA異構計算研發(fā)總監張振祥宣稱(chēng)，阿里集團采用Faas提升發(fā)效率，節省了成本，阿里集團X項目每千片FPGA三年節約TCO成本40%。華為IT智能計算產(chǎn)品線(xiàn)副總裁張小華也提到，華為云與賽靈思緊密合作，實(shí)現了線(xiàn)上線(xiàn)下協(xié)同的FPGA加速解決方案，以視頻編解碼為例，在在線(xiàn)視頻廣播業(yè)務(wù)場(chǎng)景下可節約40%的帶寬和存儲空間，為客戶(hù)帶來(lái)了極大的價(jià)值。