FPGA及IP在邊緣智能中的機會(huì )

　　Bob?Siller?（Achronix公司?產(chǎn)品營(yíng)銷(xiāo)總監）

　　1 FPGA助力智能物聯(lián)網(wǎng)

　　多種AI應用需要不斷加速，包括：視頻、圖像和語(yǔ)音識別；數據壓縮；加密與解密；自然語(yǔ)言處理；工業(yè)物聯(lián)網(wǎng)；汽車(chē)駕駛員輔助系統；低延遲邊緣推理；智能網(wǎng)卡和服務(wù)器加速。

　　在這些應用中，我們看到對性能的需求日益增長(cháng)，從而產(chǎn)生了許多全新的、創(chuàng )新的系統架構。業(yè)界對硬件加速平臺的需求不斷增加，以釋放CPU周期，從而提供更好的系統總體擁有成本。微軟、谷歌、亞馬遜、蘋(píng)果和特斯拉等終端設備制造商已開(kāi)始為其特定的AI應用工作負載開(kāi)發(fā)自己的ASIC芯片，以推動(dòng)不斷增強的產(chǎn)品差異化和競爭優(yōu)勢。這促使半導體產(chǎn)品作為AI技術(shù)的關(guān)鍵驅動(dòng)力而得到復興，特別是對于A(yíng)chronix而言，越來(lái)越多的客戶(hù)正在尋找FPGA，以幫助盡快提供創(chuàng )新的AI功能。

　　2 解決開(kāi)發(fā)AI的挑戰

　　開(kāi)發(fā)人員在開(kāi)發(fā)AI方案時(shí)，面臨2個(gè)關(guān)鍵挑戰：

　?、儆布脚_如何跟上全新的AI軟件算法和不斷變化的工作負載的創(chuàng )新速度？

　?、谟布圃焐倘绾卫靡粋€(gè)硬件平臺來(lái)平衡計算、存儲和I/O性能，以獲得最大的使用性能？

　　Achronix的Speedster7t FPGA器件和SpeedcoreeFPGA IP解決方案可以通過(guò)多種方式幫助應對這些挑戰。

　　FPGA從本質(zhì)上是可重編程的，但直到最近幾年，它們才被主要用于網(wǎng)絡(luò )加速和預處理任務(wù)。隨著(zhù)FPGA已經(jīng)變得功能越來(lái)越強大，它們現在也作為CPU的協(xié)處理器和硬件加速器被用于核心應用功能中。

　　FPGA協(xié)處理器支持系統架構師去將性能關(guān)鍵功能轉移到專(zhuān)用硬件器件上。通過(guò)卸載這些功能，設計人員可以看到整體應用性能的顯著(zhù)提高。隨之而來(lái)的其他好處是，當AI工作負載或算法最終發(fā)生改變時(shí)，設計人員只需在現場(chǎng)對FPGA進(jìn)行重新編程，即可更新算法并提供更高的性能。相比傳統的ASIC，可以縮短產(chǎn)品上市時(shí)間、延長(cháng)產(chǎn)品生命周期，從而最大限度地利用硬件投資。eFPGA IP為那些努力設計出完美AI架構的ASIC設計人員提供了令人信服的優(yōu)勢?，F實(shí)的情況是沒(méi)有完美的架構，最佳的架構取決于所分配到的工作負載。

　　eFPGA IP被嵌入在A(yíng)SIC中，因而盡管ASIC架構是固定的，但是將關(guān)鍵算法卸載到器件的eFPGA部分，就可以在硬件平臺的整個(gè)生命周期中進(jìn)行持續的更新并提高性能。這可以延長(cháng)生命周期，并為類(lèi)似于使用獨立FPGA的新功能提供更快的上市時(shí)間，而無(wú)需其他分立器件來(lái)支持。與連接到分立FPGA解決方案的ASIC相比，集成在同一個(gè)芯片上，使設計人員可以節省高達90％的成本，降低75％的功耗，并增加10倍的帶寬。

　　Achronix是唯一一家在批量應用中可同時(shí)提供經(jīng)過(guò)驗證的FPGA和eFPGA IP解決方案的公司。Speedster7tFPGA具有平衡的架構，結合了諸如112 Gbps SerDes、PCIe Gen5和400 Gbps以太網(wǎng)接口等非常高速的I/O接口。 

　　在將數據傳輸到Speedster7t之后，一種特有的片上網(wǎng)絡(luò )（NoC）架構支持這些數據以高達2 GHz的雙向速度在FPGA邏輯陣列中進(jìn)行傳輸。與傳統的FPGA相比，NoC可以實(shí)現在FPGA架構中更快的數據傳輸速度，從而進(jìn)一步減少路由擁塞并提高系統性能。新的機器學(xué)習處理器（MLP）單元模塊也被添加到其中，也提高了在A(yíng)I應用中被經(jīng)常使用的數學(xué)乘法和累加函數的性能。Speedster7t FPGA器件中的MLP是可配置的，以支持諸如整數、浮點(diǎn)和塊浮點(diǎn)等多種不同的數字格式，從而可以在較低的數據規模要求下實(shí)現更高的性能。

　　最后，擁有足夠的內存帶寬是幫助AI應用實(shí)現高性能的另一個(gè)關(guān)鍵要素。Speedster7t FPGA配備8個(gè)GDDR6內存接口，總帶寬可達4 Tbps。這有助于支持在人AI應用中存儲系數和其他數據密集型操作及工作負載。

　　把所有這些元素相結合，就為AI工作負載提供了令人信服的解決方案。Achronix提供了獨特、靈活的FPGA或eFPGA架構，以及帶寬優(yōu)化的I/O、計算和存儲性能，這是未來(lái)AI應用的理想選擇。