AI芯片如果有“羅馬大道” 必歸功可重構計算

　　在芯片架構設計領(lǐng)域中，可重構計算技術(shù)并非一項新的存在。20世紀60年代末，加利福尼亞大學(xué)的Geraid Estrin首次提出重構計算，后過(guò)去二十余年，Xilinx才基于這一原型系統推出該技術(shù)的重要分支——FPGA架構，正式開(kāi)啟現代重構計算技術(shù)。

　　即便如此，由于此前芯片發(fā)展一直走在摩爾定律預設的方向上，FPGA始終無(wú)法進(jìn)入公眾的視野中，而在學(xué)術(shù)研究領(lǐng)域，它也一直只是芯片技術(shù)研究中少有人關(guān)注的冷門(mén)項目。不曾想，在這一波AI浪潮的推動(dòng)下，可重構計算技術(shù)迅速從學(xué)術(shù)邊緣走向了主流。

　　AI浪潮與芯片架構創(chuàng )新

　　在算力需求持續增長(cháng)的背景下，AI算法對芯片運算能力的要求上升到傳統芯片的百倍以上，想像一下，采用了人工智能算法的AlphaGo需要用到上千塊傳統處理器(CPU)和上百塊圖形處理器(GPU)。類(lèi)似，傳統處理器根本無(wú)力支持智能家居、自動(dòng)駕駛和智能終端等應用場(chǎng)景的巨大算力需求，因此基于傳統CPU搭建出新的架構就顯得迫在眉睫，AI芯片也就此誕生?！　?/p>

　　對于這一新興的芯片市場(chǎng)，摩根大通的分析師Harlan Sur曾公開(kāi)表示，到2022年為止，AI芯片市場(chǎng)將以每年59%的成長(cháng)速度增長(cháng)，屆時(shí)市場(chǎng)規模有望達到330億美元。

　　用迅猛之勢來(lái)形容AI芯片產(chǎn)業(yè)的發(fā)展毫不為過(guò)，這一新興事物也打破了整個(gè)市場(chǎng)既有的產(chǎn)業(yè)形態(tài)。在新興芯片市場(chǎng)占據龍頭地位的英偉達，其CEO黃仁勛就多次在公開(kāi)場(chǎng)合中表示：“摩爾定律時(shí)代已經(jīng)終結?！边@也并非一家之言，作為摩爾定律的提出者，Intel也多次公開(kāi)承認這一點(diǎn)。

　　沒(méi)有摩爾定律的約束，在接下來(lái)很長(cháng)一段時(shí)間內，芯片產(chǎn)業(yè)勢必將進(jìn)入自由生長(cháng)狀態(tài)，AI芯片產(chǎn)業(yè)呈現了前所未有的百花齊放。但其實(shí)深入去看，它卻也被有章法的推進(jìn)著(zhù)。事實(shí)上，最為明顯的就是，伴隨著(zhù)整個(gè)市場(chǎng)對功能的需求變化和終端的發(fā)展，GPU、ASIC等主流芯片架構技術(shù)正逐步有序得的迭代和擴大自己的市場(chǎng)占比。

　　目前，因市場(chǎng)對智能的實(shí)現尚處于初期，AI中關(guān)鍵的應用需求更偏向于訓練端，因而，在訓練市場(chǎng)中獨大的GPU成為芯片市場(chǎng)的主流架構也就毫不奇怪。但真正的智能一定離不開(kāi)邏輯推理部分。自然，作為這一功能實(shí)現的主力軍，ASIC和FPGA備受業(yè)內關(guān)注，其中，熱度蹭蹭上漲的FPGA可以說(shuō)是格外引入注目。

　　FPGA熱潮啟示錄

　　在A(yíng)I并不火熱的時(shí)間段，FPGA常年來(lái)被用作專(zhuān)用芯片(ASIC)的小批量替代品。因傳統計算機馮·諾依曼結構的約束，比CPU甚至GPU能效更高的FPGA一直未有用武之地，直到神經(jīng)網(wǎng)絡(luò )算法的出現。

　　不得不說(shuō)，從初入商用市場(chǎng)到獨立成產(chǎn)品，FPGA架構技術(shù)似乎從未和AI算法分離開(kāi)過(guò)，硬件上的節點(diǎn)與算法的神經(jīng)元結構形成天然的呼應，頗有天造地設的意味。

　　如所料，FPGA最早一出現就伴隨著(zhù)神經(jīng)網(wǎng)絡(luò )算法研究，2011年，Altera推出OpenCL，其中的CNN算法研究就是基于FPGA的，這讓FPGA重回了人們的視野中;后時(shí)隔三年，微軟推出Catapult項目，開(kāi)發(fā)了高吞吐CNN FPGA加速器，將這種架構更緊密的與神經(jīng)網(wǎng)絡(luò )算法實(shí)現綁在了一起;2015年，陷入轉型焦慮的Intel直接選擇收購Altera，這一舉動(dòng)后來(lái)甚至帶起了一波CPU+FPGA熱，但這一刻FPGA的魅力還沒(méi)有真正被展現出來(lái)。直到一年后，Intel終利用BP算法在FPGA上實(shí)現了5GOPS處理能力，這一架構的優(yōu)勢終鋒芒初現?！　?/p>

　　一步一步，伴隨著(zhù)深度學(xué)習的應用和滲透，FPGA架構技術(shù)也越來(lái)越受各芯片廠(chǎng)商關(guān)注，在多次大會(huì )的行業(yè)交流中，多位芯片研發(fā)人員都指出：綜合考慮成本、可行性等因素，在可見(jiàn)的未來(lái)里，架構創(chuàng )新是唯一算力提升解決方案。而FPGA無(wú)疑為整個(gè)行業(yè)帶來(lái)架構設計上的新思路。

　　第一次，FPGA被用于產(chǎn)品端是在iPhone 7上，蘋(píng)果集成了Lattice iCE40 FPGA，將其作為超低功耗的邏輯處理兼傳感器部件。從技術(shù)到產(chǎn)品端，這一技術(shù)架構只用了短短七年，而蘋(píng)果的成功嘗試也為這一技術(shù)架構加分不少?，F在，業(yè)內人士也普遍將它列為舊有半導體甚至終端架構的關(guān)鍵顛覆者，也因此，FPGA這七年的持續熱度給出了整個(gè)行業(yè)的風(fēng)向標：半導體架構進(jìn)入了新的征程，尤其為AI芯片的設計提供了關(guān)鍵思路。

　　站在FPGA的肩膀上，可重構芯片誕生

　　對于A(yíng)I芯片的優(yōu)勢，寒武紀陳天石曾這樣形象的描述道：“如果把深度學(xué)習看作切肉，傳統的處理器就是瑞士軍刀，我們的專(zhuān)用神經(jīng)網(wǎng)絡(luò )處理器則相當于菜刀。瑞士軍刀通用性很好，什么都可以干，但干得不快，菜刀是專(zhuān)門(mén)用來(lái)做飯的，在切肉這件事情上，效率當然更高?！?/p>

　　按理，效率越高，算力越高，芯片產(chǎn)業(yè)發(fā)展應當重回到此前活躍增長(cháng)的階段，但在近兩年整個(gè)產(chǎn)業(yè)卻出現了一種怪象：芯片產(chǎn)業(yè)進(jìn)入了一種低效的繁榮狀態(tài)，現有的AI產(chǎn)品的數量只有兩位數，而單價(jià)幾乎不變，尤其是AI終端產(chǎn)品，產(chǎn)業(yè)利潤幾乎在個(gè)位數。在產(chǎn)業(yè)鏈端，產(chǎn)品開(kāi)發(fā)費用、產(chǎn)品難度都在持續上升，在市場(chǎng)空間有限的條件下，產(chǎn)品的盈利空間直線(xiàn)下降。

　　事實(shí)上，僅僅融合FPGA架構設計的高效對整個(gè)產(chǎn)業(yè)的發(fā)展來(lái)說(shuō)是依然不夠的，菜刀終究還是菜刀，AI芯片的應用場(chǎng)景和變現能力實(shí)在十分有限。對此，清華大學(xué)微電子所所長(cháng)魏少軍就直接點(diǎn)出：“要想讓AI芯片能夠在使用中變得更‘聰明’，架構創(chuàng )新就是它不可回避的課題?！薄　?/p>

　　產(chǎn)業(yè)端，為了打破這一現狀，地平線(xiàn)、寒武紀、Arm等眾多新老玩家紛紛給出了各自的平臺性商用解決方案，但終不是長(cháng)久之計。對此，業(yè)內的共同認知是：若想釜底抽薪，設計出一款動(dòng)態(tài)可重構的并行計算芯片，以實(shí)現一塊芯片可以跑多種算法，節省資源，大大提高通用性，極大程度上促進(jìn)整個(gè)產(chǎn)業(yè)的發(fā)展。

　　所幸，在國內，目前尚有兩款芯片代表：一款是清華大學(xué)的Thinker可重構AI芯片，它獲得了2017年國際低功耗電子與設計會(huì )議設計競賽獎，這是一款由65nm工藝制成的芯片，不過(guò)其峰值性能能夠達到410GOPS，能效達5TOPS/W。第二款是南京大學(xué)RAPS可重構芯片，它由40nm工藝制成，可以實(shí)現25種與信號處理有關(guān)的算法，峰值性能69GFLOPS，能效達到32GFOPS/W。與TMS320C6672多核DSP比較，性能能夠提高一個(gè)數量級。

　　值得一提的是，兩款芯片制程一般，工藝泛泛，卻收獲如此高效的性能，架構創(chuàng )新的四兩撥千斤功效可見(jiàn)一斑。

　　最后

　　縱觀(guān)第三波AI浪潮下的半導體產(chǎn)業(yè)，有兩個(gè)現象級事件奠定了當下芯片產(chǎn)業(yè)的基調：曾經(jīng)逃離半導體行業(yè)的風(fēng)投又紛紛重新回到了半導體行業(yè);歷來(lái)觀(guān)潮的中國，現在成了弄潮兒。

　　不言而喻，這兩大趨勢撞在一起發(fā)生的化學(xué)效應率先打破了整個(gè)半導體行業(yè)既有的產(chǎn)業(yè)形態(tài)。但不可忽視的是，作為工業(yè)的糧食，芯片架構創(chuàng )新帶動(dòng)的產(chǎn)業(yè)活力才將成為推動(dòng)第三波AI浪潮持久發(fā)展的動(dòng)力。

　　如許衍居院士所言：未來(lái)10年，整個(gè)半導體產(chǎn)業(yè)將會(huì )從cSoC時(shí)代走向rSoC時(shí)代。但是可重構芯片發(fā)展還需要突破眾多難關(guān)，如基于可重構計算搭建的硬件平臺是需要搭建一個(gè)統一的標準平臺還是僅僅只開(kāi)發(fā)一個(gè)通用的編程模型?采用雙編程如何劃分軟硬件任務(wù)并處理好之間的通信問(wèn)題?這些問(wèn)題依舊是纏繞在可重構芯片發(fā)展之路上的藤蔓，披荊斬棘，路且漫長(cháng)。