異構+融合，探索類(lèi)腦計算芯片的藍海市場(chǎng)

• 什么是類(lèi)腦計算

• 突破能耗痛點(diǎn)，看類(lèi)腦芯片的獨特優(yōu)勢

• 類(lèi)腦芯片的應用場(chǎng)景

• 國內外產(chǎn)業(yè)布局及未來(lái)前景

點(diǎn)擊收聽(tīng)大咖談芯現場(chǎng)實(shí)錄↓↓↓

什么是類(lèi)腦計算？

幻實(shí)（主播）：本期非常開(kāi)心能夠通過(guò)云連線(xiàn)的方式和來(lái)自北京的聽(tīng)眾溝通，這位聽(tīng)眾所在的企業(yè)和類(lèi)腦芯片有關(guān)，他們在類(lèi)腦計算領(lǐng)域也有一定的話(huà)語(yǔ)權，能夠產(chǎn)出資深的觀(guān)點(diǎn)。接下來(lái)有請北京靈汐科技的副總經(jīng)理華總來(lái)給大家打招呼！

華寶洪（嘉賓）：大家好，我是華寶洪。靈汐科技是一家國內專(zhuān)門(mén)從事類(lèi)腦計算的芯片企業(yè)，目前我們已經(jīng)量產(chǎn)了類(lèi)腦計算芯片KA200，現在正在進(jìn)行產(chǎn)業(yè)化的推進(jìn)和部署。KA200是目前國內第一顆異構融合的類(lèi)腦計算芯片，在國際上處于領(lǐng)先地位。非常感謝能有機會(huì )跟大家在云上見(jiàn)面。

幻實(shí)（主播）：剛剛您提到了類(lèi)腦這個(gè)詞，我已經(jīng)迫不及待想讓您給大家科普一下什么叫做類(lèi)腦計算？什么又是類(lèi)腦計算芯片？

華寶洪（嘉賓）：其實(shí)在學(xué)術(shù)界里，類(lèi)腦計算和傳統的計算是有區別的，英文名稱(chēng)是Brain Inspired Computing,更前沿的叫法是Neuromorphic Computing。它是把生物科學(xué)計算和計算機科學(xué)計算這兩個(gè)學(xué)科融合在一起的新興學(xué)科。從本質(zhì)上來(lái)講，類(lèi)腦計算是一個(gè)綜合的計算系統。狹義理解，它是支持腦科學(xué)的一種計算方法或計算系統；廣義理解，它包括了類(lèi)腦芯片、底層編譯器、高層編譯器、類(lèi)腦學(xué)習計算框架、類(lèi)腦應用等，是一個(gè)從上到下的完整計算體系或者計算系統。

狹義和廣義上的類(lèi)腦計算 （圖源：智源社區）

幻實(shí)（主播）：這個(gè)技術(shù)對我們來(lái)說(shuō)算不算很新？它的發(fā)展的時(shí)間有多久？

華寶洪（嘉賓）：從類(lèi)腦計算本身的角度來(lái)說(shuō)發(fā)展歷程其實(shí)挺長(cháng)的，因為在計算機出現之前就有了“類(lèi)腦計算”這個(gè)概念和詞匯，只不過(guò)當時(shí)不是用計算機的形式，而是其他的形式，包括結合解剖學(xué)方面的原理來(lái)做的理論推導、涉及相應的數學(xué)演算等等。計算機發(fā)展之后，加速了人們在計算方面向腦科學(xué)的學(xué)習與融合，例如把解剖學(xué)、生物學(xué)的東西結合進(jìn)來(lái)，形成一種新的計算機系統。

上個(gè)世紀80年代，加州理工學(xué)院（California Institute of Technology ,Caltech）教授卡弗·米德(Carver Mead)最早提出類(lèi)腦計算的神經(jīng)形態(tài)芯片這一概念，到目前為止，市面上陸陸續續已經(jīng)出現了很多種類(lèi)的類(lèi)腦芯片。

最開(kāi)始出現的是1990年美國斯坦福的Si Neuron。從2005年到2008年，以美國為代表的西方國家陸陸續續在這個(gè)領(lǐng)域產(chǎn)出成果，一直保持相對領(lǐng)先的水平，尤其是2006年英國的曼徹斯特大學(xué)推出了SpiNNaker芯片，它是基于純ARM架構的類(lèi)腦計算芯片，給后續的類(lèi)腦計算做出了非常好的表率。

2011年，德國海德堡大學(xué)推出了一款類(lèi)腦芯片叫做BrainScaleS。在2013年前后，IBM推出了TrueNorth。這幾款都是類(lèi)腦計算芯片里比較有代表性的產(chǎn)品。2018年前后，X86頭部企業(yè)Intel推出了他們的第一款類(lèi)腦計算芯片Loihi，引起了學(xué)術(shù)界的廣泛關(guān)注。

類(lèi)腦芯片歷史發(fā)展進(jìn)程 （來(lái)源：靈汐科技提供）

從整體發(fā)展歷程來(lái)看，從上世紀九十年代初一直到現在，類(lèi)腦芯片產(chǎn)品一直是國外在做，那國內的情況是什么樣呢？

2013年開(kāi)始，清華大學(xué)類(lèi)腦計算研究中心開(kāi)始著(zhù)手此類(lèi)研究，2015年推出了第一款“天機”芯片，2017年出了第二代，目前已經(jīng)是第三代。靈汐科技擁有核心技術(shù)與專(zhuān)利，是“天機”類(lèi)腦芯片從基礎研究成果轉化成應用技術(shù)、再到產(chǎn)業(yè)化落地的企業(yè)。對比國內外的情況，基本處于同步發(fā)展階段。盡管我國起步較晚，但類(lèi)腦計算領(lǐng)域整體的技術(shù)水平，尤其是異構融合方面實(shí)際上已經(jīng)領(lǐng)先國外了。

突破能耗痛點(diǎn)，看類(lèi)腦芯片的獨特優(yōu)勢

幻實(shí)（主播）：聽(tīng)您這樣說(shuō)，似乎國內離最先進(jìn)產(chǎn)品的距離也不是特別遙遠。那么從技術(shù)實(shí)現性上來(lái)說(shuō)，它的難度大不大？當年有一件火爆到出圈兒的事件就是Alpha Go和李世石的圍棋爭霸戰，人工智能在與人腦的博弈中具備了更優(yōu)秀的表現，可是這種成績(jì)是建立在1202個(gè)CPU、176個(gè)GPU、150KW的能耗基礎上才取得的。在低碳節能的時(shí)代，不可能用這樣大的能耗去做這種處理和計算，那么類(lèi)腦芯片是否也是類(lèi)似于A(yíng)lpha Go的方案？它對能源的消耗又是怎樣的？

華寶洪（嘉賓）：這是個(gè)很好的問(wèn)題，也是現在類(lèi)腦計算需要解決和突破的問(wèn)題。目前我們處在人工智能發(fā)展的新階段，但面臨的問(wèn)題以及在未來(lái)會(huì )遇到的挑戰都是很明顯的。

人工智能發(fā)展到今天，大家都在討論一個(gè)問(wèn)題：為什么人工智能可以取得很多成就？歸結起來(lái)無(wú)非是三個(gè)因素——三駕馬車(chē)：算法、大數據、算力。隨著(zhù)算法被設計的越來(lái)越復雜、算力越做越大，產(chǎn)生的數據量也越來(lái)越多，只要有足夠多的算力、數據和算法，就能用人工智能來(lái)解決很多問(wèn)題。

但代價(jià)是什么呢？是巨大的功耗。超算中心的功耗非常大，動(dòng)輒兆瓦起步。有一個(gè)很形象的比喻，“開(kāi)一個(gè)超算中心能‘吃掉’半個(gè)核電站的電能”。在當前雙碳經(jīng)濟社會(huì )中，要提高能耗比，在單位功耗里就得盡可能地有效輸出計算能力。這給現有的人工智能發(fā)展帶來(lái)很大的挑戰，現在的大數據、各種層出不窮的算法并沒(méi)有從根本上解決人工通用智能的問(wèn)題，它帶來(lái)的最大負面影響就是能耗。所以，國家發(fā)改委、工信部對能耗指標都有要求，比如PUE指標必須低于1.25以下才能建。人腦的功耗是20瓦，相當于一只電燈泡的功耗，而我們卻能用這20瓦去做很多算力不能做的工作。所以未來(lái)的人工智能發(fā)展，我認為重點(diǎn)不是要去解決大算力和多算法的問(wèn)題，而是要思考如何向人腦學(xué)習，在提高算力的同時(shí)又降低功耗。

人腦與電腦的關(guān)系映射 （圖源：靈汐科技提供）

人腦可以舉一反三，但計算機做不到舉一反三，它只能舉一反一。讓計算系統具備像人腦一樣的思考問(wèn)題和解決問(wèn)題的能力，是人工通用智能的終極目標。人腦是碳基的，電腦芯片是硅基的，我們希望在硅基上實(shí)現碳基人腦思考的能力。這也是做類(lèi)腦芯片的出發(fā)點(diǎn)，希望能夠模擬人腦低功耗的特點(diǎn)，去實(shí)現復雜的計算和處理。比如靈汐科技前不久量產(chǎn)的KA200類(lèi)腦芯片，單芯片功耗低于15瓦，整個(gè)芯片的能效比輸出非常高，能夠達到2TOPS/W以上。

此外，類(lèi)腦計算芯片還可以助力構建新的計算系統，像人腦一樣進(jìn)行神經(jīng)元計算和生物動(dòng)力學(xué)計算。人腦的神經(jīng)元是多少呢？850億個(gè)，類(lèi)腦計算要在硅基上做碳基神經(jīng)元的模擬。研發(fā)類(lèi)腦計算芯片是希望去解決人工通用智能面臨的一些困境。第一個(gè)是算力的困境，第二個(gè)是場(chǎng)景的困境，現在的AI系統無(wú)法處理復雜的動(dòng)態(tài)和不確定的場(chǎng)景，原因是現有的AI系統使用的是真實(shí)數據被處理后再被窮舉的辦法，然而真實(shí)的世界是不能被窮舉的；第三個(gè)要是能耗困境，目前通用計算使用的CPUGPU等，算力與能耗成正比。類(lèi)腦計算就是要去解決這三種困境。

類(lèi)腦芯片的應用場(chǎng)景

幻實(shí)（主播）：未來(lái)的數據時(shí)代都會(huì )遇到這三種困境，但同時(shí)我們也知道芯片的細分非常強，有ASIC芯片，也有專(zhuān)門(mén)處理圖形的GPU等等，您談及的類(lèi)腦芯片，在您看來(lái)在什么場(chǎng)景下或領(lǐng)域中會(huì )有特別獨到的優(yōu)勢？類(lèi)腦芯片會(huì )“動(dòng)別人的奶酪”嗎？

華寶洪（嘉賓）：類(lèi)腦計算設計之初瞄準的主戰場(chǎng)是什么？是類(lèi)腦計算和大規模腦仿真。面向的是模擬生物腦動(dòng)力計算等場(chǎng)景，類(lèi)腦芯片通過(guò)對人類(lèi)大腦的微觀(guān)單元，如神經(jīng)元、突觸、離子通道等進(jìn)行生物建模，構建神經(jīng)網(wǎng)絡(luò )復雜的數學(xué)系統，實(shí)現大規模腦仿真。

這里有很多問(wèn)題需要解決，比如生物腦動(dòng)力學(xué)的計算，一億以上的神經(jīng)元如何大規?；ヂ?lián)建模？在毫秒級和亞毫秒級顆粒度下，如何實(shí)現快速腦仿真等。

下一步，是實(shí)現更實(shí)際的應用。比如說(shuō)探究腦疾病的形成過(guò)程，獲取生物腦的一些工作原理，比如嘗試研究人的記憶是怎樣產(chǎn)生的？人的情感受到哪些因素的影響……這些以往要靠動(dòng)物實(shí)驗獲得的數據，我們希望能通過(guò)類(lèi)腦計算芯片和類(lèi)腦計算仿真平臺就能得到。

類(lèi)腦芯片在腦仿真這方面有著(zhù)得天獨厚的優(yōu)勢，能夠更快更準地實(shí)現場(chǎng)景模擬。比如使用超級計算機或CPUGPU去做生物腦仿真的建模，1秒鐘生物腦活動(dòng)可能需要200秒到500秒的時(shí)間才能做完，而用類(lèi)腦計算芯片不會(huì )超過(guò)5秒。類(lèi)似這種場(chǎng)景仿真速度可以提高一到兩個(gè)數量級，能加快人類(lèi)對大腦的理解進(jìn)度。我們并不是去解決生物學(xué)或者醫學(xué)中的學(xué)術(shù)問(wèn)題，而是給生物學(xué)和醫學(xué)提供一個(gè)加速研究的平臺，借助這個(gè)平臺，在腦仿真領(lǐng)域獲取更多的實(shí)驗數據和觀(guān)測數據。

幻實(shí)（主播）：聽(tīng)起來(lái)好科幻，讓我想起了《三體》里邊的情節，有一個(gè)面壁人就是研究腦科學(xué)，描述了這樣一種方向。您在講述的時(shí)候我其實(shí)就在回想了，原來(lái)現在已經(jīng)有團隊真的在做這件事了，讓我覺(jué)得有些震驚，原來(lái)科幻真的可以走進(jìn)現實(shí)。

華寶洪（嘉賓）：舉一個(gè)有意思的例子，我們在跟復旦大學(xué)馮老師團隊合作做生物腦的數字孿生，借助大規模的腦仿真計算，讓人腦在電腦里實(shí)現數字化孿生。孿生出的數字腦能夠在情感表達和某些情緒反饋上，和真實(shí)的人腦會(huì )有80%相同或相近。這意味著(zhù)什么呢？人的思維和情緒表達會(huì )被數字腦孿生出來(lái)，當某一天人腦衰老時(shí)，數字腦依然年輕。這或許是我們做腦仿真或者腦科學(xué)計算領(lǐng)域最夢(mèng)幻的一個(gè)夢(mèng)想。

在健康領(lǐng)域，未來(lái)腦疾病的治療將可能有重大突破。國外已經(jīng)有在研究和部署腦機接口了，就是把芯片植入到腦里去，獲取腦活動(dòng)信息、腦電波等信息來(lái)觀(guān)測大腦的健康信息。

我們現在做的更多的是通過(guò)大規模腦仿真來(lái)還原、仿真、模擬計算探究腦疾病。比如帕金森癥的形成過(guò)程，嘗試獲取在病變過(guò)程中生物神經(jīng)元、動(dòng)力學(xué)計算等領(lǐng)域有哪些改變？可以通過(guò)哪些藥物來(lái)進(jìn)行針對性的治療？搞清楚形成機制、機理，將來(lái)的治療手段才會(huì )更加準確和高效。這是第一個(gè)應用。

類(lèi)腦芯片的幾種不同類(lèi)型 （圖源：智源社區）

除了獨特的腦仿真、腦科學(xué)領(lǐng)域之外，在傳統AI領(lǐng)域，類(lèi)腦芯片也表現優(yōu)異，比如在常規的圖像視頻識別、自然語(yǔ)言理解等領(lǐng)域提供高能效比的解決方案。現在的智慧城市、智慧醫療包括智能制造等應用都可以遷移過(guò)來(lái)。這是第二個(gè)應用。

第三個(gè)應用方向是新興的類(lèi)腦計算。是將傳統的人工智能和腦科學(xué)結合起來(lái)的計算，即異構融合，融合生物神經(jīng)網(wǎng)絡(luò )和傳統人工神經(jīng)網(wǎng)絡(luò )。融合之后能處理比如高速動(dòng)態(tài)場(chǎng)景的小樣本學(xué)習，以及在線(xiàn)學(xué)習等場(chǎng)景，而這些目前仍是傳統人工智能領(lǐng)域面臨的一個(gè)痛點(diǎn)。

國內外產(chǎn)業(yè)布局及未來(lái)前景

幻實(shí)（主播）：聽(tīng)完您說(shuō)的我感到非常激動(dòng)，類(lèi)腦計算不管是從腦的計算和使用上，還是對于腦部疾病患者的福音上，都能提供一種很好的解決方案。那么我也想了解一下，它現在的產(chǎn)業(yè)化程度怎么樣了？國內往這個(gè)方向發(fā)展的公司進(jìn)展如何，現實(shí)情況是什么？

華寶洪（嘉賓）：從誕生之初，類(lèi)腦計算就承載著(zhù)和傳統計算不一樣的歷史使命。從本質(zhì)看，它是非傳統架構的計算；從未來(lái)的產(chǎn)業(yè)發(fā)展趨勢看，異構融合是走向人工通用智能的一個(gè)重要方法和重要手段。清華大學(xué)類(lèi)腦計算研究中心推出的“天機”一代，是最早的在一顆類(lèi)腦計算芯片里把傳統人工智能和腦科學(xué)的脈沖神經(jīng)網(wǎng)絡(luò )融合在一起的芯片，這是世界的首創(chuàng )。“天機”二代異構融合的架構在2019年登上了nature的封面，引起了全球的關(guān)注。

《自然》雜志當期封面圖 （圖源：網(wǎng)絡(luò )）

英特爾在2018年推出了Loihi，它只能做傳統的生物神經(jīng)網(wǎng)絡(luò )計算，由128個(gè)Neuromorphic Core （神經(jīng)形態(tài)的核心）外加3個(gè)低功耗的英特爾X86核心組成。 在2021年Intel發(fā)布了Loihi2，參考了天機二代的異構融合架構，在支持傳統的生物神經(jīng)網(wǎng)絡(luò )的基礎上，也開(kāi)始支持人工神經(jīng)網(wǎng)絡(luò )。

被譽(yù)為ARM之父的Steve Furber也在歐洲自然科學(xué)基金的資助下開(kāi)發(fā)了神經(jīng)形態(tài)芯片SpiNNaker，其升級版SpiNNaker2也是借鑒了融合的概念，既支持生物腦動(dòng)力學(xué)的生物神經(jīng)網(wǎng)絡(luò )，也支持傳統的人工神經(jīng)網(wǎng)絡(luò )。國際大廠(chǎng)Intel和ARM都延續了天機芯的異構融合概念，可以看出國內外一致認為異構融合是走向人工通用智能的有效手段。

現在大家都在談芯片的封裝、芯片的制程、異構計算等老生常談的概念。這些概念從本質(zhì)上講，并不能從根本上解決高能效比、小樣本學(xué)習等問(wèn)題。在行業(yè)導向和市場(chǎng)需求的雙重驅動(dòng)下，傳統的馮·諾依曼架構和非馮·諾依曼架構的異構融合架構，會(huì )是推動(dòng)現有人工智能走向新一代的重要引擎。

一方面，傳統的馮·諾依曼架構芯片會(huì )繼續往前走，從7nm到5nm，制程越來(lái)越高，封裝也會(huì )越來(lái)越先進(jìn)。另外一方面是非馮·諾依曼架構的芯片，通過(guò)架構的創(chuàng )新來(lái)滿(mǎn)足生物神經(jīng)網(wǎng)絡(luò )、傳統人工網(wǎng)絡(luò )和新型混合神經(jīng)網(wǎng)絡(luò )等領(lǐng)域的規?；褂眯枨?，給用戶(hù)提供更具性?xún)r(jià)比和競爭力的產(chǎn)品。

類(lèi)腦系統的框架 （圖源：智源社區）

我國在計算領(lǐng)域里面有兩個(gè)顛覆性的技術(shù)，一個(gè)是量子計算，另一個(gè)就是類(lèi)腦計算。如何讓現有的芯片去滿(mǎn)足用戶(hù)已有的投資？

用戶(hù)已有的投資是什么？就是在傳統的AI領(lǐng)域所投資的資產(chǎn)，包括算法、模型、數據，希望把更多的資產(chǎn)用起來(lái)。類(lèi)腦芯片在表現出能效比和性?xún)r(jià)比會(huì )更高，同時(shí)我們也會(huì )在計算這個(gè)領(lǐng)域里引入異構融合的概念，去解決小樣本學(xué)習、在線(xiàn)學(xué)習等傳統AI面臨的挑戰。我們希望能給大家提供軟件技術(shù)平臺、硬件技術(shù)平臺和路線(xiàn)圖，讓更多的合作伙伴在這個(gè)領(lǐng)域里去做更好的延伸。

在面向腦科學(xué)和腦計算領(lǐng)域。我們國家啟動(dòng)了中國腦計劃項目。我們也做了很多工作，包括和科研機構、高校一起探索并推進(jìn)如何構建10億、100億和800億規模的神經(jīng)元集群。

類(lèi)腦計算在未來(lái)會(huì )給大家帶來(lái)很多期待和振奮人心的好消息，國內外現在都在瞄著(zhù)這個(gè)方向做。

幻實(shí)（主播）：如果讓您用一句話(huà)來(lái)做最終的倡導，您會(huì )倡導什么？

華寶洪（嘉賓）：施路平老師有句話(huà)，可以作為類(lèi)腦計算宗旨：在碳基上實(shí)現的智能，硅基上一定也可以實(shí)現。這就是我們類(lèi)腦計算所追求的目標。

幻實(shí)（主播）：這是一個(gè)堅定的信念，不是單純的模擬芯片能夠概括的復雜度，我很期待。集成電路發(fā)展的時(shí)間雖然不長(cháng)，但幾十年來(lái)造就了我們整個(gè)時(shí)代太多的神奇和奇跡般的感受，說(shuō)不定未來(lái)人腦的構成真的可以用硅基的方式解析出來(lái)，讓我們更加理解我們自身，理解人類(lèi)的文明和人類(lèi)的智慧。

華寶洪（嘉賓）：人腦其實(shí)是最有魅力的一個(gè)智能體。如何讓現有的計算系統向最完美的智能體去學(xué)習，這是現在類(lèi)腦計算一直在追求的目標。

幻實(shí)（主播）：好的，今天非常感謝華總跟我們分享了這么多，期待你們在這個(gè)領(lǐng)域能有更多的好消息，到時(shí)候歡迎再來(lái)芯片揭秘做客！

華寶洪（嘉賓）：感謝大家，我是北京靈汐科技的華寶洪，我在芯片揭秘等著(zhù)你。

人腦是自然界中最完美的信息處理系統，而類(lèi)腦計算則借鑒人腦處理信息的方式，以更少的器件、更低的功耗和更高的能效比來(lái)顛覆傳統計算范式，引領(lǐng)人工智能的新變革。當前，盡管類(lèi)腦計算行業(yè)還處在突圍階段，但市場(chǎng)前景已經(jīng)愈發(fā)明朗。根據Yole預測，2035年類(lèi)腦計算市場(chǎng)將占據人工智能市場(chǎng)總收入的15%-20%，市場(chǎng)規模約200億美元。

短期來(lái)看，類(lèi)腦芯片應扎根端側智能市場(chǎng)，發(fā)揮自身低功耗、高能效的優(yōu)勢，開(kāi)發(fā)并創(chuàng )造更多的應用場(chǎng)景；長(cháng)期來(lái)看，想要迎來(lái)商業(yè)價(jià)值的釋放，不但要在產(chǎn)業(yè)端進(jìn)一步控制類(lèi)腦芯片的制造成本，還需要從科研端入手，從系統結構上發(fā)展類(lèi)腦計算的完備性，向通用計算領(lǐng)域優(yōu)化拓展。