超越CPU與GPU之爭,英特爾研發(fā)神經(jīng)元AI處理器
剛剛,黃仁勛在北京跑步上臺演講,莊嚴宣布:CPU的時(shí)代結束了。
本文引用地址:http://dyxdggzs.com/article/201709/364849.htm好巧,英特爾說(shuō):不單CPU不行了,GPU也不行了。
這位CPU霸主表示,隨著(zhù)高度動(dòng)態(tài)和非結構既然數據的相關(guān)需求逐漸增加,未來(lái)計算的需求將超越經(jīng)典的CPU和GPU體系結構。
那怎么辦?
英特爾這么說(shuō),肯定有辦法。英特爾實(shí)驗室今天宣布,正在研發(fā)出代號“Loihi”的自學(xué)習神經(jīng)元芯片,模仿了大腦的功能,能從環(huán)境反饋中直接學(xué)習。
所謂自學(xué)習、模仿大腦,意思是Loihi內部由128個(gè)計算核心組成,每個(gè)核心有1024個(gè)“神經(jīng)元”,總計超過(guò)13萬(wàn)個(gè)神經(jīng)元和1.3億個(gè)突觸鏈接,和大腦的神經(jīng)元一樣,它們可以調整相互之間的聯(lián)系,以適應新的任務(wù)。
從神經(jīng)元數量上講,Loihi比龍蝦的大腦還要復雜一點(diǎn)。不過(guò)與人腦相比還相去甚遠,人腦由超過(guò)800億個(gè)神經(jīng)元組成。
Loihi不需要通過(guò)傳統的方式進(jìn)行訓練,而且會(huì )隨著(zhù)時(shí)間的增加變得越來(lái)越智能,而且功耗極低,這款處理器使用異步脈沖方式進(jìn)行計算。
“大腦內部的溝通沒(méi)有想象中的頻繁”,英特爾實(shí)驗室資深首席工程師兼首席科學(xué)家Narayan Srinivasa表示:“這款芯片只有脈沖出現時(shí)才消耗能量”。
下面是英特爾對Loihi芯片的詳細說(shuō)明。
Loihi簡(jiǎn)介
Loihi芯片包含模擬大腦基本機制的數字電路,使機器學(xué)習更快、更高效,同時(shí)降低對計算資源的需求。
神經(jīng)形態(tài)芯片模型的靈感來(lái)自于神經(jīng)元通信和學(xué)習的方式,利用了可根據時(shí)間調節的脈沖和塑料觸突?;谀J胶完P(guān)聯(lián),這將幫助計算機實(shí)現自組織,做出決策。
Loihi芯片提供了非常靈活的片上學(xué)習能力,將訓練和推理整合至同一塊芯片上。這幫助機器實(shí)現自動(dòng)化,實(shí)時(shí)調整,而無(wú)需等待來(lái)自云計算平臺的下一次信息更新。
研究人員已證明,與其他典型的脈沖神經(jīng)網(wǎng)絡(luò )相比,在解決MNIST數字識別問(wèn)題時(shí),以實(shí)現一定準確率所需要的總操作數來(lái)看,Loihi芯片學(xué)習速度提高了100萬(wàn)倍。
與卷積神經(jīng)網(wǎng)絡(luò )和深度學(xué)習神經(jīng)網(wǎng)絡(luò )相比,Loihi芯片在同樣的任務(wù)中需要更少的資源。
在優(yōu)化汽車(chē)和工業(yè)應用,以及個(gè)人機器人方面,這款測試芯片的自學(xué)能力帶來(lái)了巨大潛力,例如識別汽車(chē)或自行車(chē)的運動(dòng)。在非結構化環(huán)境中,這些應用可以受益于自動(dòng)化操作和持續學(xué)習。
此外,與通常用于訓練人工智能系統的芯片相比,Loihi芯片的能效提升了1000倍。
參數
全異步神經(jīng)形態(tài)多核心網(wǎng)絡(luò ),支持多種稀疏、分層和循環(huán)神經(jīng)網(wǎng)絡(luò )拓撲結構。每個(gè)神經(jīng)元可以與成千上萬(wàn)個(gè)其他神經(jīng)元通信。
每個(gè)神經(jīng)形態(tài)核心都包含一個(gè)學(xué)習引擎,在操作中可以通過(guò)編程去適配網(wǎng)絡(luò )參數,支持監督學(xué)習、無(wú)監督學(xué)習、強化學(xué)習和其他學(xué)習范式。
芯片的制造采用了英特爾14納米工藝。
總共提供了13萬(wàn)個(gè)神經(jīng)元和1.3億個(gè)觸突。
對于多種算法的開(kāi)發(fā)和測試,實(shí)現了極高的算法效率。這些算法包括路徑規劃、約束滿(mǎn)足、稀疏編碼、字典學(xué)習,以及動(dòng)態(tài)模式學(xué)習和適配。
下一步
英特爾表示,在計算機和算法創(chuàng )新的推動(dòng)下,人工智能的變革性力量預計將給社會(huì )帶來(lái)重大影響。這家芯片巨頭正通過(guò)多種產(chǎn)品,解決從網(wǎng)絡(luò )邊緣到數據中心和云計算平臺,人工智能計算任務(wù)的獨特需求。
隨著(zhù)人工智能計算任務(wù)越來(lái)越多多樣化,越來(lái)越復雜,研究者將關(guān)注當前主流計算架構的局限性,提出新的顛覆性方法。展望未來(lái),英特爾認為,神經(jīng)形態(tài)計算帶來(lái)了一種方式,以類(lèi)似大腦的結構提供超大規模的計算性能。
但英特爾不是第一家使用神經(jīng)科學(xué)指導芯片設計的公司。
IBM已經(jīng)構建了兩代神經(jīng)形態(tài)處理器,稱(chēng)為T(mén)rueNorth,這個(gè)芯片同樣基于脈沖神經(jīng)元模式。TrueNorth芯片包括4096個(gè)核心和540萬(wàn)個(gè)晶體管,功耗70毫瓦,模擬了一百萬(wàn)個(gè)神經(jīng)元和2.56億個(gè)突觸,這個(gè)數字在Loihi之上。
TrueNorth相當于一個(gè)蜜蜂的大腦。
不過(guò)與英特爾的芯片不同,TrueNorth芯片無(wú)法基于輸入數據進(jìn)行學(xué)習。IBM的研究得到了DARPA的資助,并且與兩家實(shí)驗室合作,但目前也沒(méi)有商業(yè)可用性的進(jìn)展。
不少AI專(zhuān)家對神經(jīng)元芯片心存疑慮。IBM在2014年發(fā)表TrueNorth的第一篇論文時(shí),Yann LeCun就曾指出,這類(lèi)芯片很難運行卷積神經(jīng)網(wǎng)絡(luò )進(jìn)行圖像識別計算。Srinivasa也證實(shí)Loihi在某些深度學(xué)習模型上表現不佳。
無(wú)論英特爾神經(jīng)元芯片最終結果如何,這都顯示出英特爾已經(jīng)意識到CPU不是唯一。隨著(zhù)AI的重要性日益增加,英特爾正不斷擁抱其他芯片。2015年,英特爾億167億美元收購FPGA廠(chǎng)商Altera。去年,英特爾4億美元收購AI芯片商Nervana。
至于Loihi,2018年上半年,英特爾將與部分大學(xué)和研究機構分享Loihi測試芯片。不過(guò),這款芯片有可能三五年內,都是實(shí)驗性的產(chǎn)品。
評論