想和人腦一樣智能? IBM 的芯片級模仿才是關(guān)鍵
深度學(xué)習軟件毫無(wú)疑問(wèn)推動(dòng)了人工智能的浪潮?,F在,許多公司和研究人員都在花大力氣在軟硬件上對人腦進(jìn)行模擬。
本文引用地址:http://dyxdggzs.com/article/201610/311172.htm在硬件方面主要是通過(guò)對大型神經(jīng)網(wǎng)絡(luò )進(jìn)行仿真。如Google的深度學(xué)習系統GoogleBrain,微軟的Adam等。但是這些網(wǎng)絡(luò )需要大量傳統計算機的集群。比方說(shuō)GoogleBrain就采用了1000臺各帶16核處理器的計算機,這種架構盡管展現出了相當的能力,但是能耗依然巨大。
而IBM則是從芯片著(zhù)手進(jìn)行模仿。:它設計了一種叫TrueNorth的仿人腦電腦芯片,并把它當做深度學(xué)習的硬件平臺。目前,公司正在對該芯片的性能進(jìn)行研究測試。
深度學(xué)習之所以能力強大,關(guān)鍵在于其中的一項算法——卷積神經(jīng)網(wǎng)絡(luò )(convolutionalneuralnetworks)。它包含了大量的節點(diǎn)層(layersofnodes),也稱(chēng)神經(jīng)元(neurons)。像這樣的神經(jīng)網(wǎng)絡(luò )可以通過(guò)深度結構過(guò)濾大量的信息,進(jìn)而實(shí)現自動(dòng)識別人臉或理解不同語(yǔ)言的功能。
IBM不久前的一項研究顯示,在能支持多種神經(jīng)網(wǎng)絡(luò )的仿人腦硬件上,卷積神經(jīng)網(wǎng)絡(luò )算法同樣有用。
7月9日,IBM把自己的一項研究成果刊登在了ProceedingsoftheNationalAcademyofSciences上。該項研究由U.S.DefenseAdvancedResearchProjectsAgency(DARPA)資助,數額近100萬(wàn)美元。這項支持是該機構皮質(zhì)處理器項目(CorticalProcessorprogram)的一部分,旨在促進(jìn)能識別復雜情況和適應環(huán)境變化的仿人腦人工智能的研究。
DharmendraModha是IBM研究中心Almaden仿人腦計算項目首席科學(xué)家。他表示:
這個(gè)研究具有里程碑式的意義,而且證實(shí)了一個(gè)顯而易見(jiàn)的概念:仿人腦計算的運行效率會(huì )隨著(zhù)深度學(xué)習效率的提升而提升,而這又為新一代芯片和算法提高工作效率和正確率鋪平了道路。
2011年,IBM第一次對外具體公布TrueNorth和其芯片原型,而以卷積神經(jīng)網(wǎng)絡(luò )為基礎發(fā)展起來(lái)的深度學(xué)習革命卻開(kāi)始于2012年。由此可看出,剛開(kāi)始并不是專(zhuān)門(mén)為了應用深度學(xué)習而設計TrueNorth,反而有了TrueNorth才促進(jìn)了脈沖神經(jīng)網(wǎng)絡(luò )去模仿真實(shí)生物大腦中的神經(jīng)元連接構造。
脈沖神經(jīng)網(wǎng)絡(luò )中的神經(jīng)元并不是在每一次迭代傳播中都被激活(而在典型的多層感知機網(wǎng)絡(luò )中卻是),而是在它的膜電位達到某一個(gè)特定值后才被激活。這有效減少了圖形認知或語(yǔ)言處理的運行速度。
但深度學(xué)習專(zhuān)家卻覺(jué)得,同樣是用在機器學(xué)習上,至少和卷積神經(jīng)網(wǎng)絡(luò )相比,脈沖神經(jīng)網(wǎng)絡(luò )的效率并不夠高。
YannLeCun是Facebook人工智能研究院理事、深度學(xué)習領(lǐng)域的先驅。他曾批評過(guò)IBM的TrueNorth芯片,把它稱(chēng)之為草包族科學(xué)。他說(shuō),IBM只是復制了機器的表象,卻沒(méi)有深入理解及其背后的原理。
有反對的聲音,但也有支持的聲音。ZacharyChaseLipton是加州大學(xué)(位于圣地亞哥)人工智能團隊深度學(xué)習研究員。他說(shuō),
TrueNorth可以促進(jìn)實(shí)現神經(jīng)形態(tài)計算,要知道,深層次模仿和理解生物大腦正是神經(jīng)形態(tài)計算的功勞。
通過(guò)對比不同學(xué)者們的觀(guān)點(diǎn)可以發(fā)現,深度學(xué)習研究人員通常更關(guān)心的是如何使實(shí)踐結果應用到以人工智能為技術(shù)支撐的服務(wù)和產(chǎn)品上。
還拿那個(gè)老套的鳥(niǎo)和飛機的比喻做例子。你可能覺(jué)得卷積神經(jīng)科學(xué)研究鳥(niǎo)更多;而脈沖神經(jīng)科學(xué)則更多關(guān)注空氣動(dòng)力學(xué),生物學(xué)可有可無(wú)。
專(zhuān)有計算機硬件對機器學(xué)習的好處越來(lái)越明顯。因此,神經(jīng)形態(tài)芯片并沒(méi)有讓人覺(jué)得很興奮的原因主要是,在深度學(xué)習中脈沖神經(jīng)網(wǎng)絡(luò )并沒(méi)有那么流行。
因此,為了使TrueNorth芯片能更好的應用機器學(xué)習,IBM必須研究出一種新的算法來(lái)幫助卷積神經(jīng)網(wǎng)絡(luò )在神經(jīng)形態(tài)計算機硬件上運行的更好。
在研究測試中,TrueNorth可以給圖片數據分類(lèi),每秒速度1200-2600幀,能耗25-275毫瓦。處理器還能夠識別圖片模式,這些圖片是50-100個(gè)攝像頭以每秒24幀的速度拍攝的。
TrueNorth剛開(kāi)始進(jìn)行深度學(xué)習測試就獲得這樣的結果,給人的印象好像還挺深刻。但是,大家還是謹慎為好,Lipton說(shuō),畢竟視覺(jué)數據集在處理32×32素的圖像時(shí),還存在有少量問(wèn)題。
不過(guò)這可影響不到Modha。他依舊懷著(zhù)熱切的心情繼續著(zhù)TrueNorth深度學(xué)習測試。他和他的同事希望芯片測試能在無(wú)限制的深度學(xué)習環(huán)境下進(jìn)行。這需要他們在訓練神經(jīng)網(wǎng)絡(luò )時(shí)逐步引進(jìn)硬件限制,而不是從一開(kāi)始就對其完全限制。
Modha還指出,TrueNorth的其中一個(gè)優(yōu)勢是它的普適性,其他很多深度學(xué)習硬件都只能在卷積神經(jīng)網(wǎng)絡(luò )上運行,但TrueNorth可以接受多種類(lèi)型的人工智能網(wǎng)絡(luò )。
“TrueNorth不僅可運行卷積神經(jīng)網(wǎng)絡(luò )(雖然設計者一開(kāi)始無(wú)意于此),支持多種包括反饋、橫向以及前饋的連接模式,還能應用多種其他的算法。”
像這樣的類(lèi)生物芯片只有比其他深度學(xué)習硬件應用更出眾才能流行起來(lái),Lipton說(shuō)。同時(shí),他還建議到,IBM可以利用它的硬件公司,和Google、Intel一起為設計深度學(xué)習專(zhuān)用芯片而奮斗。
“我想,未來(lái)肯定會(huì )一些神經(jīng)形態(tài)芯片制造商,他們會(huì )通過(guò)自己的硬件公司來(lái)加速芯片的發(fā)展以使整個(gè)行業(yè)更集中于實(shí)踐性深度學(xué)習的應用,而不是純粹的生物模仿。”
評論