IBM:模擬芯片可為機器學(xué)習加速1000倍
人工智能或許能解決一些科學(xué)和行業(yè)最棘手的挑戰,但要實(shí)現人工智能,需要新一代的計算機系統。IBM在博客中的一篇文章中指出,通過(guò)使用基于相變存儲器(Phase-Change Memory,簡(jiǎn)稱(chēng)PCM)的模擬芯片,機器學(xué)習可以加速一千倍。
本文引用地址:http://dyxdggzs.com/article/201902/397652.htm相變存儲器基于硫化物玻璃材料,這種材料在施加合適的電流時(shí)會(huì )將其相從晶態(tài)變?yōu)榉蔷B(tài)并可恢復。每相具有不同的電阻水平,在相位改變之前是穩定的。兩個(gè)電阻構成二進(jìn)制的1或0。
PCM是非易失性的,訪(fǎng)問(wèn)延遲與DRAM水平相當,他們都是存儲級內存的代表。英特爾與美光聯(lián)合開(kāi)發(fā)的3D XPoint技術(shù)就基于PCM。
IBM在博客中透露,為了實(shí)現AI真正的潛力,在紐約州立大學(xué)和創(chuàng )始合作伙伴成員的支持下,IBM正在建立一個(gè)研究中心,以開(kāi)發(fā)新一代AI硬件,并期待擴展其納米技術(shù)的聯(lián)合研究工作。
IBM Research AI硬件中心合作伙伴涵蓋半導體全產(chǎn)業(yè)鏈上的公司,包括IBM制造和研究領(lǐng)域的戰略合作伙伴三星,互聯(lián)解決方案公司Mellanox Technologies,提供仿真和原型設計解決方案軟件平臺提供商Synopsys,半導體設備公司Applied Materials和Tokyo Electron Limited(TEL)。
還與紐約州奧爾巴尼的紐約州立大學(xué)理工學(xué)院主辦方合作,進(jìn)行擴展的基礎設施支持和學(xué)術(shù)合作,并與鄰近的倫斯勒理工學(xué)院(RPI)計算創(chuàng )新中心(CCI)合作,開(kāi)展人工智能和計算方面的學(xué)術(shù)合作。
新的處理硬件
IBM研究院的半導體和人工智能硬件副總裁Mukesh Khare表示,目前的機器學(xué)習限制可以通過(guò)使用新的處理硬件來(lái)打破,例如:
數字AI核心和近似計算
帶模擬內核的內存計算
采用優(yōu)化材料的模擬核心

圖1:IBM Research AI硬件中心制定的一個(gè)路線(xiàn)圖,在未來(lái)十年內將AI計算性能效率提高1000倍,并提供數字AI核心和模擬AI核心管道。
Mukesh Khare提到將深度神經(jīng)網(wǎng)絡(luò )(DNN)映射到模擬交叉點(diǎn)陣列(模擬AI核心)。它們在陣列交叉點(diǎn)處具有非易失性存儲器材料以存儲權重。
DNN計算中的數值被加權以提高訓練過(guò)程中決策的準確性。
這些可以直接用交叉點(diǎn)PCM陣列實(shí)現,無(wú)需主機服務(wù)器CPU干預,從而提供內存計算,無(wú)需數據搬移。與英特爾XPoint SSD或DIMM等數字陣列形成對比,這是一個(gè)模擬陣列。
PCM沿著(zhù)非晶態(tài)和晶態(tài)之間的8級梯度記錄突觸權重。每個(gè)步驟的電導或電阻可以用電脈沖改變。這8級在DNN計算中提供8位精度。

圖2:非易失性存儲器的交叉開(kāi)關(guān)陣列可以通過(guò)在數據位置處執行計算來(lái)加速完全連接的神經(jīng)網(wǎng)絡(luò )的訓練。
模擬存儲器芯片內部的計算
在IBM的研究報告中指出:
“模擬非易失性存儲器(NVM)可以有效地加速”反向傳播(Backpropagation)“算法,這是許多最新AI技術(shù)進(jìn)步的核心。這些存儲器允許使用基礎物理學(xué)在這些算法中使用的“乘法-累加”運算在模擬域中,在權重數據的位置處并行化。
“與大規模電路相乘并將數字相加在一起不同,我們只需將一個(gè)小電流通過(guò)電阻器連接到一根導線(xiàn)上,然后將許多這樣的導線(xiàn)連接在一起,讓電流積聚起來(lái)。這讓我們可以同時(shí)執行許多計算,而不順序執行。也不是在數字存儲芯片和處理芯片之間的傳輸數字數據,我們可以在模擬存儲芯片內執行所有計算 ?!?/p>

圖3:我們的模擬AI內核是性能效率內存計算方法的一部分,通過(guò)消除與內存之間的數據傳輸來(lái)突破所謂的馮·諾伊曼結構瓶頸,從而提高了性能。深度神經(jīng)網(wǎng)絡(luò )被映射到模擬交叉點(diǎn)陣列,并且切換新的非易失性材料特性以在交叉點(diǎn)中存儲網(wǎng)絡(luò )參數。
評論