IBM研發(fā)基于PCM的個(gè)性化AI芯片,算力是GPU百倍
最近發(fā)表在Nature上的一篇論文中,IBM Research AI團隊用大規模的模擬存儲器陣列訓練深度神經(jīng)網(wǎng)絡(luò )(DNN),達到了與GPU相當的精度。研究人員稱(chēng),這種“芯片”可以達到 GPU 280 倍的能源效率,并在同樣面積上實(shí)現 100 倍的算力。這是在下一次AI突破所需要的硬件加速器發(fā)展道路上邁出的重要一步。
本文引用地址:http://dyxdggzs.com/article/201809/391725.htmIBM Research 研究員 Stefano Ambrogio之前 擔憂(yōu):我們可以在一個(gè)比 GPU 更快的系統上進(jìn)行訓練,但如果訓練操作不夠精確,那就沒(méi)用。目前為止,還沒(méi)有證據表明使用這些新型設備和使用 GPU 一樣精確?!?/p>
但在上周發(fā)表在《自然》雜志上的一篇論文中(Equivalent-accuracy accelerated neural-network training using analogue memory),Ambrogio 和他的同事們描述了如何利用全新的模擬存儲器和更傳統的電子組件組合來(lái)制造一個(gè)芯片,該芯片在運行速度更快、能耗更少的情況下與 GPU 的精確度相匹配。
新的存儲技術(shù)難以訓練深層神經(jīng)網(wǎng)絡(luò )的原因是,這個(gè)過(guò)程需要對每個(gè)神經(jīng)元的權重進(jìn)行上下數千次的刺激,直到網(wǎng)絡(luò )完全對齊。Ambrogio 說(shuō),改變這些設備的電阻需要重新配置它們的原子結構,而這個(gè)過(guò)程每次都不相同。刺激的力度也并不總是完全相同,這導致神經(jīng)元權重不精確的調節。
因此,研究人員創(chuàng )造了“突觸單元”來(lái)解決這個(gè)問(wèn)題,每個(gè)單元都對應網(wǎng)絡(luò )中的單個(gè)神經(jīng)元,既有長(cháng)期記憶,也有短期記憶。每個(gè)單元由一對相變存儲器 ( PCM ) 單元和三個(gè)晶體管和一個(gè)電容器的組合構成,相變存儲器單元將重量數據存儲在其電阻中,電容器將重量數據存儲為電荷。
PCM 是一種“非易失性存儲器”,意味著(zhù)即使沒(méi)有外部電源,它也保留存儲的信息,而電容器是“易失性的”,因此只能保持其電荷幾毫秒。但電容器沒(méi)有 PCM 器件的可變性,因此可以快速準確地編程。
當神經(jīng)網(wǎng)絡(luò )經(jīng)過(guò)圖片訓練后可以進(jìn)行分類(lèi)任務(wù)時(shí),只有電容器權重被更新了。在觀(guān)察了數千張圖片之后,權重會(huì )被傳輸到 PCM 單元以長(cháng)期存儲。認為最終的芯片會(huì )被設計為與 GPU 協(xié)同工作的形式,以處理全連接層的計算,同時(shí)執行其他任務(wù)。他還認為處理全連接層的有效方法可以被擴展到其它更廣泛的領(lǐng)域。
Ambrogio 表示主要有兩種方向的應用:將 AI 引入個(gè)人設備,以及提高數據中心的運行效率。但明顯其更具吸引力的優(yōu)勢在于創(chuàng )造個(gè)性化的 AI。
IBM2018市場(chǎng)戰略:
截至今年3月31日,IBM2018年第一季度的營(yíng)收為191億美元,同比增長(cháng)5%。繼上個(gè)季度后,再次結束連續22個(gè)季度下滑的局面,第二次實(shí)現營(yíng)收增長(cháng)。IBM預計到今年年底將達到400億美元的戰略要求。
IBM所謂的“戰略必要性”收入,即未來(lái)增長(cháng)產(chǎn)品和服務(wù),例如云、認知計算、沃森、分析、移動(dòng)和安全等業(yè)務(wù),在過(guò)去12個(gè)月中為收入377億美元,增長(cháng)12%,占IBM收入的47%。
6月6日,透過(guò)2018 IBM社交協(xié)作峰會(huì ),IBM發(fā)布了一系列基于Watson技術(shù)的社交協(xié)作解決方案,并向業(yè)界展示了眾多深入各行業(yè)企業(yè)業(yè)務(wù)流程的成功案例。無(wú)論是醫藥、金融、制造業(yè)等傳統行業(yè),或是獨角獸級別的初創(chuàng )企業(yè),IBM企業(yè)社交協(xié)作已經(jīng)全面深入企業(yè)業(yè)務(wù)深水區,成為其數字化轉型中不可或缺的助力
2018年,IBM在企業(yè)社交協(xié)作方面另一個(gè)值得期待的動(dòng)作就是即將推出DominoV10版本。據悉,輕代碼/無(wú)代碼應用將是其主要特點(diǎn)。相信在輕量化無(wú)代碼的趨勢下,越來(lái)越多企業(yè)用戶(hù)可以脫離軟件開(kāi)發(fā)商和較長(cháng)的開(kāi)發(fā)周期,更便捷更快速地應用IBM多年積累的企業(yè)協(xié)作技術(shù)。
在過(guò)去幾年:在人工智能領(lǐng)域 IBM 簽下 16000 份合同、400 份區塊鏈合同!在量子計算領(lǐng)域,也正與 JP摩根大通和戴姆勒等伙伴合作實(shí)施多個(gè)項目的合作。
評論