人工智能顛覆傳統計算方式：讓內存更接近計算資源

　　大數據應用推動(dòng)了“讓內存更接近計算資源”的架構需求，而人工智能和機器學(xué)習則進(jìn)一步證明了硬件和硬件架構在成功部署中發(fā)揮的關(guān)鍵作用。不過(guò)有一個(gè)關(guān)鍵問(wèn)題——數據處理應該在哪里進(jìn)行。

　　在Forrester Research近期的一項調查中，有89%的受訪(fǎng)者表示，計算和內存在架構上緊密相連是至關(guān)重要的。這項調研由美光(Micron Technology)公司委托，調查結果中還發(fā)現，內存和存儲是如今限制人工智能和機器學(xué)習發(fā)展的非常重要的因素。此外，還有超過(guò)75%的受訪(fǎng)者指出，他們需要升級或重新構建內存和存儲架構以打破這種局限性。

　　因為機器學(xué)習能夠通過(guò)神經(jīng)網(wǎng)絡(luò )對龐大的數據矩陣進(jìn)行多次累積操作，這使得大數據及其分析過(guò)程中的很多問(wèn)題得以解決。同時(shí)，隨著(zhù)更多結果的產(chǎn)生，這樣的操作還會(huì )反復進(jìn)行，以生成最佳路徑和最佳選擇的算法，并且這些算法都是通過(guò)處理數據進(jìn)行反復學(xué)習的。

　　美光公司企業(yè)戰略副總裁Colm Lysaght表示，因為數據量非常大，所以解決內存問(wèn)題的常見(jiàn)方案就是增加更多的DRAM(Dynamic Random Access Memory)，即動(dòng)態(tài)隨機存取存儲器。這是最為常見(jiàn)的系統內存，能夠將性能瓶頸從原始計算轉移到數據所在的位置?！皟却婧痛鎯褪菙祿诘牡胤?。我們必須把數據帶入CPU，然后再返回，如此反復。因為這些龐大的數據集都需要被處理?！?/p>

　　Lysaght說(shuō)，如果能夠讓計算和內存更緊密地結合在一起，就意味著(zhù)可以節省更多電力能源，因為在內存和計算之間就不需要往返太多次?！斑@會(huì )提高性能，因為數據處理直接發(fā)生在它所在的位置?！?/p>

　　在Lysaght看來(lái)，有很多不同的方法都可以打造出更好的架構。拿神經(jīng)形態(tài)處理器舉例，它在內部使用神經(jīng)網(wǎng)絡(luò )，并將內部核心數據分解為更多的較小顆粒?！耙驗橐獙Υ罅康臄祿M(jìn)行處理，所以讓更多的核心反復執行相對簡(jiǎn)單的操作是一種更好的解決方案，”Lysaght說(shuō)。

　　最近，內存公司Crossbar與Gyrfalcon Technology、mtes Neural Networks(mtesNN)、RoboSensing等公司一起，打造了一個(gè)致力于提供加速、節能型人工智能平臺的聯(lián)盟——SCAiLE(用于邊緣學(xué)習的SCABLE AI)。該聯(lián)盟將結合先進(jìn)的加速硬件、電阻式RAM(ReRAM)和優(yōu)化神經(jīng)網(wǎng)絡(luò )，打造就緒的低功耗解決方案，使得整個(gè)過(guò)程無(wú)需進(jìn)行監督學(xué)習。

　　Crossbar公司戰略營(yíng)銷(xiāo)和業(yè)務(wù)開(kāi)發(fā)副總裁Sylvain Dubois表示，目前很多企業(yè)面臨的挑戰是，他們既希望在設備上采用人工智能，但是又不知道該怎么做，無(wú)論是智能揚聲器、智能攝像頭還是智能電視。而該聯(lián)盟的目標，就是提供一個(gè)將所有必要部分組合在一起的平臺。

　　Crossbar的主要貢獻在于內存(特別是ReRAM)，它將通過(guò)各種輸入處理機器學(xué)習系統中的數據，包括文本、關(guān)鍵字、GPS坐標、傳感器可視數據等大量非結構化數據。

　　Dubois設想了一種存儲器陣列，它的架構能夠以非常寬且高度并行的方式由實(shí)例中的每一個(gè)特定處理代碼讀取，實(shí)現在邊緣設備中并行讀取一千個(gè)字節?！叭绻ヅ淞?，你就會(huì )知道該怎么做。如果沒(méi)有匹配，那么這就是我們所說(shuō)的學(xué)習曲率?！盌ubois說(shuō)。

　　例如，對攝像頭傳感器來(lái)說(shuō)，該系統將能夠在ReRAM陣列備用位置保存新事件或一組功能?！跋麓萎斢蓄?lèi)似事件在這個(gè)攝像頭前發(fā)生的時(shí)候，攝像頭本身就能夠在沒(méi)有任何訓練的情況下檢測到該事件?！盌ubois舉例說(shuō)。

　　這提供了一種完全不同的人工智能計算方式，因為如果出現需要快速決策的意外事件(例如關(guān)注安全性的交通場(chǎng)景)時(shí)，它就不再需要依賴(lài)于云中的訓練能力，而能夠在當下快速處理。

　　Forrester Research的這項研究表明，有越來(lái)越多的企業(yè)將在公有云和邊緣位置進(jìn)行數據分析，從而在邊緣完成更多的機器學(xué)習能力。有51%的受訪(fǎng)者表示，他們正在公有云中運行分析，預計未來(lái)三年這一比例將增加到61%。此外，有44%的人已經(jīng)在邊緣設備中進(jìn)行數據分析，預測到2021年這一比例將增長(cháng)到53%。

　　Forrester基礎設施和運營(yíng)高級分析師Chris Gardner對于硬件的重要性感到驚訝，特別是存儲和內存。他表示，一個(gè)非常重要的研究結果是，有大量工作是脫離了存儲在內存本身進(jìn)行的。但值得注意的是，這取決于你的需求是什么。根據Gardner的說(shuō)法，訓練模型需要大量的內存和存儲空間。除外之外，你根本不需要任何東西。

　　Gardner說(shuō)，在完美的情況下，企業(yè)希望擁有一個(gè)數百GB的RAM大型環(huán)境。但實(shí)際上，他們不得不自己構建或者付費讓供應商來(lái)實(shí)現，而且這需要的是硬件方面的轉變?！拔覀冃枰嘁?xún)却鏋橹行牡募軜?，讓計算圍繞內存以及存儲來(lái)進(jìn)行，而不是讓計算本身成為中心?！斑@并不是說(shuō)當前的計算架構很糟糕，但這可能并不是做人工智能和機器學(xué)習最有效的方式?！盙ardner表示。

　　此外，Gardner還提到了邊緣計算，有一個(gè)場(chǎng)景是某個(gè)舉行大型體育賽事的體育場(chǎng)內安裝了很多攝像頭，這些攝像頭實(shí)時(shí)產(chǎn)生了大量需要快速處理的數據，以確定是否存在危險情況?！八麄兛梢园堰@些數據發(fā)送到云端并返回，但是他們沒(méi)有時(shí)間去這么做，因為他們必須盡快處理這些數據?！?/p>

　　未來(lái)還將有一些機器學(xué)習是在云中進(jìn)行的，然后返回到物聯(lián)網(wǎng)設備，但是其中一些設備將變得越來(lái)越智能化，并且可以自主地進(jìn)行機器學(xué)習，共享回云端以及其他設備。對于內存制造商來(lái)說(shuō)，這意味著(zhù)商用組件制造商要持續進(jìn)行轉型，而且要重新編譯應用以利用人工智能和機器學(xué)習工作負載所需的、以?xún)却鏋橹行牡募軜?。但是現在這些技術(shù)還處于實(shí)驗階段，還沒(méi)有一個(gè)真正的采用內存為中心、在實(shí)驗環(huán)境之外有很多延遲表現的架構。

　　Gardner說(shuō)：“幾十年來(lái)我們一直是用以CPU為中心的心態(tài)去構建架構，而想要擺脫這種想法是非常具有革命性的?！?/p>

　　對此，去年秋天美光還宣布投資1億美元用于人工智能，并在實(shí)驗室中打造了一個(gè)類(lèi)似DRAM的產(chǎn)品，目標是在2021年進(jìn)行采樣，同時(shí)美光的研究人員也在研究處理器內存架構，這也是其他很多初創(chuàng )公司正在研究的領(lǐng)域。