技術(shù)革命！主流芯片架構正在發(fā)生重大變化？

　　更多計算，更少移動(dòng)

　　使問(wèn)題變得更加復雜的是，邊緣設備以各種頻率和速度產(chǎn)生了多種不同類(lèi)型的數據。為了使數據在各種處理單元之間流暢地移動(dòng)，必須比過(guò)去更加有效地管理它。

　　“有四種主要配置 - 多對多、內存子系統、低功耗IO以及網(wǎng)狀和環(huán)形拓撲，”Arteris IP董事長(cháng)兼首席執行官Charlie Janac說(shuō)。 “你可以將所有這四個(gè)要素放在單個(gè)芯片中，現在的決策型IoT芯片就是這么做的?；蛘吣梢蕴砑泳哂懈咄掏履芰Φ腍BM子系統。但是由于其中一些工作負荷是面向特定行業(yè)需求，而且每個(gè)芯片都需要面對多個(gè)工作負荷，具有多個(gè)引腳，所以問(wèn)題依然很復雜。你看其中一些物聯(lián)網(wǎng)芯片，它們會(huì )收集大量的數據。些工作負載非常具體，每個(gè)芯片有多個(gè)工作負載和引腳。 如果你看一些物聯(lián)網(wǎng)芯片，它們會(huì )收集大量的數據。像汽車(chē)中的雷達和LiDAR這樣的東西尤其如此。如果沒(méi)有某種先進(jìn)的互連技術(shù)，它們的存在毫無(wú)意義?！?/p>

　　挑戰在于如何盡量減少數據移動(dòng)，以及在需要時(shí)最大程度提高數據傳輸速度，并以某種方式在不消耗太多功率的情況下取得本地處理和集中處理的平衡。

　　“一方面是帶寬問(wèn)題，”NetSpeed Systems產(chǎn)品營(yíng)銷(xiāo)經(jīng)理Rajesh Ramanujam說(shuō)。 “如果可能的話(huà)，您希望盡量不要移動(dòng)數據，因此您可以將數據放得離處理器更近。但是，如果您必須移動(dòng)數據，則需要盡可能地壓縮數據。但是，現實(shí)情況往往更加復雜，你必須從系統級別查看這種可能性。每一步都需要考慮多個(gè)因素，確定您是以傳統的讀寫(xiě)方式使用內存還是利用新的內存技術(shù)。在某些情況下，您可能希望更改數據本身的存儲方式。如果您想要更快的性能，通常意味著(zhù)更大的芯片尺寸，這會(huì )影響功耗?，F在你還要考慮功能安全，因此不得不擔心數據過(guò)載?！?/p>

　　這就是為什么人們把那么多的注意力放在加強邊緣處理能力和增加各種處理單元之間的傳輸吞吐能力上?，F在，隨著(zhù)架構的演化和完善，處理的實(shí)現方式和位置都發(fā)生了很大變化。

　　比如，Marvell推出了一款內置AI能力的SSD控制器，它可以在邊緣節點(diǎn)上處理更大的計算負荷。其中的AI引擎可用于固態(tài)存儲本身的分析。

　　“你可以直接將模型加載到硬件中，并在SSD控制器上進(jìn)行硬件處理，”Marvell的首席工程師Ned Varnica說(shuō)。 “今天，云端主機就是這樣做的。但是，如果每個(gè)SSD都要將數據發(fā)送到云端，那將會(huì )產(chǎn)生巨大的網(wǎng)絡(luò )流量。最好在邊緣就地處理，主機只需要發(fā)出元數據形式的命令。 這樣一來(lái)，您擁有的存儲設備越多，處理能力就越強。降低網(wǎng)絡(luò )傳輸的好處非常大?！?/p>

　　這種方法有一點(diǎn)特別值得注意，即它強調數據根據應用類(lèi)型而移動(dòng)的靈活性。主機可以生成一個(gè)任務(wù)，將它發(fā)送到存儲設備上進(jìn)行處理，然后只需要返回元數據或者計算結果。在另外一種場(chǎng)景中，存儲設備可以存儲數據，對數據進(jìn)行預處理并從生成元數據、標簽和索引，主機需要進(jìn)行進(jìn)一步分析時(shí)再讀回它們。

　　這只是其中一種方案，還有其它的選擇。三星的Rupley強調了亂序處理和融合習語(yǔ)，它們可以解碼兩條指令并將它們融合在單個(gè)操作中。

　　AI監督和優(yōu)化

　　在所有這些之上是人工智能，它是芯片架構領(lǐng)域的新技術(shù)。它不管操作系統和中間件如何管理功能，而是在系統級別上監督芯片以及芯片之間的行為。在某些情況下，AI可以體現為芯片內的神經(jīng)網(wǎng)絡(luò )。

　　eSilicon市場(chǎng)營(yíng)銷(xiāo)副總裁Mike Gianfagna表示，“AI的作用并不是將更多東西包裝在一起，多到足夠改變傳統的處理方式。通過(guò)AI和機器學(xué)習，你可以在系統周?chē)渴鹑斯ぶ悄?，以獲得更高效和預測性的處理。它有時(shí)可以是在系統內獨立運行的單獨芯片?！?/p>

　　Arm正在開(kāi)發(fā)首款機器學(xué)習芯片，它計劃于今年晚些時(shí)候推出，面向多個(gè)細分市場(chǎng)和垂直市場(chǎng)?！斑@是一種新型處理器，”Arm的杰出工程師Ian Bratt說(shuō)。 “它包括一個(gè)基本塊，其中帶有一個(gè)計算引擎、一個(gè)MAC引擎和一個(gè)帶有控制單元和廣播網(wǎng)絡(luò )的DMA引擎。該芯片共有16個(gè)計算引擎，使用7nm制造工藝，在1GHz主頻下可達到4 teraOps的計算能力?！?/p>

　　Arm機器學(xué)習處理器架構

　　由于A(yíng)rm生態(tài)系統面向多個(gè)合作伙伴，因此該芯片比其它AI/ML芯片更加通用，配置能力更強。它沒(méi)有搭建一個(gè)包羅萬(wàn)物的單片架構，而是根據功能劃分不同處理單元，因此每個(gè)計算引擎都是面向不同的功能特征。Bratt表示，AI芯片的四個(gè)關(guān)鍵要素是靜態(tài)調度、高效卷積、帶寬減少機制以及面向未來(lái)設計的可編程性。

　　英偉達則采取了不同的策略，它選擇在GPU旁邊構建專(zhuān)用的深度學(xué)習引擎，以?xún)?yōu)化圖片和視頻處理的數據傳輸。

　　結論

　　芯片制造商表示，通過(guò)實(shí)行部分或全部這些方法，他們可以每隔幾年就將性能提高一倍，以跟上數據爆炸性增長(cháng)的步伐，同時(shí)滿(mǎn)足功耗的嚴格限制。這些方法不僅是提供更多計算機，還正在改變芯片設計和系統工程化的起點(diǎn)，它們更多考慮數據的不斷增長(cháng)，而不是硬件和軟件的限制。

　　Synopsys公司董事長(cháng)兼聯(lián)席首席執行官Aart de Geus說(shuō)：“當最初一代計算機開(kāi)始進(jìn)入公司時(shí)，很多人都認為世界的發(fā)展速度將會(huì )加快很多。沒(méi)有計算機時(shí)，他們用一堆紙質(zhì)的會(huì )計賬簿進(jìn)行會(huì )計處理。自那以后，各種公司事務(wù)的處理速度發(fā)生了指數級的變化，現在，這種變化再一次來(lái)到了我們面前。這種快速的變化就像突然可以把會(huì )計賬簿打印出來(lái)了一樣。就像在農業(yè)領(lǐng)域里，你只需要在某一天溫度上升的時(shí)候灌溉適當的水和某種肥料，就可以等待豐收一樣，機器學(xué)習也是這種之前并不明顯的優(yōu)化?！?/p>

　　西門(mén)子子公司Mentor的總裁兼首席執行官Wally Rhines也認可這種觀(guān)點(diǎn)?！靶录軜媽⒈蝗藗兘蛹{，人們將在新架構下設計芯片，在許多甚至大多數場(chǎng)景下執行機器學(xué)習，就像您的大腦有能力從經(jīng)驗中學(xué)習一樣。我拜訪(fǎng)了20多家正在做自己的專(zhuān)用AI處理器的公司，它們都有自己的特色。你會(huì )越來(lái)越多地在各種特定應用中看到它們，它們對傳統的馮諾伊曼架構形成了有效補充。神經(jīng)形態(tài)計算將成為處理，它將幫助我們提高計算效率、降低成本，在移動(dòng)和聯(lián)接性的環(huán)境中完成工作，現在我們還必須在大型服務(wù)器集群中完成這些工作?！?/p>