消除馮·諾伊曼瓶頸 Imec和GF合作展示新型人工智能芯片

專(zhuān)注于納米電子和數字技術(shù)的比利時(shí)微電子研究中心（Imec）聯(lián)合全球領(lǐng)先的特種晶圓代工企業(yè)格芯（Global Foundries），今天對一款新型人工智能芯片進(jìn)行了硬件展示。這款人工智能芯片基于 Imec 的 Analog in Memory Computing (AiMC)架構，利用了格芯的 22FDX 解決方案，通過(guò)層層優(yōu)化能在模擬領(lǐng)域的內存計算硬件上執行深度神經(jīng)網(wǎng)絡(luò )計算。

這款芯片的能效達到了創(chuàng )紀錄的 2900 TOPS/W，是低功耗設備邊緣推理的重要推動(dòng)者。這項新技術(shù)在隱私、安全和延遲方面的優(yōu)勢，將對從智能音箱到自動(dòng)駕駛汽車(chē)等多種邊緣設備的人工智能應用產(chǎn)生影響。

從數字計算機時(shí)代初期開(kāi)始，處理器和內存是分開(kāi)的，因此使用大量數據進(jìn)行的操作需要從內存存儲中檢索出同樣多的數據元素。而這就是馮·諾伊曼瓶頸（von Neumann bottleneck）。

它是指在 CPU 與內存之間的流量（資料傳輸率）與內存的容量相比起來(lái)相當小，在現代電腦中，流量與CPU的工作效率相比之下非常小，在某些情況下（當CPU需要在巨大的資料上執行一些簡(jiǎn)單指令時(shí)），資料流量就成了整體效率非常嚴重的限制。CPU將會(huì )在資料輸入或輸出內存時(shí)閑置。由于CPU速度遠大于內存讀寫(xiě)速率，因此瓶頸問(wèn)題越來(lái)越嚴重。

為了解決這一挑戰，Imec 和包括格芯在內的合作伙伴啟動(dòng)了工業(yè)附屬機器學(xué)習計劃， 致力于開(kāi)發(fā)新的架構，在 SRAM 單元中執行模擬計算來(lái)消除馮·諾伊曼瓶頸。

由此產(chǎn)生的模擬推理加速器(AnIA)，建立在GF的22FDX半導體平臺上，能效顯著(zhù)。特性測試表明，功耗效率達到峰值，即每瓦特每秒2900兆次運算(TOPS/W)。在微型傳感器和低功耗邊緣設備中的模式識別，通常由數據中心的機器學(xué)習來(lái)驅動(dòng)，現在可以在這個(gè)高能效加速器上本地執行。