達摩院突破馮·諾依曼架構性能瓶頸 新型AI芯片性能提升10倍

　　12月3日，記者獲悉，達摩院成功研發(fā)新型架構芯片。該芯片是全球首款基于DRAM的3D鍵合堆疊存算一體AI芯片，可突破馮·諾依曼架構的性能瓶頸，滿(mǎn)足人工智能等場(chǎng)景對高帶寬、高容量?jì)却婧蜆O致算力的需求。在特定AI場(chǎng)景中，該芯片性能提升10倍以上，能效比提升高達300倍。

達摩院存算一體芯片

　　過(guò)去70年，計算機一直遵循馮·諾依曼架構設計，運行時(shí)數據需要在處理器和內存之間來(lái)回傳輸。隨著(zhù)時(shí)代發(fā)展，這一工作模式面臨較大挑戰：在人工智能等高并發(fā)計算場(chǎng)景中，數據來(lái)回傳輸會(huì )產(chǎn)生巨大的功耗；目前內存系統的性能提升速度大幅落后于處理器的性能提升速度，有限的內存帶寬無(wú)法保證數據高速傳輸。

馮·諾依曼和馮·諾依曼計算機

　　在摩爾定律逐漸放緩的背景下，存算一體成為解決計算機性能瓶頸的關(guān)鍵技術(shù)。存算一體芯片類(lèi)似人腦，將數據存儲單元和計算單元融合，可大幅減少數據搬運，從而極大地提高計算并行度和能效。這一技術(shù)早在上世紀90年代就被提出，但受限于技術(shù)的復雜度、高昂的設計成本以及應用場(chǎng)景的匱乏，過(guò)去幾十年，業(yè)界對存算一體芯片的研究進(jìn)展緩慢。

　　達摩院研發(fā)的存算一體芯片集成了多個(gè)創(chuàng )新型技術(shù)，是全球首款使用混合鍵合3D堆疊技術(shù)實(shí)現存算一體的芯片。該芯片內存單元采用異質(zhì)集成嵌入式DRAM（SeDRAM），擁有超大帶寬、超大容量等特點(diǎn)；計算單元方面，達摩院研發(fā)設計了流式的定制化加速器架構，對推薦系統進(jìn)行“端到端”的加速，包括匹配、粗排序、神經(jīng)網(wǎng)絡(luò )計算、細排序等任務(wù)。

　　得益于整體架構的創(chuàng )新，該芯片同時(shí)實(shí)現了高性能和低系統功耗。在實(shí)際推薦系統應用中，相比傳統CPU計算系統，存算一體芯片的性能提升10倍以上，能效提升超過(guò)300倍。該技術(shù)的研究成果已被芯片領(lǐng)域頂級會(huì )議ISSCC 2022收錄，未來(lái)可應用于VR/AR、無(wú)人駕駛、天文數據計算、遙感影像數據分析等場(chǎng)景。

　　達摩院計算技術(shù)實(shí)驗室科學(xué)家鄭宏忠表示：“存算一體是顛覆性的芯片技術(shù)，它天然擁有高性能、高帶寬和高能效的優(yōu)勢，可以從底層架構上解決后摩爾定律時(shí)代的芯片性能和能耗問(wèn)題，達摩院研發(fā)的芯片將這一技術(shù)與場(chǎng)景緊密結合，實(shí)現了內存、計算以及算法應用的完美融合?！?/p>

　　據悉，達摩院計算技術(shù)實(shí)驗室專(zhuān)注研究芯片設計方法學(xué)和新型計算機體系結構技術(shù)，已擁有多項領(lǐng)先成果，在ISSCC、ISCA、MICRO、HPCA等頂級會(huì )議上發(fā)表多篇論文。