AI架構創(chuàng )新和高端芯片發(fā)展

作者 / 魏少軍 清華大學(xué)微納電子學(xué)系主任 (北京 100084)

魏少軍，博士，教授，清華大學(xué)微納電子學(xué)系主任，清華大學(xué)微電子學(xué)研究所所長(cháng)，清華大學(xué)移動(dòng)計算研究中心主任 。

摘要：在“2017中國集成電路產(chǎn)業(yè)促進(jìn)大會(huì )”上，清華大學(xué)魏少軍教授就架構創(chuàng )新和高端芯片發(fā)展做了相關(guān)報告。根據魏少軍教授會(huì )上報告整理，已獲作者授權。

0 引言

　　隨著(zhù)近年來(lái)人工智能(AI)的興起，AI芯片的需求量越來(lái)越大，性能要求越來(lái)越高。而AI運算量很大，這就意味著(zhù)其需要有足夠高的運算速度，預計其運算速度需要達到每秒幾千億次。如果從能量效率角度分析，大概要做到每瓦1萬(wàn)億次。因此，國內做AI芯片的企業(yè)大部分還在用專(zhuān)用芯片在做。采用專(zhuān)用集成電路的問(wèn)題在于，當網(wǎng)絡(luò )一旦變化，專(zhuān)用集成電路做成的芯片將無(wú)法應對再應用。這就為可編程器件帶來(lái)了機遇。

1 FPGA難以達到AI的要求

　　可編程器件的一個(gè)優(yōu)點(diǎn)是可以通過(guò)軟件的方式來(lái)改變芯片的功能，從而適應各種不同功能的應用。最終提升銷(xiāo)量，從而分攤產(chǎn)品的成本。

　　而現在較為常用的可編程器件——FPGA仍然存在諸多問(wèn)題，還難以達到AI的速率及通過(guò)軟件改變芯片功能的需求。

　　1)FPGA的配置信息量很大，多達數十兆字節，因而所需配置時(shí)間也很長(cháng)，大概要幾十毫秒，甚至幾秒。

　　2)能量效率低。FPGA面板利用率很低，大概只有5%用來(lái)進(jìn)行計算，95%用來(lái)配置信息。正因為其95%是用來(lái)配置用的，還要耗電，因而能量效率很低。

　　3)另外，由于各方面原因，FPGA往往需要最先進(jìn)的工藝，同時(shí)還必須要有電路設計的支持，這也帶來(lái)了高設計成本。

　　FPGA存在的問(wèn)題總結起來(lái)包含十點(diǎn)：高細密度、配置信息量大、配置時(shí)間長(cháng)、需要斷電靜態(tài)配置、沒(méi)有邏輯復用能力、面積利用率低、能量效率低、工藝要求較高、對開(kāi)發(fā)人員知識儲備要求高、價(jià)格貴，具體如表1所示。

2 理想的硬件結構

　　如圖1所示系統架構為設想的理想系統架構。其中左邊為軟件(應用)，如果不考慮硬件的代價(jià)，左邊有怎樣的操作，右邊就要對應怎樣的硬件，左邊和右邊的拓撲結構是完全一致的。從計算上來(lái)看，這樣的結構一定是效率最高的。

　　在這樣的架構中，軟件可以無(wú)窮大，例如寫(xiě)一個(gè)循環(huán)語(yǔ)句，可以一直循環(huán)下去，但是硬件不論多大都是有邊界的，這就需要將軟件分塊搬到硬件上按順序執行。這樣搬的過(guò)程中，右邊的硬件架構其實(shí)是在不斷變化的，我們稱(chēng)之為架構和功能可以動(dòng)態(tài)按照軟件要求實(shí)時(shí)改變。

3 軟件執行方式

　　軟件信息主要可以分為兩類(lèi)：計算信息和控制信息。如果我們將軟件寫(xiě)成如圖2所示形式，中間對應的是控制信息，用來(lái)控制程序執行流程，右邊對應的是計算信息。如果將軟件中的計算信息和控制信息分開(kāi)，就可以找到相應的架構，包括控制單元和數據通道。

　　數據通道對應的是陣列，控制單元對應的是有限狀態(tài)機，不論是陣列，還是有限狀態(tài)機，都是完全可編程的。從而實(shí)現不同軟件部分按要求搬進(jìn)去執行，具體地，將分塊軟件按照他們的依賴(lài)關(guān)系送到數據通道中，通過(guò)數據通道配置其中陣列，并執行。

　　而在軟件配置和執行過(guò)程中，如果整個(gè)系統是按照C語(yǔ)言編寫(xiě)的，通過(guò)編譯器會(huì )產(chǎn)生一系列的控制流，最后在硬件芯片上運行。這種架構的獨特之處在于采用控制流、數據流和配置流代替之前的指令集。