嘉楠：發(fā)力邊緣側 構建智能“芯”生態(tài)

      在“2019世界半導體大會(huì )”上，嘉楠科技創(chuàng )始人、董事長(cháng)兼首席執行官張楠賡先生發(fā)表題為“讓‘AI’成為AI”的演講，分享了對邊緣側AI和當下產(chǎn)業(yè)的思考，以及對嘉楠科技邊緣智能“芯”生態(tài)的構想。

      在《電子產(chǎn)品世界》記者的專(zhuān)訪(fǎng)中，張楠賡表示，真正的AI不僅局限于圖像處理，而應該兼具視聽(tīng)等多種感官能力。去年9月，嘉楠推出了第一代AI新品勘智K210，這款基于自主研發(fā)的ASIC芯片集視聽(tīng)能力于一身，已經(jīng)部署于無(wú)感門(mén)禁系統，功耗僅為300mw。最新的第二代芯片K510也預計在今年下半年問(wèn)世，芯片算力將提升5~10倍。

      K210和即將問(wèn)世的K510在某種程度上代表了嘉楠對于A(yíng)I的思考。隨著(zhù)AI產(chǎn)業(yè)逐漸走向成熟，AI芯片也逐漸從傳統的通用型芯片向半定制化、全定制化譜系發(fā)展。張楠賡認為，邊緣側AI之所以沒(méi)有普及，因為AI芯片在成本、能耗、算力、通用性等方面仍有不足。對于邊緣側而言，只有足夠輕量化、低功耗的AI芯片才能真正落地于邊緣側設備，賦予設備一定的自決策能力，從而真正讓社會(huì )享受人工智能時(shí)代的紅利。

      1  讓‘AI’成為AI

      從2016年AlphaGo一戰成名以來(lái)，沉寂了60年的AI搖身一變成為“未來(lái)”的代名詞。自動(dòng)駕駛、智慧城市、智能家居等一系列新概念點(diǎn)燃了人們對于A(yíng)I的想象。但另一方面，實(shí)現真正的AI仍存挑戰。

      AI的通用性首當其沖。當下AI產(chǎn)業(yè)的突破仍處于單點(diǎn)突破期間。由于應用背景明確，數據積累豐富，在翻譯、圖像檢測等一些特定的領(lǐng)域里，AI的能力已經(jīng)超越人類(lèi)。但是，真正的AI通用芯片應該具備視、聽(tīng)、觸等多種能力，而不是單獨針對某個(gè)領(lǐng)域進(jìn)行優(yōu)化。張楠賡認為，就像人一樣，各種傳感器同時(shí)起作用，這樣帶給用戶(hù)的體驗才會(huì )更好。

      總體上，AI的算法有一定的共通性。盡管IoT（物聯(lián)網(wǎng)）領(lǐng)域是個(gè)性化和碎片化的，如果把這些碎片化的領(lǐng)域集合在一起，發(fā)揮通用芯片和算法的優(yōu)勢，這樣可以確保在有限投入下，產(chǎn)出更多AI應用。

      而其中的關(guān)鍵，恰恰在于A(yíng)I在邊緣側設備的落地。

      2  邊緣側AI需要輕量化和低功耗

      張楠賡認為，目前的AI按應用場(chǎng)景主要分為兩種，一種是訓練，一種是推理。不同應用場(chǎng)景對芯片的設計提出了不同要求。具體而言，算法訓練由于對算力要求高，多部署于云端進(jìn)行。與之相反，數據推理則更多發(fā)生在邊緣側，因此芯片設計應當兼具低功耗和輕量化。

      為此，嘉楠科技于2018年9月6日發(fā)布了針對于邊緣側的AI芯片——堪智K210。芯片采用了先進(jìn)的28nm工藝，配置雙核64位CPU。其中，芯片的AI加速器由嘉楠自主研發(fā)設計，支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，因此一顆芯片可以同時(shí)處理視頻和音頻，功耗僅為0.3 W。

 圖 堪智K210芯片（來(lái)源：堪智官網(wǎng)：https://kendryte.com/）

      3  為何采用RISC-V架構

      與多數芯片不同，K210的CPU采用RISC-V的RV64。因為RISC-V有很多優(yōu)點(diǎn)，例如精簡(jiǎn)指令集開(kāi)發(fā)，更重要的是RISC-V并非國家意志的產(chǎn)物，而是具備學(xué)術(shù)性質(zhì)的開(kāi)源CPU，這在當下的貿易環(huán)境中顯得尤為重要。

      同時(shí)，嘉楠也趕上了國內正在興起RISC-V研究浪潮。K210芯片和開(kāi)發(fā)板可以服務(wù)于高校和科研院所的研究和培訓，而且嘉楠產(chǎn)品是市場(chǎng)上為數不多、可立即買(mǎi)到的RISC-V產(chǎn)品，在淘寶就可以很方便地采購到。

      K210的優(yōu)勢是雙核64位RV CPU，是非常學(xué)術(shù)的RISC-V CPU，主頻400 MHz。相比Arm，RISC-V的RV64相當于A(yíng)rm的M7，比M7性能略高一些，但略遜于A(yíng)rm A7。

      4  MCU領(lǐng)域最先進(jìn)的工藝水平

      最有效的降功耗方法是好的架構。第一代K210芯片是內置存儲，可以等同于單片機（MCU），還有專(zhuān)用的CNN裝置，這樣的架構方式能夠大幅降低芯片功耗。在工藝上，K210采用了臺積電28nm制程，在單片機領(lǐng)域已經(jīng)達到最先進(jìn)水平。

      那么，嘉楠的礦機芯片已采用了臺積電的7 nm工藝，K210為何不采用7 nm？因為7 nm價(jià)格高。嘉楠做芯片的原則完全是為了商用，不是為了PPT，也不是為了融資，因此要考慮費效比。

      5  8通道的音頻功能

      K210的一大特色是，除了機器視覺(jué)能力外，還具備機器聽(tīng)覺(jué)能力。芯片上帶有支持8通道高性能麥克風(fēng)陣列的音頻處理硬件，可以進(jìn)行硬件加速的實(shí)時(shí)聲源定向與波束形成，無(wú)需占用主CPU資源。一顆芯片就可以實(shí)現聲源定向、聲場(chǎng)成像、波束形成、語(yǔ)音喚醒、語(yǔ)音識別等機器聽(tīng)覺(jué)功能。

      那么，音頻在此的目的是什么？因為從哲學(xué)角度，AI應該是多種感官融合的，因此K210除了有圖像，也做了音頻。用圖像的方法處理音頻是可以做的，把音頻轉成圖譜，用計算機的眼睛可以去“看”。

      另一個(gè)問(wèn)題是：為何要做8通道？8通道麥克風(fēng)的應用場(chǎng)景是什么？主要是為了有更遠的拾音距離，一般兩個(gè)麥克是三四米的拾音距離，4個(gè)麥克風(fēng)是5米，8個(gè)是6米左右。

      此外，8麥克風(fēng)還有一些特殊應用，例如做林業(yè)病蟲(chóng)害防治的害蟲(chóng)識別，這是和百度、林業(yè)大學(xué)合作的一個(gè)項目，方法是把麥克風(fēng)扎到樹(shù)里，聽(tīng)蟲(chóng)子嗑樹(shù)的聲音。這需要多組麥克風(fēng)設備扎到樹(shù)里。嘉楠的方案是一個(gè)40 mm見(jiàn)方的模塊，做了防水的處理。利用圖像分類(lèi)、檢測的方法，去“看”視野里是否有特定的害蟲(chóng)。這種方案的應用前景十分廣闊，因為中國的森林非常多，而且它可以推到農田等更多應用場(chǎng)景。

圖  堪智的應用場(chǎng)景（來(lái)源：堪智官網(wǎng)）

      6  躍升：即將問(wèn)世的K510

      2016年嘉楠已開(kāi)始有了做AI芯片的想法，做了一兩年時(shí)間，本來(lái)計劃2017年底推出，但因當時(shí)算法有很大突破和進(jìn)展，又拖延到了2018年9月出爐，因此花了整整兩年時(shí)間。未來(lái)AI芯片的迭代速度加快，達到一年一代。

      第二代產(chǎn)品的型號為K510。那么，為何型號從K210一下跳到 K510？因為性能提高很多，提升了5~10倍，有了外存（注：第一代沒(méi)有外部DRAM），并加入了對高清視頻的支持。

圖 K210的主要性能指標（來(lái)源：堪智官網(wǎng)：https://kendryte.com/）

      7  未來(lái)：共建AIoT“芯”生態(tài)

      事實(shí)上，邊緣側AI芯片業(yè)態(tài)尚未成熟，各家廠(chǎng)商也都處于摸索路徑。但嘉楠對于芯片生態(tài)的商業(yè)想象卻很豐滿(mǎn)。這來(lái)自于嘉楠對自身研發(fā)實(shí)力的業(yè)務(wù)經(jīng)驗的自信。為此，嘉楠做了很多嘗試，不僅局限于芯片，而是以芯片為落點(diǎn)，延伸至開(kāi)發(fā)板、算法以及邊緣側的解決方案等。

      更重要的是，嘉楠向外與AI廠(chǎng)商建立合作關(guān)系，通過(guò)合作補齊算法和數據，同時(shí)也為自身的芯片尋找更多落地場(chǎng)景。同時(shí)，兼容性上，嘉楠也推出了第一代模型轉換工具，可以將英偉達等主流企業(yè)的軟件遷移到芯片中，對于開(kāi)發(fā)者更為友好。

      嘉楠的核心優(yōu)勢還體現在對于芯片研發(fā)設計體系的熟稔。張楠賡認為，之所以市面上涌現出大量的AI芯片產(chǎn)品，恰恰暴露了當下AI產(chǎn)業(yè)沒(méi)有通用硬件平臺的現狀。以PC時(shí)代為例，Wintel聯(lián)盟的軟硬結合成為市場(chǎng)主導，多數公司無(wú)需再單獨研發(fā)芯片。這也正式嘉楠等芯片廠(chǎng)商的機遇所在。

      實(shí)際上，對于很多所謂的芯片廠(chǎng)商而言，ODM（委托設計）產(chǎn)品的性能很難保證，靠ODM驗證一下概念是可以的，但市場(chǎng)上也很少見(jiàn)到靠ODM成功的產(chǎn)品。而嘉楠不僅包含前端和后端設計，還包括標準庫的設計，以及數?；旌闲盘柕荣Y源，因此可更好地保證芯片的性能。

      目前，K210的方案已用于智能門(mén)鎖、智能抄表等業(yè)務(wù)場(chǎng)景。合作伙伴可以通過(guò)嘉楠的SDK（軟件開(kāi)發(fā)包）等開(kāi)發(fā)出更多產(chǎn)品。

圖  堪智的SDK（來(lái)源：堪智官網(wǎng)）

      張楠賡表示，嘉楠希望和合作伙伴一道，構建共贏(yíng)格局的AIoT(人工智能物聯(lián)網(wǎng))商業(yè)生態(tài)。