人工智能探境科技之得“芯”應手

1   AI處理平臺的前世今生

人工智能（AI）是當前熱度很高的一個(gè)技術(shù)名詞，其技術(shù)應用推廣由來(lái)已久，曾經(jīng)依托于高度密集計算的通用平臺，主要是基于中央處理器（CPU）的計算器，或是基于數字信號處理器（DSP）的實(shí)時(shí)嵌入式系統，然后逐步發(fā)展和演化成為深度學(xué)習的有效實(shí)現手段，由此對核心處理器平臺提出更高更嚴苛的要求，從而催生了專(zhuān)用AI處理平臺。筆者曾有十多年從事DSP業(yè)務(wù)拓展的經(jīng)歷，對于A(yíng)I處理平臺創(chuàng )新并開(kāi)創(chuàng )一個(gè)全新的智能化局面充滿(mǎn)了好奇，于是拜訪(fǎng)了北京探境科技有限公司，與魯勇董事長(cháng)進(jìn)行探討，對于以神經(jīng)網(wǎng)絡(luò )處理方式來(lái)構建具有顛覆式AI架構有了深度的了解。

首先我們從處理器的基本架構談起。眾所周知，CPU的體系是沿用經(jīng)典計算機的馮·諾依曼體系，而DSP則采用哈佛結構，且不斷改進(jìn)。DSP將地址總線(xiàn)和數據總線(xiàn)分開(kāi)以便提高存儲器訪(fǎng)問(wèn)速度，又增加流水線(xiàn)結構，旨在有效提高處理速度，特別有益于以系列乘加為主體的卷積運算，而這正是數字濾波器的基本結構。語(yǔ)音處理技術(shù)發(fā)展得益于DSP，然而其應用卻受制于其通用性，使得包括語(yǔ)音識別在內的智能語(yǔ)音應用局限性較大。對于智能圖像和智能視頻處理同樣存在這樣的問(wèn)題，所以構建具有針對性的新型AI平臺，最大限度地匹配目標應用勢在必行。

圖1 SFA體系架構示意圖

2   生根于SFA的芯片架構

新型AI平臺必然是一個(gè)神經(jīng)網(wǎng)絡(luò )處理器NPU（Neural Processing Unit），魯勇指出業(yè)界芯片最核心的設計指標是PPA（Perform Power Area），即性能、功耗、還有與成本相關(guān)的芯片面積，AI處理平臺要在架構上有重大突破必定要立足于此。探境科技公司初創(chuàng )就確定創(chuàng )立自主的AI架構，其最終目標是既要有面向神經(jīng)網(wǎng)絡(luò )的通用性，又把重點(diǎn)放在提升數據管理和調度效率的針對性。與DSP解決的計算復雜度即“算力”問(wèn)題不同， AI面對處理的對象是龐大的數據包，要讓海量數據柔和、順利地傳遞到計算單元里來(lái)，就要更好地實(shí)現存取的匹配。在這過(guò)程中解決指數級增長(cháng)的存儲問(wèn)題是關(guān)鍵，有個(gè)專(zhuān)業(yè)名稱(chēng)叫“存儲墻”，只有打破其束縛，才能使AI處理算法游刃有余。探境科技獨創(chuàng )的SFA（Storage First Architecture）存儲優(yōu)先架構，用存儲來(lái)驅動(dòng)計算能力，推翻馮·諾依曼體系，完全區別于之前各類(lèi)處理器芯片的架構。如圖1所示即為SFA體系架構示意圖。

實(shí)測數據表明，SFA體系具有超高能效比，在同等條件下，數據訪(fǎng)問(wèn)可降低10~100倍，存儲子系統功耗下降10倍。采用28 nm工藝，系統能效超過(guò)4T+OPS/W。

圖2 基于VOI611的語(yǔ)音識別模組及框圖

3   基于SFA架構AI芯片的優(yōu)勢

AI設計公司的判定標準在于是否有能力設計AI芯片，這是魯勇所持的觀(guān)點(diǎn)，那么代表著(zhù)技術(shù)高低的絕對判斷就是AI芯片的PPA?；赟FA的AI芯片目前具有語(yǔ)音和圖像兩個(gè)分支，語(yǔ)音芯片最重要的關(guān)注點(diǎn)在于A(yíng)，就是一定性能下的低成本，采用55 nm工藝可以減少投片費用，獲得很高的性?xún)r(jià)比。而圖像芯片關(guān)注2個(gè)P，就是追求高性能下的低功耗，采用能效比較高的28 nm工藝，其實(shí)探境科技實(shí)現的能力已經(jīng)超過(guò)業(yè)界12 nm工藝所達到的水平。

與符合現有AI需求特征的芯片一樣，SFA芯片需要支持各種各樣的神經(jīng)網(wǎng)絡(luò )，這些神經(jīng)網(wǎng)絡(luò )則根據不同的應用場(chǎng)景放不同算法。事實(shí)上，SFA能夠支持所有已知深度學(xué)習神經(jīng)網(wǎng)絡(luò )，等同于GPU的兼容性，對神經(jīng)網(wǎng)絡(luò )的參數沒(méi)有限制，對數據類(lèi)型也沒(méi)有限制，其中包括INT4/INT8/INT16/FP16/自定義浮點(diǎn)，還有自適應稀疏數據處理等。

此外，SFA架構真正符合商業(yè)應用的AI芯片架構的特點(diǎn)在于：①采用成熟設計方案，無(wú)需對底層器件進(jìn)行修改設計，商業(yè)化路徑快；②通用性高，芯片面向的場(chǎng)景眾多，必須支持多種算法才可以被商業(yè)化；③易用性高，用戶(hù)學(xué)習成本低，模型移植簡(jiǎn)單。

在談及SFA芯片開(kāi)發(fā)的感受，魯勇不無(wú)感慨地說(shuō)，探境科技自2017起零基礎自主創(chuàng )新，沒(méi)有可參考的東西。他本人雖有多年Marvell的工作經(jīng)歷，但背景領(lǐng)域卻沒(méi)有相通之處。然而，多年的芯片設計經(jīng)驗使他在技能訓練上有共同點(diǎn)，那就是對于結構化算法的理解。關(guān)于芯片開(kāi)發(fā)的心得，魯勇認為首先是技術(shù)路徑順暢，其次是實(shí)現流程嚴謹，所以?xún)H用一年半就開(kāi)發(fā)完成并一次流片成功。還有，就是市場(chǎng)把握準確，將市場(chǎng)與銷(xiāo)售工作緊密結合，真正做到AI芯片應用的落地。

圖3 前景廣闊的語(yǔ)音識別智能化家電應用

4   落地在語(yǔ)音識別智能應用

探境科技堅持著(zhù)“接地氣”的原則，努力使其AI芯片貼近用戶(hù)和貼近市場(chǎng)需求，首款通用型AI芯片是音旋風(fēng)VOI611，是目前業(yè)界綜合性能最好的離在線(xiàn)語(yǔ)音方案，將SFA的NPU與ARM-M3的MCU結合，并集成音頻Codec和多種接口。VOI611作為針對嵌入式產(chǎn)品的深度學(xué)習語(yǔ)音識別芯片，具有強大的降噪功能，在60 dB環(huán)境噪音下識別率可達到98%以上；雙麥即可實(shí)現麥克風(fēng)陣列的效果，支持10 m遠場(chǎng)識別、噪聲抑制、音源定位等功能；命令識別數量最高為200個(gè)，憑借深度學(xué)習技術(shù)，不針對特定人，也不需要持續更新。

既然定位為以技術(shù)和產(chǎn)品驅動(dòng)的AI芯片公司，就需要具備相輔相成的2個(gè)能力，即AI芯片創(chuàng )建能力和AI算法構建。探境科技不僅提供包含算法的異構單片系統（SoC）芯片，也要提供完整“交鑰匙（Turn-Key）”的模組解決方案，從而以全能型選手姿態(tài)來(lái)全面符合市場(chǎng)需求。為此，所交付的產(chǎn)品要全面滿(mǎn)足客戶(hù)的需要，其技術(shù)核心的七到八成在于客戶(hù)對算法語(yǔ)音識別效果的認可。圖2所示為基于VOI611的語(yǔ)音識別模組的實(shí)物圖和系統框圖。

在探境科技的實(shí)驗室里，魯勇做了語(yǔ)音控制產(chǎn)品演示，特別是在抗擊疫情中發(fā)揮了顯著(zhù)作用的聲控電梯控制器，全程無(wú)需按鍵接觸，體現了語(yǔ)音交互的好處。筆者亦應邀體驗了各類(lèi)智能語(yǔ)音產(chǎn)品，驚喜地感受到不僅是電梯，還有燈具、空調、風(fēng)扇等各種各樣電器，都成了“聽(tīng)話(huà)”的智能化設備。

AI語(yǔ)音識別芯片的另一個(gè)重要的應用領(lǐng)域就是汽車(chē)，這就對技術(shù)指標提出更高的要求，探境語(yǔ)音算法的多項“黑科技”將大顯身手，包括性能優(yōu)異適應性強的自研AI降噪算法、高計算強度神經(jīng)網(wǎng)絡(luò )HONN技術(shù)、更強大更具魯棒性的雙麥識別技術(shù)，當然必須具備的還有車(chē)規級的芯片標準。

此外，自創(chuàng )立伊始，圖像就是探境志在必得的重要領(lǐng)域。目前，探境科技正在加緊開(kāi)發(fā)為視覺(jué)領(lǐng)域設計、與量身定制神經(jīng)網(wǎng)絡(luò )相結合的高度集成AI芯片，并將提供具有智能圖像深度學(xué)習算法的全棧式方案，預計明年發(fā)布，未來(lái)將助力安防監控系統、機器視覺(jué)系統、汽車(chē)自動(dòng)駕駛，及新型零售系統等領(lǐng)域智能化水平的全面提升。