AI的下一主戰場(chǎng)：手機與物聯(lián)網(wǎng)終端

　　手機與物聯(lián)網(wǎng)終端市場(chǎng)潛力大

　　現在人工智能（AI）剛剛興起，很多公司關(guān)注自動(dòng)駕駛，或到ImageNet ILSVRC比賽上去顯示實(shí)力，或進(jìn)行下棋。同時(shí)應該更關(guān)注AI實(shí)際為人們帶來(lái)了什么，例如現在已經(jīng)成熟的手機，以及正在興起的物聯(lián)網(wǎng)終端市場(chǎng)的機會(huì )。 “如果有想創(chuàng )業(yè)的企業(yè)家，可以向這些方向想象，這方面的潛力非常大?！泵绹咄ü井a(chǎn)品市場(chǎng)資深經(jīng)理劉學(xué)徽先生對電子產(chǎn)品世界的記者說(shuō)。

　　近日，劉學(xué)徽經(jīng)理出席了在京舉辦的“人工智能與芯片高峰論壇”，并發(fā)表了“終端設備上的人工智能”的主旨講演。該論壇由電子產(chǎn)品世界、啟迪之星和洪泰智造工廠(chǎng)聯(lián)合主辦。

　　劉學(xué)徽經(jīng)理指出，中國每年大約有6億部手機出貨，如果這6億部手機中有10%用上了人工智能算法實(shí)現的功能，收益將十分驚人，對于廠(chǎng)商來(lái)說(shuō)其收入也是相當可觀(guān)的。另外，目前手機通過(guò)滑屏、觸屏等方式控制，未來(lái)通過(guò)語(yǔ)音算法和語(yǔ)音識別，實(shí)現手機控制的方式將會(huì )慢慢流行起來(lái)。通過(guò)AI技術(shù)，未來(lái)手機還可以了解用戶(hù)的喜好、自動(dòng)幫助打開(kāi)App，也可以作為一些廣告的推薦入口等。

　　現在大家熱衷談?wù)撛朴嬎?，但人工智能運算并不是所有場(chǎng)合都適合云端處理，有些需要在傳感器端附近立即計算。例如無(wú)人機、自動(dòng)駕駛、IP camera（攝像頭）、手機拍照等。因為無(wú)人機和自動(dòng)駕駛需要實(shí)時(shí)避障，而IP camera的人臉識別如果完全在云上計算，從原始圖像采集，之后壓縮、傳輸、解壓，算完再把結果告訴端，這非常浪費時(shí)間時(shí)間。在手機中，拍照前要對手機預覽、對焦，也一定是在終端上運算。

　　在廠(chǎng)商近期發(fā)布的最新智能手機當中，有些型號采用了背景虛化技術(shù)，使拍攝效果達到了單反效果，這其實(shí)就用到了AI算法開(kāi)發(fā)的功能。實(shí)際上，手機上還有很多功能可以利用AI技術(shù)，例如拍照的美顏，還有人臉識別方面，是采用10個(gè)特征點(diǎn)，還是一二百個(gè)特征點(diǎn)、四百個(gè)特征點(diǎn)，對人臉識別的效果會(huì )不同?？砂堰@些算法在云上培訓好，然后轉移置到手機上運行。

　　在VR/AR方面，目前存在的瓶頸之一是用戶(hù)缺乏存在感體驗，沒(méi)有定位。如果把AI加入VR終端，戴著(zhù)頭盔可以看到自己的手和腳。根據你的攝像頭的移動(dòng)，可以看到周?chē)奈矬w。其方法是頭盔/眼鏡外裝個(gè)攝像頭，假設識別周邊有一個(gè)凳子，那么在人的視野里放一個(gè)虛擬凳子，這樣效果更逼真。在直播社交娛樂(lè )場(chǎng)景中，主播跳舞時(shí)的頭飾因為延時(shí)常常跟不上臉部的移動(dòng)；另外如果人在移動(dòng)，聊天的效果也大打折扣。如果在端上做AI運算，效果會(huì )大大提升。

　　驍龍神經(jīng)元處理引擎SDK

　　Qualcomm提供了專(zhuān)為端上運行神經(jīng)元網(wǎng)絡(luò )的驍龍神經(jīng)元處理引擎（Snapdragon Neural Processor Engine）簡(jiǎn)稱(chēng)SNPE。 目前在Qualcomm^? 驍龍 600系列部分平臺和820、835上都得到了支持。通過(guò)這個(gè)引擎，算法可以運行在GPU和DSP上，速度和功耗相對CPU可以得到大幅提升。目前支持的架構有Caffe，Caffe 2，Tensorflow，我們提供轉化工具和benchmark工具，方便算法廠(chǎng)商的開(kāi)發(fā)調試。

　　以Qualcomm^? 驍龍^TM 835移動(dòng)平臺上的測試為例，得到的結果是同樣的神經(jīng)元網(wǎng)絡(luò )，在GPU上運行比CPU上運行平均快4倍，在DSP上運行比CPU快16倍；功耗上， 在GPU上運行的功耗是CPU上的1/8，在DSP上運行的功耗是CPU上的1/25。

　　使用SNPE SDK的基本流程是以TensorFlow、caffe、caffe2做的模型，配置調用GPU，DSP或CPU的API，然后通過(guò)轉換工具轉換成在DLC格式，再通過(guò)SDK讓算法在驍龍移動(dòng)平臺三種內核上運行，實(shí)現各種各樣的功能，例如人臉識別、語(yǔ)音識別、文字識別等功能。換言之，Qualcomm SNPE SDK中提供了現成算法和函數，諸如卷積、池化等常用函數都已將做好，算法開(kāi)發(fā)者直接調用即可。同時(shí)還支持用戶(hù)定義層（User Defined Layer, UDL）。

　　關(guān)于軟件算法，值得一提的是，過(guò)去是傳統算法，現在基于機器學(xué)習的算法，速度更快效果更好，而且功耗更低，開(kāi)發(fā)更為方便。此外隨著(zhù)算法的進(jìn)步，對硬件的依賴(lài)度降低，例如要拍照清晰，過(guò)去通常要高像素分辨率，現在可以不用很貴的硬件，依靠算法提升效果。

　　終端與云端相輔相成

　　那么，相比市面上的一些硬件處理器，高通的特色及與他們的關(guān)系是什么？

　　目前AI芯片有兩種形態(tài)，一種是像Qualcomm一樣是做在一個(gè)SoC中，特點(diǎn)是體積更小、功耗更低，運算速度快，因為CPU、GPU和DSP等計算內核都做在一個(gè)SoC上，會(huì )對數據搬移、延遲和功耗等進(jìn)行優(yōu)化。未來(lái)隨著(zhù)運算要求的提升，也許會(huì )出現專(zhuān)門(mén)運算Neural Network（NN，神經(jīng)網(wǎng)絡(luò )）的核。第二種形態(tài)，是一些公司做的所謂的AI芯片，實(shí)際上是在主處理器外做的協(xié)處理器，因此主芯片和外置芯片之間的大量數據搬移、交互等將是挑戰。

　　同樣是NN芯片，各家的定位是有差異化的。例如FPGA較為適合在云上或車(chē)載等對功率和體積不太講究的應用場(chǎng)景。一些IP公司也推出了AI架構和指令集，但目前還沒(méi)有到定論時(shí)。因為各種技術(shù)都是演進(jìn)過(guò)程中，最終要看市場(chǎng)的選擇。

　　Qualcomm與很多云端處理器廠(chǎng)商是相輔相成的關(guān)系。例如云端處理器的GPU非常強大，培訓/training做得非常好，但功耗不理想，據悉某專(zhuān)用神經(jīng)元網(wǎng)絡(luò )芯片功耗高達30W。云端適合模型的培訓，訓練后的結果可轉移到端去運行。驍龍終端芯片目前不做培訓，但十分擅長(cháng)運行。 “我們的生態(tài)成長(cháng)有賴(lài)于云端，云端的模型做得越好，越有利于我們AI技術(shù)的實(shí)現和落地?！眲W(xué)徽經(jīng)理強調。

　　已與Facebook合作

　　實(shí)際上，Qualcomm^? 驍龍^TM 移動(dòng)平臺在手機端也有靚麗的業(yè)績(jì)。例如今年4月18日，Facebook 和高通宣布合作支持 Facebook 開(kāi)源深度學(xué)習框架 Caffe2 和Qualcomm^? 驍龍^TM 神經(jīng)處理引擎（NPE）框架的優(yōu)化。Facebook將在其所有安卓應用中集成SNPE SDK， 運行在驍龍移動(dòng)平臺上時(shí)，比沒(méi)有SNPE的速度提升5倍。

　　隨著(zhù)中國手機與AI的發(fā)展，期待會(huì )有更多的中國算法公司開(kāi)發(fā)手機上AI應用！