AI芯片，你要的評測標準還在路上

　　近日，清華大學(xué)發(fā)布的《2018人工智能芯片研究報告》(以下簡(jiǎn)稱(chēng)《報告》)指出，人工智能芯片是人工智能時(shí)代的技術(shù)核心之一。目前人工智能還處于面向行業(yè)應用階段，生態(tài)上尚未形成壟斷，國產(chǎn)處理器廠(chǎng)商與國外競爭對手在人工智能這一全新賽場(chǎng)上處在同一起跑線(xiàn)上。

　　然而，“當前國內缺失人工智能芯片的相關(guān)評測標準?！痹谥袊茀f(xié)主辦的第二屆“風(fēng)向標——中國創(chuàng )新創(chuàng )業(yè)先鋒論壇”上，人工智能芯片企業(yè)鯤云科技創(chuàng )始人牛昕宇指出，這造成大家不知道自己研發(fā)的芯片在國際上處于什么樣的水平。而獲知一款芯片性能如何，最直接的方法是進(jìn)行評測?！斑@就需要一套公認的評測標準”。

　　人工智能芯片評測到底多重要、多緊迫?怎樣建立一套公認的評測標準?對此，科技日報記者采訪(fǎng)了相關(guān)業(yè)內專(zhuān)家。

　　全球范圍內尚無(wú)公認評測指標

　　牛昕宇向科技日報記者表示，國際上，缺乏統一的芯片評測標準也是一個(gè)比較大的問(wèn)題，包括英偉達、英特爾等公司的芯片性能也主要依靠芯片廠(chǎng)商自家發(fā)布?！叭蚨鄠€(gè)機構都在嘗試給出評測方案，然而現狀就是無(wú)公認基準測試方法和指標?！敝袊斯ぶ悄墚a(chǎn)業(yè)發(fā)展聯(lián)盟評估認證工作組組長(cháng)曹峰說(shuō)。

　　“從政府、用戶(hù)、系統集成廠(chǎng)商到算法開(kāi)發(fā)者，全部無(wú)法準確評價(jià)所使用芯片的技術(shù)水平以及在國內外所處的地位，無(wú)法選取最適用于自己需求的底層芯片，芯片企業(yè)無(wú)法清晰確認自己的技術(shù)優(yōu)勢及目標市場(chǎng)?！迸ｊ坑顚Υ烁锌H深。

　　人工智能芯片與傳統計算芯片不同，它要求高效實(shí)現深度學(xué)習算法對海量數據高吞吐量等高并行化任務(wù)的處理。曹峰介紹，當前人工智能芯片主要分兩大體系，馮諾依曼體系和非馮諾依曼體系。

　　馮諾依曼體系以五大架構芯片為代表，分別是CPU、GPU、DSP、FPGA和ASIC，在深度學(xué)習訓練環(huán)節和終端推斷方面發(fā)揮重大作用。非馮諾依曼體系，以IBM TrueNorth芯片為代表，采用人腦神經(jīng)元的結構來(lái)提升計算能力，但目前還處于實(shí)驗室階段。

　　中國信息通信研究院DNN Benchmark項目負責人張蔚敏指出，人工智能在不同算法、不同場(chǎng)景下，對芯片提出了不同的要求。硬件架構、延遲、帶寬、能耗、神經(jīng)網(wǎng)絡(luò )模型、參數都是用戶(hù)方選擇人工智能芯片的重要參考。

　　人工智能芯片為何要評測?“當前，AI芯片的功能日益復雜化、多樣化，一方面，芯片廠(chǎng)商紛紛給出不同的衡量標準，聲稱(chēng)其產(chǎn)品在計算性能、單位能耗算力等方面處于行業(yè)領(lǐng)先水平;另一方面，需求方卻關(guān)心如何能從廠(chǎng)商給出的信息中判斷出芯片是否能實(shí)際滿(mǎn)足其真實(shí)場(chǎng)景的計算需求?！辈芊鍙娬{，“針對這一現狀，一個(gè)與真實(shí)場(chǎng)景緊密相連的、同時(shí)跨產(chǎn)品可比的測試評估方案的出現，迫在眉睫?！?/p>

　　“統一的芯片標準會(huì )降低芯片廠(chǎng)商、人工智能算法廠(chǎng)商的溝通成本，建立一個(gè)有序的競爭環(huán)境?！迸ｊ坑畋硎?，國外現在有一些人工智能算法競賽，在一定程度上起到了對于人工智能算法的評測作用。我國人工智能企業(yè)也在嘗試給出評測方案，比如阿里的AI matrix，寒武紀的Benchip，以及百度的Deepbench等。

　　公司自行摸索增加開(kāi)發(fā)成本

　　事實(shí)上，我國龐大的人工智能應用市場(chǎng)對底層芯片需求巨大，但本土人工智能芯片產(chǎn)業(yè)尚處于起步階段?！坝幸惶缀饬咳斯ぶ悄苄酒阅艿墓J指標，我們才能知道自己前方的目標線(xiàn)在哪里?！迸ｊ坑詈粲醯?。

　　當前，“應用領(lǐng)域的差異性和實(shí)現選擇的多樣性導致很多測評難題?！辈芊迮e例，如何讓評測指標在不同級別的設備中橫向可比?面對云端和終端的應用差異化現狀，如何構建相應的基準測試?如何為不同測試項目分配權重，以獲得一個(gè)相對公正客觀(guān)、有代表性的評分?

　　這種現狀讓人工智能整個(gè)行業(yè)倍感焦慮?！皩θ斯ぶ悄苄袠I(yè)的從業(yè)者來(lái)說(shuō)，缺乏標準意味著(zhù)缺乏統一的行業(yè)交流接口?！迸ｊ坑钤诮佑|大量人工智能應用研發(fā)領(lǐng)域一線(xiàn)情況后發(fā)現，在制定人工智能整體方案時(shí)，如果無(wú)法對于底層芯片所能夠提供的性能和算力有一個(gè)準確的了解，難以在項目規劃初期就確定整體方案，需要在項目開(kāi)發(fā)過(guò)程中不斷試錯來(lái)測試方案?！跋喈斢诿考夜疽袚糠中酒u測任務(wù)，大大提高了開(kāi)發(fā)門(mén)檻?！?/p>

　　缺乏評測標準帶來(lái)諸多問(wèn)題，人工智能芯片公司對此有更深刻的體會(huì )，牛昕宇直陳痛點(diǎn)，“無(wú)法通過(guò)公開(kāi)統一的渠道來(lái)確定自家芯片技術(shù)在國際的地位，需要每家公司自行摸索，增加了芯片公司的成本?！?/p>

　　《報告》指出，長(cháng)期以來(lái)，中國在CPU、GPU、DSP等處理器設計上一直處于追趕地位。然而，人工智能的興起，無(wú)疑為中國在處理器領(lǐng)域的發(fā)展提供絕佳機遇。傳統的計算架構無(wú)法支撐深度學(xué)習的大規模并行計算需求，人工智能芯片是人工智能時(shí)代的技術(shù)核心之一，決定了平臺的基礎架構和發(fā)展生態(tài)。

　　建議政府牽頭制定評測標準

　　當前國內外都將人工智能視為產(chǎn)業(yè)突圍的重大機遇。人工智能芯片作為底層技術(shù)，其應用領(lǐng)域也遍布金融、股票交易、商品推薦、安防以及無(wú)人駕駛等眾多領(lǐng)域。如何為蓬勃發(fā)展的人工智能芯片建立一套評測標準?

　　“確實(shí)需要國家牽頭來(lái)認證標準?！迸ｊ坑罱ㄗh道，可以組織業(yè)內用戶(hù)企業(yè)形成需求標準，由落地應用牽引芯片評測標準。

　　當前，在國家發(fā)改委、科技部、工信部、網(wǎng)信辦指導下，由中國信息通信研究院等單位發(fā)起的中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟，愈加重視芯片評估認證工作。目前已經(jīng)聯(lián)合阿里巴巴集團、百度、寒武紀科技等多家企業(yè)，推出了AIIA DNN benchmark——人工智能端側芯片基準測試評估方案。

　　張蔚敏表示，該方案為芯片企業(yè)提供第三方評測結果，同時(shí)為應用企業(yè)提供選型參考，幫助產(chǎn)品找到合適其應用場(chǎng)景的芯片。目標為客觀(guān)反映當前以提升深度學(xué)習處理能力的AI加速器現狀，所有指標旨在提供客觀(guān)比對維度。以“版本迭代、不斷豐富、不斷完善”的工作方式，為更多評測應用場(chǎng)景、評測指標等提供評估方案。

　　“這是解決缺失人工智能芯片評測標準問(wèn)題的一個(gè)起步?！迸ｊ坑钸M(jìn)一步建議，今后希望有第三方機構能夠公開(kāi)評測標準和流程，由芯片公司、算法公司、系統集成廠(chǎng)商、最終用戶(hù)共同商議通過(guò);每年定期發(fā)布國內芯片公司以及國際芯片巨頭的芯片評測結果;政府對于人工智能芯片行業(yè)的支持政策可以參考評測結果。