云天勵飛新一代邊緣AI SoC芯片Edge10V即將量產(chǎn)！

8月28日，由芯原股份主辦的“第三屆滴水湖中國RISC-V產(chǎn)業(yè)論壇”在上海滴水湖洲際酒店召開(kāi)。國內知名人工智能技術(shù)廠(chǎng)商云天勵飛介紹了其新一代邊緣大算力AP級邊緣SoC芯片Edge10V，目前已經(jīng)接近量產(chǎn)狀態(tài)。

作為國內首批人工智能（AI）技術(shù)廠(chǎng)商，成立于2014年的云天勵飛最初是主攻AI算法，通過(guò)攝像頭、端云協(xié)同的架構來(lái)做海量圖片的分析與處理，因此算法的泛化能力相對較弱，所以對于設備的調試要求就比較高，需要到各地去幫助客戶(hù)調試，這在當時(shí)耗費了云天勵飛很大的一部分精力。這也促使了云天勵飛開(kāi)始來(lái)做自研芯片，將自己的AI算法芯片化。

2018年，云天勵飛就成功推出了自研的第一代面向嵌入式端的邊緣AI芯片DeepEye1000，并且在當年8月一次性流片成功，在2019年正式商用。DeepEye1000基于國產(chǎn)高性能RISC-V CPU內核IP，內置了自主產(chǎn)權的神經(jīng)網(wǎng)絡(luò )處理器，支持靈活可編程計算流，搭載云天勵飛自主研發(fā)的深度定制指令集，可以實(shí)現高性能、低功耗的CNN網(wǎng)絡(luò )模型推理計算加速，滿(mǎn)足視覺(jué)AI算法實(shí)時(shí)性處理的性能要求。

從2015年至今，云天勵飛已經(jīng)完成了三代指令集架構，4代神經(jīng)網(wǎng)絡(luò )處理器架構的研發(fā)。2022年，云天勵飛自研的新一代邊緣AI SoC芯片——Edge10V流片成功，今年開(kāi)始在做產(chǎn)品化相關(guān)的工作，目前已經(jīng)接近準量產(chǎn)狀態(tài)。

據介紹，Edge10V是一款采用自主可控的純國產(chǎn)工藝，內置國產(chǎn)RISC-V內核（主頻1.2GHz），內置云天勵飛第四代自主知識產(chǎn)權 NPU NNP400T（int8算力可達12Tops）的AI SoC芯片，其中還包括GPU和MM，支持雙顯等各類(lèi)外設，支持邊緣CV大模型的推理部署,因而可以獨立完成各邊緣計算場(chǎng)景的任務(wù)。

“ Edge10V的芯片實(shí)際上是系列化的芯片。有兩大特色：1、支持Chiplet多芯粒擴展、支持大算力。作為國內首顆D2D高速互聯(lián)Chiplet商用芯片，滿(mǎn)足國產(chǎn)Chiplet UCIE標準。2、純國產(chǎn)AI芯片。我們采用了國產(chǎn)的工藝、國產(chǎn)的封裝，由國內工廠(chǎng)完成國內生產(chǎn)制造交付。作為一款AP級邊緣AI SoC，Edge10V不僅可以支持AI計算，也可以支持雙千兆網(wǎng)口，支持不同傳感器的接入。另外，我們是有X8 PCle3.0接口可以支持不同的外設擴展。在CPU的部分，我們也是選擇了帶矢量處理器的這么一個(gè)RISC-V CPU。”云天勵飛芯片BD總監張福林進(jìn)一步解釋道。

具體性能方面，云天勵飛Edge10V的CPU和AI性能都大幅領(lǐng)先于上一代的DeepEye1000。

另外，云天勵飛也為Edge10V配套了相對應的軟件棧，其中核心的一個(gè)部分就是與異構的芯片架構有匹配的軟件設計，可以很好的去做一些調度。另外，對于計算資源，也能通過(guò)合理的分配到不同的硬件加速器里面去運行。同時(shí)，Edge10V還有比較豐富的中間件的支持。包括：機器人行業(yè)用的比較多的ROS、ROS2等相關(guān)的東西。可以支持比較好的面向不同場(chǎng)景的邊緣計算應用，以及低速自動(dòng)駕駛方向的機器人應用。

在A(yíng)I工具鏈、模型的支持方面，Edge10V可以支持Pytorch/Onnx/Caffe等主流模型框架，支持CNN/RNN/Transformer/GNN等深度學(xué)習網(wǎng)絡(luò )模型。

在商業(yè)模式方面，云天勵飛不僅可以直接對外提供Edge10V芯片，同時(shí)也可以對外提供一些列的模組產(chǎn)品，包括針對嵌入式設備的Mini PCle加速卡，可廣泛應用于A(yíng)IoT邊緣視頻、移動(dòng)機器人等場(chǎng)景。也可以應用到一些邊緣服務(wù)器的產(chǎn)品，做一些高密視頻的推理。

“隨著(zhù)今年ChatGPT的火爆，推動(dòng)了推動(dòng)了整個(gè)AI的發(fā)展，大模型開(kāi)始向邊緣部署也已經(jīng)是一個(gè)新的趨勢。我們認為AI是打開(kāi)第四次工業(yè)革命大門(mén)的鑰匙，所以云天勵飛其實(shí)確確實(shí)實(shí)也是在A(yíng)I算法、芯片和應用方面去積極的貢獻自己的力量?！?span style="box-sizing: border-box !important; margin: 0px; padding: 0px; border: 0px; outline: 0px; max-width: 100%; letter-spacing: 0.578px; overflow-wrap: break-word !important;">云天勵飛芯片BD總監張福林說(shuō)道。

編輯：芯智訊-浪客劍