愛(ài)芯元智入選2024玄鐵優(yōu)選伙伴：發(fā)展AI計算，攜手RISC-V重塑千行百業(yè)

人工智能芯片研發(fā)及基礎算力平臺公司愛(ài)芯元智宣布，以“開(kāi)放·連接”為主題的第二屆玄鐵RISC-V生態(tài)大會(huì )于03月14日在深圳舉行，愛(ài)芯元智聯(lián)合創(chuàng )始人、副總裁劉建偉受邀發(fā)表主題演講，向與會(huì )嘉賓分享了愛(ài)芯通元混合精度NPU這一面向邊端側算力布局的AI處理器，以及基于RISC-V生態(tài)所進(jìn)行的AI算力提升及行業(yè)落地探索。

同時(shí)，大會(huì )還公布了“玄鐵優(yōu)選伙伴”，愛(ài)芯元智等8家公司入選。據悉，該項榮譽(yù)旨在推動(dòng)玄鐵生態(tài)成果落地，連接RISC-V產(chǎn)業(yè)鏈生態(tài)網(wǎng)絡(luò )，促進(jìn)玄鐵商業(yè)生態(tài)發(fā)展。此次入選，代表著(zhù)愛(ài)芯元智對玄鐵RISC-V生態(tài)做出的貢獻得到肯定。

AI無(wú)處不在，RISC-V為AI計算添動(dòng)力

從以ChatGPT為代表的云端大模型，到邊緣側的計算盒子和散布于端側的各個(gè)攝像頭，伴隨著(zhù)技術(shù)的快速發(fā)展，AI已經(jīng)無(wú)處不在。智能駕駛、智能機器人、智慧工廠(chǎng)、智慧城市、智能零售等多個(gè)端側業(yè)務(wù)場(chǎng)景下，AI都開(kāi)始發(fā)揮作用，為各行各業(yè)帶來(lái)了生產(chǎn)力的提升。

作為支持邊緣側和端側智能的平臺型芯片公司，愛(ài)芯元智以“普惠AI 造就美好生活”作為企業(yè)使命，專(zhuān)注于高性能、低功耗的人工智能視覺(jué)處理器芯片研發(fā)。劉建偉介紹，愛(ài)芯元智的系列芯片產(chǎn)品已在A(yíng)IoT、ADAS兩大產(chǎn)品線(xiàn)得到廣泛應用并實(shí)現穩健發(fā)展，推動(dòng)AI在邊緣側和端側的部署落地。

但AI在邊端側的落地，也意味著(zhù)更高的算力需求。對此，精簡(jiǎn)、靈活、高效的RISC-V指令集架構展現出了其優(yōu)勢，有望成為萬(wàn)物互聯(lián)時(shí)代核心處理器的架構之一。作為本次玄鐵優(yōu)選伙伴，愛(ài)芯元智也在現場(chǎng)分享了基于玄鐵RISC-V所進(jìn)行的行業(yè)落地實(shí)踐，如面向物聯(lián)網(wǎng)領(lǐng)域，愛(ài)芯元智通過(guò)應用玄鐵RISC-V處理器，并結合愛(ài)芯智眸AI-ISP和愛(ài)芯通元混合精度NPU兩大自研核心技術(shù)，實(shí)現了快速低功耗AI檢測喚醒，可大大降低系統耗電，輕松應對電池類(lèi)產(chǎn)品需求。

同時(shí)，愛(ài)芯元智還通過(guò)愛(ài)芯通元混合精度NPU與玄鐵RISC-V IP的結合，打造出高能效AI計算平臺，實(shí)現了圖形分割、以文搜圖等大算力應用，滿(mǎn)足邊端不同場(chǎng)景下對感知、計算和數據處理能力的需求。

打造原生AI處理器，攜手玄鐵RISC-V重塑千行百業(yè)

算力是AI的基礎，那么AI時(shí)代，我們究竟需要什么樣的算力基建？

劉建偉指出，當下，AI程序的計算密度變得更高，呼喚著(zhù)NPU這一新的處理器出現，“作為AI專(zhuān)用處理器，NPU應該有自己的指令集，而不是被簡(jiǎn)單理解為加速器或是擴展指令集?！逼浔硎?，在A(yíng)I計算中，指令操作的對象變成了高維的張量，因此整個(gè)處理器的能耗需要放在數據計算上，且降低數據搬運和整理組合的能耗。而從推理的角度來(lái)看，大部分AI的算法/算子已處于收斂狀態(tài)。因此，以算子這一AI模型的基本運算單元為指令集進(jìn)行NPU設計，可以打開(kāi)硬件微架構設計空間，從而有更多的設計思路可以使用，提高能效比。

而作為愛(ài)芯元智自研核心技術(shù)，愛(ài)芯通元混合精度NPU即是以算子為原子指令集的AI計算處理器，其采用多線(xiàn)程異構多核設計，實(shí)現算子、網(wǎng)絡(luò )微結構、數據流和內存訪(fǎng)問(wèn)優(yōu)化，高效支持混合精度算法設計，原生支持Transformer網(wǎng)絡(luò )結構，為大模型在邊緣側、端側的應用提供了良好的基礎。

同時(shí)，愛(ài)芯通元混合精度NPU還提供成熟易用的編譯器，從而大幅度降低AI軟件的開(kāi)發(fā)、部署成本，助力客戶(hù)在一小時(shí)內快速上手，推動(dòng)AI計算的蓬勃發(fā)展。

從AI處理器在視覺(jué)領(lǐng)域的評價(jià)指標來(lái)看，愛(ài)芯通元混合精度NPU也表現出色，其在運行SwinT時(shí)，量化精度達到了高于市面平均水平的80.45%，并有著(zhù)416 FPS的高性能和199FPS/W的低功耗。

為滿(mǎn)足多樣化的AI計算需求，作為AI處理器的NPU還需要更加靈活的動(dòng)態(tài)控制，這也正是愛(ài)芯元智與玄鐵RISC-V展開(kāi)深度合作的原因。據介紹，愛(ài)芯元智正在探索基于玄鐵RISC-V主控和愛(ài)芯通元混合精度NPU，打造生成式AI解決方案?！拔覀兿Ｍ麛y手玄鐵RISC-V打造AI硬件的最優(yōu)平臺選擇，把AI落到千行百業(yè)，助力更多客戶(hù)提升效率，創(chuàng )造價(jià)值?！眲⒔▊ケ硎?。