瀚博半導體發(fā)布云端推理AI芯片 今年四季度量產(chǎn)

近兩年AI芯片廠(chǎng)商不斷涌現，2021年熱度更甚，一方面科技巨頭們加大投入力度，另一方面初創(chuàng )企業(yè)們逐步商業(yè)化，并且參與者持續增加。

在2021世界人工智能大會(huì )期間，瀚博半導體發(fā)布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可實(shí)現深度學(xué)習應用超高性能、超低延時(shí)的推理性能，可顯著(zhù)降低數據中心與邊緣智能應用的部署成本。據悉，SV100系列及VA1通用推理加速卡預計將于今年四季度量產(chǎn)上市。

瀚博半導體成立于2018年，今年4月28日完成了5億元人民幣A+輪融資。本輪融資由經(jīng)緯中國和中國互聯(lián)網(wǎng)投資基金聯(lián)合領(lǐng)投，老股東紅點(diǎn)創(chuàng )投中國基金、五源資本、賽富投資基金、耀途資本、天狼星資本和元木資本跟投。

國內大廠(chǎng)們也動(dòng)作不斷，今年上半年，百度宣布旗下昆侖芯片業(yè)務(wù)已成立獨立新公司，瞄準的也是云端AI通用芯片，第二代昆侖芯片已經(jīng)流片成功，將于2021年下半年量產(chǎn)；字節跳動(dòng)也表示在組建相關(guān)團隊，在AI芯片領(lǐng)域做一些探索；華為的昇騰生態(tài)在繼續展開(kāi)，阿里含光芯片也已面市。

國外的英偉達、英特爾、AMD等更是在A(yíng)I領(lǐng)域布局已久，尤其是英偉達在A(yíng)I生態(tài)上建立了穩固的壁壘生態(tài)。

人工智能芯片的賽道依舊火熱，隨著(zhù)持續的技術(shù)演進(jìn)，全球范圍內各行業(yè)數據中心對推理算力的需求在快速增長(cháng)，下游客戶(hù)多樣化的算力應用場(chǎng)景，催生了多樣化的AI計算加速芯片需求。那么，在這場(chǎng)算力平臺的競爭中，新興公司們如何走出差異化路線(xiàn)？云端推理芯片是不少公司選擇突圍的方向。

瀚博半導體創(chuàng )始人兼CEO錢(qián)軍表示，選擇推理端突破，一方面是因為市場(chǎng)需求，有數據顯示，2021年推理市場(chǎng)已經(jīng)大于訓練市場(chǎng)；另一方面是因為GPU在推理側不是最好的構架，瀚博半導體有更好的DSA構架。

據介紹，瀚博SV100系列芯片的單芯片INT8峰值算力超200 TOPS，采用了自研的通用架構，支持FP16, BF16和INT8等數據格式，并可以實(shí)現眾多主流神經(jīng)網(wǎng)絡(luò )的快速部署及計算機視覺(jué)、視頻處理、自然語(yǔ)言處理和搜索推薦等多樣化推理應用場(chǎng)景。同時(shí)，芯片集成高達64路以上H.264/H.265/AVS2的1080p視頻解碼，廣泛適用于云端與邊緣智能應用場(chǎng)景。

同時(shí)，瀚博半導體創(chuàng )始人兼CTO張磊還介紹道，瀚博的VastStream軟件平臺支持TensorFlow、PyTorch、Caffe2等常見(jiàn)的深度學(xué)習框架模型與ONNX格式的模型，通過(guò)高度定制的AI編譯器充分優(yōu)化模型在瀚博硬件上的執行效率。

在架構等技術(shù)能力之外，商業(yè)落地非常關(guān)鍵，錢(qián)軍在接受記者采訪(fǎng)時(shí)談道：“SV100花了兩年半時(shí)間，我們找到了一個(gè)很好的伙伴快手，快手投了我們，并且合作非常緊密。同時(shí)，我們也在和其他國內外的廠(chǎng)商們談合作?！?/p>

錢(qián)軍也坦言，在兩年多的研發(fā)過(guò)程中，作為初創(chuàng )公司遇到非常多的挑戰，“包括整個(gè)框架設立可能都會(huì )是瓶頸，需要顧慮方方面面的問(wèn)題，最重要的要從客戶(hù)的需求來(lái)看，構架要對。在理解客戶(hù)的需求，我們下了很多功夫?！?/p>

在AI芯片的爭霸賽中，國內的競爭者越來(lái)越多，在群雄并起的階段，格局還在不斷變化之中。