GPU賽道趨火，AI芯片邁入落地階段。作者 | ZeR0
編輯 | 漠影
芯東西9月3日報道，今日，上海云端AI芯片公司瀚博半導體在其舉辦的人工智能大芯片產(chǎn)業(yè)落地論壇上，預覽其首款7nm云端GPU芯片SG100，將圖形渲染加入其產(chǎn)品布局。同時(shí)，瀚博推出了瀚博統一計算架構、全新數據中心推理卡載天VA10、邊緣AI推理加速卡載天VE1和瀚博軟件平臺VastStream擴展版。瀚博半導體2018年12月成立于上海，專(zhuān)注于研發(fā)高性能通用加速芯片。其融資情況也很搶眼?？焓?、阿里巴巴兩大互聯(lián)網(wǎng)戰略投資方均在其投資陣容。迄今瀚博已完成逾24億元融資。會(huì )后，瀚博半導體創(chuàng )始人兼CEO錢(qián)軍接受芯東西等媒體的采訪(fǎng)。錢(qián)軍透露，今日新發(fā)布的兩款加速卡已經(jīng)進(jìn)入客戶(hù)層面測用。錢(qián)軍表示，未來(lái)瀚博將基于GPU和AI芯片帶來(lái)更多產(chǎn)品組合，更好地滿(mǎn)足市場(chǎng)、客戶(hù)的需求。
01.預覽7nm云端GPU，兼具圖顯與AI功能
瀚博半導體的首款7nm云端GPU芯片SG100具備業(yè)界領(lǐng)先的圖形渲染性能，擁有超高吞吐、超高質(zhì)量、低延時(shí)編碼等能力，集渲染、AI、視頻于一體，可為云游戲、云手機、云桌面、云計算等元宇宙關(guān)鍵性應用場(chǎng)景提供深度優(yōu)化。同時(shí)，SG100還提供SR-IOV虛擬化支持，端到端整體提升用戶(hù)視覺(jué)體驗，能夠滿(mǎn)足市場(chǎng)對智能視頻視覺(jué)、圖形圖像處理的算力需求。
瀚博半導體創(chuàng )始人兼CEO錢(qián)軍是美國GPU巨頭AMD中國前高管，曾帶領(lǐng)AMD中國團隊設計量產(chǎn)了業(yè)界第一顆7nm圖形處理器和第一顆7nm云端GPU架構的AI芯片。據悉，瀚博核心研發(fā)團隊擁有18年以上高端芯片設計和量產(chǎn)的經(jīng)驗，手上流片出去的GPU有幾十款。錢(qián)軍談道，瀚博的初衷是“為像素世界提供浩瀚算力”。考慮到GPU研發(fā)技術(shù)門(mén)檻高，瀚博成立之初考慮到硬件、軟件研發(fā)及工程能力等能力都有待加強，因此選擇先面向“AI+視頻”市場(chǎng)做基于領(lǐng)域專(zhuān)用架構（DSA）架構的AI芯片，以發(fā)揮研發(fā)團隊在視頻處理方面的經(jīng)驗。“具有圖形渲染能力的GPU研發(fā)一直在我們的計劃當中?！卞X(qián)軍說(shuō)，隨著(zhù)SG100到來(lái)，瀚博正式進(jìn)入GPU市場(chǎng)。由于瀚博云端GPU和專(zhuān)用AI芯片在目標市場(chǎng)上存在重合，當芯東西問(wèn)這兩大產(chǎn)品線(xiàn)如何協(xié)同時(shí)，錢(qián)軍談到瀚博的做法類(lèi)似于“中臺”概念，瀚博自主研發(fā)的很多核心技術(shù)與半導體IP，既可以?xún)戎糜贕PU，也可以AI芯片工作。未來(lái)，瀚博計劃基于GPU、AI和視頻核心技術(shù)帶來(lái)更多產(chǎn)品組合。錢(qián)軍告訴芯東西，后續瀚博也會(huì )考慮研發(fā)將GPU和AI能力整合在一起的芯片，這將根據客戶(hù)需求來(lái)綜合判斷。
02.公布統一計算架構全景圖推出兩款AI推理加速卡
論壇現場(chǎng)，瀚博半導體創(chuàng )始人兼CEO錢(qián)軍宣布推出由瀚博自主研制的統一計算架構（Vastai Unified Compute Architecture）。
該架構整合了多款高性能計算引擎，擁有高效統一的存儲管理、一致性接口和低鏈接延遲、完整的虛擬化功能、統一的底層軟件設計、模塊化的上層計算算子庫和功能模塊。瀚博的統一計算架構，讓計算密集型的AI、視頻、渲染任務(wù)性能得到最大化硬件加速，同時(shí)端到端縮小延時(shí)，一體化助力云端實(shí)時(shí)圖形渲染、AI增強處理、視頻編解碼等需求。面向數據中心場(chǎng)景，瀚博推出數據中心推理卡載天VA10。這款加速卡搭載瀚博自研的超低延時(shí)、超高吞吐AI引擎，INT8峰值算力達400TOPS，刷新業(yè)界紀錄。
載天VA10功耗為150瓦，整體最高推理性能達到同功耗主流GPU的2倍以上，且延時(shí)低至后者的6%。在低延時(shí)場(chǎng)景（低于4毫秒的YoloV3檢測算法場(chǎng)景）下，其推理性能可以達到同功耗市場(chǎng)主流GPU的3倍以上。據悉，載天VA10適合多種需要高實(shí)時(shí)性的云端AI應用部署，如直播視頻增強、智慧交通管理、實(shí)時(shí)語(yǔ)義理解等場(chǎng)景。面向邊緣計算場(chǎng)景，瀚博發(fā)布了首款面向邊緣大算力場(chǎng)景推理卡載天VE1系列。
載天VE1兼具低功耗、超低時(shí)延與超高吞吐率，吞吐率達到主流GPU的2倍，但時(shí)延僅為其的1/5。在40~65瓦功耗下，載天VE1的INT8峰值算力達100TOPS。這款加速卡支持60路1080P視頻實(shí)時(shí)解碼，支持主流AI框架的模型，提供從模型編譯到推理優(yōu)化的全流程低代碼開(kāi)發(fā)框架VastPipe，軟硬結合為客戶(hù)提供端到端的AI推理解決方案。載天VE1可在眾多關(guān)鍵場(chǎng)景發(fā)揮作用，比如高速公路事件檢測、“人、車(chē)、非機動(dòng)車(chē)”視頻結構化、大數據研判等超高數據量并發(fā)場(chǎng)景；再比如，道路實(shí)時(shí)動(dòng)態(tài)信息交互、工業(yè)的缺陷檢測等低延時(shí)要求場(chǎng)景。載天VE1非常適用于智慧交通、車(chē)路協(xié)同、工業(yè)質(zhì)檢等邊緣大算力場(chǎng)景。硬件要發(fā)揮最佳性能，更需要軟件的同步支持。瀚博的軟件平臺VastStream應運而生，可加速各類(lèi)AI應用部署，包括計算機視覺(jué)、視頻處理、自然語(yǔ)言處理、搜索與推薦、算子自定義擴展等。VastStream的全新軟件組件，提供系統管理等三大管理工具，方便客戶(hù)部署，同時(shí)其基礎軟件棧功能更加豐富，特性包括統一接口、靈活調度、通用AI計算、多路高效視頻轉碼+AI增強、易編程快遷移、工具鏈完備等。至此，瀚博已形成一條涵蓋了芯片、推理加速卡、一體機的硬件產(chǎn)品線(xiàn)和軟件整合的系統解決方案。
03.產(chǎn)業(yè)落地屢有進(jìn)展，宣布與上海交通大學(xué)人工智能研究院合作
在2022世界人工智能大會(huì )上，瀚博半導體展出了包括新品在內的多款芯片相關(guān)產(chǎn)品，展示其智能視頻視覺(jué)、圖形圖像計算產(chǎn)品和算力解決方案。此前，瀚博已推出首款云端AI推理芯片SV102及搭載此芯片的載天系列通用加速卡VA1，其芯片解決方案覆蓋從云端到邊緣的服務(wù)器及一體機市場(chǎng)，并在加速相關(guān)應用落地方面屢有進(jìn)展。2022年以來(lái)，瀚博先后與福建大數據集團、國寧瑞能，高新興、超聚變等行業(yè)領(lǐng)先企業(yè)，在智慧城市、智慧政務(wù)、智慧交通、智慧園區、智慧能源等多元場(chǎng)景，開(kāi)展深入合作，為企業(yè)智能化、數據化提供國產(chǎn)AI算力解決方案。今年7月，瀚博半導體與高新興簽訂戰略合作協(xié)議，雙方將圍繞車(chē)聯(lián)網(wǎng)、車(chē)路協(xié)同等智慧交通領(lǐng)域，就芯片解決方案和生態(tài)建設展開(kāi)深度合作，助力智慧交通數字化及智能化轉型升級。瀚博的高性能通用智能加速芯片具備大算力、低時(shí)延等優(yōu)勢，可滿(mǎn)足車(chē)路協(xié)同多傳感器融合數據處理的大算力及時(shí)延要求。同時(shí)瀚博研發(fā)過(guò)程利用先進(jìn)生產(chǎn)工藝以及創(chuàng )新的節能計算體系結構，可以實(shí)現更好的能耗比，從而有助于企業(yè)客戶(hù)降低算力成本，降低計算能耗。近期，瀚博還與國產(chǎn)主流服務(wù)器廠(chǎng)商超聚變合作共同解決企業(yè)AI應用過(guò)程中面臨的典型問(wèn)題，致力于降低AI計算門(mén)檻。此外，為了促進(jìn)技術(shù)生態(tài)的發(fā)展，瀚博也在聯(lián)合全球頂級的技術(shù)、人才、機構和高校建立合作。在今日的論壇上，瀚博與上海交通大學(xué)人工智能研究院簽約，開(kāi)展校企合作。瀚博希望通過(guò)產(chǎn)學(xué)研用聯(lián)盟的方式，讓更多優(yōu)秀的人才、資源參與進(jìn)來(lái)，推動(dòng)技術(shù)進(jìn)步、人才培養、科研成果轉化，建立智能芯片生態(tài)。
04.看好元宇宙國內芯片公司彎道超車(chē)的機會(huì )
作為數字經(jīng)濟未來(lái)發(fā)展的重要領(lǐng)域，元宇宙邁入虛擬和現實(shí)融合的3D互聯(lián)網(wǎng)時(shí)代，算力需求也更加蓬勃。9月1日，瀚博創(chuàng )始人兼CEO錢(qián)軍出席2022世界人工智能大會(huì )芯片主題論壇，在圓桌會(huì )議環(huán)節分享了對于芯片元宇宙中應用的見(jiàn)解。
▲瀚博半導體創(chuàng )始人兼CEO錢(qián)軍
錢(qián)軍認為，元宇宙是國內芯片公司彎道超車(chē)的機會(huì )，“就像油車(chē)和電車(chē)比起來(lái)已經(jīng)落伍了一樣，當我們有一個(gè)顛覆性的方向，這個(gè)過(guò)程中會(huì )獲得各種超越的機會(huì )?！?/span>在他看來(lái)，元宇宙本身并不是一個(gè)顛覆性的技術(shù)，而是由多個(gè)數字技術(shù)組合起來(lái)的綜合性的應用，在這中間會(huì )產(chǎn)生AR/VR等各種各樣的交互和感知，并產(chǎn)生海量?jì)热?，這些內容需要實(shí)時(shí)、強大的視頻處理算力，需要多樣的渲染引擎，還需要綜合5G網(wǎng)絡(luò )、大數據、AI、區塊鏈等數字技術(shù)來(lái)做支撐和管理。因此，元宇宙可以被視作是一個(gè)現象級的應用，同時(shí)要綜合考慮多類(lèi)型、高復雜度的計算，所以對未來(lái)算力提升的需求空間巨大。以元宇宙的數字孿生做渲染為例，尤其是沉浸式的渲染，對于GPU的性能的提升需求是巨大的。“GPU一定要上云，只有上了云，才能夠把多顆GPU綜合連接起來(lái)，然后用一種集成的方式來(lái)做有效的渲染，才能支持元宇宙海量?jì)热莸漠a(chǎn)生?！卞X(qián)軍說(shuō)。他相信，現在場(chǎng)景和需求更多樣化，渲染算法不斷迭代，找到這些機會(huì )，GPU就有望彎道超車(chē)。不過(guò)，核心技術(shù)不是一蹴而就的，而是需要長(cháng)期努力，扎扎實(shí)實(shí)地把芯片和技術(shù)做出來(lái)。
05.芯片如何為AI算力網(wǎng)提供支撐？
在9月2日舉辦的2022世界人工智能大會(huì )中國移動(dòng)主題論壇上，錢(qián)軍也探討了對于“AI新基建”的理解。他認為，算力網(wǎng)屬于現象級基礎設施，運用到多種數字化技術(shù)，需要多樣化的算力支撐。芯片部署應重點(diǎn)關(guān)注能耗與算力密度。其中算力密度從兩個(gè)維度考慮，即每平方毫米芯片提供的算力和每瓦功耗提供的算力。算力網(wǎng)絡(luò )還應考慮算力的有效性，能否有效驅動(dòng)應用。從整體上看，打造算力網(wǎng)和做芯片的思路類(lèi)似，需要系統地規劃算力單元、存儲單元、數據交互等資源，使每個(gè)模塊的能力得到有效發(fā)揮。至于生態(tài)構建，錢(qián)軍希望未來(lái)出現一些領(lǐng)袖型企業(yè)，引導整個(gè)行業(yè)建立一個(gè)開(kāi)放標準化的生態(tài)，將更加有利于行業(yè)內的有效競爭和創(chuàng )新，從而更好地支撐AI等行業(yè)的發(fā)展。
06.結語(yǔ)：云端GPU賽道趨火AI芯片邁入落地階段
工信部數據顯示，我國已成為全球第二的“算力大國”：2021年算力核心產(chǎn)業(yè)規模達到1.5萬(wàn)億元，近5年平均增速超過(guò)30%。未來(lái)，誰(shuí)的計算能力更強，誰(shuí)能率先在落地進(jìn)程中獲得客戶(hù)認可，誰(shuí)就有望搶占未來(lái)制高點(diǎn)、贏(yíng)得話(huà)語(yǔ)權。本周突發(fā)的美國政府要求英偉達和AMD限制向中國出口用于加速AI計算的高端GPU事件，再度給我們敲響警鐘，美國隨時(shí)可能向我國高精尖技術(shù)產(chǎn)業(yè)揮起刀鋒，與其心存僥幸，不如踏踏實(shí)實(shí)做事，未雨綢繆，將未來(lái)主動(dòng)權掌握在自己手中。芯片創(chuàng )業(yè)充滿(mǎn)風(fēng)險，過(guò)程艱苦，前路難料。但我們看到多家國內AI芯片企業(yè)仍在砥礪前行，并陸續在單卡性能、關(guān)鍵應用實(shí)測性能及商用落地方面取得一系列新進(jìn)展。面對接踵而至的機遇與挑戰，AI芯片企業(yè)仍需保持定力、練好內功，堅持自主創(chuàng )新與理解客戶(hù)需求，方能走得長(cháng)遠。
*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。
加入技術(shù)交流群
