燧原科技加入人工智能開(kāi)放計算體系-DeepLink,共建AI軟硬件生態(tài)
燧原科技與上海人工智能實(shí)驗室合作,基于人工智能開(kāi)放計算體系-DeepLink共建AI軟硬件生態(tài),當前雙方的合作主要基于燧原科技已量產(chǎn)的第二代訓練產(chǎn)品云燧T20和第二代推理產(chǎn)品云燧i20。
2022年11月,燧原科技與上海人工智能實(shí)驗室就云燧T20、云燧i20和深度學(xué)習框架的適配開(kāi)始進(jìn)行深入合作,逐步在人工智能開(kāi)放計算體系(DeepLink)上實(shí)現接入T20和i20,共同打造人工智能軟硬件生態(tài)。
目前,T20和i20已基于DeepLink實(shí)現多個(gè)模型的訓練和推理的適配,支持CV、NLP 等核心領(lǐng)域以及開(kāi)源LLaMA大模型。雙方的合作降低了硬件接入AI 模型訓練和推理的門(mén)檻,為大模型的發(fā)展提供強勁算力保證。
燧原科技同時(shí)參與了DeepLink芯片評測工作,DeepLink評測體系針對送測芯片進(jìn)行多維度測試并提供季度評測報告,其評測結論為各類(lèi)加速卡提供優(yōu)化參考,推動(dòng)AI芯片技術(shù)規范的標準建設。
DeepLink作為連接硬件芯片與深度學(xué)習軟件框架間適配的"橋梁",廠(chǎng)商可基于DeepLink一次適配即接入廣泛的算法生態(tài),根本性實(shí)現軟硬件解耦。目前DeepLink已提供200余個(gè)標準算子接口,支持超過(guò)5000個(gè)算子測例,同時(shí)支持大語(yǔ)言模型和視覺(jué)模型。遵循DeepLink標準可以實(shí)現主流框架與AI芯片高效適配,極大降低算力使用門(mén)檻,節省適配時(shí)間,更容易實(shí)現算力對模型的使能。同時(shí)通過(guò)編譯的優(yōu)化,系統性提升整體訓練效率。
人工智能開(kāi)放計算體系 (DeepLink)
云燧T20是面向數據中心的第二代人工智能訓練加速卡,具有模型覆蓋面廣、性能強、軟件生態(tài)開(kāi)放等特點(diǎn),可支持多種人工智能訓練場(chǎng)景。同時(shí)具備靈活的可擴展性,提供業(yè)界領(lǐng)先的人工智能算力集群方案。
云燧T20
云燧i20是面向數據中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆蓋面廣、易部署易運維等特點(diǎn),已廣泛應用于計算機視覺(jué)、語(yǔ)音識別與合成、自然語(yǔ)言處理、搜索與推薦等推理場(chǎng)景。
云燧i20
燧原科技相關(guān)負責人表示:"DeepLink可以讓上游芯片和下游框架兩層在適配工程實(shí)施時(shí)能有效地解耦,并復用到不同的訓練框架適配中去,從而降低芯片和框架的適配成本,同時(shí)保障算子實(shí)現正確性。燧原科技將與上海人工智能實(shí)驗室合作,在算力和算法上進(jìn)行深度融合,為業(yè)界構建軟硬一體、更加優(yōu)化的計算解決方案,為產(chǎn)業(yè)賦能,共建軟硬協(xié)同生態(tài),推動(dòng)中國數字化產(chǎn)業(yè)轉型和升級。"
更多DeepLink信息詳見(jiàn):https://deeplink.org.cn/home
關(guān)于燧原科技
燧原科技專(zhuān)注人工智能領(lǐng)域云端和邊緣算力產(chǎn)品,致力為通用人工智能打造算力底座,提供原始創(chuàng )新、具備自主知識產(chǎn)權的AI加速卡、系統集群和軟硬件解決方案。憑借其高算力、高能效比的創(chuàng )新架構和高效易用的軟件平臺,產(chǎn)品可廣泛應用于泛互聯(lián)網(wǎng)、智算中心、智慧城市,智慧金融、科學(xué)計算、自動(dòng)駕駛等多個(gè)行業(yè)和場(chǎng)景。
燧原科技秉承開(kāi)源開(kāi)放的宗旨,攜手產(chǎn)業(yè)伙伴共創(chuàng )生態(tài),成為通用人工智能時(shí)代產(chǎn)業(yè)的驅動(dòng)力。
*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。