國產(chǎn)自主14nm工藝！云天勵飛發(fā)布深目AI模盒：比GPU便宜90％

3月31日消息，近日，中國AI企業(yè)云天勵飛正式發(fā)布了平民化的大模型產(chǎn)品——“深目”AI模盒。

它的售價(jià)只要千元級，但可以做到“三個(gè)90％”——覆蓋場(chǎng)景超過(guò)90％、算法精度超過(guò)90％，使用成本降低90％，可以讓更多中小企業(yè)用上大模型。

“深目”AI模盒的算力基礎，是其去年推出的大模型訓推芯片“DeepEdge10 Max”。

該芯片采用了自主可控的14nm國產(chǎn)工藝、D2D chiplet晶粒架構，基于同樣國產(chǎn)的RISC-V內核，并采用異構多核設計。

它支持大模型訓練推理部署，已適配并可承載10億級參數的SAM、百億級參數的Llama2等大模型運算，可廣泛應用于A(yíng)IoT邊緣視頻、移動(dòng)機器人等場(chǎng)景。

云天勵飛還自主研發(fā)了多模態(tài)大模型“云天天書(shū)”，包含語(yǔ)言大模型、多模態(tài)大模型等不同系列，在C-Eval、CMMLU等權威測試中多次獲得第一，并于去年正式通過(guò)中央網(wǎng)信辦備案。

云天天書(shū)1.0版本發(fā)布于2023年初，至今已迭代3個(gè)版本。

以云天天書(shū)為底座，云天勵飛可與合作伙伴首先完成預訓練場(chǎng)景算法，再提供給中小企業(yè)用戶(hù)，由其根據自身場(chǎng)景需求，在邊緣端完成算法微調，并且在線(xiàn)學(xué)習、優(yōu)化算法，不斷提升算法精度。

“深目”AI模盒首發(fā)標準版搭載云天天書(shū)3.5V版本，INT8整數算力48TOPS(48萬(wàn)億次)。

今年下半年，“深目”AI模盒將推出輕量版，芯片為DeepEdge10Pro，搭配云天天書(shū)4.0V，算力減半至24TOPS。

明年上半年，“深目”AI模盒將升級為旗艦版，芯片也升級為DeepEdge10Ultra，繼續搭配云天天書(shū)4.0V，算力翻番到96TOPS。

云天勵飛成立于2014年，并在當年推出了基于CV小模型的AI產(chǎn)品“深目”1.0，陸續在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造多個(gè)標桿項目。