科大訊飛:僅用1萬(wàn)張910B國產(chǎn)算力卡躋身大模型研發(fā)第一梯隊
3月11日消息,日前,有投資者在互動(dòng)平臺向科大訊飛提問(wèn):貴公司目前擁有多少張算力卡?面對阿里千億級投資,公司將在算力競爭上如何應對?
本文引用地址:http://dyxdggzs.com/article/202503/467881.htm對此,科大訊飛表示,過(guò)去幾年在受限的有限算力資源條件下,關(guān)于星火大模型訓練和推理成本效率的持續優(yōu)化也做了大量投入,和直接使用英偉達卡上開(kāi)展的各種工程優(yōu)化不同,科大訊飛選擇了更難的全國產(chǎn)算力路線(xiàn)。
據介紹,大模型對算力的需求為訓練和推理兩個(gè)方面,而訓練實(shí)現的難度遠大于推理。
科大訊飛稱(chēng),這就是雖然陸續有公司宣布可以在國產(chǎn)算力平臺上提供大模型的推理服務(wù),但仍只有訊飛星火一家是訓練和推理均在國產(chǎn)算力上進(jìn)行的,并且僅用1萬(wàn)張910B國產(chǎn)算力卡,科大訊飛用比友商少一個(gè)數量級的算力取得了大模型研發(fā)上的第一梯隊成果。
同時(shí),科大訊飛還做了大量國產(chǎn)算力平臺上的無(wú)人區的適配和效率優(yōu)化,追求國產(chǎn)算力的極致效率,這比在英偉達上的實(shí)現更需要技術(shù)實(shí)力和戰略勇氣。
據媒體報道,科大訊飛2月透露了其最新的研發(fā)進(jìn)展:公司正在全力訓練的純國產(chǎn)算力平臺“星火X1”新版本,預計將在未來(lái)三個(gè)月內完成。
這一新版本的發(fā)布,預期就可以實(shí)現數學(xué)答題和過(guò)程思維鏈能力全面對標甚至超過(guò)OpenAI o1。
評論