銓興科技AI創(chuàng )新解決方案開(kāi)啟“銓”民AI時(shí)代
當前,人工智能技術(shù)正以其獨特的魅力和巨大的潛力引領(lǐng)著(zhù)新一輪科技革命。AI大模型的爆發(fā)帶動(dòng)了GPU市場(chǎng)的繁榮,從云端到邊緣AI應用也催生邊緣AI服務(wù)器及AI加速處理器的巨大需求。
本文引用地址:http://dyxdggzs.com/article/202408/462395.htm在邊緣AI應用場(chǎng)景中,大數據與大模型的運算、推理依靠GPU的運行效能和帶寬,AI的訓練與微調依賴(lài)顯存容量。為支撐70B、405B甚至大于1000B模型的訓練與微調任務(wù),現有市場(chǎng)方案依靠多顯卡集群的方式拼湊顯存與算力?,F行的多顯卡集群方式投入成本昂貴,且高性能GPU算力卡國內限購,成本高,后續維護進(jìn)階難,極大程度阻礙AI應用場(chǎng)景落地,導致無(wú)法充分賦能企業(yè)。
銓興科技的AI超大模型全參微調、訓推一體解決方案
深圳市銓興科技有限公司作為半導體存儲領(lǐng)域的解決方案供應商,憑借二十余年深厚的存儲技術(shù)底蘊與不懈的創(chuàng )新追求,結合AI人工智能技術(shù)原理,把存儲技術(shù)和算力在訓練超大模型全參微調、訓練推理方面有機結合,創(chuàng )新推出銓興超大模型AI訓推一體解決方案。
銓興超大模型AI訓推一體解決方案是由“銓興添翼AI擴容卡、企業(yè)級固態(tài)硬盤(pán)、服務(wù)器內存”等核心組件的AI訓推一體服務(wù)器解決方案,整體部署方案具備低成本、低功耗、安全等顯著(zhù)優(yōu)勢。
銓興科技創(chuàng )新推出的添翼AI擴容卡,通過(guò)優(yōu)化中間層驅動(dòng),打破顯存墻,使得GPU可用顯存空間直升20倍!
銓興科技AI全參微調、訓推一體解決方案解決什么問(wèn)題
銓興科技AI超大模型全參微調、訓推一體解決方案,解決了高階顯卡購買(mǎi)難、硬件成本高、功耗大的痛點(diǎn),解決了企業(yè)人工智能本地化部署最后一公里的難題,使本地端專(zhuān)屬AI應用唾手可得,助力開(kāi)啟全民AI時(shí)代。
· 適配場(chǎng)景靈活多樣
銓興解決方案對Llama、Mistral、千問(wèn)、智普等主流開(kāi)源大模型實(shí)現了完美支持,可廣泛應用于政府項目、數據中心、高??蒲?、企業(yè)專(zhuān)屬服務(wù)等領(lǐng)域。
· 顯著(zhù)降低配置成本、能耗低
以實(shí)現Llama-3.1(70B)高算力的大模型訓練為例,現行的市場(chǎng)方案所需GPU加速卡顯存空間約1500GB,要配置二十四張80GB顯存的GPU,使用叁臺服務(wù)器集群,其運算能耗超30KW,存在顯卡數量多、體積占地空間大、電力基礎設施要求高、功耗大、整體部署成本超750萬(wàn),價(jià)格昂貴等多樣難題。
銓興推出的運算體系機構配置兩張銓興添翼AI擴容卡,僅用四張不禁售的中階顯卡(20GB顯存GPU),壹臺服務(wù)器工作站即實(shí)現部署。銓興AI大模型訓推一體解決方案使用中階顯卡,解決高階購買(mǎi)難的痛點(diǎn),且顯卡數量明顯減少,噪聲低于60dB,體積小巧靈活,整體部署價(jià)格低于100萬(wàn),僅為傳統方案價(jià)格的15%,功耗低至2kW,不到傳統方案的10%,大大降低大模型訓練的進(jìn)入門(mén)檻成本,銓興科技出色的技術(shù)實(shí)力和超前沿的存算解決方案,展現了人工智能產(chǎn)業(yè)算力和存力完美結合,給人工智能產(chǎn)業(yè)帶來(lái)積極影響,推動(dòng)銓民參與的AI低成本的時(shí)代的到來(lái)。
· 應用場(chǎng)景廣泛
該方案適用70B-180B超大模型全參微調、訓推一體,典型案例包括政府政務(wù)AI、科研AI、高校AI教學(xué)、法律AI、金融A(yíng)I等多樣B端客戶(hù)專(zhuān)業(yè)服務(wù)等。
目前已經(jīng)與多家國產(chǎn)CPU、國產(chǎn)GPU、軟件服務(wù)商、AI服務(wù)器整機廠(chǎng)商、廈門(mén)大學(xué)等高校以及政府部門(mén)建立了合作關(guān)系,共同推動(dòng)AI技術(shù)的發(fā)展和應用。
銓興科技推動(dòng)AI產(chǎn)業(yè)高質(zhì)量
人工智能作為引領(lǐng)未來(lái)的戰略性技術(shù),已經(jīng)成為發(fā)展新質(zhì)生產(chǎn)力的主要陣地。銓興科技精準解決中小企業(yè)AI人工智能落地部署的痛點(diǎn),開(kāi)發(fā)出前瞻性與實(shí)用性的半導體存儲解決方案,為各行各業(yè)提供更加智能化、個(gè)性化、接地氣的解決方案,驅動(dòng)各企業(yè)的數字化與智能化,實(shí)現全域全時(shí)全場(chǎng)景應用持續深化,推動(dòng)AI人工智能產(chǎn)業(yè)高質(zhì)量加速發(fā)展!
評論