燧原科技宣布升級企業(yè)戰略——全面打造AIGC時(shí)代的基礎設施

燧原科技宣布升級企業(yè)戰略：以全棧軟硬件和集群產(chǎn)品為數字底座，結合MaaS （Model as a Service） 的業(yè)務(wù)模式，全面打造人工智能技術(shù)生成內容 （AIGC） 時(shí)代的基礎設施。

　　　一、燧原大模型技術(shù)與產(chǎn)品深耕已久

　　燧原科技自創(chuàng )業(yè)之初就瞄準云端訓練產(chǎn)品市場(chǎng)，以突破高難度訓練芯片為目標，2019年推出的第一代產(chǎn)品云燧T10/T11是國內第一款具備FP32高精度算力的訓練產(chǎn)品。其創(chuàng )新的片間高速互聯(lián)，以及軟件棧聚焦優(yōu)化數據并行與模型并行等大規模集群的訓練能力，奠定了今天燧原的訓練產(chǎn)品在國內大規模集群訓練場(chǎng)景的領(lǐng)先優(yōu)勢。

　　基于云燧T11的冷板式液冷方案，燧原科技為之江實(shí)驗室構建了超千卡規模AI液冷集群，以賦能文本到視頻生成的場(chǎng)景為目標，成功支持了GPT-2、源1.0及實(shí)驗室自研蛋白質(zhì)結構預測等多個(gè)超大規模巨量模型的高效訓練。液冷智算集群也順應國家的綠色低碳環(huán)保的要求，PUE經(jīng)實(shí)測最低可降至1.08。

　　歷經(jīng)五年的產(chǎn)品迭代和優(yōu)化，燧原科技現已擁有從硬件、軟件到系統的全棧解決方案，結合云燧訓練和推理產(chǎn)品在行業(yè)落地打磨的實(shí)踐經(jīng)驗，可為客戶(hù)提供豐富多樣的人工智能系統軟硬件產(chǎn)品，全方位降低AI算力中心部署和應用成本。

　　二、厚積薄發(fā)，燧原科技發(fā)力

　　在大模型標桿項目落地經(jīng)驗指引下，以大幅縮短大模型開(kāi)發(fā)與應用周期為目標，針對大模型場(chǎng)景下的算力需求特性，燧原科技現已針對大模型場(chǎng)景形成從硬件、軟件、系統方案的全棧技術(shù)，全面支持大模型生產(chǎn)，包括但不僅限于：

　　大模型現有生態(tài)接入：支持PyTorch、TensorFlow、PaddlePaddle、OneFlow、Megatron-LM、FairScale等主流AI框架和分布式加速庫，支持GPT-2、源1.0、悟道2.0、CPM等主流AIGC大模型的Pretrain和Finetune。

　　大模型極致性能提供：采用自主研發(fā)的GCU-LARE技術(shù)和ECCL分布式通信技術(shù)，提升大模型訓練多機多卡高速互聯(lián)的性能，支持數據并行、模型并行、流水線(xiàn)并行和混合并行等并行加速功能，支持Activation Checkpointing、ZeRO優(yōu)化器、CPU offload、AMP（自動(dòng)混合精度）等算力和顯存優(yōu)化方法，可快速高效地進(jìn)行大模型訓練。

　　大模型訓練TCO優(yōu)化：從大模型應用端到端、技術(shù)全棧角度，燧原科技提供一體化大規模AI算力集群方案 云燧智算機（CloudBlazer POD），方案采用一體化設計，是專(zhuān)為人工智能場(chǎng)景下計算、存儲、網(wǎng)絡(luò )、軟硬協(xié)同設計的標準化產(chǎn)品，以"全局優(yōu)異"為目標，大幅降低建設滿(mǎn)足大模型場(chǎng)景需求的AI算力基礎設施的總擁有成本 （TCO）。

　　大模型業(yè)務(wù)高性?xún)r(jià)比推理加速：憑借云端推理產(chǎn)品云燧i20通過(guò)互聯(lián)網(wǎng)社交應用服務(wù)上億規模用戶(hù)的成功經(jīng)驗，同時(shí)與廣泛的落地場(chǎng)景進(jìn)行打磨，燧原的推理產(chǎn)品在支持Stable Diffusion、GPT-2、T5等AIGC大模型推理上具備高性?xún)r(jià)比，加速AIGC相關(guān)下游場(chǎng)景的商業(yè)落地。

燧原科技大模型全棧技術(shù)

　　燧原科技創(chuàng )始人、COO張亞林表示："人工智能技術(shù)的發(fā)展正在步入一個(gè)全新的階段，AIGC內容生成類(lèi)模型以及所生產(chǎn)的內容生動(dòng)反映了人工智能從感知、認知進(jìn)階到生產(chǎn)，也正在重構互聯(lián)網(wǎng)商業(yè)模式，催生數字經(jīng)濟新突破。在以ChatGPT和Stable Diffusion為代表的AIGC技術(shù)浪潮下，燧原科技憑借在大模型訓練及推理的產(chǎn)品技術(shù)優(yōu)勢，結合MaaS的業(yè)務(wù)模式，構建AIGC時(shí)代的基礎設施底座。"

　　關(guān)于燧原科技

　　燧原科技專(zhuān)注人工智能領(lǐng)域云端算力產(chǎn)品，致力為人工智能產(chǎn)業(yè)發(fā)展交付普惠的基礎設施解決方案，提供原始創(chuàng )新、全棧自研、具備完全自主知識產(chǎn)權的通用人工智能訓練和推理產(chǎn)品。憑借其高算力、高能效比以及靈活編程能力，可廣泛應用于互聯(lián)網(wǎng)、金融、交通、能源及新基建等多個(gè)行業(yè)和場(chǎng)景。

　　燧原科技攜手業(yè)內標準組織，秉承開(kāi)源開(kāi)放的宗旨，與產(chǎn)業(yè)伙伴一起促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。