邊緣計算“下一程”:AI規?;瘧萌绾喂??
數字化浪潮的洶涌推進(jìn),催生了前所未有的數據洪流,加速了計算從云到端的發(fā)展。在近日舉辦的英特爾新質(zhì)生產(chǎn)力技術(shù)生態(tài)大會(huì )上,英特爾市場(chǎng)營(yíng)銷(xiāo)集團副總裁、中國區OEM & ODM銷(xiāo)售事業(yè)部總經(jīng)理郭威指出,如今云和端的界限正在變得越來(lái)越模糊,兩者朝著(zhù)彼此融合的方向發(fā)展。這一趨勢的背后,是數據量的爆炸性增長(cháng),以及對數據在不同地點(diǎn)處理的考量,而這也構成了推動(dòng)邊緣計算興起的關(guān)鍵因素。
本文引用地址:http://dyxdggzs.com/article/202412/465116.htm英特爾市場(chǎng)營(yíng)銷(xiāo)集團副總裁、中國區OEM&ODM銷(xiāo)售事業(yè)部總經(jīng)理郭威
越來(lái)越多的企業(yè)應用開(kāi)始在邊緣運行。根據Gartner的預測1,到2027年,50%的關(guān)鍵企業(yè)應用將在邊緣運行。研究機構Grand View Research 2 則預計,全球邊緣計算市場(chǎng)規模將在2024年至2030年間以高達36.9%的復合年增長(cháng)率(CAGR)持續擴張。企業(yè)正在邊緣計算上持續投入,預計3從2024到2028年,全球邊緣計算支出將以雙位數的復合年增長(cháng)率(CAGR)穩健增長(cháng)。
AI在邊緣也展現出強勁的發(fā)展勢頭。盡管目前,AI應用主要集中在云端,但考慮到成本、時(shí)效性和安全性等因素,AI向邊緣下沉已成為趨勢。Gartner預測4,到2026年,50%的全球邊緣部署將包含AI。今年以來(lái),生成式AI在各行業(yè)的應用不斷落地,企業(yè)積極利用大模型技術(shù)解決商業(yè)挑戰,并推動(dòng)了一系列創(chuàng )新成果,大模型商用正進(jìn)入規?;l(fā)展的關(guān)鍵階段。
邊緣AI“痛點(diǎn)”大起底:成本、技術(shù)與規?;魬?/strong>
盡管邊緣AI在數據處理和實(shí)時(shí)響應方面展現出顯著(zhù)優(yōu)勢,但在其部署過(guò)程中仍面臨一系列挑戰。
首先,將資源從云端轉移到邊緣通常需要額外的成本投入,包括硬件采購、部署、維護以及能源消耗等。企業(yè)需要在價(jià)值、質(zhì)量和成本之間做出權衡,算一筆“經(jīng)濟賬”。
其次,技術(shù)層面的復雜性是阻礙AI應用的一大難題?!澳P突糜X(jué)”問(wèn)題是其中之一,即在邊緣環(huán)境下,AI模型可能會(huì )因數據質(zhì)量、模型訓練不足或硬件限制等原因產(chǎn)生不準確的輸出。
此外,邊緣應用場(chǎng)景的多樣性與碎片化也為邊緣AI部署帶來(lái)了挑戰。場(chǎng)景、設備及工作負載的多樣性,意味著(zhù)每個(gè)場(chǎng)景都有其獨特的需求和限制。如何設計出既靈活又可擴展的標準化方案,以適應不同場(chǎng)景的需求,成為實(shí)現邊緣三大策略突破瓶頸,助力邊緣AI規?;l(fā)展
策略一:多樣化硬件產(chǎn)品,破解邊緣場(chǎng)景碎片化難題。
在邊緣計算場(chǎng)景中,面對不同的應用負載和場(chǎng)景需求,通用處理器和通用算力芯片是滿(mǎn)足這些多樣化場(chǎng)景的最佳方案,這也是英特爾的優(yōu)勢所在。
為實(shí)現這一目標,英特爾不斷在CPU中集成更多先進(jìn)功能,通過(guò)CPU、GPU和NPU的協(xié)同工作,滿(mǎn)足各種場(chǎng)景下的復雜需求。
英特爾專(zhuān)為邊緣設計的多樣硬件產(chǎn)品組合,如英特爾? 酷睿? 處理器,為日常的工作負載提供了卓越的性能;英特爾? 酷睿? Ultra處理器則集成了NPU(神經(jīng)網(wǎng)絡(luò )處理單元),為多種應用場(chǎng)景提供了更強大的算力支持。此外,英特爾凌動(dòng)? 處理器、英特爾銳炫? GPU For the Edge、英特爾? 至強? 6 處理器,以及專(zhuān)為加速深度學(xué)習訓練和推理而設計的英特爾? Gaudi 處理器等,為客戶(hù)提供了豐富的選擇,使客戶(hù)以較低成本滿(mǎn)足多樣化負載和碎片化應用成為可能。
策略二:開(kāi)源開(kāi)放平臺,加速易用、可負擔的AI部署。
在軟件工具層面,英特爾提供了一系列工具集,如OpenVINO?和oneAPI?,這些工具集為開(kāi)發(fā)者在英特爾平臺上優(yōu)化和部署AI應用提供了強有力的支持。
在A(yíng)I模型和框架方面,英特爾提供TensorFlow、Hugging Face、PyTorch和DeepSpeed等主流AI模型和框架,確保開(kāi)發(fā)者能夠利用最前沿的工具來(lái)構建和訓練AI模型。
企業(yè)AI開(kāi)放平臺(OPEA)是英特爾攜手行業(yè)領(lǐng)軍企業(yè)共同打造的開(kāi)放性AI開(kāi)發(fā)與部署平臺。該平臺幫助行業(yè)客戶(hù)更便捷地基于英特爾的產(chǎn)品,構建完整的企業(yè)級AI應用。
策略三:以場(chǎng)景驅動(dòng)創(chuàng )新,攜手生態(tài)破局未來(lái)市場(chǎng)。
英特爾攜手合作伙伴,深入挖掘行業(yè)場(chǎng)景的需求與痛點(diǎn),在特定場(chǎng)景中探索創(chuàng )新路徑,共同預見(jiàn)并應對未來(lái)可能出現的新挑戰。
針對多元化的應用場(chǎng)景,英特爾與合作伙伴攜手打造了定制化的垂直行業(yè)AI解決方案,如英特爾? 工業(yè)邊緣控制、基于英特爾? 架構的 AI POS 方案等,滿(mǎn)足零售、工業(yè)、教育、醫療、能源和交通等不同領(lǐng)域的特定需求。
多元化的生態(tài)是英特爾持續深耕行業(yè)、推動(dòng)創(chuàng )新的基石。英特爾也將持續構建和拓展合作伙伴生態(tài)系統,與服務(wù)提供商、設備制造商等生態(tài)伙伴緊密合作,共促技術(shù)聯(lián)創(chuàng )、共享開(kāi)發(fā)權益、共拓市場(chǎng)項目,加速人工智能的開(kāi)發(fā)和落地部署。
2024年是大模型應用的落地之年,AI應用仍在創(chuàng )新的浪潮下持續拓展邊界。在云、邊、端融合的趨勢下,英特爾憑借CPU、GPU與NPU的強強聯(lián)合筑牢算力底座,以開(kāi)放平臺和生態(tài)推動(dòng)技術(shù)創(chuàng )新與產(chǎn)業(yè)發(fā)展,讓更多行業(yè)企業(yè)能夠輕松擁抱AI技術(shù),從而引領(lǐng)生成式AI及大模型應用走向規?;l(fā)展的新階段,推動(dòng)業(yè)界邁向更加智能、高效與可持續的未來(lái)。
評論