高通持續推動(dòng)終端側生成式AI變革，推出高通AI Hub賦能開(kāi)發(fā)者

要點(diǎn)：

·       高通現賦能終端側AI在下一代PC、智能手機、軟件定義汽車(chē)、XR設備和物聯(lián)網(wǎng)等領(lǐng)域規?；逃?，讓智能計算無(wú)處不在。

·       高通AI Hub為驍龍和高通平臺提供超過(guò)75個(gè)優(yōu)化AI模型，助力開(kāi)發(fā)者縮短產(chǎn)品上市時(shí)間，并讓終端側AI的諸多優(yōu)勢在應用程序上得以發(fā)揮。這些模型也將在Hugging Face和GitHub上提供。開(kāi)發(fā)者只需通過(guò)幾行代碼即可在搭載高通平臺的云托管終端上自行運行這些模型。

·       高通AI研究（Qualcomm AI Research）演示了在Android智能手機和Windows PC上運行多模態(tài)大模型和定制大視覺(jué)模型。

2024年2月26日，巴塞羅那——高通技術(shù)公司在巴塞羅那世界移動(dòng)通信大會(huì )（MWC）上發(fā)布了公司在AI領(lǐng)域的最新進(jìn)展。從全新高通^?AI Hub、到前沿研究突破以及AI賦能的商用終端展示，高通技術(shù)公司正在為開(kāi)發(fā)者賦能，并變革驍龍^?和高通平臺支持的廣泛終端品類(lèi)上的用戶(hù)體驗。

高通技術(shù)公司高級副總裁兼技術(shù)規劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：“隨著(zhù)面向智能手機的第三代驍龍8和面向PC的驍龍X Elite的推出，我們開(kāi)啟了終端側AI的規?；逃谩，F在，借助高通AI Hub，我們將賦能開(kāi)發(fā)者充分發(fā)揮這些前沿技術(shù)的潛力，打造具有吸引力的AI賦能應用。高通AI Hub為開(kāi)發(fā)者提供了一個(gè)全面的AI模型庫，使他們能夠輕松快速地將預優(yōu)化AI模型集成進(jìn)應用程序，從而打造更快、更可靠且更具隱私性的用戶(hù)體驗?！?/span>

高通AI Hub為開(kāi)發(fā)者開(kāi)啟卓越終端側AI性能

全新高通AI Hub包含預優(yōu)化AI模型庫，支持在搭載驍龍和高通平臺的終端上進(jìn)行無(wú)縫部署。該模型庫為開(kāi)發(fā)者提供超過(guò)75個(gè)主流的AI和生成式AI模型，比如Whisper、ControlNet、Stable Diffusion和Baichuan-7B，可在不同執行環(huán)境(runtime)中打包，能夠在不同形態(tài)終端中實(shí)現卓越的終端側AI性能、降低內存占用并提升能效。所有模型均經(jīng)過(guò)優(yōu)化，以充分利用高通AI引擎內所有核心（NPU、CPU和GPU）的硬件加速能力，從而使推理速度提升4倍。AI模型庫能夠自動(dòng)處理從源框架到主流執行環(huán)境的模型轉換，直接與高通AI引擎Direct SDK協(xié)同工作，并應用硬件感知優(yōu)化。開(kāi)發(fā)者可將這些模型無(wú)縫集成進(jìn)應用程序，縮短產(chǎn)品上市時(shí)間，發(fā)揮終端側AI部署的諸多優(yōu)勢，比如即時(shí)性、可靠性、隱私、個(gè)性化和成本優(yōu)勢。

這些優(yōu)化模型現已在高通AI Hub、GitHub和Hugging Face上提供。高通AI Hub將持續增加新模型，同時(shí)還將支持更多平臺和操作系統。開(kāi)發(fā)者現可注冊登錄，在搭載高通技術(shù)公司平臺的云托管終端上自行運行模型，并通過(guò)高通AI Hub提前獲取新特性和AI模型。

Hugging Face聯(lián)合創(chuàng )始人兼CEO Clement Delangue表示：“我們很高興能夠在Hugging Face上托管高通技術(shù)公司的AI模型。這些主流AI模型面向終端側機器學(xué)習而優(yōu)化，并且可在驍龍和高通平臺上使用，將賦能下一代移動(dòng)開(kāi)發(fā)者和邊緣AI應用，讓AI進(jìn)一步惠及所有人?！?/span>

前沿AI研究進(jìn)展

·       高通AI研究展示了首個(gè)在Android智能手機上運行的大語(yǔ)言和視覺(jué)助理大模型（LLaVA），這是一個(gè)超過(guò)70億參數的大型多模態(tài)語(yǔ)言模型（LMM），可接受包括文本和圖像在內的多種類(lèi)型的數據輸入，并能夠與AI助手生成關(guān)于圖像的多輪對話(huà)。該LMM能夠在終端側以實(shí)時(shí)響應的速度生成token，從而增強了隱私、可靠性、個(gè)性化和成本優(yōu)勢。具有語(yǔ)言理解和視覺(jué)理解能力的LMM能夠賦能諸多用例，例如識別和討論復雜的視覺(jué)圖案、物體和場(chǎng)景。

·       高通AI研究還將展示高通首個(gè)在Android智能手機上運行的LoRA模型。通過(guò)運行支持LoRA的Stable Diffusion，用戶(hù)可基于個(gè)人或藝術(shù)偏好創(chuàng )建高質(zhì)量自定義圖像。LoRA減少了AI模型的可訓練參數數量，賦能更加高效、可擴展、定制化的終端側生成式AI用例。除了能夠實(shí)現針對不同的藝術(shù)風(fēng)格賦能語(yǔ)言視覺(jué)大模型（LVM）微調外，LoRA還廣泛適用于定制AI模型（如大語(yǔ)言模型），以打造量身定制的個(gè)人助手、改進(jìn)語(yǔ)言翻譯等。

·       在Windows PC上，高通AI研究將展示全球首個(gè)在終端側運行的超過(guò)70億參數的大型多模態(tài)語(yǔ)言模型(LMM)，可接受文本和音頻輸入（如音樂(lè )、交通環(huán)境音頻等），并基于音頻內容生成多輪對話(huà)。

在MWC巴塞羅那上展示跨終端品類(lèi)賦能生成式AI

·       智能手機：高通技術(shù)公司將展示一系列搭載第三代驍龍^?8移動(dòng)平臺的商用旗艦AI智能手機，包括榮耀Magic6 Pro、OPPO Find X7 Ultra和Xiaomi 14 Pro。每款終端都集成了令人興奮的生成式AI新特性，比如圖像擴充（小米）、智慧成片和一拖日程（榮耀）、AI消除（OPPO）。

·       PC：全新驍龍X Elite及其45 TOPS NPU專(zhuān)為終端側AI打造，將變革用戶(hù)與PC的交互方式。高通技術(shù)公司將使用廣受歡迎的免費圖像編輯器GIMP集成Stable Diffusion插件進(jìn)行演示：用戶(hù)可輸入想要的圖像，生成式AI將在7秒內生成圖像，速度比x86競品快3倍。

·       汽車(chē)：利用行業(yè)領(lǐng)先的AI硬件和軟件解決方案，高通技術(shù)公司還將演示驍龍^?數字底盤(pán)^?平臺支持的傳統AI和生成式AI功能，旨在為駕乘人員提供更加強大、高效、隱私、安全且個(gè)性化的體驗。

·       消費級物聯(lián)網(wǎng)：公司將展示在驍龍平臺上運行的Humane AI Pin，讓用戶(hù)能夠在全新、對話(huà)式以及無(wú)屏的終端形態(tài)中隨時(shí)隨地使用AI。

·       連接：全新推出的驍龍X80調制解調器及射頻系統集成第二代5G AI處理器，助力提升蜂窩性能，擴大覆蓋范圍，降低時(shí)延并提高能效。高通還推出首個(gè)AI優(yōu)化的Wi-Fi 7系統——高通FastConnect^? 7900移動(dòng)連接系統，利用AI為自適應、高性能、低時(shí)延和低功耗的本地無(wú)線(xiàn)連接樹(shù)立新標桿。

·       5G基礎設施：高通技術(shù)公司將展示三項突破性的AI輔助網(wǎng)絡(luò )管理增強特性，包括助力無(wú)線(xiàn)接入網(wǎng)（RAN）工程師簡(jiǎn)化網(wǎng)絡(luò )和切片管理任務(wù)的生成式AI助手，降低網(wǎng)絡(luò )能耗的AI輔助開(kāi)放式RAN應用程序（rApp），以及AI輔助5G網(wǎng)絡(luò )切片生命周期管理套件。

欲了解有關(guān)高通技術(shù)公司AI創(chuàng )新和演示的更多信息，請訪(fǎng)問(wèn)公司網(wǎng)站或蒞臨MWC巴塞羅那高通展位（Fira Gran Via 3號廳3E10號）參觀(guān)體驗。