讓智能計算無(wú)處不在，高通ChinaJoy AIGC大會(huì )展望終端側AI行業(yè)賦能

2024年7月26日，中國國際數字娛樂(lè )產(chǎn)業(yè)大會(huì )(CDEC)旗下ChinaJoy AIGC大會(huì )于ChinaJoy期間在上海舉行。大會(huì )從技術(shù)、應用等全生態(tài)角度共同探討了AIGC技術(shù)下的內容產(chǎn)業(yè)新業(yè)態(tài)和未來(lái)發(fā)展趨勢，聚焦AIGC如何助力產(chǎn)業(yè)升級、如何提升AIGC場(chǎng)景應用、如何促進(jìn)人機融合等。

高通技術(shù)公司副總裁兼產(chǎn)品、合作伙伴和技術(shù)市場(chǎng)全球負責人 Mike Roberts 在大會(huì )上發(fā)表了主題演講。他指出，終端側生成式AI已經(jīng)到來(lái)，高通公司作為終端側AI的領(lǐng)導者，在A(yíng)I領(lǐng)域有著(zhù)超過(guò)15年的投入，借助強大的硬件和軟件支持組合、異構計算優(yōu)勢、以及全球范圍內的領(lǐng)先邊緣側布局，高通的產(chǎn)品和技術(shù)已支持出貨超過(guò)25億臺AI賦能終端，賦能廣泛的行業(yè)領(lǐng)域和生成式AI體驗，正在推動(dòng)實(shí)現“讓智能計算無(wú)處不在”。

以下為演講全文：

大家好，很高興第四次參加ChinaJoy。我很榮幸代表高通，與大家分享我們正在如何助力讓智能計算無(wú)處不在。作為終端側AI的領(lǐng)導者，高通在人工智能領(lǐng)域有著(zhù)超過(guò)15年的投入，擁有行業(yè)領(lǐng)先硬件和軟件解決方案覆蓋廣泛邊緣終端，并且擁有跨NPU、CPU和GPU的卓越異構計算能力、領(lǐng)先的軟件優(yōu)化、以及能效。此外，我們還在全球范圍內擁有無(wú)與倫比的邊緣側布局和高達數十億的用戶(hù)設備數量，覆蓋智能手機、PC、汽車(chē)、XR、邊緣網(wǎng)絡(luò )設備等等。同時(shí)，我們也與微軟、谷歌、百川、騰訊、字節跳動(dòng)等眾多生態(tài)合作伙伴共同推動(dòng)AI技術(shù)的創(chuàng )新和應用。

生成式AI不僅是不可或缺的個(gè)人助手，也在眾多領(lǐng)域展現出了巨大的商業(yè)價(jià)值。預計每年可帶來(lái)2.6萬(wàn)億到4.4萬(wàn)億美元的經(jīng)濟效益，大約相當于2023年上海GDP的5倍。然而，推動(dòng)生成式AI的規?；l(fā)展面臨諸多挑戰。以成本為例，基于生成式AI的搜索單次推理成本是傳統網(wǎng)絡(luò )搜索的約10倍。目前，我們還處于生成式AI應用的早期階段，新的應用不斷涌現，包括圖像和視頻創(chuàng )作、文本摘要、對話(huà)聊天機器人等。再考慮到未來(lái)需要使用AI推理的數十億用戶(hù)數，這個(gè)總體需求量就會(huì )非常驚人。預計2024年至2028年，生成式AI相關(guān)的token生成量將增長(cháng)150 倍，云端的推理需求將超過(guò)訓練需求。如果還保持當前的AI處理方式，到2030年AI可能會(huì )消耗全球3.5%的電力，這足以為上海這樣的大城市供電約35年。

那么我們應如何應對這一挑戰?為了實(shí)現規?；瘮U展，AI處理的重心正在向邊緣側轉移，最終目標是實(shí)現混合AI，讓云端和邊緣側終端能夠協(xié)同處理工作負載，并使用高性能連接來(lái)實(shí)現更加強大、高效、優(yōu)化的AI。如果將 20% 的生成式 AI 工作負載轉移到終端側，預計到 2028 年將節省 160 億美元的計算資源成本。

讓我們分別看看終端側和云端的AI處理。終端側主要支持100億參數級別的大模型。終端側AI處理具備眾多優(yōu)勢，不僅能夠提高性能和效率，還能確保隱私和安全性，同時(shí)提供即時(shí)性、低時(shí)延、高可靠性和個(gè)性化的用戶(hù)體驗。另一方面，中心云能夠支持運行參數超過(guò)千億級別的超大模型。在中心云上，用戶(hù)可以輕松地對模型進(jìn)行開(kāi)發(fā)、部署和訓練，實(shí)現資源聚合和極致性能。

基于此，面對各個(gè)垂直領(lǐng)域對生成式AI用例日益增長(cháng)的需求，高通推出了面向計算性能的系統級解決方案。提供系統級解決方案的理念植根于高通公司的DNA之中，也是我們作為一家公司應對諸多挑戰的關(guān)鍵。這一解決方案包括我們專(zhuān)為生成式AI全新打造的神經(jīng)網(wǎng)絡(luò )處理器(NPU)，同時(shí)，我們還將NPU與CPU、GPU整合到一起。比如，我們已經(jīng)在PC端推出的高通Oryon CPU，未來(lái)還將擴展到手機、汽車(chē)等更多終端品類(lèi);此外，我們推出了高通Adreno GPU，我們在這款定制化GPU上已經(jīng)投入了超過(guò)十年的研發(fā)。

我們針對不同計算需求，策略性地使用適宜的處理器，從而提升系統性能，實(shí)現異構計算。異構計算讓我們能夠實(shí)現最佳應用性能、能效和電池續航。如今，終端側AI已經(jīng)廣泛應用于各類(lèi)消費終端和各行各業(yè)，包括邊緣網(wǎng)絡(luò )設備、汽車(chē)、以及制造車(chē)輛的工業(yè)機器人等。在此，我想重點(diǎn)談?wù)剝煞N主要的終端類(lèi)型：智能手機和PC。

我們最新的第三代驍龍8旗艦移動(dòng)平臺已經(jīng)賦能諸多手機廠(chǎng)商合作伙伴推出了豐富的終端側AI體驗。上個(gè)月，我們的合作伙伴微軟以及其他領(lǐng)先PC廠(chǎng)商，推出了20多款搭載驍龍X Elite和驍龍X Plus平臺的最新Windows 11 AI+ PC，這些設備已經(jīng)實(shí)現了實(shí)時(shí)翻譯、實(shí)時(shí)轉譯、AI照片編輯、文本總結、寫(xiě)作輔助等豐富的AI功能。

讓我們先從智能手機的角度來(lái)談?wù)勥@些終端側AI用例。我們與合作伙伴攜手在他們推出的旗艦智能手機上，為用戶(hù)帶來(lái)了生成式AI功能，將驍龍的AI能力直接呈現給消費者。三星Galaxy S24系列借助終端側AI，以先進(jìn)的實(shí)時(shí)翻譯功能，將手機通話(huà)實(shí)時(shí)翻譯成用戶(hù)首選語(yǔ)言，打破語(yǔ)言障礙，促進(jìn)無(wú)縫的跨文化交流。此外，OPPO Find X7 Ultra集成了出色的終端側AI特性，讓用戶(hù)能夠將照片中不需要的物體或人物消除，且無(wú)需連接互聯(lián)網(wǎng)。榮耀Magic6系列的“智慧成片”功能則能夠利用相冊中的照片和文本提示生成視頻。

接下來(lái)，讓我們聊聊PC領(lǐng)域的應用。 在PC方面，我們與djay Pro等眾多公司展開(kāi)了合作。djay Pro是一款全球領(lǐng)先的混音應用，經(jīng)過(guò)我們雙方的合作優(yōu)化，現在可以在驍龍X Elite的NPU上運行，讓用戶(hù)能夠利用Neural Mix實(shí)時(shí)分離和操作人聲、樂(lè )器、鼓等不同音軌。

現在，讓我們將目光轉向汽車(chē)制造商和其他服務(wù)提供商，他們可以根據需求提供特性升級和新服務(wù)。中國的汽車(chē)市場(chǎng)有著(zhù)全球領(lǐng)先的發(fā)展速度。在網(wǎng)聯(lián)汽車(chē)中使用生成式AI服務(wù)，能夠賦能我們的合作伙伴打造全新特性，擴展他們的產(chǎn)品，并為駕駛員和乘客提供更佳體驗。網(wǎng)聯(lián)汽車(chē)能夠支持各種軟件定義特性和服務(wù)，也將重新定義出行體驗。

高通還在引領(lǐng)終端側AI在物聯(lián)網(wǎng)領(lǐng)域的應用。一個(gè)具體的用例是工廠(chǎng)車(chē)間，工廠(chǎng)車(chē)間中數據處理的低時(shí)延至關(guān)重要，因為即使是最微小的錯誤也需要即刻關(guān)注。通過(guò)多模態(tài)AI助手，我們可以使用視覺(jué)、文本和語(yǔ)音處理為工廠(chǎng)車(chē)間的工人提供實(shí)時(shí)幫助。

我們還提供了高通AI軟件棧這一全面的統一解決方案，以支持廣泛的垂直領(lǐng)域和合作伙伴。高通AI軟件棧旨在幫助開(kāi)發(fā)人員優(yōu)化和部署AI模型，它集成了我們自主的高通神經(jīng)網(wǎng)絡(luò )處理SDK、以及模型壓縮和量化工具——高通AI模型增效工具包(AIMET)。

綜上所述，憑借強大的硬件和軟件支持組合，高通的產(chǎn)品和技術(shù)已支持超過(guò)25億臺AI賦能終端的出貨。隨著(zhù)我們不斷縮小云端和終端側AI之間的差距，未來(lái)這一數字將繼續快速增長(cháng)。最后，非常歡迎大家來(lái)到ChinaJoy驍龍主題館E4參觀(guān)體驗。謝謝大家!