高通攜手Meta利用Llama 2賦能終端側AI應用

·       高通計劃從2024年起，在旗艦智能手機和PC上支持基于Llama 2的AI部署，賦能開(kāi)發(fā)者使用驍龍平臺的AI能力，推出激動(dòng)人心的全新生成式AI應用。

·       與僅僅使用云端AI部署和服務(wù)相比，終端側AI部署能夠助力開(kāi)發(fā)者以顯著(zhù)降低的成本，提升用戶(hù)隱私保護、滿(mǎn)足用戶(hù)安全偏好、增強應用可靠性，并實(shí)現個(gè)性化。

2023年7月18日，圣迭戈——高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語(yǔ)言模型直接在終端側的執行，無(wú)需僅依賴(lài)云服務(wù)。能夠在智能手機、PC、VR/AR頭顯和汽車(chē)等終端上運行Llama 2一類(lèi)的生成式AI模型，將支持開(kāi)發(fā)者節省云成本，并為用戶(hù)提供更加私密、可靠和個(gè)性化的體驗。

因此，高通技術(shù)公司計劃支持基于Llama 2的終端側AI部署，以賦能打造激動(dòng)人心的全新AI應用。這將支持客戶(hù)、合作伙伴和開(kāi)發(fā)者構建智能虛擬助手、生產(chǎn)力應用、內容創(chuàng )作工具和娛樂(lè )等用例。這些由驍龍^?賦能的全新終端側AI體驗，可在沒(méi)有網(wǎng)絡(luò )連接的區域、甚至是飛行模式下工作。

高通技術(shù)公司高級副總裁兼技術(shù)、規劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：“我們十分贊賞Meta對于AI技術(shù)采取的開(kāi)放且負責的策略。高通技術(shù)公司致力于推動(dòng)創(chuàng )新，通過(guò)將生成式AI引入終端側，將為各種規模的開(kāi)發(fā)者降低開(kāi)發(fā)門(mén)檻。為了將生成式AI有效地規?；瘮U展至主流市場(chǎng)，AI需要同時(shí)在云端和邊緣終端上運行，比如智能手機、筆記本電腦、汽車(chē)和物聯(lián)網(wǎng)終端?！?/span>

Meta和高通技術(shù)公司長(cháng)期合作，共同推動(dòng)技術(shù)創(chuàng )新，打造下一代頂級終端體驗。雙方目前在支持Llama生態(tài)系統方面的合作，覆蓋了研究和產(chǎn)品工程技術(shù)工作。憑借終端側AI的領(lǐng)導力，高通技術(shù)公司在支持Llama生態(tài)系統方面具備獨特優(yōu)勢。公司擁有領(lǐng)先的邊緣側布局，其行業(yè)領(lǐng)先的AI硬件和軟件解決方案賦能了數十億智能手機、汽車(chē)、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等終端，為生成式AI的規?；瘮U展提供了廣闊機遇。

高通技術(shù)公司計劃從2024年起，在搭載驍龍平臺的終端上支持基于Llama 2的AI部署?，F在開(kāi)發(fā)者可以開(kāi)始使用高通AI軟件棧面向終端側AI進(jìn)行應用優(yōu)化。高通AI軟件棧是一套支持在驍龍平臺上更高效處理AI的專(zhuān)用工具，讓輕薄的小型終端也能支持終端側AI。欲了解更多信息更新，請訂閱我們的月度開(kāi)發(fā)者簡(jiǎn)訊。