MediaTek運用MetaLlama 2大語(yǔ)言模型，賦能終端設備生成式AI應用

2023年8月24日– MediaTek今日宣布利用Meta新一代開(kāi)源大語(yǔ)言模型（LLM）Llama2以及MediaTek先進(jìn)的AI處理器（APU）和完整的AI開(kāi)發(fā)平臺（NeuroPilot），建立完整的終端側AI計算生態(tài)，加速智能手機、物聯(lián)網(wǎng)、汽車(chē)、智能家居和其他邊緣設備的AI應用開(kāi)發(fā)，為終端設備提供更安全、可靠和差異化的使用體驗。預計年末采用MediaTek新一代天璣旗艦移動(dòng)芯片的智能手機支持由Llama2模型開(kāi)發(fā)的AI應用，可為用戶(hù)帶來(lái)振奮人心的生成式AI應用體驗。

MediaTek資深副總經(jīng)理暨無(wú)線(xiàn)通信事業(yè)部總經(jīng)理徐敬全博士表示：“生成式AI的日益普及是數字化轉型的重要趨勢之一，我們的愿景是為L(cháng)lama2的開(kāi)發(fā)者和終端用戶(hù)提供工具，帶來(lái)更多令人興奮的AI創(chuàng )新機遇和產(chǎn)品體驗。通過(guò)與Meta的伙伴關(guān)系，MediaTek可提供更強大的硬件和軟件整體解決方案，為終端設備帶來(lái)遠超以往的功能和體驗?！?/p>

目前，大多數生成式AI都依賴(lài)云計算，MediaTek基于Llama2模型成功實(shí)現直接在終端設備上運行生成式AI應用。這將為開(kāi)發(fā)者和用戶(hù)提供獨特優(yōu)勢，包括無(wú)縫的使用體驗，更強的用戶(hù)信息安全和可靠性，更低延遲，離線(xiàn)運算的能力以及更低的運營(yíng)成本，讓每個(gè)人都能享受到生成式AI帶來(lái)的便捷與創(chuàng )新。

要在終端設備上充分釋放生成式AI的潛力，設備制造商需采用高算力、低功耗的AI處理器（APU），并通過(guò)更快、更可靠的網(wǎng)絡(luò )連接來(lái)增強設備的整體算力。如今，每一顆MediaTek5G智能手機SoC均搭載AI處理器，已廣泛執行生成式AI應用成功案例，例如AI降噪（AI-NR）、AI超級分辨率（AI-SR）以及AI運動(dòng)補償（AI-MEMC）等。

MediaTek將于年末推出新一代旗艦移動(dòng)芯片，將采用針對Llama2模型而優(yōu)化的軟件棧（NeuroPilot），與搭配支持Transformer模型做骨干網(wǎng)絡(luò )加速的升級版AI處理器（APU），可減少動(dòng)態(tài)隨機存取內存（DRAM）的讀寫(xiě)消耗和帶寬占用，進(jìn)一步強化大語(yǔ)言模型和生成式AI應用的性能，助力開(kāi)發(fā)者打造令人驚艷的AI應用，加速終端設備AI應用落地發(fā)展。