智譜清言英特爾酷睿Ultra專(zhuān)享版發(fā)布，離線(xiàn)模型玩轉AIPC

近日，國內領(lǐng)先的大模型廠(chǎng)商智譜在智譜清言的官網(wǎng)發(fā)布了智譜清言英特爾酷睿Ultra專(zhuān)享版，這個(gè)版本可以利用英特爾酷睿Ultra處理器提供的澎湃的AI算力，在不聯(lián)網(wǎng)的情況下就可在PC本地運行智譜的端側模型，為廣大用戶(hù)提供高隱私、重安全的、在弱網(wǎng)或斷網(wǎng)情況下依然可以使用的AI助手。

智譜清言是擁有海量用戶(hù)的端側應用，涵蓋了移動(dòng)及PC端，是基于云端大模型的人工智能助手，并有很多附加功能，深受用戶(hù)喜愛(ài)。在PC上使用時(shí)，有些用戶(hù)會(huì )有一些個(gè)人或者組織的隱私數據或者有一定安全要求的數據希望在本地處理，避免相關(guān)數據的泄密風(fēng)險，同時(shí)在某些弱網(wǎng)或斷網(wǎng)情況下，很多用戶(hù)也有在PC上使用大模型的AI助手的需求。

英特爾自2023年12月發(fā)布了命名為酷睿Ultra第一代AI PC處理器，為在PC端側運行AI應用提供了優(yōu)秀平臺。在這一代的處理器中，創(chuàng )新的增加了專(zhuān)門(mén)的AI處理單元：NPU，也就是神經(jīng)網(wǎng)絡(luò )處理單元。同時(shí)第一代的酷睿Ultra處理器又大幅度的提升了內建顯卡的算力，為圖形計算和AI運算提供了澎湃的算力。加上傳統的CPU，在這一代的酷睿Ultra處理器上就通過(guò)CPU+NPU+iGPU (內建圖形處理單元)為不同的AI負載提供了合適的算力引擎。其中CPU適合一些對延遲性要求較高的AI應用，而一些持續性的、低負載的AI應用適合運行在NPU上，iGPU更適合運行一些大吞吐量的AI運算。

結合英特爾酷睿Ultra的強大AI算力，智譜結合自己在云和端側豐富的模型和應用開(kāi)發(fā)經(jīng)驗，很早就與英特爾的工程技術(shù)人員開(kāi)始了聯(lián)合開(kāi)發(fā)。雙方團隊緊密溝通，充分發(fā)揮雙方在軟、硬件上優(yōu)勢，在本地模型的選擇上確保了模型參數與準確性的平衡，同時(shí)采用了合理的量化技術(shù)確保了合理的模型文件尺寸，另外在性能調優(yōu)上選取了優(yōu)秀的工具鏈確保了本地模型運行高效的運行在處理器之中的AI引擎上。

這個(gè)版本會(huì )自動(dòng)檢測PC平臺的配置，在滿(mǎn)足條件的英特爾酷睿Ultra PC上會(huì )自動(dòng)下載合適的端側模型，通過(guò)這個(gè)端側模型，用戶(hù)可以利用英特爾酷睿Ultra的本地AI算力，為用戶(hù)提供端側的個(gè)人助手，包括知識問(wèn)答、文檔撰寫(xiě)、創(chuàng )意生成等工作。比如：可以將若干篇存在PC本地的文檔通過(guò)在RAG（Retrieval-augmented Generation，檢索增強生成）形成專(zhuān)有的知識庫，并通過(guò)自然語(yǔ)言查詢(xún)，而輸出的內容既包含了來(lái)自本地文檔的專(zhuān)業(yè)信息，同時(shí)輸出內容也更加自然并有邏輯。另外，智譜清言的英特爾酷睿Ultra專(zhuān)享版還可以完成本地長(cháng)文檔的摘要等工作，極大的提升了生產(chǎn)效率，形成了用戶(hù)身邊的、隨時(shí)隨地的“AI助手”。

隨著(zhù)英特爾不斷推出酷睿Ultra處理器新品，相關(guān)的AI算力也在不斷提升。英特爾將持續攜手包括智譜在內的國內領(lǐng)先的AI應用廠(chǎng)商推出更多的適合國內用戶(hù)的AI PC應用，豐富AI PC生態(tài)圈。