英特爾與星環(huán)科技再攜手，打造大語(yǔ)言模型訓練新“利器”

近日，英特爾與星環(huán)科技在2023中國國際進(jìn)口博覽會(huì )上，聯(lián)合發(fā)布了AIGC向量數據庫解決方案，旨在支持多樣化機器學(xué)習模型生成的海量向量數據，滿(mǎn)足企業(yè)針對海量向量數據的高實(shí)時(shí)性查詢(xún)、檢索、召回等需求，為人工智能時(shí)代多元化應用場(chǎng)景提供有力支持，為企業(yè)業(yè)務(wù)加速發(fā)展提供助力。

隨著(zhù)大語(yǔ)言模型的發(fā)展，生成式AI開(kāi)始逐漸應用于千行百業(yè)，企業(yè)對大語(yǔ)言模型解決方案的時(shí)效性、準確度等方面的要求逐漸提高。而當整個(gè)大模型的參數在百億級別的時(shí)候，它具備了初步的自然語(yǔ)言理解能力。但如果希望大模型能夠去做一些文本輸出、編碼輸出，它的整個(gè)參數量級至少要到300-500億，但是即使到達這樣的量級，其準確率也只有50%左右。如果希望整個(gè)大模型具備比較好的準確度，它的良好推理能力、計算能力，具備比較好的邏輯思維能力的話(huà)，整個(gè)大模型的參數量要到5千億的量級。

除此之外，當將大模型應用于垂直、專(zhuān)業(yè)領(lǐng)域的時(shí)候，其缺乏專(zhuān)業(yè)的大模型的行業(yè)數據、提供的信息具備不確定性等問(wèn)題均亟待解決。因此，當采用文本嵌入的方式，把最新的信息、行業(yè)的信息，全部向量化之后存到數據庫里面，則不僅能夠為緩解大模型壓力，還可以提供更具時(shí)效性的信息?；诖?，星環(huán)科技推出基于第四代英特爾至強可擴展處理器的Transwarp Hippo分布式向量數據庫解決方案。得益于第四代英特爾?至強?可擴展處理器的高內存帶寬優(yōu)勢和多核性能優(yōu)勢，該數據庫解決方案的靈活性得到顯著(zhù)增強；而VNNI指令集也進(jìn)一步提升了向量計算的性能。從測試結果可以看到，Transwarp Hippo分布式向量數據庫解決方案整體性能得到了20%-30%左右的提升。

憑借高可用、高性能、易拓展等特性，Transwarp Hippo在大模型場(chǎng)景中，可以極大地拓展大模型的應用邊界，讓大模型保持信息實(shí)時(shí)性，并能夠動(dòng)態(tài)調整，使大模型擁有“長(cháng)期記憶”，解決“AI幻覺(jué)”的問(wèn)題。

英特爾中國軟件技術(shù)合作事業(yè)部總經(jīng)理唐炯指出，人工智能技術(shù)的高速發(fā)展，不僅為全球數字經(jīng)濟注入全新動(dòng)力，也為企業(yè)在多樣化業(yè)務(wù)場(chǎng)景中帶來(lái)更多全新挑戰。深耕人工智能領(lǐng)域多年，英特爾致力于以前瞻性視角，攜手生態(tài)伙伴一道，通過(guò)產(chǎn)品技術(shù)創(chuàng )新，打造滿(mǎn)足不同業(yè)務(wù)需求的解決方案，加速大模型應用落地。