肯睿Cloudera攜手NVIDIA，進(jìn)一步擴展NVIDIA微服務(wù)的生成式AI功能

近日，可信的企業(yè)人工智能數據公司肯睿Cloudera宣布進(jìn)一步擴大其與NVIDIA的合作。Cloudera Powered by NVIDIA將把NVIDIA AI Enterprise軟件平臺中的企業(yè)級NVIDIA NIM微服務(wù)集成到Cloudera Data Platform上的AI/ML工作流程服務(wù)Cloudera Machine Learning中，為客戶(hù)提供快速、安全和精簡(jiǎn)化的生產(chǎn)級端到端生成式AI工作流程。

結合專(zhuān)為大語(yǔ)言模型（LLM）優(yōu)化的綜合全棧平臺后，企業(yè)數據在推動(dòng)企業(yè)生成式AI應用從試點(diǎn)到生產(chǎn)的過(guò)程中，發(fā)揮了至關(guān)重要的作用。借助NVIDIA NIM和NeMo Retriever微服務(wù)，開(kāi)發(fā)人員能夠將AI模型與他們的業(yè)務(wù)數據（包括文本、圖像和各種可視化圖，如條形圖、折線(xiàn)圖和餅圖等）相關(guān)聯(lián)，生成高度準確且符合上下文語(yǔ)境的回答。NVIDIA AI Enterprise提供專(zhuān)為構建、自定義和部署企業(yè)級LLM而優(yōu)化的運行時(shí)，使用上述微服務(wù)的開(kāi)發(fā)人員可以通過(guò)它部署應用。Cloudera Machine Learning充分利用NVIDIA微服務(wù)，將高性能AI工作流程、AI平臺軟件和加速計算應用于數據，使客戶(hù)能夠從他們委托Cloudera管理的企業(yè)數據中挖掘出價(jià)值。

肯睿Cloudera 將推出多項集成NVIDIA微服務(wù)的功能。Cloudera Machine Learning 將通過(guò)集成NVIDIA微服務(wù)支持的模型和應用服務(wù)，提升所有工作負載的模型推理性能。借助這項全新的AI模型服務(wù)功能，客戶(hù)部署在公有云和私有云上的模型都能實(shí)現容錯、低延遲服務(wù)和自動(dòng)擴展。此外，Cloudera Machine Learning 還將提供集成式 NVIDIA NeMo Retriever 微服務(wù)，簡(jiǎn)化自定義 LLM 與企業(yè)數據的連接。用戶(hù)可通過(guò)這項功能構建基于檢索增強生成（RAG）的生產(chǎn)級應用。

Cloudera此前曾與NVIDIA合作，通過(guò)將NVIDIA RAPIDS Accelerator for Apache Spark集成到Cloudera Data Platform，利用GPU優(yōu)化數據處理?，F在，隨著(zhù)NVIDIA微服務(wù)計劃的加入以及與NVIDIA AI Enterprise 的集成，Cloudera Data Platform 將成為可提供精簡(jiǎn)化端到端混合 AI 管道的平臺。

未來(lái)，各個(gè)行業(yè)的企業(yè)都將能夠更加快速、直觀(guān)地構建、自定義和部署支持變革性生成式AI的 LLM，包括加快開(kāi)發(fā)時(shí)間的編碼協(xié)作機器人、自動(dòng)執行客戶(hù)互動(dòng)和服務(wù)的聊天機器人、快速處理文檔的文本摘要應用、精簡(jiǎn)化的上下文搜索等各種應用。這些創(chuàng )新技術(shù)使整個(gè)企業(yè)的數據和高級AI流程變得更加簡(jiǎn)單和快捷，最大程度地縮短了實(shí)現業(yè)務(wù)價(jià)值的時(shí)間，增加了收入來(lái)源并優(yōu)化了成本。

肯睿Cloudera AI/ML產(chǎn)品副總裁Priyank Patel表示：“Cloudera正在通過(guò)集成NVIDIA NIM和CUDA-X微服務(wù)，為Cloudera Machine Learning提供助力，幫助客戶(hù)將AI熱潮轉化為實(shí)實(shí)在在的業(yè)務(wù)成果。除了為客戶(hù)提供強大的生成式AI功能和性能外，此次集成的成果還將助力企業(yè)做出更加準確且及時(shí)的決策，同時(shí)減少預測中的不準確性、幻覺(jué)和錯誤。這些都是適應當今數據環(huán)境的關(guān)鍵因素?！?/p>

NVIDIA企業(yè)產(chǎn)品副總裁 Justin Boitano 表示：“企業(yè)迫切希望將其海量數據運用于生成式AI，創(chuàng )造出定制化的輔助系統和生產(chǎn)力工具。通過(guò)將NVIDIA NIM微服務(wù)集成到Cloudera Data Platform，開(kāi)發(fā)人員能夠更加輕松且靈活地部署推動(dòng)業(yè)務(wù)轉型的LLM?！?/p>

Cloudera將在A(yíng)I時(shí)代的開(kāi)發(fā)者峰會(huì )NVIDIA GTC上展示全新的AI功能。本屆GTC于3月18日至21日在加利福尼亞州圣何塞市的圣何塞麥克內里會(huì )展中心舉行，參加者包括影響AI和加速計算領(lǐng)域下一步發(fā)展方向的企業(yè)與創(chuàng )新者。