NVIDIA力助桃園機捷 打造互動(dòng)語(yǔ)音AI實(shí)踐無(wú)人客服智能車(chē)站

    桃園大眾捷運股份有限公司（桃捷公司）為在車(chē)站實(shí)現以科技取代真人、提供更優(yōu)質(zhì)的服務(wù)和增強旅客體驗，率先在機場(chǎng)捷運系統的A18高鐵桃園站和A20興南站導入虛擬智能站務(wù)人員「霏霏」。桃捷公司透過(guò)與臺灣在地開(kāi)發(fā)商喬泰科技合作，采用NVIDIA（輝達）的人工智能（AI）軟、硬件平臺和開(kāi)發(fā)環(huán)境，并結合NVIDIA的技術(shù)諮詢(xún)服務(wù)NVIDIA AI Enterprise打造了「霏霏」AI語(yǔ)音客服系統。

桃園捷運站務(wù)中心主任謝明融表示：「當這個(gè)計劃構想成形以后，最重要的就是如何找到能達成我們想要效果的合作夥伴與技術(shù)，在公開(kāi)徵選時(shí)喬泰科技提出了以NVIDIA為核心的整體運用技術(shù)，在經(jīng)過(guò)了評選之后成為我們的夥伴，歷經(jīng)了多次的討論與修正，終于讓虛擬站務(wù)人員「霏霏」呈現在大家的面前，成為我們桃園捷運旅客服務(wù)的重要里程碑?！?/p>

喬泰技術(shù)長(cháng)黃祥麟表示：「我們在向桃園捷運提案時(shí)即提出NVIDIA的平臺是實(shí)現這套需要同步整合AI、邊緣運算、云端運算與虛擬分身的首選。歸功于NVIDIA多元完善的軟、硬件資源與開(kāi)發(fā)環(huán)境，團隊得以針對 AI與系統整合進(jìn)行優(yōu)化，實(shí)現這套臺灣首創(chuàng )的落地元宇宙應用?！?/p>

霏霏能如真人般與旅客進(jìn)行實(shí)時(shí)互動(dòng)，自動(dòng)實(shí)時(shí)識別中、英、日、韓四國語(yǔ)言的提問(wèn)，正確回答旅客站務(wù)、票據、乘車(chē)信息及周邊旅游景點(diǎn)等相關(guān)諮詢(xún)。當受到嚴重噪音干擾或遇到無(wú)法解決的問(wèn)題，霏霏在第一時(shí)間也能轉由真人客服提供服務(wù)，并同步將先前客服對話(huà)過(guò)程轉為文字敘述，便于真人客服快速厘清旅客問(wèn)題。

霏霏不僅是臺灣第一套基于完整AI互動(dòng)語(yǔ)音與虛擬分身（Avatar）的客服系統，也是首度將AI語(yǔ)音技術(shù)與真人后臺結合的客服系統。為桃園機場(chǎng)捷運系統注入科技、年輕化、國際化，以及既簡(jiǎn)易便利又高效率的新氣象。該服務(wù)建立在相比點(diǎn)選屏幕更為直覺(jué)的AI自然語(yǔ)音互動(dòng)基礎上，而站務(wù)人力資源則能更加妥善分配至其他站務(wù)所應用。

霏霏背后的技術(shù)架構是采用分散式運算方式，將不同延遲需求的工作流適時(shí)分配給邊緣運算與云端運算處理；邊緣運算使用的是NVIDIA GeForce RTX 3090硬件系統，而云端運算則串接到Google Kubernetes （K8S） 平臺，并結合NVIDIA Triton推論服務(wù)器將霏霏邊緣系統所接收到的AI運算需求分流至邊緣系統與K8S平臺。實(shí)際執行模式包括幾個(gè)重要程序：語(yǔ)言的輸入、語(yǔ)言的文字轉換、AI語(yǔ)意理解與找尋問(wèn)題的答案、結合虛擬分身與合成語(yǔ)音的解答。

霏霏是在人流量極大、環(huán)境噪音復雜的交通要點(diǎn)，需利用最新型降躁麥克風(fēng)接收語(yǔ)音，并借助NVIDIA Maxine SDK進(jìn)行輸入語(yǔ)音降噪，使語(yǔ)音數據在進(jìn)行文字轉化前更為乾凈、易于識別，再把數據傳遞到基于 AI 的語(yǔ)音與語(yǔ)言模型神經(jīng)網(wǎng)絡(luò )模塊進(jìn)行語(yǔ)言理解，最后把輸出的回答結合Unreal Engine進(jìn)行角色渲染與輸出。

多項NVIDIA重要的自然語(yǔ)言技術(shù)是打造霏霏的核心，包括NVIDIA Riva語(yǔ)音人工智能SDK協(xié)助將旅客的談話(huà)識別并轉化為文字、NVIDIA NeMo大型語(yǔ)言模型（LLM）模型服務(wù) 做為霏霏提供自然應答的AI語(yǔ)言模型，利用NVIDIA Triton推論服務(wù)器進(jìn)行部署。為實(shí)現流暢的AI自然語(yǔ)言互動(dòng)，以搭載8張V100 GPU的系統執行NVIDIA NeMo Framework進(jìn)行AI語(yǔ)言模型訓練，將基礎模型與站務(wù)、票據與觀(guān)光信息等相關(guān)的數據投入訓練。

霏霏率先證實(shí)以AI打造智能車(chē)站客服平臺系統的真實(shí)可行性，霏霏是一個(gè)極佳的車(chē)站AI化的開(kāi)始，未來(lái)如霏霏這樣結合自然語(yǔ)言與虛擬分身的智能服務(wù)系統也將陸續擴大至更多的大眾運輸系統，以提升大眾運輸系統的服務(wù)品質(zhì)。結合AI運算的高效能GPU技術(shù)，同時(shí)針對各類(lèi)AI應用率先提供開(kāi)發(fā)者友善工具且不斷精進(jìn)的NVIDIA軟硬件技術(shù)與平臺，勢必將是引領(lǐng)此類(lèi)智能客服與虛擬分身應用的關(guān)鍵所在。