手把手教你用聆思CSK6開(kāi)發(fā)板接入ChatGPT

多模態(tài)交互離不開(kāi)硬件載體，近期有不少開(kāi)發(fā)者在研究聆思CSK6大模型開(kāi)發(fā)板除了使用出廠(chǎng)示例自帶的星火大模型，能不能接入ChatGPT、文心一言、通義千問(wèn)、豆包、智譜glm、kimi等大模型，這個(gè)是必須支持的。但由于各家接口和數據格式不一樣，有些朋友直接參考星火大模型接入的方式?jīng)]有走通，因此本篇以聆思CSK6大模型開(kāi)發(fā)板接入ChatGPT為例，分享具體的接入步驟，大家按照文檔步驟操作即可。

由上圖可見(jiàn)，當前SDK方案是把開(kāi)發(fā)套件當做輸入端，文字或圖片內容先上傳到聆思的大模型平臺（LSPlatform），然后平臺再根據匹配的應用策略轉給后端的大模型處理?；隈鏊即竽Ｐ推脚_提供的應用編排功能，我們如果要使用其他大模型，只需要從云端更改大模型接入節點(diǎn)，而無(wú)需去修改硬件端。

● 鏈路1: 可通過(guò)inject節點(diǎn)調用ChatGPT節點(diǎn)，并將結果輸出到output1。

● 鏈路2: 可通過(guò)web對話(huà)頁(yè)調用ChatGPT節點(diǎn)，最終將大模型結果輸出到對話(huà)頁(yè)面上。

● 鏈路3: 可通過(guò)開(kāi)發(fā)板調用ChatGPT節點(diǎn)，最終將大模型輸出的結果進(jìn)行語(yǔ)音合成實(shí)現端側播報。

登陸LSPlatform，創(chuàng )建新應用。

創(chuàng )建成功后在彈出的界面進(jìn)入應用編排服務(wù)。

● 下載工程示例：ChatGpt.json

● 導入工程示例：將ChatGpt.json文件進(jìn)行導入

若提示“您要導入的某些節點(diǎn)已經(jīng)存在于工作空間中?！?，則選擇“導入副本”即可。

配置參數說(shuō)明：

● API-KEY：調用openai的APIKEY

● Host：國內通常無(wú)法直接openai的接口，可通過(guò)代理服務(wù)的HOST訪(fǎng)問(wèn)openai的接口

● Model：提供GPT3.5/GPT4.0可選擇，可自行添加更多模型選項。

● Stream：是否流式返回

chatGPT子流程節點(diǎn)默認封裝了訪(fǎng)問(wèn)openai的/v1/chat/completions接口，若需要調用openai其他接口則需要修改子流程節點(diǎn)代碼。

在完成參數配置，進(jìn)入完整體驗之前，我們可以簡(jiǎn)單測試驗證，驗證是否成功調用ChatGpt。

重啟應用后，再次點(diǎn)開(kāi)【編排應用】，點(diǎn)擊注入，會(huì )觸發(fā)一次ChatGpt子流程調用，標記2的紅框中輸出類(lèi)似日志即代表成功建立鏈接。

回到【我的應用】，雙擊ChatGpt應用，在彈出的應用詳情頁(yè)面點(diǎn)擊右上角分享按鈕打開(kāi)web驗證配置，該配置頁(yè)包含測試地址和訪(fǎng)問(wèn)密碼。

云端接入ChatGpt成功后，要想在聆思CSK6大模型開(kāi)發(fā)板上進(jìn)行語(yǔ)音交互，需要把對接了ChatGpt的云端服務(wù)跟指定開(kāi)發(fā)板綁定。

在產(chǎn)品管理模塊點(diǎn)擊新建產(chǎn)品按鈕，并按要求填寫(xiě)你的產(chǎn)品名稱(chēng)。

配置你需要調用的大模型應用，完成配置后，用戶(hù)即可體驗ChatGpt與開(kāi)發(fā)板交互。在此我們僅需在配置應用勾對文章第一步創(chuàng )建的應用即可。

讀取設備id

設備ID是一個(gè)產(chǎn)品下的唯一設備標識，我們需要獲取當前設備ID方便后續在云端配置，才能讓設備鑒權通過(guò)實(shí)現端云交互。

讀取方式：

cskburn desktop是一款聆思推出的桌面燒錄工具，下載地址（cskburn桌面燒錄工具 | 聆思文檔中心）打開(kāi)軟件后

1.點(diǎn)擊串口下拉框，選擇連接開(kāi)發(fā)套件后識別到的串口編號；

2.點(diǎn)擊獲取信息

3.得到設備ID

加入設備列表

聆思平臺只會(huì )對列表中的設備鑒權提供交互服務(wù)，因此需要將前面讀取到的設備ID在設備管理頁(yè)面進(jìn)行導入才能實(shí)現設備正常交互。

完成云端配置后，僅需將產(chǎn)品ID寫(xiě)入設備，才能讓設備找到對應的產(chǎn)品完成鑒權服務(wù)。

寫(xiě)入方式：

使用數據線(xiàn)連接開(kāi)發(fā)板 DAP_USB 接口后，打開(kāi)聆思在線(xiàn)串口終端,選擇對應的串口設 備進(jìn)行連接，波特率默認115200，完成配置后點(diǎn)擊連接按鈕。

通過(guò) aiui set product_id 和aiui set secret_id指令可以分別配置開(kāi)發(fā)板接入的大模型應用 product ID 及其密鑰，示例如下：

aiui set product_id 71cd1721-xxx-xxx-xxx-1000055c8b2f

aiui set secret_id cb09013f-xxx-xxx-xxx-e212b32f9218

product_id和 product_secret 可在對應產(chǎn)品的產(chǎn)品信息中獲取，請將指令中的參數替換為產(chǎn)品信息中的 id 與 secret 信息。

● 語(yǔ)音交互

用小美小美喚醒，并提問(wèn)你是誰(shuí)，語(yǔ)音回復它是人工智能助手并且詢(xún)問(wèn)問(wèn)題時(shí)，它給予回復即可驗證成功。至此，可以確認ChatGpt接入成功。本文使用的聆思CSK6大模型開(kāi)發(fā)板的詳細信息可參考線(xiàn)上文檔。https://docs2.listenai.com/x/nTn9kMMCU