復旦MOSS大模型揭開(kāi)面紗

復旦大學(xué)自然語(yǔ)言處理實(shí)驗室開(kāi)發(fā)的新版MOSS模型今日正式上線(xiàn)，成為國內首個(gè)插件增強的開(kāi)源對話(huà)語(yǔ)言模型。

目前，MOSS模型已上線(xiàn)開(kāi)源，相關(guān)代碼、數據、模型參數在Github和Hugging Face等平臺開(kāi)放，供科研人員下載。

復旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授MOSS系統負責人邱錫鵬表示：“這是國內第一個(gè)插件版對話(huà)語(yǔ)言模型，能使用搜索引擎、圖像生成模型、方程求解器等外部工具，為用戶(hù)提供越來(lái)越多的服務(wù)。GPT-4也能接入各種插件，這種能力在大模型落地應用過(guò)程中會(huì )很有價(jià)值?！?/span>

而《科創(chuàng )板日報》記者拿到內測碼，對MOSS模型進(jìn)行了測試。

“介紹一下科創(chuàng )板日報?！陛斎脒@個(gè)指令后，模型界面給出了如下回答：

在MOSS界面，用戶(hù)可自主添加搜索引擎、圖像生成、方程求解器、計算器等外部插件工具。

記者加入了搜索引擎的插件，然后提問(wèn)：特斯拉在國內過(guò)去五個(gè)月、過(guò)去一年的銷(xiāo)量是多少？

MOSS顯示了回答，并在回答內容的下方，給出了所引用的英文參考資料。不過(guò)，和此前文心一言的測試一樣，所能提供的數據也較為陳舊。

寫(xiě)工作總結是常見(jiàn)的問(wèn)題。記者此前也提問(wèn)了文心一言。

MOSS對這個(gè)較為寬泛的問(wèn)題，進(jìn)行了追問(wèn)：要求給出工作總結的具體性質(zhì)等。在記者設定條件后，得到了一份市場(chǎng)營(yíng)銷(xiāo)相關(guān)的工作總結。

記者還讓其生成針對AI醫療公司的中秋節文案：

寫(xiě)一份贊美母親的信：

在數理邏輯推算能力方面，記者先嘗試問(wèn)了一道簡(jiǎn)單的加法題。

接著(zhù)，記者增加難度，提問(wèn)經(jīng)典的雞兔同籠問(wèn)題。通過(guò)使用方程求解器，MOSS給出了正確的答案。

《科創(chuàng )板日報》記者又提問(wèn)小升初的數學(xué)題：

某次數學(xué)競賽共20道題，評分標準是:每做對一題得5分,每做錯或不做一題扣1分。小華參加了這次競賽，得了64分。問(wèn)：小華做對幾道題?

正確答案應該是14題，在這方面國內的模型均表現不佳。此前文心一言回答的是16道題，通義千問(wèn)則得出了43道題。而MOSS的答案是15題。

通過(guò)調用相關(guān)插件，MOSS也擁有了AI繪畫(huà)的本領(lǐng)?！犊苿?chuàng )板日報》記者提出“請幫我一幅大海的畫(huà)”，它自主調用text2image插件，生成了一幅對應內容的畫(huà)。

記者增加了對圖畫(huà)內容的描述，要求生成一張中國女孩躺在草地上的照片，

據介紹，MOSS是一個(gè)支持中英雙語(yǔ)和多種插件的開(kāi)源對話(huà)語(yǔ)言模型，moss-moon系列模型具有160億參數，在FP16精度下可在單張A100/A800或兩張3090顯卡運行，在INT4/8精度下可在單張3090顯卡運行。

邱錫鵬表示，未來(lái)，MOSS將陸續開(kāi)源更多訓練數據及模型參數，同時(shí)也為企業(yè)私有化部署人工智能模型、開(kāi)展相關(guān)服務(wù)提供解決方案。