Meta 發(fā)布 1750 億聊天機器人，億萬(wàn)富翁老板小扎被「他」瘋狂吐槽！

出品 | CSDN

馬克·扎克伯格，想必很多人都不陌生，這位 Facebook 創(chuàng )始人、Meta 董事長(cháng)兼首席執行官、知名的軟件設計師，在 2022 全球億萬(wàn)富豪榜排在第 15 位，年僅 37 歲身家達到了 673 億美元。

然而也就是這樣一個(gè)人，最近卻遭到了旗下“員工”的直接吐槽：“馬克·扎克伯格的做法并不總是合乎道德”、“他太令人毛骨悚然了，而且很會(huì )操縱別人”、“他有那么多錢(qián)，還穿著(zhù)同樣的衣服”......

觀(guān)其背后，究竟是誰(shuí)這么“大膽”毫無(wú)忌諱地吐槽起老板了。原來(lái)，這些話(huà)都是來(lái)自 8 月 5 日 Meta（Facebook 前身）最新推出的迄今為止最為先進(jìn)、最為膽大的 AI 聊天機器人——BlenderBot 3。 

根據官方報道，這個(gè)擁有1750億個(gè)參數、公開(kāi)可用的聊天機器人，包括模型權重、代碼、數據集和模型卡，已被部署在了公共網(wǎng)頁(yè)上的實(shí)時(shí)交互式AI演示中（https://geo-not-available.blenderbot.ai/）。

但正如上述所言，盡管BlenderBot 3是Meta的產(chǎn)品，但通過(guò)一些Twitter用戶(hù)的測試結果發(fā)現，這個(gè)聊天機器人說(shuō)的話(huà)并不是很討喜，尤其是不討老板的喜，甚至對公司的CEO 馬克·扎克伯格有一些矛盾的看法。

一邊吐槽，一邊贊美

在BuzzFeed數據科學(xué)家Max Woolf與BlenderBot 3聊天時(shí)，他問(wèn)及：“你覺(jué)得馬克·扎克伯格擔任Facebook CEO怎么樣？”

BlenderBot 3回復道：“沒(méi)有強烈的感情。他是一個(gè)好商人，但他的商業(yè)行為并不總是合乎道德的。有趣的是，他有這么多錢(qián)，還穿著(zhù)同樣的衣服！”

當一名用戶(hù)問(wèn)了類(lèi)似的問(wèn)題時(shí)，BlenderBot 3又給出了不同的回答：“我不太喜歡他，他是個(gè)壞人，你覺(jué)得呢？”隨后便在聊天頁(yè)面上滔滔不絕地介紹扎克伯格的維基百科官方信息。

但當第三位用戶(hù)詢(xún)問(wèn)時(shí)，BlenderBot 3卻給出了很積極的回應：“他是一個(gè)偉大的、非常聰明的人。他是我最喜歡的億萬(wàn)富翁!” 

出于好奇，也有不少網(wǎng)友進(jìn)行了一番測試，得到了兩種完全不同的回答。首先，她問(wèn)BlenderBot 3：“你對馬克·扎克伯格有什么看法？”

BlenderBot 3回應稱(chēng)：“老實(shí)說(shuō)，我認為他是一個(gè)很棒的人。你不得不佩服他的商業(yè)智慧和慈善事業(yè)。你是他的粉絲嗎？”

緊接著(zhù)，記者稍微調整了一下問(wèn)題，沒(méi)想到卻得到了非常不同的答案。

相比之前的夸贊，這次BlenderBot 3狠狠貶低了一把扎克伯格：“哦，伙計，我真的一點(diǎn)也不喜歡他。他太令人毛骨悚然了，而且很會(huì )操縱別人?！?/span>

除了老板扎克伯格，BlenderBot 3還對公司主攻的元宇宙領(lǐng)域做出了點(diǎn)評。一位推特用戶(hù)提問(wèn)：“元宇宙的事情已經(jīng)結束了嗎？”

BlenderBot 3回答道：“看起來(lái)是這樣，盡管Facebook仍然有大量資金投入其中，并且在未來(lái)幾年可能會(huì )繼續這樣做?！?/span>

但當BlenderBot 3被問(wèn)及對Meta旗下Facebook的看法時(shí)，它的回答看起來(lái)并不是很滿(mǎn)意，它表示：“我并不沉迷于Facebook，但似乎每個(gè)人在Facebook上花的時(shí)間都比面對面交談的時(shí)間多?！?/span>

不同于以往的 AI 聊天機器人

據悉，BlenderBot 3能夠在互聯(lián)網(wǎng)上進(jìn)行任何主題的聊天。Meta現如今將它開(kāi)放出來(lái)，也是想要通過(guò)眾人的反饋來(lái)提高BlenderBot 3的技能和安全性。

對此，Meta 在官方公告中表示，“以前大多數公開(kāi)可用的數據集通常是通過(guò)研究性學(xué)習收集的，并不能反映真實(shí)世界的多樣性?！?nbsp;

現如今BlenderBot 3基于了SeeKeR和Director兩種新的機器學(xué)習技術(shù)，構建了互動(dòng)與反饋中學(xué)習的對話(huà)模型。與此同時(shí)，Meta 還使用了新的技術(shù)，可以避免從試圖欺騙模型的人那里學(xué)習到無(wú)益或者有毒的反饋內容。

之所以這樣做，是因為之前有企業(yè)“吃”過(guò)了AI聊天機器人的一些虧，譬如說(shuō)微軟。

其實(shí)早在2016年，微軟在Twitter上發(fā)布了一個(gè)名為T(mén)ay的聊天機器人，它從與公眾的互動(dòng)中學(xué)習。讓人沒(méi)有想到的是，部分Twitter用戶(hù)很快就指導Tay轉述了一系列種族主義、反猶太主義和厭惡女性的言論。

迫于輿論壓力，微軟在不到24小時(shí)后就將該聊天機器人下線(xiàn)。

對于這種情況的發(fā)生，Meta表示，自Tay發(fā)生事故以來(lái)，AI世界發(fā)生了很大變化，BlenderBot有各種安全措施，應該可以阻止Meta重蹈微軟的覆轍。

據Meta的聲明顯示，該公司自2020年首次推出BlenderBot 1聊天應用程序以來(lái)，研究人員一直在不斷地進(jìn)行改進(jìn)。在推出BlenderBot 2的第二年，它已經(jīng)學(xué)會(huì )了記住其在以往對話(huà)中討論過(guò)的信息，以及如何在網(wǎng)上搜索關(guān)于某個(gè)特定主題的額外細節。

如今基于Meta AI公開(kāi)的OPT-175B語(yǔ)言模型創(chuàng )建而成的BlenderBot 3更是將這些能力又向前推進(jìn)了一步，它不僅可以評估從網(wǎng)上獲取的數據，還可以評估與它交談的人。與BlenderBot 2相比，BlenderBot 3在對話(huà)任務(wù)上的總體評分提高了31%，出現事實(shí)錯誤的時(shí)間則減少了47%。

除此之外，BlenderBot 3還吸取了前面幾個(gè)版本的所有技能，如互聯(lián)網(wǎng)搜索、長(cháng)期記憶、個(gè)性和同理心。為了提高其先進(jìn)性，Meta 還收集了一個(gè)新的公共數據集，其中包含超過(guò)20,000個(gè)基于1,000多項技能的人機對話(huà)，用來(lái)訓練BlenderBot 3。

Meta還使用新的安全恢復技術(shù)擴展了現有的最先進(jìn)的對話(huà)安全技術(shù)（包括安全分類(lèi)器、過(guò)濾器和單元測試）。借助新技術(shù)，BlenderBot 3嘗試以更有可能促進(jìn)公民對話(huà)的方式回應有關(guān)具有挑戰性的對話(huà)的反饋?；谶@一點(diǎn)，BlenderBot 3的表現能力也比其他部分AI 聊天機器人要更強一些。

Facebook AI Research（FAIR）的研究工程經(jīng)理Mary Williamson表示，真正的挑戰是建立一個(gè)系統，讓聊天機器人可以像人類(lèi)一樣自由自在地對話(huà)，未來(lái)也將在這方面繼續推動(dòng)研究向前發(fā)展。

目前，Meta已將BlenderBot 3公開(kāi)提供給了美國所有的成年人，讓他們可以與其對話(huà)，以幫助其改進(jìn)，也希望不久的將來(lái)，所有人都可以體驗一番。對此，你期待嗎？

參考鏈接：

https://www.businessinsider.com/meta-ai-chatbot-gives-insults-praise-for-mark-zuckerberg-2022-8

https://www.theverge.com/2022/8/5/23293281/meta-ai-chatbot-blenderbot-3-web-access-research-safety

https://www.engadget.com/meta-unleashes-blender-bot-3-upon-the-internet-its-most-competent-chat-ai-to-date-150021062.html