Yann LeCun：不在乎社會(huì )規范，ChatGPT離真正的人還差得遠

2022年底OpenAI推出ChatGPT，其爆火程度一直持續到今天，這個(gè)模型簡(jiǎn)直就是行走的流量，所到之處必將引起一番討論狂潮。

各大科技公司、機構、甚至是個(gè)人，紛紛加緊研發(fā)類(lèi)ChatGPT產(chǎn)品。與此同時(shí)，微軟將ChatGPT接入必應，幾乎前后腳，谷歌發(fā)布Bard為搜索引擎提供動(dòng)力。英偉達 CEO 黃仁勛對ChatGPT給與了一個(gè)很高的評價(jià)，他表示，ChatGPT 是人工智能領(lǐng)域的 iPhone 時(shí)刻，也是計算領(lǐng)域有史以來(lái)最偉大的技術(shù)之一。

很多人對對話(huà)式AI已經(jīng)到來(lái)深信不疑，但這類(lèi)模型真的完美無(wú)缺嗎？不見(jiàn)得，在它們身上總會(huì )出現一些荒誕的時(shí)刻（uncanny moments），例如隨意發(fā)表不受約束的言論，或者喋喋不休地說(shuō)出接管世界的計劃等。

為了理解對話(huà)式AI這些荒誕時(shí)刻，由深度學(xué)習三巨頭之一的Yann LeCun以及紐約大學(xué)計算機科學(xué)系博士后Jacob Browning等人聯(lián)合撰寫(xiě)了一篇文章《AI Chatbots Don’t Care About Your Social Norms》，文中討論了對話(huà)式AI的三個(gè)方面：聊天機器人、社會(huì )規范和人類(lèi)期望。

文中談到，人類(lèi)非常善于避免口誤，不讓自己做出失誤和失禮的言行。相比之下，聊天機器人卻經(jīng)常犯錯。因此理解為什么人類(lèi)擅長(cháng)避免出錯，可以更好的幫助我們理解目前聊天機器人為何不能被信任。

聊天機器人加入人類(lèi)反饋，不讓模型說(shuō)錯話(huà)

對于GPT-3來(lái)說(shuō)，犯錯的方式包括模型統計不準確。GPT-3比較依賴(lài)用戶(hù)提示，它對語(yǔ)境、情境等的理解只關(guān)注從用戶(hù)的提示中可以得到什么。ChatGPT也是如此，不過(guò)后者以一種新穎而有趣的方式稍作修改。除了統計學(xué)外，模型的反應也被人類(lèi)評估員強化了。對于系統的輸出，人類(lèi)評估員會(huì )進(jìn)行強化，使其輸出好的反應。最終結果是，這個(gè)系統不僅會(huì )說(shuō)一些貌似合理的東西，而且（理想情況下）還會(huì )說(shuō)一些人類(lèi)會(huì )判斷為合適的東西——即便是模型說(shuō)錯了話(huà)，至少不會(huì )冒犯別人。

但這種方法給人的感覺(jué)太機械性。在人類(lèi)對話(huà)中，有無(wú)數種方法可以說(shuō)錯話(huà)：我們可以說(shuō)一些不恰當的、不誠實(shí)的、令人困惑的或者只是愚蠢的事情。我們甚至在說(shuō)正確的事情時(shí)，由于說(shuō)的語(yǔ)氣或語(yǔ)調不對而受到指責。我們在與他人打交道的過(guò)程中，會(huì )穿越無(wú)數的「對話(huà)雷區」?？刂谱约翰徽f(shuō)錯話(huà)不僅僅是對話(huà)的一個(gè)重要部分，它往往比對話(huà)本身更重要。有時(shí)，閉上嘴巴可能是唯一正確的行動(dòng)方案。

這就引出兩個(gè)問(wèn)題：我們該如何駕馭模型這種不說(shuō)錯話(huà)的危險局面？以及為什么聊天機器人不能有效地控制自己不說(shuō)錯話(huà)？

對話(huà)該如何進(jìn)行？

人類(lèi)對話(huà)可以涉及任意話(huà)題，就像腳本化了一樣：餐館點(diǎn)餐，閑聊，為遲到道歉等等。不過(guò)這些不是文字腳本，中間充滿(mǎn)了即興創(chuàng )作，所以人類(lèi)的這種對話(huà)模型才是更一般的模式，規則沒(méi)有那么嚴格。

人類(lèi)這種腳本化的言行不受文字制約。即使你不懂語(yǔ)言，同樣的腳本也能發(fā)揮作用，比如打一個(gè)手勢就知道對方想要什么。社會(huì )規范支配著(zhù)這些腳本，幫助我們駕馭生活。這些規范規定了每個(gè)人在某些情況下的行為方式，為每個(gè)人分配了角色，并對如何行動(dòng)給予了廣泛的指導。遵循規范是有用的：它通過(guò)標準化和流程化來(lái)簡(jiǎn)化我們的交互，使彼此能更容易預測對方意圖。

人類(lèi)已經(jīng)制定了慣例和規范來(lái)管理我們社會(huì )生活的每個(gè)方面，從使用什么叉子到在按喇叭之前應該等待多長(cháng)時(shí)間。這對于在數十億人的世界中生存至關(guān)重要，在這個(gè)世界上，我們遇到的大多數人都是完全陌生的人，他們的信仰可能與我們不一致。將這些共同的規范落實(shí)到位不僅可以使對話(huà)成為可能，而且會(huì )富有成果，列出我們應該談?wù)摰膬热荨约拔覀儾粦撜務(wù)摰乃惺虑椤?/span>

規范的另一面

人類(lèi)傾向于制裁那些違反規范的人，有時(shí)會(huì )公開(kāi)，有時(shí)會(huì )秘密進(jìn)行。社會(huì )規范使得評估一個(gè)陌生人變得非常簡(jiǎn)單，例如，在第一次約會(huì )時(shí)，通過(guò)對話(huà)以及提問(wèn)等方式，雙方會(huì )評估對方的行為，如果對方違反了其中一條規范——例如，如果他們表現得粗魯或不恰當——我們通常會(huì )評判他們并拒絕第二次約會(huì )。

對人類(lèi)來(lái)說(shuō)，這些評判不僅是基于冷靜的分析，更進(jìn)一步的是基于我們對世界的情感反應。我們小時(shí)候接受的部分教育是情緒訓練，以確保我們在對話(huà)中在正確的時(shí)間給出正確的情緒：當有人違反禮儀規范時(shí)感到憤怒，當有人說(shuō)出冒犯性的話(huà)時(shí)感到厭惡，當我們說(shuō)謊時(shí)感到羞恥。我們的道德良知使我們能夠在對話(huà)中對任何不恰當的事情做出快速反應，并預測其他人將如何對我們的言論做出反應。

但不僅如此，一個(gè)違反了簡(jiǎn)單規范的人，他的整個(gè)性格都會(huì )遭到質(zhì)疑。如果他在一件事情上撒了謊，那么會(huì )不會(huì )在其他事情上撒謊呢？因此，公開(kāi)是為了讓對方感到羞恥，并在此過(guò)程中迫使對方為自己的行為道歉（或至少為自身行為辯護）。規范也得到了加強。

簡(jiǎn)而言之，人類(lèi)應該嚴格遵守社會(huì )規范，否則說(shuō)出的話(huà)有很高的風(fēng)險。我們要為自己所說(shuō)的任何事情負責，所以要謹慎地選擇說(shuō)話(huà)，并希望周?chē)娜艘彩侨绱恕?/span>

不受約束的聊天機器人

人類(lèi)對話(huà)的高風(fēng)險揭示了什么讓聊天機器人如此令人不安。通過(guò)僅僅預測對話(huà)如何進(jìn)行，它們最終松散地遵守人類(lèi)的規范，但它們不受這些規范的約束。當我們與聊天機器人隨意交談或測試它們解決語(yǔ)言難題的能力時(shí)，它們通常會(huì )給出一些似是而非的答案，并表現得像人類(lèi)一樣正常。有人甚至可能會(huì )將聊天機器人誤認為是人。

但是，如果我們稍微更改prompt或者使用不同的腳本，聊天機器人會(huì )突然吐出陰謀論、種族主義長(cháng)篇大論或胡說(shuō)八道。這可能是因為它們接受了陰謀論者、噴子等在 Reddit和其他平臺寫(xiě)的內容的訓練。

我們中的任何人都有可能說(shuō)出像噴子一樣的話(huà)，但我們不應該說(shuō)，因為噴子的話(huà)充斥著(zhù)胡說(shuō)八道、冒犯性言論、殘忍和不誠實(shí)。我們中的大多數人不說(shuō)這些話(huà)，也是因為自己不相信它們。體面的規范已經(jīng)將冒犯性行為推向了社會(huì )邊緣，所以我們中的大多數人也不敢這樣的話(huà)。

相比之下，聊天機器人不會(huì )意識到有些話(huà)是它們不應該說(shuō)的，無(wú)論這些話(huà)在統計學(xué)上的可能性有多大。它們意識不到定義了該說(shuō)和不該說(shuō)之間界限的社會(huì )規范，也察覺(jué)不到影響我們使用語(yǔ)言的深層社會(huì )壓力。即使聊天機器人承認搞砸并道歉了，它們也不明白為什么。如果我們指出它們錯了，聊天機器人甚至會(huì )道歉以得到正確的答案。

這闡明了更深層次的問(wèn)題：我們希望人類(lèi)說(shuō)話(huà)者能夠忠實(shí)于他們所說(shuō)的話(huà)，并且要求他們對此負責。我們不需要檢查他們的大腦或了解任何心理學(xué)來(lái)做到這一點(diǎn)，只需要知道他們一貫可靠、遵守規范和行為上尊重他人，則會(huì )相信他們。聊天機器人的問(wèn)題不在于「黑盒子」或技術(shù)不熟悉，而是因為長(cháng)期以來(lái)不可靠和令人反感，并且沒(méi)有努力改進(jìn)甚至沒(méi)有意識到存在問(wèn)題。

開(kāi)發(fā)人員當然知道這些問(wèn)題。他們以及希望自身AI技術(shù)被廣泛應用的公司擔心自己的聊天機器人的聲譽(yù)，并花大量時(shí)間重組系統以避免對話(huà)困難或消除不當回答。雖然這有助于使聊天機器人更安全，但開(kāi)發(fā)人員需要竭力走到試圖破壞它們的人的前面。因此，開(kāi)發(fā)人員的方法是被動(dòng)的，并且總是落后：有太多的錯誤方式無(wú)法預測到。

聰明但不人性化

這不應該讓我們自鳴得意人類(lèi)有多聰明，聊天機器人有多笨。相反，它們無(wú)所不談的能力展現出了對人類(lèi)社會(huì )生活和整個(gè)世界的深刻（或膚淺）的了解。聊天機器人非常聰明，至少能在測試中取得好成績(jì)或提供有用的信息參考。聊天機器人在教育工作者中引起的恐慌足以說(shuō)明它們在書(shū)本知識學(xué)習上令人印象深刻。

但問(wèn)題在于聊天機器人不在乎（care）。它們沒(méi)有任何想要通過(guò)對話(huà)實(shí)現的內在目標，也不受他人想法或反應的激勵。它們不會(huì )因說(shuō)謊感到難過(guò)，它們的誠實(shí)也不會(huì )得到回報。它們在某種程度是無(wú)恥的，甚至川普都非常關(guān)心自己的聲譽(yù)，至少聲稱(chēng)自己是誠實(shí)的。

因此，聊天機器人的對話(huà)是無(wú)意義的。對于人類(lèi)來(lái)說(shuō)，對話(huà)是獲得我們想要的東西的一種方式，比如建立聯(lián)系、在項目上獲得幫助、打發(fā)時(shí)間或者了解一些東西。對話(huà)要求我們對對話(huà)的人感興趣，理想情況下應該要關(guān)心對方。

即使我們不關(guān)心對話(huà)的人，至少在乎對方對自己的看法。我們深深地認識到，生活中的成功（比如擁有親密關(guān)系、做好工作等）取決于擁有好的聲譽(yù)。如果我們的社會(huì )地位下降，就可能失去一切。對話(huà)塑造了他人對我們的看法，并且很多人通過(guò)內心獨白來(lái)塑造對自己的認知。

但是聊天機器人沒(méi)有自己的故事可以講述，也沒(méi)有聲譽(yù)可以捍衛，它們不像我們一樣能感受到負責任行動(dòng)的吸引力。聊天機器人可以并且在很多高度腳本化的情況下發(fā)揮作用，從玩地下城主、撰寫(xiě)合理的副本或者幫助作者探索思路，等等。不過(guò)它們缺乏對自己或他人的了解，無(wú)法成為值得信賴(lài)的社會(huì )代理人，即我們大多數時(shí)候希望與之交談的那類(lèi)人。

如果不了解有關(guān)誠實(shí)和體面的規范，也不關(guān)心自己的聲譽(yù)，那么聊天機器人的用處就會(huì )受限，依賴(lài)它們也會(huì )帶來(lái)真正的危險。

怪誕的對話(huà)

因此，聊天機器人并不是以人類(lèi)的方式對話(huà)，并且它們永遠不可能僅通過(guò)統計學(xué)上似乎可信的談話(huà)達到目的。如果缺少對社會(huì )世界的真正了解，這些AI系統就只是無(wú)聊的話(huà)癆罷了，無(wú)論表現得多么機智或雄辯。

這有助于闡明為什么這些AI系統只是非常有趣的工具以及為什么人類(lèi)不應該將它們擬人化。人類(lèi)不僅僅是冷靜的思考者或演說(shuō)者，在本質(zhì)上還是遵守規范的生物，通過(guò)共同的、強制性的期望在情感上相互建立聯(lián)系。人類(lèi)的思維和言語(yǔ)源于自身的社會(huì )性。

單純的對話(huà)脫離了廣泛的世界參與，與人類(lèi)沒(méi)有什么共同之處。聊天機器人不是像我們一樣使用語(yǔ)言，即使它們有時(shí)說(shuō)的與我們完全相同?？蓺w根到底，它們不懂我們?yōu)槭裁催@樣說(shuō)話(huà)，這是顯而易見(jiàn)的。

原文鏈接：

https://www.noemamag.com/ai-chatbots-dont-care-about-your-social-norms/