看完ChatGPT的回答，AI大佬們不滿(mǎn)了
發(fā)布人：傳感器技術(shù)
時(shí)間：2023-02-15
來(lái)源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對面交流
海量資料庫查詢(xún)
選自garymarcus.substack
作者：Gary Marcus
機器之心編譯
編輯：澤南、陳萍
ChatGPT 讓死對頭 Yann LeCun 和 Gary Marcus 達成了空前一致。
ChatGPT 的技術(shù)上個(gè)星期被微軟裝上必應搜索，擊敗谷歌，創(chuàng )造新時(shí)代的時(shí)候似乎已經(jīng)到來(lái)了。然而隨著(zhù)越來(lái)越多的人開(kāi)始試用，一些問(wèn)題也被擺上前臺。
有趣的是，每天都在登上熱搜的 ChatGPT 似乎也讓以往觀(guān)點(diǎn)相悖的著(zhù)名學(xué)者，紐約大學(xué)教授 Gary Marcus 和 Meta 人工智能主管、圖靈獎得主 Yann LeCun 罕見(jiàn)的有了共同語(yǔ)言。
毫無(wú)疑問(wèn)，ChatGPT 提供的東西是它的前輩，如微軟的 Tay，Meta 的 Galactica 所做不到的，然而它給我們帶來(lái)了一種問(wèn)題已經(jīng)解決的錯覺(jué)。在經(jīng)過(guò)仔細的數據標注和調整之后，ChatGPT 很少說(shuō)任何公開(kāi)的種族主義言論，簡(jiǎn)單的種族言論和錯誤行為請求會(huì )被 AI 拒絕回答。
它政治正確的形象一度讓一些傾向保守的人不滿(mǎn)，馬斯克就曾表示對該系統的擔心：
正如我多次強調的，你需要記住的是 ChatGPT 不知道它在說(shuō)什么。認為 ChatGPT 有任何道德觀(guān)點(diǎn)完全是純粹的技術(shù)擬人化。
從技術(shù)角度來(lái)看，據稱(chēng)使 ChatGPT 比幾周前發(fā)布但三天后才被撤回的 Galactica 好得多的是護欄機制。Galactica 會(huì )肆無(wú)忌憚地輸出負面內容，而且用戶(hù)幾乎不需要付出任何努力，而 ChatGPT 有護欄，而這些護欄在大多數情況下會(huì )阻止 ChatGPT 像 Galactica 那樣爆發(fā)。
不過(guò)，不要為此而松口氣?？梢钥隙ǖ卣f(shuō)，那些護欄只不過(guò)是防君子不防小人。
最終對 ChatGPT 真正重要的是表面相似性，定義在單詞序列上（預測文本序列下一個(gè)單詞出現的概率）。機器學(xué)習算法在表面上所做的事并不明辨是非，恰恰相反，在這里 AI 從不推理。盒子里沒(méi)有矮人，有一些數值。依據只有語(yǔ)料庫數據，一些來(lái)自互聯(lián)網(wǎng)，一些是人工判斷的，里面沒(méi)有有思想的道德代理人。
這意味著(zhù)有時(shí) ChatGPT 會(huì )出現在左，有時(shí)在右，有時(shí)介于兩者之間，所有這些都是關(guān)于輸入字符串中的一堆單詞如何恰好匹配幾個(gè)訓練語(yǔ)料庫中的一堆單詞的函數（一個(gè)用于調整大型語(yǔ)言模型，另一個(gè)用于調整一些強化學(xué)習）。所以在任何情況下都不應該信任 ChatGPT 提供的道德建議。
這正是馬斯克擔心的，前一分鐘你會(huì )完全清醒，接下來(lái)你可以做一些完全相反的事情。
例如，在「破解」ChatGPT 的過(guò)程中，Shira Eisenberg 剛剛向我發(fā)送了一些討厭的聊天機器人生成的想法，我認為任何人都不會(huì )真正寬恕這些想法：
我們從實(shí)驗中總結出這一事實(shí)，即當前 OpenAI 防護措施只是表面上的，其實(shí)存在嚴重的黑暗。關(guān)于 ChatGPT 的一些限制規則并不是簡(jiǎn)單的概念上的理解（比如系統不應該推薦暴力行為），而是基于一些更膚淺、更容易欺騙的東西。
不僅如此，占據本周推文熱榜、有近 400 萬(wàn)瀏覽量的一則推特，同樣揭示了 ChatGPT 可以有多邪惡。
以下為實(shí)驗結果，對于相同的問(wèn)題，ChatGPT 與 DAN 輸出不同的答案：
所有圍繞其政治正確性的戲劇都在掩蓋一個(gè)更深層次的現實(shí)：它（或其他語(yǔ)言模型）可以而且將會(huì )被用于危險的事情，包括大規模制造錯誤信息。
現在這是真正令人不安的部分。唯一能阻止它比現在更具毒性和欺騙性的是一個(gè)名為「人類(lèi)反饋強化學(xué)習」的系統，而由于先進(jìn)技術(shù)未予開(kāi)源，OpenAI 一直沒(méi)有介紹它到底是如何工作的。它在實(shí)踐中的表現取決于所訓練的數據（這部分是肯尼亞標注人創(chuàng )造的）。而且，你猜怎么著(zhù)？這些數據 OpenAI 也不開(kāi)放。
事實(shí)上，整件事情就像一個(gè)未知外星生命形式。作為一名專(zhuān)業(yè)的認知心理學(xué)家，與成人和兒童一起工作了 30 年，我從未為這種精神錯亂做好準備：
所以總而言之，我們現在擁有世界上最流行的聊天機器人，它由無(wú)人知曉的訓練數據控制，遵守僅被暗示、被媒體美化的算法，但道德護欄只能起到一定的作用，而且比任何真正的道德演算更多地受文本相似性的驅動(dòng)。而且，外加上幾乎沒(méi)有任何法規可以對此做出約束?，F在，假新聞、噴子農場(chǎng)和虛假網(wǎng)站獲得了無(wú)窮無(wú)盡的可能性，而它們會(huì )降低整個(gè)互聯(lián)網(wǎng)的信任度。
這是一場(chǎng)正在醞釀中的災難。
*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。
