Bard首次亮相就大翻車(chē)，端掉了谷歌1000億美元市值

這是目前AI犯下的最昂貴的錯誤

文|  VickyXiao 編輯| VickyXiao

在試圖追上微軟和OpenAI在人工智能方面的先發(fā)優(yōu)勢時(shí)，谷歌自己搞砸了。

在今天谷歌在巴黎召開(kāi)的發(fā)布會(huì )上，谷歌再一次展示了Bard——這款為了對抗ChatGPT推出來(lái)的聊天機器人。按照谷歌的宣傳，Bard不僅要和ChatGPT一樣有問(wèn)必答，還要更“負責任”——暗搓搓地指ChatGPT里摻雜的虛假信息太多，不夠“負責”。

這一宣傳明顯提高了人們對于Bard的期望值。畢竟在最初的驚艷過(guò)后，ChatGPT“一本正經(jīng)”的胡說(shuō)八道，也就是回答里夾雜的不少似是而非的偽信息，已經(jīng)讓很多人對于使用它提高了警惕，里面邏輯和數學(xué)上的錯誤更加驚人。

讓人沒(méi)想到的是，谷歌的Flag立得太早。Bard剛一亮相，就出錯了——而且出了個(gè)大糗。

在谷歌短短的幾秒展示里，Bard其實(shí)只被問(wèn)了一個(gè)問(wèn)題——“我可以告訴我 9 歲的孩子關(guān)于詹姆斯·韋伯太空望遠鏡（James Webb Space Telescope ，簡(jiǎn)稱(chēng)JWST） 的哪些新發(fā)現？” 

Bard的回答很精彩——有豐富的信息，而且很形象的比喻，確實(shí)****地給孩子解釋了JWST的發(fā)現。

然而，里面有一個(gè)巨大的錯誤：回答里提到“ JWST 拍攝到了太陽(yáng)系外行星的第一張照片”，也就是下圖灰線(xiàn)部分。

然而，事實(shí)上，第一張系外行星照片是由歐洲南方天文臺的Very Large Telescope (VLT) 在 2004 年拍攝的。

圖源：谷歌

最先指出這個(gè)錯誤的是天體物理學(xué)家 Grant Tremblay。

他在推特上寫(xiě)道：“我不是要成為一個(gè)討厭鬼，我相信 Bard 會(huì )令人印象深刻，但鄭重聲明：JWST 并沒(méi)有拍下‘我們太陽(yáng)系外行星的第一張圖片’?！?/span>

圖源：Twitter

在唯一的一次演示里，就犯了這么大的錯誤，谷歌可以說(shuō)顏面盡失，不得不快速撤下了相關(guān)演示的YouTube視頻。不過(guò)不少官方宣傳推文里的演示動(dòng)圖還在。

AI犯錯不可怕，正如前文所說(shuō)的，ChatGPT上同樣充斥著(zhù)大量似是而非的虛假信息，而且比較來(lái)說(shuō)，對于同樣一個(gè)問(wèn)題，ChatGPT的回答并不好，它只能回答出來(lái)JWST能做一些什么，而沒(méi)有辦法回答它的新發(fā)現，更不用說(shuō)以一種小孩更能理解的通俗易懂的方式來(lái)解釋。

圖源：Twitter

但是在谷歌這么關(guān)鍵的產(chǎn)品的首次公開(kāi)亮相上，這樣明顯的事實(shí)錯誤，卻通過(guò)了層層審核，被批準放上了CEO的案頭、大幅宣傳——這一點(diǎn)，卻明顯讓人感覺(jué)到谷歌員工的麻痹大意。

有谷歌員工對硅星人表示，谷歌這兩年的各種活動(dòng)往往追求市場(chǎng)宣傳效果，放放產(chǎn)品視頻就好，沒(méi)有上真產(chǎn)品的，就算上了真產(chǎn)品，也不用好好測試，不管到時(shí)候展示結果如何，哪怕實(shí)際產(chǎn)品越來(lái)越爛，只要PR做好了就好了?！爱a(chǎn)品和運營(yíng)都麻痹了，太缺乏實(shí)戰經(jīng)驗了，總有一天要出糗。只是沒(méi)料到在跟微軟硬抗的時(shí)候掉鏈子。真是天意?！?/strong>

而在ChatGPT的步步緊逼下，谷歌管理層也失去了方寸。正如硅星人此前所說(shuō)的，這次Bard的發(fā)布有點(diǎn)趕，在內部算不上完全準備好，所以才以面向有限開(kāi)發(fā)者的形式推出。這種情況下出現錯誤，也就情有可原了。

但這個(gè)錯誤的代價(jià)就是，投資人失去了信心。消息一傳出，谷歌股價(jià)大跌9%，一天就丟了1000億美元的市值。

1000億美元，可以說(shuō)，這是AI到目前為止犯下的最昂貴的一個(gè)錯誤。有網(wǎng)友很悲觀(guān)地預計，“Bard會(huì )不會(huì )又是下一個(gè)Google+、Stadia、Wave等等等等？真是想不到，谷歌甚至沒(méi)有辦法對自己的宣傳材料進(jìn)行事實(shí)核查?！?/span>

也有推特網(wǎng)友評價(jià)說(shuō)，這也正是如今的AI研究和語(yǔ)言模型共有的問(wèn)題：它們非常擅長(cháng)生成*看起來(lái)*準確的，但其實(shí)并不準確的信息。概括來(lái)說(shuō)，他們就是很牛的扯淡人。

在后續推文中，Tremblay 也補充道：“我非常喜歡并感謝地球上最強大的公司之一正在使用 JWST 搜索來(lái)宣傳他們的 LLM（大語(yǔ)言模型）。棒棒噠！但是 ChatGPT 等等這些，雖然令人印象深刻，但通常*非常自信*地犯錯。 如果未來(lái)看到LLM 進(jìn)行自我錯誤檢查將會(huì )很有趣?！?/span>

正如 Tremblay 所指出的，ChatGPT 和 Bard 等 AI 聊天機器人的一個(gè)主要問(wèn)題是它們傾向于自信地將不正確的信息陳述為事實(shí)。這些系統經(jīng)?！爱a(chǎn)生幻覺(jué)”，即編造虛假信息，因為他們只是接受大量文本語(yǔ)料庫的訓練，但并不是查詢(xún)已經(jīng)過(guò)驗證的事實(shí)的數據庫來(lái)回答問(wèn)題。這導致一位著(zhù)名的 AI 教授將它們稱(chēng)為“扯淡生成器”。

很明顯的一個(gè)例子就是，對于Bard犯錯的這個(gè)問(wèn)題，其實(shí)Google搜索已經(jīng)給出了正確答案。

如果你在Google上搜索“太陽(yáng)系外行星的第一張圖片”，Google自己就給出了準確信息——它是在2004年由VLT第一次捕捉成像。

微軟已經(jīng)預見(jiàn)到了這樣的事情發(fā)生。它昨天演示了集成了ChatGPT的人工智能Bing搜索引擎，就試圖通過(guò)把責任丟給用戶(hù)來(lái)避開(kāi)同樣的這些問(wèn)題。它在免責聲明里稱(chēng)，“Bing 由 AI 提供支持，因此可能會(huì )出現意外和錯誤。請確保進(jìn)行事實(shí)核查并分享反饋，以便我們學(xué)習和改進(jìn)！”

在周一官宣Bard發(fā)布的博文里，CEO 皮柴特別強調，谷歌希望通過(guò)這一階段的測試，來(lái)提高 Bard 的質(zhì)量和速度，確保 Bard 的回答達到高標準。

然而，在這個(gè)望遠鏡烏龍事件后，谷歌發(fā)言人不得不強行挽回一點(diǎn)顏面。他們告訴媒體稱(chēng)：

“這凸顯了嚴格測試過(guò)程的重要性，我們本周將通過(guò) Trusted Tester 計劃啟動(dòng)這一過(guò)程。我們會(huì )將外部反饋與我們自己的內部測試相結合，以確保 Bard 的回應在質(zhì)量、安全性和現實(shí)世界信息的基礎性方面達到高標準。”