谷歌 CEO 承認 AI 摘要功能存在“幻覺(jué)”問(wèn)題：尚無(wú)解決方案

5 月 26 日消息，谷歌搜索新推出的“AI 摘要（AI Overviews）”功能近日備受詬病，原因是該功能經(jīng)常提供嚴重錯誤的搜索結果信息，例如，該功能曾建議用戶(hù)使用膠水來(lái)防止披薩上的奶酪滑落。

本周早些時(shí)候，據科技媒體 The Verge 報道，谷歌首席執行官桑達爾?皮查伊在接受采訪(fǎng)時(shí)承認，這些“AI 摘要”功能產(chǎn)生的“幻覺(jué)”是大型語(yǔ)言模型（LLM）的“固有缺陷”，而大型語(yǔ)言模型正是“AI 摘要”功能的核心技術(shù)。皮查伊表示，這個(gè)問(wèn)題目前尚無(wú)解決方案（is still an unsolved problem）。

這意味著(zhù)盡管谷歌工程師一直在努力修復“AI 摘要”功能出現的各種奇怪且嚴重錯誤的答案，但此類(lèi)問(wèn)題仍會(huì )持續出現。

然而，皮查伊似乎淡化了這些錯誤的嚴重性。他表示：“‘AI 摘要’功能有時(shí)會(huì )出錯，但這并不意味著(zhù)它沒(méi)有用處。我認為這并不是看待該功能的正確方式。我們取得了進(jìn)展嗎？是的，肯定有。與去年相比，我們在事實(shí)準確性方面的指標上取得了很大進(jìn)步。整個(gè)行業(yè)都在改進(jìn)，但問(wèn)題還沒(méi)有完全解決?！?/p>

盡管皮查伊對“AI 摘要”功能的實(shí)用性持樂(lè )觀(guān)態(tài)度，但該功能出現的錯誤已經(jīng)在網(wǎng)上引起了軒然大一波，許多用戶(hù)紛紛展示了該功能生成各種錯誤信息的例子。這進(jìn)一步損害了谷歌搜索引擎的信譽(yù)，谷歌搜索此前就因向用戶(hù)提供垃圾結果而備受詬病。

注意到，人工智能顧問(wèn)和 SEO 專(zhuān)家布蘭妮?穆勒在社交媒體上寫(xiě)道：“人們期望人工智能的準確性遠遠超過(guò)傳統方法，但事實(shí)并非總是如此！ 谷歌正為了超越競爭對手 Perplexity 和 OpenAI 而在搜索領(lǐng)域進(jìn)行一場(chǎng)冒險的賭博，但他們本可以將人工智能用于更大、更有價(jià)值的用例上?！?/span>