OpenAI首席科學(xué)家宣稱(chēng)，大型神經(jīng)網(wǎng)絡(luò )或已擁有“輕微自主意識”

近日，人工智能組織 OpenAI 的聯(lián)合創(chuàng )始人、計算機專(zhuān)家伊爾亞·蘇茨克維（Ilya Sutskever）在 Twitter 上聲稱(chēng)，“當今最大的神經(jīng)網(wǎng)絡(luò )可能已擁有輕微的意識”。

此言論一出，立刻便在社交媒體上引起軒然大波。

關(guān)于人工智能是否擁有意識的爭議和討論，在科研界一直未曾停歇過(guò)。而蘇茨克維作為 OpenAI 首席科學(xué)家，在深度學(xué)習方面曾作出過(guò)突出貢獻。如此一位有影響力的頂尖科學(xué)家突然就此敏感話(huà)題發(fā)表公開(kāi)言論，自然而言招致了眾多非議。

OpenAI 首席科學(xué)家“深陷”話(huà)題

據悉，OpenAI 由一眾來(lái)自硅谷、西雅圖的科技巨擘們聯(lián)合創(chuàng )立，用以預防人工智能可能帶來(lái)的危害，在人工智能領(lǐng)域擁有廣泛影響力。特斯拉 CEO 埃隆·馬斯克（Elon Musk）曾經(jīng)亦是該組織的創(chuàng )始成員

但在 2019 年，馬斯克主動(dòng)宣布離開(kāi)該組織。據其透漏，離開(kāi)的原因一方面是擔心該組織會(huì )在人工智能人才聘用方面與特斯拉產(chǎn)生沖突。另一方面，馬斯克認為 OpenAI 在某種程度上類(lèi)似于“假新聞發(fā)生器”，總是會(huì )制造噱頭讓自己處于輿論中心。

例如，OpenAI 在 2020 年發(fā)布了語(yǔ)言模型 GPT-3 。然而該系統在首次發(fā)布時(shí)卻被用來(lái)創(chuàng )建了一個(gè)聊天機器人，用以模仿死去的女人。除此之外，其還被游戲玩家曝露出包含戀童癖內容。這一切都導致 OpenAI 在輿論方面飽受詬病。

因此，蘇茨克維關(guān)于人工智能已擁有意識的言論也被許多人認為是炒作。

美國俄勒岡州立大學(xué)人工智能專(zhuān)家托馬斯·迪特里奇（Thomas Dietterich）在 Twitter 上回應，“如果意識是反思和塑造自己的能力，那么我在今天的網(wǎng)絡(luò )中還沒(méi)有看到任何這樣的能力，我會(huì )認為你是在故意發(fā)布煽動(dòng)性的內容 。

此外，也有部分科學(xué)家認為這種毫無(wú)根據的說(shuō)法會(huì )讓大眾陷入恐慌。

澳大利亞新南威爾士大學(xué)西德尼分校人工智能研究員托比沃爾什（Toby Walsh）評論說(shuō)，“每次這種投機性的評論播出時(shí)，都需要幾個(gè)月的努力才能讓話(huà)題回到人工智能帶來(lái)的更現實(shí)的機會(huì )和威脅上?！?br />
馬斯克也曾就人工智能的危險性做出過(guò)分析。雖然他站在創(chuàng )造人工智能技術(shù)的最前沿，但他同時(shí)也意識到人工智能的潛在威脅。

在 2014 年，他于社交軟件上說(shuō)道，“我們需要對人工智能非常小心，它可能比核武器更危險?！?020 年，馬斯克再次發(fā)聲，認為人工智能在智力方面或將超越人類(lèi)，這并不意味著(zhù)事情會(huì )變得糟糕，但卻會(huì )使局面變得極其不穩定。

人類(lèi)水平的人工智能仍在長(cháng)跑途中

那么，大型神經(jīng)網(wǎng)絡(luò )是否真的具有自主意識呢？

圖靈獎得主、Meta 首席科學(xué)家楊立昆（Yann LeCun）直接對蘇茨克維的觀(guān)點(diǎn)予以反駁，他認為即使對神經(jīng)網(wǎng)絡(luò )和意識分別用“大型”和“輕微”等詞來(lái)加以限定，這種說(shuō)法依舊不正確。

早在 2018 年，楊立昆就曾明確表示，“人工智能缺乏對世界的基本認識，甚至還不如家貓的認知水平?！?br />
事實(shí)上，當前的大型神經(jīng)網(wǎng)絡(luò )通常很難脫離數據驅動(dòng)的范式。這也意味著(zhù)人工智能所學(xué)習的知識依舊取決于人類(lèi)的“投喂”，其并不具備自主創(chuàng )新的能力，產(chǎn)生意識自然也就無(wú)從說(shuō)起。

而想要使人工智能具備自主意識，擁有表達心情、發(fā)現新知識等能力，則需要人類(lèi)在該領(lǐng)域取得長(cháng)足的進(jìn)步。這將是下一代人工智能研究的重點(diǎn)，短時(shí)間內則很難成為現實(shí)。

不過(guò)，并不是所有的學(xué)者都對蘇茨克維的說(shuō)法嗤之以鼻，來(lái)自麻省理工學(xué)院的計算機科學(xué)家塔梅·貝西羅格魯（Tamay Besiroglu）便認同該觀(guān)點(diǎn)，并積極為其辯護。

“看到這么多杰出的人嘲笑這個(gè)想法令人失望，”貝西羅格魯在 Twitter 上說(shuō)，“這讓我對這個(gè)領(lǐng)域認真處理一些他們在未來(lái)幾十年無(wú)疑將面臨的深刻、奇怪和重要問(wèn)題的能力降低了希望?！?br />
在貝西羅格魯看來(lái)，即使人類(lèi)無(wú)法將“無(wú)意識”和“可能有輕微意識”的模型劃清界限，但這個(gè)問(wèn)題本身是非常有意義的，不應該被忽視。

拋開(kāi)爭議本身，我們需要注意到，蘇茨克維長(cháng)期以來(lái)一直專(zhuān)注于研究通用人工智能（Artificial general intelligence，AGI）。這是一種以人類(lèi)或超人能力運行的人工智能，在某種程度上與人類(lèi)有非常高的相似性。從這個(gè)角度來(lái)看，蘇茨克維提出的說(shuō)法或許并不顯得突兀。

近年來(lái)，人工智能發(fā)展得越來(lái)越迅速，以至于人類(lèi)陷入一種焦慮，從而不得不與自身創(chuàng )造出來(lái)的有意識的計算機這一概念作斗爭。

可以預見(jiàn)的是，關(guān)于有意識的人工智能的爭議，在未來(lái)的一段時(shí)間里還將會(huì )一直延續。但與此同時(shí)，這種辯論也將推動(dòng)人類(lèi)在如何定義人工智能的意識方面逐步確立規則和界限，從而引導人工智能向善。而這，或許就是科學(xué)爭論的真正魅力所在。

-End-

參考：
https://www.dailymail.co.uk/sciencetech/article-10503703/Artificial-Intelligence-expert-warns-slightly-conscious-AI.html
https://mindmatters.ai/2022/02/can-ai-really-be-slightly-conscious-can-anyone/