有知識、有情感、懂幽默的社交機器人來(lái)了？與機器人談情說(shuō)愛(ài)，真的不遠了嗎？
加入技術(shù)交流群
隨著(zhù)人工智能對人類(lèi)認知能力模仿水平的提升，智能機器人能否產(chǎn)生自我意識和情感的問(wèn)題已從遠慮逐漸變成近憂(yōu)。
最近一段時(shí)間，人工智能和機器人領(lǐng)域最火的話(huà)題莫過(guò)于智能對話(huà)系統“生成式預訓練模型聊天機器人”ChatGPT。該聊天機器人讓許多人感受到了技術(shù)對于生活可能的改變。
ChatGPT該系統不僅支持包括中文在內的多語(yǔ)聊天，而且還能夠扮演角色，甚至執行編程。對于人類(lèi)或詼諧或嚴肅的提問(wèn)，它的表現令人感到驚艷：相當多的知識內容正確，語(yǔ)言表達更是流暢，并且還支持多輪連續聊天。網(wǎng)友感慨，該智能系統如果應用在機器人上，人類(lèi)與機器人的社交或許成為了一種新可能。
對智能機器人自我意識問(wèn)題的深切關(guān)注，當然也反映了人們對智能機器人失控的憂(yōu)懼。不少人感慨“自己已經(jīng)沉迷于和它對話(huà)”“讓它替我編程、寫(xiě)稿，效率提升”，甚至有人用它生成了某行業(yè)的咨詢(xún)報告，通過(guò)對話(huà)引導它生成的書(shū)也在亞馬遜線(xiàn)上出版，也有人開(kāi)始提出，這是否意味著(zhù)未來(lái)更大范圍的失業(yè)問(wèn)題以及社會(huì )倫理問(wèn)題。
中國社科網(wǎng)的一篇社論認為，消除這種認知和憂(yōu)懼的最佳方式，就是深刻認識和把握其原理與本質(zhì)，打開(kāi)智能機器人自我意識的黑箱，并推動(dòng)其向善發(fā)展。那么ChatGPT代表的人工智能聊天機器人的本質(zhì)到底是什么？該類(lèi)聊天機器人技術(shù)真的值得人們這么擔憂(yōu)和恐懼嗎？
不同路徑的意義與嘗試
不可否認，技術(shù)的進(jìn)步與應用在為人們的生活帶來(lái)便利的同時(shí)，也讓人們在一定程度上產(chǎn)生了恐懼。這種技術(shù)恐懼源于技術(shù)自身的復雜性和不確定性，尤其是對于可能產(chǎn)生自我意識的智能機器人，會(huì )做出什么事情人類(lèi)很難預知。
例如有觀(guān)點(diǎn)認為，社交機器人可能會(huì )通過(guò)編程接口搜索特定的社交網(wǎng)絡(luò )或討論會(huì )，作為虛擬對話(huà)參與者影響公眾意見(jiàn)與話(huà)題走向。其可以在社交平臺中模仿人類(lèi)用戶(hù)的言論習慣生產(chǎn)和傳播信息，背后的利益方則利用這一特點(diǎn)不斷復制傳播特定關(guān)鍵詞和主題標簽，輔以社交網(wǎng)絡(luò )算法控制性能將指定內容炒作為熱點(diǎn)，此前關(guān)于推特操作輿論的話(huà)題在國外一直被人熱議且警惕。
又例如在近日ChatGPT竟寫(xiě)出毀滅人類(lèi)計劃書(shū)Python代碼。這是在一位工程師的多種方法誘導下，ChatGPT竟詳細寫(xiě)出了毀滅人類(lèi)的策劃方案，步驟詳細到入侵各國計算機系統、控制武器、破壞通訊、交通系統等等。
但如果體驗過(guò)ChatGPT相關(guān)程序（https://openai.com/blog/chatgpt/）會(huì )發(fā)現，其本質(zhì)上依然是工具，而非獨立的機器人智能體。
按照人工智能學(xué)界的劃分，目前有可能產(chǎn)生自我意識的智能機器人，是一種高級人工智能，主要具有互動(dòng)性、自主性與自適應性等特征。但許多測試中發(fā)現，在ChatGPT流暢交談的表面下，其主要根據數據庫進(jìn)行相關(guān)內容輸出，且有時(shí)候對人類(lèi)知識的理解和掌握仍不可靠。
隨著(zhù)測試的增加，開(kāi)始有越來(lái)越多的人感慨它“常常一本正經(jīng)地胡說(shuō)八道”。
由于錯誤信息以純熟的語(yǔ)言表達出來(lái)，加上信息不對等，因而更加隱蔽，讓人們更加難以察覺(jué)，但這難免會(huì )造成一些誤解和困擾。
從人類(lèi)聊天對話(huà)的原理來(lái)說(shuō)，人類(lèi)自我意識的產(chǎn)生主要有兩種方式，一是自我激發(fā)，二是他人認同，這兩種方法也常被學(xué)界用來(lái)訓練人工智能。因為人工智能所涉任務(wù)眾多，語(yǔ)言智能卻越來(lái)越成為方法、技術(shù)、應用方面的領(lǐng)先領(lǐng)域。
正如ChatGPT對自己的介紹：“我是一個(gè)語(yǔ)言模型?！庇纱丝梢园l(fā)現，該系統主要借助駕馭極其廣泛的知識內容，來(lái)自對互聯(lián)網(wǎng)文本內容的獲取和“理解”，進(jìn)而形成了自己的“知識體系”，這其實(shí)也是人工智能訓練的一種常用技巧。
有人辯駁認為，ChatGPT的內容輸出下，并不單純只有對于知識的整理，同時(shí)也有自己的理解和表達。但問(wèn)題在于，自我意識與自我認同往往不可分割，因為自我認同離不開(kāi)群體中他人的認同，所以，此類(lèi)自我意識通常在獲得社會(huì )其他成員的認同中產(chǎn)生，而非獨立的思考（意識）。
意識的獨立性與可能性
有了對于意識的自主性認知，我們可以再去看ChatGPT本身的運行邏輯。
曾經(jīng)在探索智能機器人自我意識時(shí)，有研究學(xué)者就針對這兩種路徑各自進(jìn)行了嘗試，并取得了不同的進(jìn)展。按照技術(shù)發(fā)展路徑，智能機器人目前已經(jīng)主要分為數據智能和類(lèi)腦智能，二者自我意識產(chǎn)生分別采用了他人認同路徑和自我激發(fā)路徑，其本質(zhì)也不相同。
一是數據智能機器人“設計”出自我意識，即他人認同路徑。這一路徑通過(guò)算法設計和大數據支持，讓機器人表現得具有“自我意識”。無(wú)論是數字計算機，還是量子計算機，其產(chǎn)生自我意識的途徑都屬于數據智能路徑。
ChatGPT其中所涉技術(shù)如果拆解開(kāi)其實(shí)并不算十分復雜，但它的成功無(wú)疑以十分直觀(guān)的方式向我們展示了語(yǔ)言、知識積累于人類(lèi)思維和邏輯的重要性。
這一路徑存在數據兼容和溢出的風(fēng)險。人工智能的核心在于知識的獲取、表示和運用，語(yǔ)言無(wú)疑是其中關(guān)鍵。教科書(shū)上“語(yǔ)言是人類(lèi)最重要的思維工具”“人類(lèi)九成的知識由語(yǔ)言承載”的論斷在人工智能系統的應用上得到了淋漓盡致的展現。因此可以得到很明顯的結論就是，這一路徑產(chǎn)生的“自我意識”是環(huán)境中的設計者和使用者賦予智能機器人的，認知主體是人體而非機體。
知識和思維的承載物是語(yǔ)言，因而也賦予語(yǔ)言無(wú)可替代的資源屬性。智能技術(shù)的發(fā)展和落地，頻繁向傳統語(yǔ)言學(xué)的教育和研究發(fā)出信號：構建語(yǔ)言資源、挖掘語(yǔ)言中的知識、探索語(yǔ)言知識的形式表達，是最切中數字社會(huì )命脈的發(fā)展方向。
更深層次來(lái)看，與聊天系統強大的語(yǔ)言生成能力不匹配的是它對知識的真正掌握程度。大量模棱兩可乃至錯誤的信息混雜在流暢的對話(huà)中，反而令其更加難以被發(fā)現。
誠如清華大學(xué)馬少平教授所說(shuō)：“人工智能最大的問(wèn)題是不知道自己不知道什么，也不知道自己真知道什么，什么問(wèn)題都能回答，結果如何就不得而知了?！?/span>
在一般性知識極易獲取，復雜知識參差不齊的背景下，其實(shí)人類(lèi)專(zhuān)家、作者的專(zhuān)業(yè)判斷力和經(jīng)過(guò)思考加工的準確回答，更顯彌足珍貴。人工智能諸多技術(shù)“黑箱”帶來(lái)的不確定性，終究還需要人類(lèi)專(zhuān)業(yè)、全局判斷來(lái)化解。從這個(gè)層面上講，“自知”的人類(lèi)永遠不可或缺。
更深層次的探索
當然也有學(xué)者指出，除了大量的聊天對話(huà)訓練之外，更正確的方法其實(shí)是類(lèi)腦智能機器人“生長(cháng)”出自我意識，即自我激發(fā)路徑。
這一路徑通過(guò)類(lèi)腦技術(shù)支持，讓機器人擁有能感知的“身體”，形成獨立的“自我意識”。
隨著(zhù)數字技術(shù)的進(jìn)一步發(fā)展，社交機器人正在不斷深入參與人類(lèi)社會(huì )生活，已廣泛應用于服務(wù)、教育、醫療等行業(yè)，在許多新興的交叉領(lǐng)域發(fā)揮了積極作用。這類(lèi)需求在情感機器人或社交機器人中尤為常見(jiàn)，但由于社交機器人作為一種擬人化機器人，難免帶來(lái)了人與機器人之間的混淆問(wèn)題。
社交類(lèi)智能機器人的使用者，往往會(huì )在與其長(cháng)期相處中產(chǎn)生機器人也有情感和自我意識的錯覺(jué)。心理學(xué)上將這種現象稱(chēng)為共情效應。通常情況下，能產(chǎn)生越強共情效應的機器人往往越受消費者歡迎。而社交機器人帶來(lái)的人機互動(dòng)、人與機器人的混淆問(wèn)題也誘發(fā)了更深層次的情感依戀風(fēng)險。
許多人寄希望于聊天機器人能夠帶來(lái)未來(lái)社交機器人更進(jìn)一步的情感方面優(yōu)化，但通過(guò)考察情感或自我意識內在的真實(shí)內容及其規律性就會(huì )發(fā)現，這只是特定情境中的使用者認為機器人已彰顯出自我意識和情感。因此，并不能說(shuō)明ChatGPT這類(lèi)機器人能夠自我激發(fā)產(chǎn)生自我意識或情感。
更本質(zhì)而言，這里的“自我意識”雖然源自機體，但卻是承載生物芯片的有機體，因此無(wú)論是技術(shù)悲觀(guān)派還是樂(lè )觀(guān)派都不能否認其產(chǎn)生自我意識的可能性。例如曾毅團隊在認知神經(jīng)科學(xué)家的實(shí)驗基礎上，用自主研發(fā)的類(lèi)腦機器人成功挑戰了自我意識鏡像實(shí)驗，為機器人自我意識建立了受生物激發(fā)的模型，結果不言而喻。
雖然鏡像實(shí)驗只能作為機器人自我意識驗證的一個(gè)視角，但我們可以據此展望未來(lái)，制造出生物性質(zhì)的類(lèi)人自我意識的智能機器人并不是天方夜譚。這一路徑存在生物芯片信息難以掌控的風(fēng)險。目前大多數相關(guān)研究都局限于實(shí)驗室內，而已臨床使用的僅是針對腦部疾病的腦機接口技術(shù)，并且這種技術(shù)的使用需要患者提前進(jìn)行訓練，也就是要通過(guò)人的協(xié)助才能展現出智能。
探索人機融合
僅今年一年就相繼出現了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video、ChatGPT等突破性的AI，國內也有有科大訊飛、泰比特、巴巴騰、icasevan、小i智能、優(yōu)必選、騰訊態(tài)客、麥咭、阿爾法蛋和智伴等企業(yè)將相關(guān)技術(shù)與應用進(jìn)行結合，社交機器人越來(lái)越聰明成為一種新趨勢。
這讓許多圍觀(guān)路人產(chǎn)生了恐懼，有專(zhuān)家提出，因為機器人所具有的虛擬對話(huà)、信息把關(guān)、輿論操縱等多重功能，社交智能機器人自我意識的產(chǎn)生可能增加人類(lèi)對其失控的憂(yōu)懼。
而學(xué)界也有樂(lè )觀(guān)、中立的不同立場(chǎng)。因為技術(shù)恰恰有“黑箱”的存在，為引導向善發(fā)展，規避不良社會(huì )影響，需要人類(lèi)主動(dòng)回應和采取措施。為保證新的智能機器人產(chǎn)品的向善導向，人類(lèi)可以不斷從自身、從技術(shù)去尋求可靠、可信的技術(shù)和技術(shù)使用方式。例如必須在研發(fā)和使用中進(jìn)行監管，又例如采取人機融合發(fā)展的手段，降低這種危害的可能性。
人機融合智能是充分利用人和機器各自的長(cháng)處形成的新型智能形式，大數據人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機混合智能、自主智能系統等是目前主要的五類(lèi)人機融合智能。
以人為主導的人機協(xié)同演化關(guān)系主要將底線(xiàn)原則與情境學(xué)習相結合，從而才能保證智能機器人的安全可控。例如讓機器人擁有一定的道德判斷能力，這意味人可以決定機器人“能夠做什么”和“應該做什么”，保證人工智能產(chǎn)品按照人的價(jià)值理念演化，從而掌握協(xié)同演化的主動(dòng)權，實(shí)現智能機器人向善發(fā)展的目標。
同時(shí)，以人為主導才能促使人類(lèi)主動(dòng)承擔協(xié)同演化中的過(guò)失責任。人是責任的承擔者。人的責任不僅包括在風(fēng)險預防階段做好價(jià)值敏感設計，也包括在風(fēng)險產(chǎn)生后通過(guò)制度構建來(lái)降低損失。
可信的人工智能、可信計算成為融合技術(shù)、倫理的重要領(lǐng)域，并受到越來(lái)越多的重視，更宏觀(guān)的人工智能倫理和治理工作也早已被納入科技管理的視野。
挽救“失足系統”，矯正“智能體歧視”也許不再是比喻，而將成為使用者、從業(yè)者和治理者都必須面對的問(wèn)題。
*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。
