AI是否可以讓我們躺平？數字技術(shù)能否帶來(lái)數字文明？

5 人類(lèi)還被需要嗎？人機關(guān)系應該是怎樣的？

主持人：從另一個(gè)層面去考慮：我們可不可以躺平了？現在比較流行的兩個(gè)關(guān)鍵詞：無(wú)人，自主。機器越來(lái)越自主了，接下來(lái)我們人類(lèi)越來(lái)越不被需要了。過(guò)去我們的手不需要了——大吊車(chē)代替了我們的手；接下來(lái)腿也少需要、不需要了，因為有了代步工具——汽車(chē)、飛機等；我們整個(gè)的器官都被替代了；接下來(lái)有了大模型以后，我們的思想甚至也被替代了——現在很多文秘工作可以用大模型來(lái)做了。那么在這個(gè)時(shí)代，我們人還被需要嗎？這有點(diǎn)靈魂質(zhì)問(wèn)了。在新的數字文明時(shí)代，人機關(guān)系應該是怎樣的？

吳國盛（清華科學(xué)史）：未來(lái)人還有人的用處。這是維納（1894-1964，美國）的一句問(wèn)題，是非常好的問(wèn)題。數字文明是信息驅動(dòng)的（注：過(guò)去的文明有物質(zhì)驅動(dòng)的，有能量驅動(dòng)的），信息驅動(dòng)的本質(zhì)是計算/ 信息處理，而計算的背后是控制，這很重要，意味著(zhù)現代科學(xué)、數字化的目標是為了控制自然。不過(guò)，現在的數字技術(shù)不僅是控制自然，還控制社會(huì )，這就引發(fā)了一個(gè)非常深刻的問(wèn)題：數字技術(shù)本質(zhì)上是一種權力重新洗牌的技術(shù)。在洗牌過(guò)程中，公平、正義、善的問(wèn)題就出現了。

過(guò)去就存在這個(gè)問(wèn)題，例如有刀、鐵劍的民族，相比沒(méi)有的民族，力量會(huì )逆轉。蒸汽動(dòng)力也是一樣，它把工人淪為非?？蓱z的角色?，F在的數字時(shí)代，是不是所有人被卷入了？例如是否會(huì )用一個(gè)軟件有很大的差別（例如在疫情期間，有些老人不會(huì )用智能手機的打車(chē)軟件，叫出租車(chē)都很麻煩），這是非?，F實(shí)的一個(gè)問(wèn)題。

數字技術(shù)的智能化特征是控制論特征。因為智能很大一部分是控制。智能特征進(jìn)一步把人的問(wèn)題又提出來(lái)了：什么是人？過(guò)去說(shuō)人有智能。那么現在機器也有智能，是不是機器也是人？實(shí)際上，計算機產(chǎn)業(yè)過(guò)分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認為游戲是一種非功利行為，所以游戲這件事情很有意思，現在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂(lè )行為。所以從這個(gè)意義上看，吳國盛老師（清華科學(xué)史）并不像很多人那么悲觀(guān)，覺(jué)得機器出來(lái)以后就怎么著(zhù)了，因為知情意里的情和意的部分，現在機器恐怕是沒(méi)法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過(guò)知的方式把情和意給消解掉。你說(shuō)你有脾氣嗎？其實(shí)你也沒(méi)什么脾氣，無(wú)非就是你體內某些元素的發(fā)作，用元素替代一下，你就沒(méi)脾氣了。這實(shí)際上還是一種唯知論的傳統，而且這是比較危險的一種行為。

所以我們還是要在數字文明時(shí)代弘揚更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因為如果沒(méi)有這部分，就不知道智能產(chǎn)業(yè)將向哪個(gè)方向發(fā)展，因為產(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數據能不能做得到？局部是可以的，但是否能完全分析出來(lái)，還很難預判。

吳飛（浙大AI）：補充兩個(gè)方面。這是一個(gè)辯證的問(wèn)題。不可否認，AI 現在已經(jīng)極大地提升了人類(lèi)生產(chǎn)、生活和學(xué)習的能力和效率。但是AI還有很多無(wú)法解決的問(wèn)題，例如因為AI 的無(wú)能所引發(fā)的倫理問(wèn)題，還有隱私泄漏、大數據殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現在還無(wú)法滿(mǎn)足倫理和道德要求。所以發(fā)明一個(gè)機器或AI 系統出來(lái)，并不是想要人類(lèi)來(lái)奴役人類(lèi)，而是讓人類(lèi)的生產(chǎn)生活效率更高效。這是從正面來(lái)看AI。

同時(shí)，AI 確實(shí)也造成了一些困擾，我們也不能對這些熟視無(wú)睹。所以我們又必須要制定相應的法律法規和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會(huì )上，趙春江院士談了在用機器摘果子[2]，盡管如此，人類(lèi)還是有很多行為是AI 機器無(wú)法模擬的，人類(lèi)絕對不能躺平。人有人的作用，我們應該發(fā)揮主動(dòng)力，來(lái)把AI 改善和提高得更好，以更好地推動(dòng)我們人類(lèi)社會(huì )的進(jìn)步。

6 從社會(huì )治理角度，人類(lèi)應該發(fā)揮哪些作用？

主持人：從社會(huì )治理的角度來(lái)看，我們人應該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個(gè)問(wèn)題，就是誰(shuí)的數字文明？從兩個(gè)層面來(lái)回答。

●   第一個(gè)層面應該是我們的共識：這一定是人的數字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽(yù)教授James Landay講的以人為核心的AI向善。

所以從這個(gè)意義上看，主持人擔心人會(huì )躺平。如果說(shuō)躺平僅僅是指我們可以不去做那些重復、無(wú)意義的勞動(dòng)，躺平也很好，人們都歡迎這種躺平。

但是主持人可能更關(guān)心的是另外的問(wèn)題，就是人會(huì )不會(huì )被機器所取代、異化，人會(huì )不會(huì )喪失自主性、認知能力？這確實(shí)是我們所要關(guān)心的第一個(gè)層面：如何在數字文明發(fā)展過(guò)程中，始終能夠堅守人的自主性、以人為中心的地位。

●   另一個(gè)層面去回答誰(shuí)的數字文明，會(huì )涉及剛才段偉文老師（社科院哲學(xué)）提到的問(wèn)題：誰(shuí)來(lái)去定義這樣一個(gè)文明？誰(shuí)來(lái)給它設定標準？誰(shuí)來(lái)評價(jià)它？這里會(huì )存在一個(gè)問(wèn)題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數字文明首先應該是弱者、弱勢地位人的文明。

提到科技向善、科技不作惡，弱勢群體可能遭受數字文明帶來(lái)的損害更大。例如機器人摘蘋(píng)果會(huì )導致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會(huì )底層的，他們無(wú)法成為技術(shù)的受益者?，F在大模型的出現造成的不是體力勞動(dòng)者的失業(yè)，而是一些腦力勞動(dòng)者的失業(yè)。為此，一些國家和地區的政府、當局采取了干預措施，例如印尼、馬來(lái)西亞、印度等國禁止直播帶貨，原因之一是擔心破壞大量小企業(yè)主/ 小商戶(hù)的經(jīng)營(yíng)，由此導致大量失業(yè)。因為買(mǎi)家都去直播帶貨那里去買(mǎi)了，利潤變成了主播、直播帶貨公司的利潤，小企業(yè)主/ 小商戶(hù)等經(jīng)營(yíng)者怎么辦？社會(huì )必須要為底層人士提供最基本的生活保障和就業(yè)權利。

當然，如果從消費者角度看，我們可能歡迎直播帶貨，它給我們帶來(lái)了更好的商品展示，可能以更低的物價(jià)、更方便地進(jìn)行購物，有更好的購物體驗。但從政策制定、學(xué)者研究的角度來(lái)看，它可能會(huì )導致大量人的失業(yè)，或者大量人因此遭受到無(wú)法掌控的損害。

所以從這個(gè)意義上看，在第二個(gè)層面中去關(guān)注“誰(shuí)的數字文明”，應該成為弱者的數字文明，弱者能夠從中受益，不會(huì )遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計算機/AI 的差別，就是AI負責計算，人類(lèi)負責判斷和決策?，F在的問(wèn)題是AI的計算能力越來(lái)越強大，反過(guò)來(lái)對人的判斷力和決策力提出了更高的要求，這可能是人類(lèi)在數字文明時(shí)代面臨的重大挑戰。

主持人：這可能為人類(lèi)提出了更高的要求。但是我們人可能還是傾向于懶惰的生活?？档拢?724—1804，德國）曾經(jīng)在啟蒙運動(dòng)思想里有句重要的話(huà)：如果有個(gè)領(lǐng)袖來(lái)替我去思考，我是不是自己還會(huì )去思考問(wèn)題？他那時(shí)還沒(méi)有預測到現在的機器時(shí)代，套用這句話(huà)就是：如果有一個(gè)機器替我思考……這個(gè)話(huà)題扯得太遠了。剛剛翟志勇老師（北航法學(xué)）提到了誰(shuí)的數字文明的時(shí)候，是從社會(huì )結構上來(lái)講，希望最終技術(shù)應該是能夠賦能社會(huì )底層，但目前的情況恰恰有可能帶來(lái)的是“強者越強，弱者越弱”的大失業(yè)。

在CNCC2023大會(huì )上，來(lái)自北大的經(jīng)濟學(xué)家張維迎教授做了一個(gè)報告，講到企業(yè)家精神和數字經(jīng)濟，按照張老師的觀(guān)點(diǎn)，數字經(jīng)濟本身應該是資源自由競爭的，因為它有不確定性。翟志勇老師（北航法學(xué)）也反對壟斷。

但是另一方面，從數字經(jīng)濟、整個(gè)平臺經(jīng)濟的發(fā)展來(lái)看，實(shí)際上它帶來(lái)一個(gè)很大的問(wèn)題：數字壟斷由一部分人掌握了，例如一些大平臺越來(lái)越多地滲透到生活的各個(gè)方面，收集了大量的數據，然后因為今天所有的AI（科學(xué)、農業(yè)等）都是要靠數字來(lái)喂的，大模型也要靠數字，帶來(lái)了數字牽引。這樣一來(lái)，這是不是就有點(diǎn)悖論：一方面我們要自由競爭；但另一方面還是需要政策、法律的干預，而不能完全自由。是不是這個(gè)意思？

翟志勇（北航法學(xué)）：數字文明應該是弱者的數字文明，但這并不是反對強者或者反對技術(shù)，而是技術(shù)或數字文明的發(fā)展應該是在保障弱者基本權益的基礎之上去展開(kāi)競爭和發(fā)展的。一方面倫理學(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標；另一方面，技術(shù)專(zhuān)家通過(guò)技術(shù)可以實(shí)現這些目標?？赡苓@里缺少二者聯(lián)通的管道，法律上叫正當程序。實(shí)際上是以最終的一個(gè)程序去保證最終的結果。在技術(shù)領(lǐng)域中探討這個(gè)問(wèn)題也是這樣，應該有一個(gè)公平的程序來(lái)實(shí)現技術(shù)的正當程序。在這個(gè)過(guò)程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專(zhuān)家、企業(yè)等能夠在這樣一個(gè)公平的程序里去展開(kāi)討論，并且制定出有效的技術(shù)標準、公共政策的標準等，而不是任何一方給予對方一個(gè)必須要接受的東西。所以要有正當程序這樣一個(gè)管道，使得所有的相關(guān)利益方都能參與進(jìn)去。

7 小結

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類(lèi)從農耕時(shí)代、工業(yè)文明時(shí)代累積起來(lái)的文明，這必然會(huì )成為馬克思所言的普遍智能，為我們每個(gè)人所用，這也是數字文明追求的目標之一。

段偉文（社科院哲學(xué)）：數字文明延續了計算機控制論，是把人類(lèi)和機器當成一個(gè)行為者的的思路。換句話(huà)，數字文明時(shí)代最重要的一點(diǎn)是出現了計算機作為社會(huì )的行動(dòng)者，作為一個(gè)第三者，就好像出租車(chē)司機和乘客之間有導航一樣，所以我們將來(lái)要面對這種AI 體，它跟人類(lèi)怎樣相處？它會(huì )不會(huì )成為我們的導師、偶像或精神上的權威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國國會(huì )對安全等一系列問(wèn)題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國會(huì )作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對大模型進(jìn)行監管。不僅是美國國會(huì )，他呼吁全世界都要對它進(jìn)行監管。由此想到，數字文明可能更需要技術(shù)開(kāi)發(fā)者、技術(shù)企業(yè)來(lái)參與到倫理、標準、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個(gè)領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來(lái)進(jìn)行社會(huì )治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強數字技術(shù)治理，提升全民素質(zhì)素養，促進(jìn)數字文明建設。

吳國盛（清華科學(xué)史）：技術(shù)不是中性的，數字技術(shù)也不是中性的。任何一項技術(shù)的大規模深入發(fā)展，必然帶來(lái)文明新形態(tài)的產(chǎn)生。在今天數字技術(shù)正在方興未艾地發(fā)展，我們提前提出數字文明的概念，以此來(lái)規范數字技術(shù)的發(fā)展，使之朝著(zhù)有利于人類(lèi)福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱(chēng)道的。

主持人：CNCC 大會(huì )主要是討論數字技術(shù)的，參與者可能更多地盯在器物層面。但是大會(huì )主席在確定這個(gè)題目的時(shí)候，站到了更高的層面，來(lái)從整個(gè)人類(lèi)發(fā)展的歷史和文明形態(tài)的變更上來(lái)去考慮這樣的問(wèn)題。數字技術(shù)不等于數字文明，建設數字文明，不僅需要技術(shù)，還需要相應的所有上層建筑的一起參與。

參考文獻：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀(guān)察:我國智慧農業(yè)的現狀與展望. EEPW,2024(1-2):56-59.

（本文來(lái)源于《EEPW》2024.3）