AI是否可以讓我們躺平？數字技術(shù)能否帶來(lái)數字文明？

數字文明是否可以看作是一種新的文明形態(tài)？這是誰(shuí)的數字文明？如何構建數字文明？2023 年 10 月 26-28 日，CNCC2023（ 2023 中國計算機大會(huì )）在沈陽(yáng)召開(kāi)。在 10 月 28 日上午舉辦了論壇《數字文明何以可能？》，來(lái)自社會(huì )科學(xué)和計算機領(lǐng)域的教授圍繞數字文明的可能性與挑戰展開(kāi)了思想對話(huà)。

從左至右

主持人：王國豫：CCF職業(yè)倫理與學(xué)術(shù)道德委員會(huì )主席，教育部長(cháng)江學(xué)者特聘教授，中國科協(xié)-復旦大學(xué)科技倫理與人類(lèi)未來(lái)研究院院長(cháng)

特邀嘉賓：吳國盛：清華大學(xué)科學(xué)史系系主任，科學(xué)史和哲學(xué)系的雙聘教授，國務(wù)院學(xué)位委員會(huì )科技史學(xué)科評議組成員；古天龍：暨南大學(xué)教授，可信AI教育部工程研究中心主任，原桂林電子科技大學(xué)校長(cháng)，教育部高等學(xué)校計算機類(lèi)專(zhuān)業(yè)教學(xué)指導委員會(huì )的副主任委員；翟志勇：北京航天航空大學(xué)法學(xué)教授，社會(huì )法研究中心主任，中國科協(xié)北京航天航空大學(xué)科技組織與公共政策研究所副院長(cháng)；段偉文：中國社會(huì )科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員，中國社會(huì )科學(xué)院科學(xué)技術(shù)和社會(huì )研究中心主任；吳飛：浙江大學(xué)上海高等研究院常務(wù)副院長(cháng)，浙江大學(xué)AI研究所所長(cháng)、教授，浙江大學(xué)求是特聘教授，博士生導師

1 數字文明已經(jīng)到來(lái)了嗎？

主持人：CNCC大會(huì )主要是圍繞數字開(kāi)展的，上天入地都是數，好像進(jìn)入了畢達哥拉斯（約公元前580年-500（490）年，古希臘）提出的萬(wàn)物皆數的世界，例如數字工業(yè)^[1]、數字農業(yè)^[2]、數字經(jīng)濟、數字金融……。那么，數字文明是不是就真的已經(jīng)到來(lái)了？這是不是就是數字文明？

在這個(gè)被數字包圍的世界，我們幾乎可以躺平了。例如，通過(guò)數字農業(yè)^[2]的講演，可知今后種地也用不著(zhù)人了?，F在，數字平臺能把我們的飯送到門(mén)口——我們可以坐在家里等著(zhù)吃飯就行了。這是不是就是數字文明？

首先，需要給數字文明有個(gè)界定。各位嘉賓所理解的數字文明是什么？

吳國盛（清華科學(xué)史）：文明基于技術(shù)，這毫無(wú)問(wèn)題。例如史前文明有舊石器文明、新石器文明，之后有青銅文明、黑鐵文明……。所以在人類(lèi)歷史或史前史時(shí)期，文明的形態(tài)首先根源于技術(shù)。

因此，如果數字技術(shù)成為了我們這個(gè)時(shí)代占支配地位的影響技術(shù)，當然我們可以合情合理地說(shuō)：某種基于數字技術(shù)的數字文明正在冉冉升起。所以這個(gè)說(shuō)法問(wèn)題不大。

但是也打個(gè)補?。和ǔ＿@種文明的名稱(chēng)是由后人追認的，當時(shí)的人不知道自己處在什么文明之中。例如，舊石器時(shí)代的人不知道自己處于舊石器時(shí)代，新石器時(shí)代的人也不知道自己處在新石器時(shí)代，這是追認的結果。所以數字技術(shù)的發(fā)展時(shí)間并不長(cháng)，至今只有幾十年，我們現在說(shuō)自己的技術(shù)是數字文明可能也要慎重。

當然，近代這種通過(guò)自我命名、自詡的方式來(lái)規范當下的文明走向，也是有先例的。例如，雖然“中世紀”這個(gè)詞是由文藝復興時(shí)期的人給追認的，但是文藝復興是文藝復興人自己定的。所以近代以來(lái)，這種為自己確立時(shí)代特征、標明時(shí)代的命名，以此來(lái)為自己的時(shí)代制定一些規則，也是可以的。

所以這一補丁仍然是可以的，仍然可以講“數字文明”。

古天龍（暨大可信AI）：完善的數字技術(shù)治理以及良好的素質(zhì)素養教育，應該是數字文明所必備的兩個(gè)方面。

首先，只有通過(guò)數字技術(shù)的完善治理，才能保障數字技術(shù)的科技向善、造福人類(lèi)。其次，具有良好的素質(zhì)素養，才能全民（包括從業(yè)人員、社會(huì )公民等）跟技術(shù)進(jìn)步實(shí)現良性的互動(dòng)，最終實(shí)現數字文明的持續健康發(fā)展。

翟志勇（北航法學(xué)）：通?？梢詮钠魑?、觀(guān)念和制度三個(gè)層面去衡量一個(gè)社會(huì )的文明。制度層面上，可以把法律和公共政策視為一個(gè)社會(huì )文明的刻度。社會(huì )中的相關(guān)法律、制度種類(lèi)越豐富，證明社會(huì )在這個(gè)領(lǐng)域中的文明刻度會(huì )更高一些。

如果從這個(gè)標準來(lái)衡量，會(huì )發(fā)現進(jìn)入21 世紀之后，無(wú)論是中國還是世界其他國家在數字領(lǐng)域中的立法及公共政策都在飛速增加。尤其近幾年，包括中國、歐盟及美國等國家和地區在這個(gè)領(lǐng)域有大量的立法出現，因此如果從制度角度去衡量，數字文明已經(jīng)來(lái)臨，并且我們生活于其中，因為我們有大量的問(wèn)題需要法律、公共政策去處理。

段偉文（社科院哲學(xué)）：什么是數字文明？現在坐在嘉賓席上的段偉文可能就不是段偉文，是一個(gè)數字人，這就是數字文明。在上場(chǎng)之前5 分鐘，段偉文就用自動(dòng)翻譯，幫他的微信公眾號自動(dòng)地更新，增加了一個(gè)新的文章的條目。

所謂數字文明就是數字技術(shù)，它從根本上來(lái)改變我們存在的生產(chǎn)生活方式。而且和前面那些文明非常不同之處：它的發(fā)展是非常迅速的，以至于在這個(gè)時(shí)代曾有的大量技術(shù)產(chǎn)品，我們已把它們遺忘了。例如現在誰(shuí)還知道復讀機？誰(shuí)還在用Mp3 播放器聽(tīng)音樂(lè )？所以數字文明以這種迅猛的速度發(fā)展，對我們的人類(lèi)文明帶來(lái)一種根本性的改變。

這就需要我們從制度、文明、治理等方面跟上這個(gè)時(shí)代、文明的步伐，否則我們雖然進(jìn)入了數字文明，但不一定能夠成為數字時(shí)代的文明人。

吳飛（浙大AI）：數字文明以數字化為基礎，以信息技術(shù)為核心，是邁進(jìn)人、機、物互聯(lián)時(shí)代的當下所有社會(huì )關(guān)系和社會(huì )活動(dòng)的總和。

2 數字文明的要素與愿景

主持人：我們已經(jīng)觸及了數字文明的不同層次了。翟志勇老師（北航法學(xué)）提到數字文明涉及三個(gè)層面：器物、觀(guān)念和制度。吳國盛老師（清華科學(xué)史）指出，我們現在還處于數字文明的開(kāi)端。

雖然我們已經(jīng)有了一些數字技術(shù)，數字文明在器物層面上也已經(jīng)發(fā)展到一定程度了，例如今天的AI技術(shù)已經(jīng)有了一定的發(fā)展了。如果我們更進(jìn)一步地走向深度的數字文明，從技術(shù)史的角度看，每一次文明在更迭中，除了技術(shù)本身作為引擎以外，還有哪些推動(dòng)數字文明的力量？

吳國盛（清華科學(xué)史）：翟志勇（北航法學(xué)）老師提到文明至少有三個(gè)形態(tài)：器物、制度和觀(guān)念。數字技術(shù)是一個(gè)龍頭。馬克思（1818-1883，德國）說(shuō)技術(shù)是最具有革命性的力量，它總是能夠打碎一個(gè)舊的形態(tài)，創(chuàng )造一個(gè)新的形態(tài)。但是如果只是數字技術(shù)自己還做不到數字文明，它必須要撬動(dòng)一些東西。

例如，從技術(shù)史上看，咱們中國人特別引以自豪的四大發(fā)明，雖然是中國人首創(chuàng )的，可是在中國社會(huì )里并沒(méi)有發(fā)生作用，中國社會(huì )并沒(méi)有因為四大發(fā)明成就一種新的文明形態(tài)，反而給歐洲人帶來(lái)了好處，迎來(lái)了一個(gè)嶄新的世界：從培根（1561-1626，英國）開(kāi)始，馬克思也認為，大量印刷的《圣經(jīng)》使宗教改革成為可能；火藥炸毀了騎士階層，粉碎了封建領(lǐng)主階級；指南針開(kāi)辟了世界航路，為創(chuàng )造新的資本主義全球市場(chǎng)準備了條件。

所以關(guān)鍵的一點(diǎn)是你的技術(shù)革新如果不能轉化為一種為更廣泛的社會(huì )制度的變革或者創(chuàng )新的驅動(dòng)力，那么這個(gè)技術(shù)就不能獲得新文明的命名權。

回到數字技術(shù)，也是一樣的道理。數字技術(shù)肯定最終要驅使創(chuàng )立一套新的制度，例如法律制度、倫理制度、文化制度等，當然最后要引出觀(guān)念方面的內容。所以這是關(guān)鍵。

今天在CNCC（計算機大會(huì )）上探討這件事，好像跟計算機專(zhuān)家們沒(méi)什么關(guān)系，其實(shí)技術(shù)本身就內置了一些文化密碼、制度密碼，每一種技術(shù)就內含了一些文明驅動(dòng)的方向性和意向性。因此這個(gè)話(huà)題在CNCC 上探討并不是節外生枝、裝飾性的，而是具有內在意義的。

主持人：是否可以?xún)H憑數字技術(shù)的力量來(lái)獨撐這個(gè)文明形態(tài)？

吳飛（浙大AI）：有兩個(gè)觀(guān)點(diǎn)。

第一，我們正在邁向這一新的文明形態(tài)。剛才吳國盛老師（清華科學(xué)史）有句話(huà)講得非常到位：文明是由后面的人來(lái)定義我們現在的。例如我們已經(jīng)經(jīng)歷了農耕時(shí)代和工業(yè)革命時(shí)代的文明。工業(yè)革命時(shí)代的文明的進(jìn)入，是以蒸汽機的改良為主要代表——1776年左右瓦特改良了蒸汽機。此后，蒸汽機經(jīng)過(guò)100多年的緩慢發(fā)展，和紡織工業(yè)、交通工業(yè)、冶金工業(yè)等深度融合，才推動(dòng)人類(lèi)社會(huì )進(jìn)入了工業(yè)文明的時(shí)代。

今天我們以數字化為基礎，以信息技術(shù)為核心，也將推動(dòng)人類(lèi)社會(huì )邁進(jìn)更加廣闊的天地。我們正在這一個(gè)征程上，而不是說(shuō)我們已經(jīng)完全實(shí)現了這種新的文明形態(tài)。只有信息技術(shù)、AI 等使能技術(shù)與農業(yè)、工業(yè)、經(jīng)濟、醫療、教育等緊密結合，才會(huì )造就一種新的文明形態(tài)。

第二，這一技術(shù)和人類(lèi)社會(huì )、包括我們每個(gè)人已經(jīng)緊密地聯(lián)系在一起。例如趙春江院士^[2]也匯報了智慧農業(yè)的進(jìn)展。由此，我們能否說(shuō)我們已進(jìn)入了數字農業(yè)文明的時(shí)代？目前，無(wú)論數字農業(yè)還是數字工業(yè)，還沒(méi)有和我們人緊密地聯(lián)系在一起。有了信息技術(shù)和AI 等技術(shù)，我們創(chuàng )造了一個(gè)非常龐大、復雜的空間。在這個(gè)空間里，技術(shù)、人、機、物已經(jīng)互相聯(lián)系在一起。所以傳統的只是規范人與人之間的行為倫理的概念和方法已經(jīng)不適用了，我們應該去形成一種新的文明治理，來(lái)更好地規范人、機、物互聯(lián)時(shí)代的文化及發(fā)展。所以數字文明把技術(shù)和社會(huì )的屬性緊密地聯(lián)合起來(lái)，是與前面的文明形態(tài)不同的一個(gè)重要特點(diǎn)。

主持人：其他老師有沒(méi)有補充？

翟志勇（北航法學(xué)）：如果從以人類(lèi)技術(shù)相關(guān)的文明史發(fā)展的脈絡(luò )來(lái)看，會(huì )發(fā)現一個(gè)很有趣的現象：先有這些文明出現，然后有一系列的反思。但是我們今天一方面在探討文明來(lái)沒(méi)來(lái)，另一方面又在這個(gè)文明剛剛來(lái)的時(shí)候，就開(kāi)始去反思這個(gè)文明，反思涉及的倫理問(wèn)題、法律問(wèn)題等。因此就會(huì )發(fā)現數字文明的出現似乎從一開(kāi)始就伴隨著(zhù)對于這個(gè)文明的反思，這就回到剛才吳飛老師（浙大AI）所講到的，似乎這樣的文明和我們以前所經(jīng)歷的農業(yè)文明、工業(yè)文明等不太一樣。

一開(kāi)始數字文明就會(huì )帶有某一種特殊的文明密碼，包括對于隱私、安全、平等、反歧視等一系列人類(lèi)文明的關(guān)注，是與技術(shù)發(fā)展同步的。而工業(yè)文明與此不同：工業(yè)文明在造成了一系列的人類(lèi)災難之后，人們才開(kāi)始去反思，在制度上給予特別的處理，例如在工業(yè)文明發(fā)展后期，人們才開(kāi)始去重視勞工保護、反對歧視等一系列問(wèn)題。所以從這個(gè)角度來(lái)看，是不是也就意味著(zhù)數字文明是其本身內在的一個(gè)特性。

3 如何把文化、文明的觀(guān)念融入到數字技術(shù)中？

主持人：翟志勇老師（北航法學(xué)）的最后一句話(huà)，把前面兩位老師的觀(guān)點(diǎn)概括了，即今天的一些文化、觀(guān)念、制度等已經(jīng)自然而然地成為我們數字文明的一部分，而不僅僅是外部的。

我們今天正處在數字文明的起始階段，我們如何從一開(kāi)始就把一些文化、文明的觀(guān)念融入到數字技術(shù)之中，以更好地打造數字文明時(shí)代？

古天龍（暨大可信AI）：數字技術(shù)應該是以AI 為核心引領(lǐng)的新技術(shù)。這項新技術(shù)跟傳統技術(shù)有異同之處。共同點(diǎn)是都有技術(shù)的兩面性：一方面造福人類(lèi)，另一方面對社會(huì )帶來(lái)負面影響。

自古至今，科技的進(jìn)步確實(shí)在為人類(lèi)帶來(lái)進(jìn)步、福利方面發(fā)揮了重大作用，以至于它的負面效應很多時(shí)候被忽視了，或者本身就很小。例如原子能技術(shù)、生物領(lǐng)域的基因編輯、克隆技術(shù)等涉及了一些負面效果。今天以AI為引領(lǐng)的數字技術(shù)所帶來(lái)的挑戰和風(fēng)險也尤為嚴重。首先是偏見(jiàn)歧視問(wèn)題，挑戰社會(huì )的公平正義；還有隱私泄露問(wèn)題；以及責權歸屬等問(wèn)題（注：在這種新情況下，人機關(guān)系深度融合，最后邊界模糊，我們責權怎么歸屬？）；還有價(jià)值對齊等問(wèn)題。

對于這些問(wèn)題，當然數字技術(shù)本身應該有一個(gè)治理機制，同時(shí)數字技術(shù)也應該有外生的治理。所以數字技術(shù)治理是可能的、必須的。例如隱私泄露問(wèn)題，現在我們有隱私計算、聯(lián)邦學(xué)習、差分隱私、匿名技術(shù)、密碼技術(shù)等。對于偏見(jiàn)歧視問(wèn)題，現在有公平機器學(xué)習等公平感知方法。對于責權歸屬問(wèn)題，有區塊鏈技術(shù)。對于價(jià)值對齊問(wèn)題，有可以設計出具有道德和倫理意識的智能體。這一個(gè)方面可以通過(guò)自上而下的方式，輸入人們的傳統價(jià)值觀(guān)或倫理規則，讓機器學(xué)習這種倫理意識；另一方面可以自下而上地通過(guò)情景學(xué)習，讓AI 知道按照人類(lèi)的行為模式去實(shí)施一些道德的決策和倫理行為。

當然，也可以自上而下、自下而上相結合，去開(kāi)展倫理道德的技術(shù)工作。

所以這些為人們進(jìn)一步開(kāi)展數字技術(shù)的治理提供了可能性，有些方面已經(jīng)有了實(shí)施的具體部署應用。所以一方面國內外上下都在全力以赴地開(kāi)展AI 從業(yè)人員的職業(yè)操守和道德的規范，使技術(shù)研發(fā)能夠實(shí)現數字技術(shù)的內生治理。另一方面，在A(yíng)I 的部署應用中，要提升全民的素質(zhì)素養。當然數字倫理也是個(gè)重要內容，以此來(lái)推動(dòng)數字文明的良序發(fā)展。

4 數字技術(shù)倫理問(wèn)題由誰(shuí)來(lái)解決？

主持人：有這么一個(gè)潛在的命題：數字技術(shù)倫理問(wèn)題，大家都承認。企業(yè)在做，計算機從業(yè)人員也在做，這是不是就足夠了？過(guò)去科學(xué)家經(jīng)常有一句話(huà)，技術(shù)的問(wèn)題還是由技術(shù)來(lái)治理。那么數字技術(shù)倫理問(wèn)題也該由數字技術(shù)倫理治理？

段偉文（社科院哲學(xué)）：首先，要從哲學(xué)上對它有一個(gè)理解。計算機、AI、數字文明的核心是計算機。數字文明的核心就是計算機文明。從這個(gè)角度看，數字文明的起源是信息論和控制論。那么信息論和控制論那個(gè)時(shí)代，把人的心智想象成是像計算機一樣的。所以19世紀的經(jīng)典小說(shuō)里往往有大段的心理描寫(xiě)，但是到了20世紀中葉以后就沒(méi)有了，因為人的大腦就是輸入和輸出。所以無(wú)論是AI、計算機還是數字技術(shù)，首先改變了我們對人類(lèi)自身（包括我們的智能）的認知，而這種改變本身是不是合理的？也還是需要思考。

第二，數字文明重要的是數字化的數據。有了數字化數據，就意味著(zhù)在我們這個(gè)世界、生物圈之外形成了一個(gè)信息圈。在信息圈之上，德日進(jìn)（1881-1955，法國）在《人的現象》、《人的未來(lái)》等書(shū)中提到人的進(jìn)化，認為人類(lèi)將來(lái)會(huì )有一個(gè)新階段。

因此這種思考實(shí)際上從上世紀50 年代到現在，我們一直有一種人文的批判或人文的恐慌。因為它實(shí)際上是要把所有人的智力和思考變成群體的智力和思考。所以美國動(dòng)畫(huà)片《非凡的公主：希瑞》（注：1985 年推出國語(yǔ)版）里有一幕：在緊急的時(shí)候，主人公就會(huì )拔出劍，指天高喊“希瑞賜于我力量！”她就到了一個(gè)所謂的西格瑪點(diǎn)——世界上所有智能變成了一個(gè)統一體。

所以第二點(diǎn)就是：我們思考AI/數字文明的倫理問(wèn)題時(shí)，我們還要思考我們想要的是一個(gè)什么樣的未來(lái)？在現實(shí)生活中，有數字成癮等問(wèn)題，在此就不討論了。但是現在的AI 倫理最核心的一個(gè)問(wèn)題是認知權利的問(wèn)題，即：誰(shuí)有權利收集、分析你的數據，掌握你的生物特征，甚至分析你的情感，然后再對它進(jìn)行調控？

這是最重要的問(wèn)題。所以現在已經(jīng)不再是我們在20年前講的數字?zhù)櫆希ㄗⅲ赫l(shuí)能夠上網(wǎng)，誰(shuí)擁有信息，誰(shuí)是信息的窮人和富人等），而是現在誰(shuí)可以把信息作為一種認知和調控的手段，用來(lái)掌握一定的權利和生產(chǎn)力。

所以在這種情況下，我們更多的還要思考AI 作為一種認知技術(shù)，它本身的合理性。

最后，我們當然可以讓AI 具有道德，讓AI 實(shí)現價(jià)值對齊。但是問(wèn)題是具有的是誰(shuí)的道德？誰(shuí)的價(jià)值？怎樣去對齊？因為在現實(shí)世界中，人們的道德價(jià)值觀(guān)是不同的。有了AI以后，它可以讓我們知道哪些話(huà)是不能說(shuō)的，哪些話(huà)是有偏見(jiàn)、歧視的，但是難道這是文明應該有的姿態(tài)嗎？難道我們人自身一點(diǎn)都不能夠承受道德、價(jià)值上的偏差嗎？我們在現實(shí)生活中尚且可以爆粗口，計算機、深層次的AI 就不能爆粗口嗎？這個(gè)問(wèn)題還沒(méi)有答案。倫理問(wèn)題本身也還有更多要反思的地方。

這種反思的立場(chǎng)并不是反對對AI 進(jìn)行倫理規制，而是思考怎樣讓倫理規制更符合人性，更符合文明的發(fā)展規律。就像吳國盛老師（清華科學(xué)史）剛才所講，我們并不能夠在這種文明剛開(kāi)始的時(shí)候或到了某階段的時(shí)候去定義這種文明，如果把它拿到人類(lèi)5000 年歷史、地球46 億年歷史中來(lái)看的話(huà)，如果給它這么快地下定義，可能為時(shí)過(guò)早。

主持人：哲學(xué)家是不斷地在自我反思。

關(guān)于如何打造數字文明，科學(xué)家和哲學(xué)家有不同的看法。段偉文老師（社科院哲學(xué)）提出了一個(gè)問(wèn)題，就是認知的革命。AI帶來(lái)了認知革命，同時(shí)也帶來(lái)了社會(huì )權力結構的變更，甚至影響了我們的人性。主持人聯(lián)想到了技術(shù)哲學(xué)，從技術(shù)哲學(xué)早期非常著(zhù)名的代表卡普（1808-1896，德國）到蓋倫（1904-1976，德國）都講了技術(shù)是什么：技術(shù)可以彌補人的不足，減輕人的負擔，延伸人的手臂、器官，尤其是增強人的力量。CNCC大會(huì )10月27日上午的《大模型的研究進(jìn)展與產(chǎn)業(yè)應用展望》論壇上，出現了兩種截然不同的觀(guān)點(diǎn)：一種認為AI 尤其是大模型發(fā)展到這個(gè)階段，所帶來(lái)的倫理問(wèn)題并不可怕，因為我們始終還是要把它控制在一個(gè)工具層面上。但是德國國家工程院院士張建偉認為AI也許未來(lái)可能會(huì )有意識，他也提到：如果有了意識，是不是就可以更好地分辨善與惡？這個(gè)問(wèn)題涉及AI未來(lái)發(fā)展的方向。

5 人類(lèi)還被需要嗎？人機關(guān)系應該是怎樣的？

主持人：從另一個(gè)層面去考慮：我們可不可以躺平了？現在比較流行的兩個(gè)關(guān)鍵詞：無(wú)人，自主。機器越來(lái)越自主了，接下來(lái)我們人類(lèi)越來(lái)越不被需要了。過(guò)去我們的手不需要了——大吊車(chē)代替了我們的手；接下來(lái)腿也少需要、不需要了，因為有了代步工具——汽車(chē)、飛機等；我們整個(gè)的器官都被替代了；接下來(lái)有了大模型以后，我們的思想甚至也被替代了——現在很多文秘工作可以用大模型來(lái)做了。那么在這個(gè)時(shí)代，我們人還被需要嗎？這有點(diǎn)靈魂質(zhì)問(wèn)了。在新的數字文明時(shí)代，人機關(guān)系應該是怎樣的？

吳國盛（清華科學(xué)史）：未來(lái)人還有人的用處。這是維納（1894-1964，美國）的一句問(wèn)題，是非常好的問(wèn)題。數字文明是信息驅動(dòng)的（注：過(guò)去的文明有物質(zhì)驅動(dòng)的，有能量驅動(dòng)的），信息驅動(dòng)的本質(zhì)是計算/信息處理，而計算的背后是控制，這很重要，意味著(zhù)現代科學(xué)、數字化的目標是為了控制自然。不過(guò)，現在的數字技術(shù)不僅是控制自然，還控制社會(huì )，這就引發(fā)了一個(gè)非常深刻的問(wèn)題：數字技術(shù)本質(zhì)上是一種權力重新洗牌的技術(shù)。在洗牌過(guò)程中，公平、正義、善的問(wèn)題就出現了。

過(guò)去就存在這個(gè)問(wèn)題，例如有刀、鐵劍的民族，相比沒(méi)有的民族，力量會(huì )逆轉。蒸汽動(dòng)力也是一樣，它把工人淪為非?？蓱z的角色?，F在的數字時(shí)代，是不是所有人被卷入了？例如是否會(huì )用一個(gè)軟件有很大的差別（例如在疫情期間，有些老人不會(huì )用智能手機的打車(chē)軟件，叫出租車(chē)都很麻煩），這是非?，F實(shí)的一個(gè)問(wèn)題。

數字技術(shù)的智能化特征是控制論特征。因為智能很大一部分是控制。智能特征進(jìn)一步把人的問(wèn)題又提出來(lái)了：什么是人？過(guò)去說(shuō)人有智能。那么現在機器也有智能，是不是機器也是人？實(shí)際上，計算機產(chǎn)業(yè)過(guò)分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認為游戲是一種非功利行為，所以游戲這件事情很有意思，現在有游戲產(chǎn)業(yè)，游戲能成為產(chǎn)業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂(lè )行為。所以從這個(gè)意義上看，吳國盛老師（清華科學(xué)史）并不像很多人那么悲觀(guān)，覺(jué)得機器出來(lái)以后就怎么著(zhù)了，因為知情意里的情和意的部分，現在機器恐怕是沒(méi)法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國盛（清華科學(xué)史）：知情意里的情和意的知化，即希望通過(guò)知的方式把情和意給消解掉。你說(shuō)你有脾氣嗎？其實(shí)你也沒(méi)什么脾氣，無(wú)非就是你體內某些元素的發(fā)作，用元素替代一下，你就沒(méi)脾氣了。這實(shí)際上還是一種唯知論的傳統，而且這是比較危險的一種行為。

所以我們還是要在數字文明時(shí)代弘揚更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因為如果沒(méi)有這部分，就不知道智能產(chǎn)業(yè)將向哪個(gè)方向發(fā)展，因為產(chǎn)業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數據能不能做得到？局部是可以的，但是否能完全分析出來(lái)，還很難預判。

吳飛（浙大AI）：補充兩個(gè)方面。這是一個(gè)辯證的問(wèn)題。不可否認，AI 現在已經(jīng)極大地提升了人類(lèi)生產(chǎn)、生活和學(xué)習的能力和效率。但是AI還有很多無(wú)法解決的問(wèn)題，例如因為AI 的無(wú)能所引發(fā)的倫理問(wèn)題，還有隱私泄漏、大數據殺熟等危害。這些不是AI 故意在作惡，而是AI 技術(shù)水平現在還無(wú)法滿(mǎn)足倫理和道德要求。所以發(fā)明一個(gè)機器或AI 系統出來(lái)，并不是想要人類(lèi)來(lái)奴役人類(lèi)，而是讓人類(lèi)的生產(chǎn)生活效率更高效。這是從正面來(lái)看AI。

同時(shí)，AI 確實(shí)也造成了一些困擾，我們也不能對這些熟視無(wú)睹。所以我們又必須要制定相應的法律法規和道德制度，約束AI 可能產(chǎn)生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會(huì )上，趙春江院士談了在用機器摘果子[2]，盡管如此，人類(lèi)還是有很多行為是AI 機器無(wú)法模擬的，人類(lèi)絕對不能躺平。人有人的作用，我們應該發(fā)揮主動(dòng)力，來(lái)把AI 改善和提高得更好，以更好地推動(dòng)我們人類(lèi)社會(huì )的進(jìn)步。

6 從社會(huì )治理角度，人類(lèi)應該發(fā)揮哪些作用？

主持人：從社會(huì )治理的角度來(lái)看，我們人應該發(fā)揮哪些作用？

翟志勇（北航法學(xué)）：剛才主持人提出了一個(gè)問(wèn)題，就是誰(shuí)的數字文明？從兩個(gè)層面來(lái)回答。

●   第一個(gè)層面應該是我們的共識：這一定是人的數字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學(xué)終身名譽(yù)教授James Landay講的以人為核心的AI向善。

所以從這個(gè)意義上看，主持人擔心人會(huì )躺平。如果說(shuō)躺平僅僅是指我們可以不去做那些重復、無(wú)意義的勞動(dòng)，躺平也很好，人們都歡迎這種躺平。

但是主持人可能更關(guān)心的是另外的問(wèn)題，就是人會(huì )不會(huì )被機器所取代、異化，人會(huì )不會(huì )喪失自主性、認知能力？這確實(shí)是我們所要關(guān)心的第一個(gè)層面：如何在數字文明發(fā)展過(guò)程中，始終能夠堅守人的自主性、以人為中心的地位。

●   另一個(gè)層面去回答誰(shuí)的數字文明，會(huì )涉及剛才段偉文老師（社科院哲學(xué)）提到的問(wèn)題：誰(shuí)來(lái)去定義這樣一個(gè)文明？誰(shuí)來(lái)給它設定標準？誰(shuí)來(lái)評價(jià)它？這里會(huì )存在一個(gè)問(wèn)題，像主持人提到的，我們更多的是從倫理、法律的角度去關(guān)注，可能更多的是去講：數字文明首先應該是弱者、弱勢地位人的文明。

提到科技向善、科技不作惡，弱勢群體可能遭受數字文明帶來(lái)的損害更大。例如機器人摘蘋(píng)果會(huì )導致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會(huì )底層的，他們無(wú)法成為技術(shù)的受益者?，F在大模型的出現造成的不是體力勞動(dòng)者的失業(yè)，而是一些腦力勞動(dòng)者的失業(yè)。為此，一些國家和地區的政府、當局采取了干預措施，例如印尼、馬來(lái)西亞、印度等國禁止直播帶貨，原因之一是擔心破壞大量小企業(yè)主/ 小商戶(hù)的經(jīng)營(yíng)，由此導致大量失業(yè)。因為買(mǎi)家都去直播帶貨那里去買(mǎi)了，利潤變成了主播、直播帶貨公司的利潤，小企業(yè)主/ 小商戶(hù)等經(jīng)營(yíng)者怎么辦？社會(huì )必須要為底層人士提供最基本的生活保障和就業(yè)權利。

當然，如果從消費者角度看，我們可能歡迎直播帶貨，它給我們帶來(lái)了更好的商品展示，可能以更低的物價(jià)、更方便地進(jìn)行購物，有更好的購物體驗。但從政策制定、學(xué)者研究的角度來(lái)看，它可能會(huì )導致大量人的失業(yè)，或者大量人因此遭受到無(wú)法掌控的損害。

所以從這個(gè)意義上看，在第二個(gè)層面中去關(guān)注“誰(shuí)的數字文明”，應該成為弱者的數字文明，弱者能夠從中受益，不會(huì )遭受不可控的侵害，這更為重要。

段偉文（社科院哲學(xué)）：人和計算機/AI 的差別，就是AI負責計算，人類(lèi)負責判斷和決策?，F在的問(wèn)題是AI的計算能力越來(lái)越強大，反過(guò)來(lái)對人的判斷力和決策力提出了更高的要求，這可能是人類(lèi)在數字文明時(shí)代面臨的重大挑戰。

主持人：這可能為人類(lèi)提出了更高的要求。但是我們人可能還是傾向于懶惰的生活?？档拢?724—1804，德國）曾經(jīng)在啟蒙運動(dòng)思想里有句重要的話(huà)：如果有個(gè)領(lǐng)袖來(lái)替我去思考，我是不是自己還會(huì )去思考問(wèn)題？他那時(shí)還沒(méi)有預測到現在的機器時(shí)代，套用這句話(huà)就是：如果有一個(gè)機器替我思考……這個(gè)話(huà)題扯得太遠了。剛剛翟志勇老師（北航法學(xué)）提到了誰(shuí)的數字文明的時(shí)候，是從社會(huì )結構上來(lái)講，希望最終技術(shù)應該是能夠賦能社會(huì )底層，但目前的情況恰恰有可能帶來(lái)的是“強者越強，弱者越弱”的大失業(yè)。

在CNCC2023大會(huì )上，來(lái)自北大的經(jīng)濟學(xué)家張維迎教授做了一個(gè)報告，講到企業(yè)家精神和數字經(jīng)濟，按照張老師的觀(guān)點(diǎn)，數字經(jīng)濟本身應該是資源自由競爭的，因為它有不確定性。翟志勇老師（北航法學(xué)）也反對壟斷。

但是另一方面，從數字經(jīng)濟、整個(gè)平臺經(jīng)濟的發(fā)展來(lái)看，實(shí)際上它帶來(lái)一個(gè)很大的問(wèn)題：數字壟斷由一部分人掌握了，例如一些大平臺越來(lái)越多地滲透到生活的各個(gè)方面，收集了大量的數據，然后因為今天所有的AI（科學(xué)、農業(yè)等）都是要靠數字來(lái)喂的，大模型也要靠數字，帶來(lái)了數字牽引。這樣一來(lái)，這是不是就有點(diǎn)悖論：一方面我們要自由競爭；但另一方面還是需要政策、法律的干預，而不能完全自由。是不是這個(gè)意思？

翟志勇（北航法學(xué)）：數字文明應該是弱者的數字文明，但這并不是反對強者或者反對技術(shù)，而是技術(shù)或數字文明的發(fā)展應該是在保障弱者基本權益的基礎之上去展開(kāi)競爭和發(fā)展的。一方面倫理學(xué)家、法學(xué)家或公共政策制定者提出一系列的要求、指標；另一方面，技術(shù)專(zhuān)家通過(guò)技術(shù)可以實(shí)現這些目標?？赡苓@里缺少二者聯(lián)通的管道，法律上叫正當程序。實(shí)際上是以最終的一個(gè)程序去保證最終的結果。在技術(shù)領(lǐng)域中探討這個(gè)問(wèn)題也是這樣，應該有一個(gè)公平的程序來(lái)實(shí)現技術(shù)的正當程序。在這個(gè)過(guò)程中，使得倫理學(xué)者、公共政策的制定者、技術(shù)專(zhuān)家、企業(yè)等能夠在這樣一個(gè)公平的程序里去展開(kāi)討論，并且制定出有效的技術(shù)標準、公共政策的標準等，而不是任何一方給予對方一個(gè)必須要接受的東西。所以要有正當程序這樣一個(gè)管道，使得所有的相關(guān)利益方都能參與進(jìn)去。

7 小結

吳飛（浙大AI）：信息技術(shù)和AI 的發(fā)展是人類(lèi)從農耕時(shí)代、工業(yè)文明時(shí)代累積起來(lái)的文明，這必然會(huì )成為馬克思所言的普遍智能，為我們每個(gè)人所用，這也是數字文明追求的目標之一。

段偉文（社科院哲學(xué)）：數字文明延續了計算機控制論，是把人類(lèi)和機器當成一個(gè)行為者的的思路。換句話(huà)，數字文明時(shí)代最重要的一點(diǎn)是出現了計算機作為社會(huì )的行動(dòng)者，作為一個(gè)第三者，就好像出租車(chē)司機和乘客之間有導航一樣，所以我們將來(lái)要面對這種AI 體，它跟人類(lèi)怎樣相處？它會(huì )不會(huì )成為我們的導師、偶像或精神上的權威？這里有太多需要思考的地方。

翟志勇（北航法學(xué)）：ChatGPT 橫空出世之后，美國國會(huì )對安全等一系列問(wèn)題非常關(guān)注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國會(huì )作證，他作為大模型技術(shù)領(lǐng)先者，呼吁政府對大模型進(jìn)行監管。不僅是美國國會(huì )，他呼吁全世界都要對它進(jìn)行監管。由此想到，數字文明可能更需要技術(shù)開(kāi)發(fā)者、技術(shù)企業(yè)來(lái)參與到倫理、標準、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術(shù)發(fā)展、技術(shù)向善、不做惡的法律與公共政策。因此希望技術(shù)人員能夠加入到這個(gè)領(lǐng)域里，而不僅僅是社科人員走到技術(shù)人員的領(lǐng)域里。

古天龍（暨大可信AI）：希望技術(shù)融入人文社科來(lái)進(jìn)行社會(huì )治理，即法律、倫理、道德、技術(shù)多管齊下，呼吁重視技術(shù)治理維度。希望加強數字技術(shù)治理，提升全民素質(zhì)素養，促進(jìn)數字文明建設。

吳國盛（清華科學(xué)史）：技術(shù)不是中性的，數字技術(shù)也不是中性的。任何一項技術(shù)的大規模深入發(fā)展，必然帶來(lái)文明新形態(tài)的產(chǎn)生。在今天數字技術(shù)正在方興未艾地發(fā)展，我們提前提出數字文明的概念，以此來(lái)規范數字技術(shù)的發(fā)展，使之朝著(zhù)有利于人類(lèi)福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱(chēng)道的。

主持人：CNCC 大會(huì )主要是討論數字技術(shù)的，參與者可能更多地盯在器物層面。但是大會(huì )主席在確定這個(gè)題目的時(shí)候，站到了更高的層面，來(lái)從整個(gè)人類(lèi)發(fā)展的歷史和文明形態(tài)的變更上來(lái)去考慮這樣的問(wèn)題。數字技術(shù)不等于數字文明，建設數字文明，不僅需要技術(shù)，還需要相應的所有上層建筑的一起參與。

參考文章：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀(guān)察:我國智慧農業(yè)的現狀與展望. EEPW,2024(1-2):56-59.

（本文來(lái)源于《EEPW》2024.3）