馬克·麥卡錫：機器學(xué)習算法中的政治

　　公元前1200年左右，殷商時(shí)期的中國就發(fā)展出了工廠(chǎng)制，鑄造出成千上萬(wàn)尊大型青銅器皿供日常生活和典禮儀式使用。在這個(gè)關(guān)于大規模生產(chǎn)的古代案例中，需要事先制定精細的計劃，對大批工人進(jìn)行分組協(xié)調，確保每組工人按部就班地逐項執行任務(wù)，才能鑄造出青銅器。

　　一千年以后，中國迎來(lái)了首位皇帝秦始皇，他著(zhù)名的兵馬俑軍隊也是通過(guò)同樣復雜的流程制造出來(lái)的。舊金山亞洲藝術(shù)博物館的資料顯示，兵馬俑雕像是“通過(guò)一套裝配生產(chǎn)體系塑造燒制而成，這一體系為后世的大規模商業(yè)生產(chǎn)鋪平了道路?！?/p>

　　有學(xué)者推測，這些早期的規范性操作技術(shù)對塑造中國社會(huì )發(fā)揮了重要作用，例如使人們更容易接受官僚機構及其背后那套強調等級的社會(huì )哲學(xué)，接受“只有一種正確的行事方式”的觀(guān)念。

　　19世紀，當工業(yè)廠(chǎng)房最初出現在歐洲時(shí)，即使連恩格斯等資本主義的嚴厲批評者也承認，無(wú)論采用資本主義還是社會(huì )主義經(jīng)濟體系，大規模生產(chǎn)都會(huì )使中央集權成為必需。在20世紀，蘭登·溫納(Langdon Winner)等理論家將這一思路擴展到其他技術(shù)領(lǐng)域。例如，他認為原子彈應被視為一種“具有內生政治屬性的人工制品”，因為其“高度致命性決定了它應該由集權式、嚴格層級化的指揮鏈來(lái)控制”。

　　今天，我們可以把這個(gè)思路再往前推進(jìn)一步。機器學(xué)習算法(machine-learning algorithms)已成為當今最重要的通用技術(shù)，這些算法利用真實(shí)世界中的范例來(lái)模擬人類(lèi)認知能力，已經(jīng)在現實(shí)工作場(chǎng)所中廣為應用。然而，為了充分利用這些技術(shù)，發(fā)揮算法的優(yōu)勢，各類(lèi)組織必須將人工任務(wù)重新定義為預測任務(wù)(prediction task)。

　　機器學(xué)習算法的關(guān)鍵特征之一是，其性能會(huì )隨著(zhù)數據量增加而提高。因此，應用算法本身就會(huì )產(chǎn)生一種技術(shù)動(dòng)力：將人的各類(lèi)信息視為可記錄、可訪(fǎng)問(wèn)的數據。就像大規模生產(chǎn)體系一樣，這些數據也“具有內生政治屬性”，因為其核心功能傾向于肯定某些社會(huì )實(shí)踐，否定另一些行為，尤其與人類(lèi)個(gè)體維護隱私的意愿直接沖突。

　　在美國社會(huì )學(xué)家阿米塔伊·埃茨昂尼(Amitai Etzioni)等社群主義者的眼里，建立在社群成員信息公開(kāi)化基礎之上的體系似乎是經(jīng)得起檢視的。對他們而言，對隱私的種種限制只是執行社會(huì )規范的一種手段。但計算機算法與社群主義者不同，它不關(guān)心社會(huì )規范，只關(guān)心如何通過(guò)將人類(lèi)生活轉化為可供開(kāi)采的數據集，并基于此更準確地做預測。

　　科技勢在必行的力量在不經(jīng)意間把信奉個(gè)人主義的西方人轉變?yōu)樯缛褐髁x者，使他們更仰賴(lài)于以算法評估為基礎的賢能主義體制。無(wú)論是在工作、學(xué)習，還是約會(huì )類(lèi)應用程序中，我們都已經(jīng)習慣于使用不具人格的工具來(lái)評估人們的資格，并為我們在層級結構中分配位置。

　　可以肯定的是，算法評估不是什么新鮮的概念。一代人以前，奧斯卡·甘迪(Oscar H. Gandy)等學(xué)者就曾告誡人們：社會(huì )正在轉向“得分+排名”模式，我們需要建立責任和補償機制來(lái)彌補由技術(shù)造成的錯誤。與今天的機器學(xué)習算法不同，當時(shí)的評估工具比較容易理解，它們是根據相關(guān)規范性和經(jīng)驗性因素來(lái)做決策的，例如，拖欠信用卡賬單導致債臺高筑會(huì )損害一個(gè)人的信用度——這不是什么秘密。

　　與此相對，新的機器學(xué)習技術(shù)則致力于深度挖掘大型數據集，以期發(fā)現人們可預測但無(wú)法完全理解的某些相關(guān)性。在工作場(chǎng)所，算法能夠監測員工的對話(huà)，了解他們在哪吃午飯，在電腦前、電話(huà)上和會(huì )議中分別花了多少時(shí)間，再通過(guò)這些數據搭建出復雜的生產(chǎn)效率模型，遠超人類(lèi)基于常識的直覺(jué)。在基于算法的賢能主義體制中，模型得出的結論就是我們追求卓越的新標準。

　　這并不等于技術(shù)宿命論。我們要趕在技術(shù)塑造人類(lèi)之前塑造技術(shù)。商業(yè)領(lǐng)袖和政策制定者可以根據自身機構的需求，有選擇性地開(kāi)發(fā)和部署他們想要的技術(shù)。我們有能力在人類(lèi)生活的敏感領(lǐng)域布置隱私防護網(wǎng)，防止數據被用來(lái)制造傷害，并要求算法設計要在預測準確性與公平性、責任制和透明度之間取得平衡。

　　如果我們遵循算法的自然邏輯，文化將無(wú)可避免地朝賢能主義和社群主義的方向發(fā)展。這種平穩的轉型將對西方的民主制度和政治結構產(chǎn)生深遠的影響。正如研究中國的學(xué)者貝淡寧和張維為所指出的那樣，中國不斷發(fā)展的社群主義體制為西方自由主義民主傳統提供了主要的替代性政治選擇。

　　中國體制允許公民參與地方選舉，而國家領(lǐng)導人則通過(guò)賢能政治程序來(lái)選拔。領(lǐng)導人被認為是人民福祉的監護者。自由民主國家不太可能完全采取這樣的政治體制。但如果商業(yè)和消費文化按目前的趨勢發(fā)展下去，西方可能越來(lái)越多地轉向中國式的賢能主義和社群主義傳統，逐漸遠離個(gè)人主義和自由民主的歷史傳統。而如果要避免這一轉向，我們必須把政治置于技術(shù)之上。