從“AI向好”到“AI向善”，呼喚以人為本的AI

2023年10月28日，在沈陽(yáng)舉辦的CNCC2023（2023年中國計算機大會(huì )）上，美國斯坦福大學(xué)終身名譽(yù)教授James Landay做了特邀報告。他認為AI系統對人類(lèi)社會(huì )帶來(lái)巨大的影響，但僅僅認識到這些影響還不夠，要真正地以人為本。為此，AI 的開(kāi)發(fā)必須要考慮三個(gè)層次：以用戶(hù)為中心，以社區為中心，以社會(huì )為中心?！耙杂脩?hù)為中心”是考慮最終用戶(hù)的需求和能力，“以社區為中心”使社區參與到設計的早期，“以社會(huì )為中心”預測并調節其在社會(huì )層面的潛在影響。成功的以人為本的AI 需要除專(zhuān)業(yè)技術(shù)人員以外的多學(xué)科團隊的早期參與，包括設計、社會(huì )科學(xué)/ 人文學(xué)科、醫學(xué)和/或法律等相關(guān)領(lǐng)域的專(zhuān)家及社區成員。

1 AI的正面和負面影響

AI（人工智能）是強大的工具。如果你設計AI系統，你會(huì )希望構建能產(chǎn)生積極社會(huì )影響的AI。

當前AI正在許多領(lǐng)域席卷世界，從使用AlphaFold等工具進(jìn)行科學(xué)發(fā)現，到我們所有人每天用來(lái)翻譯業(yè)務(wù)文檔或與世界各地同事交流的自然語(yǔ)言處理，甚至影響到時(shí)尚界——時(shí)裝公司正在使用AI 來(lái)確定下一季的款式，以及如何優(yōu)化供應鏈，以節省材料。

在過(guò)去的一年里，生成式AI的出現更引發(fā)了風(fēng)暴。ChatGPT為你的問(wèn)題提供答案，Midjourney可以繪畫(huà)，Copilot幫助你輕松編程。

盡管我們每天都能看到AI 的身影，但AI不一定全是好事，AI操縱著(zhù)當今的社會(huì )智能，在操縱社交網(wǎng)絡(luò )——人們?yōu)橹?，或更糟糕的是，AI引發(fā)的事件甚至終結了民主。例如在美國，有AI對犯罪進(jìn)行有偏見(jiàn)判決的報道，《紐約時(shí)報》2017 年5 月報道稱(chēng)，有人《被軟件程序的秘密算法送進(jìn)監獄》。ProPublica（注：總部設在紐約市曼哈頓區的非盈利性公司，主要為公眾利益進(jìn)行調查報道）于2016 年5 月報道稱(chēng)，全國各地都在使用軟件來(lái)預測未來(lái)的罪犯，這在某種程度上會(huì )出現有偏見(jiàn)的判決（筆者注：例如模型如果有偏見(jiàn)或錯誤，會(huì )導致結果偏差）。

2 AI應關(guān)注其對人類(lèi)和社會(huì )的影響

根據AI 會(huì )導致積極和消極的原因，大約五年前，Landay 團隊在斯坦福大學(xué)“ 以人為本的AI 研究所（HAI）”提出了發(fā)展AI 的三個(gè)原則。

首先，AI 應該關(guān)注其對人類(lèi)社會(huì )的影響。其次，AI 應該受到人類(lèi)智慧的啟發(fā)。人類(lèi)大腦仍然是宇宙中重要的智慧之源。

第三，AI 應該增強而不是取代人類(lèi)的能力。無(wú)可置疑，AI 將重塑全球勞動(dòng)力的組成結構，因此，政府及相關(guān)機構應該為這場(chǎng)劇變做好準備。

關(guān)于第三點(diǎn)，需要強調的是，AI 可以增強人類(lèi)的能力，因此可以采用特定的設計來(lái)創(chuàng )造和利用AI，幫助人們更好地完成任務(wù)，而不是簡(jiǎn)單地考慮替代。

現在，有許多負面的社會(huì )影響。例如一些專(zhuān)家在有影響力的領(lǐng)域使用AI，但AI 會(huì )失敗?！堵槭±砉W(xué)院技術(shù)評論》2021 年7 月30 日曾報道，《已經(jīng)制造了數百個(gè)AI 工具來(lái)捕捉新冠病毒，但它們都沒(méi)幫上忙》?！禥uartz》發(fā)布了標題為《AI 還有很長(cháng)的路要走，醫生才能相信》的文章，稱(chēng)有時(shí)專(zhuān)家在一些有影響力的領(lǐng)域（例如放射科）使用AI，但可能會(huì )錯誤地解決了問(wèn)題。

因此，認識到AI 的正面影響并不足夠。在促進(jìn)AI的良性發(fā)展中，還要考慮更多方面。經(jīng)?？吹竭@種類(lèi)型：專(zhuān)家試圖在某一領(lǐng)域使用AI，但有時(shí)會(huì )失敗。因為這項技術(shù)并不是單一存在的，這種情況一再發(fā)生。例如就像剛才《麻省理工學(xué)院技術(shù)評論》文章中所看到的那樣，人們已經(jīng)建立了數百個(gè)AI 工具，但沒(méi)有一個(gè)有真正的幫助。在放射科也是如此，斯坦福放射科醫生和AI 研究員Curt Langlotz 認為：AI 會(huì )取代放射科醫生嗎？這是一個(gè)錯誤的問(wèn)題。正確的答案是：使用AI 的放射科醫生將取代不使用AI 的放射科醫生。究其原因，這通常是由于研究人員用來(lái)測算的理想數據集與現實(shí)世界有所差異。目前最大的挑戰是：我們不知道如何設計AI 系統來(lái)增強人們的能力，并產(chǎn)生積極的社會(huì )影響。

3 如何設計AI系統來(lái)增強人們的能力

相信還有更好的方法，即：以人為本的AI。我們如何對AI 進(jìn)行積極控制，以避免其帶來(lái)的負面影響？

為此，我們需要設計和分析這三個(gè)層次的系統：用戶(hù)、社區和社會(huì )。這樣做才能創(chuàng )造積極的技術(shù)。

●   以用戶(hù)為中心。我們首先需要有一個(gè)以用戶(hù)為中心的流程，需要整合自己的設計和人機交互的技術(shù)，以滿(mǎn)足用戶(hù)的需求。

●   以社區為中心。但僅僅擁有以用戶(hù)為中心的設計流程是不夠的。正如上述危害性的案例所述，為法官創(chuàng )建了一個(gè)很好的AI系統，但它只理解數據，忽視了社區影響：原告和被告的家人、律師等。我們需要了解他們來(lái)自不同社區的問(wèn)題，以及他們面臨的結構性障礙。所以在量刑之前，我們不僅要訪(fǎng)問(wèn)和觀(guān)察相關(guān)的人，也可以使用AI 系統?？梢?jiàn)，以用戶(hù)為中心和以社區為中心之間存在著(zhù)互動(dòng)。但即使這樣還不夠。

●   以社會(huì )為中心。如果我們建立的這個(gè)系統變得更加普遍，就像美國許多州和地方使用的指導系統一樣，將會(huì )發(fā)生什么？在美國的監獄系統中，有很大的比例是非洲裔美國人，如何防范種族歧視。我們需要建立一個(gè)預測系統，當建立的系統影響力巨大時(shí)，可能會(huì )發(fā)生什么，并從一開(kāi)始就嘗試設計調解社會(huì )影響。

預測上述影響并不容易。這就是為什么要擁有一支跨學(xué)科的團隊，而不僅僅是計算機科學(xué)家，這一點(diǎn)尤為重要。我們需要來(lái)自醫學(xué)、法律、社會(huì )科學(xué)/ 人文科學(xué)或環(huán)境科學(xué)等領(lǐng)域的專(zhuān)家決定我們將要建立的系統。這些專(zhuān)家必須從一開(kāi)始就是AI 項目的合作伙伴，而不是在項目接近尾聲時(shí)添加進(jìn)來(lái)，以預測可能的危害。

Landay將舉兩個(gè)例子來(lái)說(shuō)明以用戶(hù)、區域、社會(huì )為中心的AI系統。第一個(gè)主要來(lái)自大眾媒體的資訊，對自動(dòng)駕駛汽車(chē)的探討。第二個(gè)是Landay 自己研究項目團隊，展示他們過(guò)去所做的項目的分析方法，該項目是如何讓建筑減輕人們的壓力。

4 案例1：自動(dòng)駕駛汽車(chē)對人類(lèi)行為的影響

特斯拉等汽車(chē)公司都有自動(dòng)駕駛的愿景。這個(gè)愿景是否像我們所相信的那樣？一二十年后，也許這些汽車(chē)公司會(huì )讓你相信這一點(diǎn)。但Landay 想說(shuō)的是，在過(guò)去三四十年里，大多數高校和行業(yè)研究人員就在做這件事。當Landay 還是卡內基梅隆大學(xué)的一名大四學(xué)生時(shí)，有一天，看到一輛卡車(chē)使用自動(dòng)駕駛技術(shù)緩慢駛過(guò)匹茲堡校園旁的雪莉公園。

●   以用戶(hù)為中心。目前的自動(dòng)駕駛汽車(chē)的研發(fā)主要是以用戶(hù)為中心的。

●   以社區為中心。需要關(guān)心其他交通道路參與者無(wú)論是對于其他自動(dòng)駕駛汽車(chē)還是非自動(dòng)駕駛汽車(chē)，以及與行人、騎車(chē)人的互動(dòng)。例如《財富》曾報道，《汽車(chē)保險監管機構警告稱(chēng)，自動(dòng)駕駛汽車(chē)可能在夜間無(wú)法發(fā)現行人》。

●   以社會(huì )為中心。我們需要考慮自動(dòng)駕駛汽車(chē)對城市或地區的影響。也許影響并沒(méi)有那么積極。例如，《記者》2019 年5 月21 日的署名文章《自動(dòng)駕駛汽車(chē)：天堂還是地獄？》認為，自動(dòng)駕駛汽車(chē)帶來(lái)了更大的交通流量、傷亡和浪費，因為開(kāi)車(chē)行駛的里程越來(lái)越遠，人們住在更遠的地方，車(chē)里也空空蕩蕩的。

Landay聯(lián)想到自己采用自動(dòng)駕駛汽車(chē)的未來(lái)場(chǎng)景：他住在斯坦福大學(xué)——在舊金山以南約40 英里處。他下周在舊金山有個(gè)會(huì )議。他打算開(kāi)車(chē)去，但不想花75美元停車(chē)，如果他有一輛自動(dòng)駕駛汽車(chē)，可能會(huì )讓它自己開(kāi)回家，或者讓它停到舊金山南部更便宜的停車(chē)場(chǎng)。

或者盡管他在斯坦福大學(xué)工作，但附近房?jì)r(jià)高，也許他會(huì )搬到兩個(gè)小時(shí)車(chē)程以外的加州中部山谷，那里的費用要低得多，每天早上他將花兩個(gè)小時(shí)在路上，他可以睡在自動(dòng)駕駛汽車(chē)里，或者在路上準備教學(xué)的課件。

可見(jiàn)，自動(dòng)駕駛汽車(chē)會(huì )導致人們行為的變化。

《每日得克薩斯人》2022 年8 月20 日文章稱(chēng)，《得州大學(xué)研究人員發(fā)現自動(dòng)駕駛汽車(chē)功能如何抵消道路安全》，稱(chēng)至少在得克薩斯州，從休斯頓、達拉斯、圣安東尼奧到奧斯汀的三角形區域中，自動(dòng)駕駛汽車(chē)會(huì )因人類(lèi)行為的變化而導致交通堵塞。因為旅行者正在向更遠的地方遷移，人均出行距離從14 英里上升到16 英里。隨著(zhù)旅客轉向自動(dòng)駕駛/ 地面交通，該地區內航空公司的客運量將下降82%。

這里并不是在探討自動(dòng)駕駛汽車(chē)對或不對。而是認為如果按照這種以“用戶(hù)、社區、社會(huì )”為中心的方法分析，從一開(kāi)始，我們就嘗試這樣的考慮：也許自動(dòng)駕駛汽車(chē)或自動(dòng)駕駛公交車(chē)仍然是正確的解決方案，但我們也可以考慮如何建設一個(gè)更好的公共交通系統。

不僅在美國，當我們來(lái)到北京、巴黎、倫敦……返回家中，火車(chē)、公共汽車(chē)和地鐵等公共交通系統給我們留下了深刻的印象。

如果我們一開(kāi)始只針對以用戶(hù)為中心的設計和分析，您可能會(huì )在一開(kāi)始就忽略公共交通系統。這涉及權力問(wèn)題，誰(shuí)有權選擇？我們如何利用社會(huì )資源？現在這種權力非常集中，尤其集中在A(yíng)I 和少數有能力制定大模型語(yǔ)言或行業(yè)規則的大公司中。

5 案例2：2030年的工作場(chǎng)所

多年來(lái)，Landay團隊在做的一個(gè)項目是如何幫助建筑物中的人們保持健康。

盡管自動(dòng)化和數字化不斷發(fā)達，但許多美國人仍感到壓力很大，沒(méi)有靈感，久坐不動(dòng)，被邊緣化。而越來(lái)越多的人意識到建筑會(huì )影響健康，因為人們大部分時(shí)間是呆在建筑物中。據美國環(huán)保局的數據，美國人87%的時(shí)間在家或辦公室等室內建筑里。因此，研究在建筑物中的減壓方式很有必要。

Landay團隊研究了建筑物的特征對人的壓力的影響，如材料、光、聲音等，并思考如何重新設計空間，使其能感知人們的狀態(tài)，并進(jìn)行動(dòng)態(tài)調整，以安慰身處其中的人。

1）未來(lái)的建筑會(huì )和人互動(dòng)

Landay展示了5年前拍攝的視頻片段。未來(lái)的辦公室可以察覺(jué)到工作者的壓力，并調整空間的環(huán)境，例如調整燈光或音樂(lè )。

在公共空間，可看到墻上有一個(gè)動(dòng)態(tài)的鏡子（筆者注：認為是顯示屏），指引我沿著(zhù)顯示的方向回家。因為屏幕上的花在風(fēng)中飄揚，所以我可能很好奇，想看看那里發(fā)生了什么?，F在我走向了樓梯，而不是電梯的方向，這鼓勵我多鍛煉（如圖1）。

圖1

2）研究材料、光、聲對人的影響

以往的研究常是小規模、短期、基于自測的，研究者可能會(huì )讓實(shí)驗者在他們的舊建筑里填寫(xiě)一份調查，然后在他們搬進(jìn)新建筑一個(gè)月后再次填寫(xiě)調查。

Landay團隊采取了更加綜合的科學(xué)步驟。首先建立了建筑屬性如何影響人的理論，然后進(jìn)行動(dòng)態(tài)適應的設計，最后需要了解人們保護隱私的程度，以及他們愿意向建筑透露什么，以獲得幫助和益處。

Landay團隊花費了1年時(shí)間，請了400人參與實(shí)驗，系統地研究了不同的建筑特征。例如桌椅的材質(zhì)是人造板材還是天然木材，還考察了自然光、人造光（無(wú)窗場(chǎng)景）的影響，色彩是單一的（白色）還是多色等（圖2）。

圖2

在測試減壓方面，通過(guò)攝像頭，或者受試者戴著(zhù)手環(huán)和蘋(píng)果手表來(lái)檢測壓力。用各種方法測試進(jìn)行實(shí)驗，其中一種方法是在兩分鐘內通知參與者要做一個(gè)演講，實(shí)驗者將記錄參與者的積極和消極情緒。

測試的結論是：天然材料有助于最大程度地減少參與者的壓力。

如圖3，可以看到左圖的綠色柱條（注：代表天然材料）降低了壓力。右圖可見(jiàn)綠色會(huì )下降到更低的水平，并更快地恢復。

圖3

對于自然光和人造光，Landay團隊也得到了類(lèi)似的結果。這個(gè)研究報告詳細地刊登在《建筑與環(huán)境》期刊2022年224卷，作者是Douglas 等人（如圖2）。

如果要進(jìn)行更大規模的研究，可能會(huì )在一個(gè)真正的辦公室里用更復雜的方式來(lái)測試。

3）產(chǎn)生壓力的因素

在測試壓力方面，考察了收入、財產(chǎn)、創(chuàng )造力、體育活動(dòng)和環(huán)境行為因素（圖4）。這里忽略了生產(chǎn)力因素，因為這方面其他的研究已很多。你可以想想亞馬遜購物網(wǎng)倉庫的工人，如果他們包裝得不夠快，就會(huì )被解雇。

圖4

研究需要從真實(shí)的辦公室獲得信息，而不打擾他們的工作。因此，可以利用從環(huán)境獲得的建筑數據，例如多少人進(jìn)出房間、能源的消耗等。同樣，也可以使用自測報告，可能向實(shí)驗者的手表、手機上一天多次發(fā)送問(wèn)卷，詢(xún)問(wèn)壓力有多大。第三種方法，也可以使用實(shí)驗者的手機、手表等個(gè)人設備的數據，但這種類(lèi)型的數據包含很多個(gè)人信息，所以也需要考慮隱私問(wèn)題。Landay團隊用這些數據來(lái)衡量人的壓力級別。所有的研究都是經(jīng)常進(jìn)行的。并需要確保數據是安全的，只有合適的人才能看到。

4）溝通與隱私保護的結合

智能空間的一個(gè)很大問(wèn)題是如何與個(gè)人用戶(hù)溝通，我們信任和使用哪些數據？ Landay 團隊工作的很大一部分涉及人所擁有的物理數字空間?，F在，產(chǎn)品溝通問(wèn)題的一種方式是使用隱私政策，但這些政策毫無(wú)用處。例如，有許多常見(jiàn)的產(chǎn)品的隱私政策，但有多少人閱讀了這些隱私條款？很少有人這么做。因為這些內容并不是為了向你傳達正在發(fā)生的事情，純粹是走法律流程。

以上是以用戶(hù)為中心的隱私考慮。

我們如何溝通智能空間中正在發(fā)生的事情？

圖5是一位藝術(shù)家所創(chuàng )作的形狀像人眼（注：會(huì )轉動(dòng)）的網(wǎng)絡(luò )攝像頭（Eyecam），它在觀(guān)察你及周?chē)沫h(huán)境。這是一種越來(lái)越常見(jiàn)的溝通方式。例如，也許你的手機或筆記本電腦上有一個(gè)小綠燈，可以將你的錄音發(fā)到云端審查。

圖5

Alias是一種可教育的“寄生蟲(chóng)”（如圖6）。你可以把它放在你的智能揚聲器/ 語(yǔ)音助手上。只有當你給出你定義的關(guān)鍵詞時(shí)，它才會(huì )解鎖，使得谷歌、亞馬遜、蘋(píng)果或百度等語(yǔ)音助手無(wú)法監聽(tīng)你的談話(huà)，以保護你的隱私。

所以在與AI溝通時(shí)，我們希望把溝通和保護隱私這兩種方式結合起來(lái)。

圖6

該如何做到呢？我們的隱私有可能泄露，這讓我們感到不安。關(guān)于社區和社會(huì )層面，Landay舉辦了幾場(chǎng)研討會(huì )，探討了隱私風(fēng)險、價(jià)值權衡和潛在的創(chuàng )新干預。

Landay團隊進(jìn)行了大量測試，參與者多種多樣，有不同的生活經(jīng)歷。在含義設計階段，人們試圖為如何保護這些隱私威脅建立原型。在行動(dòng)回合中，人們進(jìn)行團隊合作，一個(gè)團隊構成威脅，另一個(gè)團隊來(lái)對抗威脅。這必須通過(guò)多次迭代來(lái)學(xué)習，使其更像是一個(gè)合作的游戲，而不是一個(gè)競爭的游戲，才能獲得好的結果。

最近的實(shí)驗是在2023年9月，這個(gè)項目用于舊金山一個(gè)有13名老年人參加的研討會(huì )，以探索基于語(yǔ)音的AI技術(shù)如何影響他們。在考慮價(jià)值觀(guān)背景、殘障程度和種族之前，他們被分為三組。首先給他們一些設備之后，詢(xún)問(wèn)他們的家庭、健康狀況，并與他們的醫生溝通。主醫生可以在屏幕上看到一些內容，護士也有類(lèi)似的訪(fǎng)問(wèn)能力。受試者可以與家人和朋友進(jìn)行不同程度的互動(dòng)。如果有問(wèn)題，受試者可以按下藍色按鈕（例如感到恐慌），它會(huì )調節你的呼吸，使你放松、平靜。紅色按鈕：停止一切。黃色：恢復。

以上部分研究了用戶(hù)和社區層面。

在社會(huì )層面，Landay團隊將會(huì )考察誰(shuí)將有進(jìn)入這些建筑的特權：有隱形殘疾或邊緣化身份的人，他們不想透露；任何進(jìn)入建筑物的人（例如送貨員、訪(fǎng)客）或在外面工作的食品攤販；建筑住戶(hù)、管理人員等。這次研討會(huì )確實(shí)讓Landay 團隊能夠進(jìn)入更高層次的分析。

6 結束語(yǔ)

AI的許多偉大應用幫助人們更好地完成任務(wù)，幫你成為更好的學(xué)習者、更好的設計師或更好地照顧身體。關(guān)鍵是將用戶(hù)、社區和社會(huì )的需求置于智能界面設計的中心。在這三個(gè)層次上進(jìn)行設計是至關(guān)重要的。

我們現在還處于這方面的早期階段，已找到了正確的設計流程。如果在你的工作中，只需把你的以用戶(hù)為中心或社區為中心提升一個(gè)級別，在對人們產(chǎn)生積極影響的方面，你的AI 系統將會(huì )做得更好。

講者介紹：James Landay是斯坦福大學(xué)工程學(xué)院的計算機科學(xué)教授。他是斯坦福大學(xué)以人為本的AI研究所（HAI）的聯(lián)合創(chuàng )始人和副所長(cháng)。他之前是康奈爾理工大學(xué)、華盛頓大學(xué)和加州大學(xué)伯克利分校的終身教職員工。他還是西雅圖英特爾實(shí)驗室主任和NetRaker的聯(lián)合創(chuàng )始人。在北京微軟亞洲研究院休假期間，他在清華大學(xué)教了一個(gè)學(xué)期的書(shū)。Landay在加州大學(xué)伯克利分校獲得了EECS（電氣工程與計算機科學(xué)）學(xué)士學(xué)位，在卡內基梅隆大學(xué)獲得了計算機科學(xué)碩士和博士學(xué)位。他是ACM（美國計算機協(xié)會(huì )）SIGCHI（計算機-人交互的特殊興趣小組)的成員和ACM研究員。他在美國國家科學(xué)基金會(huì )CISE咨詢(xún)委員會(huì )任職六年。

（本文來(lái)源于《EEPW》2024.3）