SHIPT算法擠壓了外包工人 如何對雇主進(jìn)行審計

2020 年初，基于應用程序的快遞公司 Shipt 的零工注意到他們的薪水有些奇怪。該公司于 2017 年被 Target 以 5.5 億美元收購，提供當地商店的當日送貨服務(wù)。這些貨物是由 Shipt 工人完成的，他們購買(mǎi)這些物品并將它們送到客戶(hù)家門(mén)口。在大流行開(kāi)始時(shí)，由于 COVID-19 封鎖使人們留在家中，業(yè)務(wù)蓬勃發(fā)展，但工人們發(fā)現他們的薪水變成了......不可預知的。他們做著(zhù)他們一直以來(lái)所做的工作，但他們的薪水往往比他們預期的要少。他們不知道為什么。

在Facebook和Reddit上，工人們比較了筆記。以前，他們知道工資會(huì )有什么期望，因為 Shipt 有一個(gè)公式：它給工人的基本工資是每次送貨 5 美元，外加客戶(hù)通過(guò)應用程序訂購的總金額的 7.5%。該公式允許工人查看訂單金額并選擇值得他們花時(shí)間的工作。但希普特在沒(méi)有提醒工人的情況下改變了付款規則。當該公司最終發(fā)布有關(guān)這一變化的新聞稿時(shí)，它只透露新的薪酬算法根據“努力”向工人支付工資，其中包括訂單金額、購物所需的估計時(shí)間和行駛里程等因素。

流程圖顯示了基于文本的工具如何解析工作人員屏幕截圖中的數據并提取相關(guān)信息。購物者透明度工具使用光學(xué)字符識別來(lái)解析工人的屏幕截圖并找到相關(guān)信息（A）。每個(gè)工人的數據被存儲和分析（B），工人可以通過(guò)發(fā)送各種命令來(lái)與工具進(jìn)行交互，以了解有關(guān)其工資的更多信息（C）。達娜·卡拉奇

該公司聲稱(chēng)，這種新方法對工人更公平，并且它更好地將工資與訂單所需的勞動(dòng)力相匹配。然而，許多工人只是看到他們的薪水減少。由于希普特沒(méi)有發(fā)布有關(guān)該算法的詳細信息，它本質(zhì)上是一個(gè)黑匣子，工人看不到里面。

工人們本可以悄悄地接受他們的命運，或者在其他地方尋找工作。相反，他們聯(lián)合起來(lái)，收集數據并與研究人員和組織建立合作伙伴關(guān)系，以幫助他們理解他們的薪酬數據。我是一名數據科學(xué)家;我在 2020 年夏天被吸引到這個(gè)活動(dòng)中，我開(kāi)始構建一個(gè)基于短信的工具——購物者透明度計算器——來(lái)收集和分析數據。在該工具的幫助下，有組織的工人及其支持者基本上對算法進(jìn)行了審計，發(fā)現它給40%的工人大幅減薪。工人們表明，盡管公司愿意，但可以反擊算法的不透明權威，創(chuàng )造透明度。

我們如何構建審計 Shipt 的工具
它始于一位名叫威利·索利斯（Willy Solis）的希普特員工，他注意到他的許多同事都在在線(xiàn)論壇上發(fā)帖，談?wù)撍麄儾豢深A測的工資。他想了解薪酬算法是如何變化的，他認為第一步是文檔。當時(shí)，希普特雇用的每位工人都被添加到一個(gè)名為“希普特名單”的Facebook群組中，該群組由公司管理。索利斯在那里發(fā)布了消息，邀請人們加入一個(gè)不同的、由工人運營(yíng)的Facebook群組。通過(guò)第二組，他要求工人向他發(fā)送截圖，顯示他們不同月份的工資收據。他手動(dòng)將所有信息輸入到電子表格中，希望他能看到模式，并認為也許他會(huì )帶著(zhù)這個(gè)故事去找媒體。但是他得到了成千上萬(wàn)的屏幕截圖，光是更新電子表格就花費了大量的時(shí)間。

Shipt 計算器：使用工人工資單挑戰零工經(jīng)濟黑匣子算法

就在那時(shí)，索利斯聯(lián)系了 Coworker，這是一個(gè)非營(yíng)利組織，通過(guò)幫助請愿、數據分析和活動(dòng)來(lái)支持工人的倡導。時(shí)任 Coworker 數字活動(dòng)總監的 Drew Ambrogi 向我介紹了 Solis。我當時(shí)在麻省理工學(xué)院媒體實(shí)驗室攻讀博士學(xué)位，但對此感到有些失望。那是因為我的研究重點(diǎn)是從社區收集數據進(jìn)行分析，但沒(méi)有任何社區參與。我把 Shipt 案例看作是與社區合作并幫助其成員控制和利用他們自己的數據的一種方式。我一直在閱讀有關(guān)大流行期間送貨零工的經(jīng)歷，他們突然被認為是必不可少的工人，但他們的工作條件只會(huì )變得更糟。當 Ambrogi 告訴我 Solis 一直在收集有關(guān) Shipt 工人工資的數據，但不知道如何處理這些數據時(shí)，我看到了一種有用的方法。

一個(gè)女人把一個(gè)袋子放在汽車(chē)后備箱里的照片。一張微笑的男人跪在商店清潔過(guò)道上的照片。希普特制作的一系列光鮮亮麗的照片顯示，穿著(zhù)希普特T恤的工人面帶微笑，愉快地購物和運送雜貨。在整個(gè)工人抗議活動(dòng)中，希普特只表示，它已經(jīng)更新了薪酬算法，以更好地將薪酬與工作所需的勞動(dòng)力相匹配;它不會(huì )提供有關(guān)新算法的詳細信息。其企業(yè)照片呈現了快樂(lè )的 Shipt 購物者的理想化版本。希普特
商業(yè)模式依賴(lài)零工的公司有興趣保持其算法的不透明性。這種“信息不對稱(chēng)”有助于公司更好地控制員工——他們在不泄露細節的情況下設定條款，而員工唯一的選擇是是否接受這些條款。例如，這些公司可以每周改變薪酬結構，通過(guò)實(shí)驗來(lái)了解他們能支付多少工資，同時(shí)仍然讓工人接受工作。沒(méi)有技術(shù)原因說(shuō)明為什么這些算法需要成為黑匣子;真正的原因是維持權力結構。

對于 Shipt 員工來(lái)說(shuō)，收集數據是獲得影響力的一種方式。索利斯啟動(dòng)了一個(gè)社區驅動(dòng)的研究項目，該項目正在收集良好的數據，但效率低下。我想自動(dòng)化他的數據收集，這樣他就可以更快、更大規模地完成。起初，我以為我們會(huì )創(chuàng )建一個(gè)網(wǎng)站，讓員工可以上傳他們的數據。但索利斯解釋說(shuō)，我們需要建立一個(gè)系統，讓員工只需用手機就能輕松訪(fǎng)問(wèn)，他認為基于短信的系統將是吸引員工的最可靠方式。

基于該輸入，我創(chuàng )建了一個(gè)文本機器人：任何 Shipt 員工都可以將他們的工資收據屏幕截圖發(fā)送到文本機器人，并獲得包含有關(guān)他們情況信息的自動(dòng)回復。我用簡(jiǎn)單的 Python 腳本編寫(xiě)了文本機器人代碼，并在我的家庭服務(wù)器上運行它;我們使用一個(gè)名為 Twilio 的服務(wù)來(lái)發(fā)送和接收文本。該系統使用光學(xué)字符識別技術(shù)（與在PDF文件中搜索單詞的技術(shù)相同）來(lái)解析屏幕截圖的圖像并提取相關(guān)信息。它從 Shipt 那里收集了有關(guān)工人工資的詳細信息、客戶(hù)的任何提示以及工作的時(shí)間、日期和地點(diǎn)，并將所有內容都放入 Google 電子表格中。字符識別系統很脆弱，因為我對它進(jìn)行了編碼，以便在屏幕截圖的某些位置查找特定信息。項目開(kāi)始幾個(gè)月后，當 Shipt 進(jìn)行更新時(shí)，工人的工資收據突然看起來(lái)不同，我們不得不爭先恐后地更新我們的系統。

除了公平的薪酬，工人還希望透明度和能動(dòng)性。

每個(gè)發(fā)送屏幕截圖的人都有一個(gè)與他們的電話(huà)號碼綁定的唯一 ID，但我們收集的唯一人口統計信息是工人的都會(huì )區。從研究的角度來(lái)看，看看工資率是否與其他人口統計數據（如年齡、種族或性別）有任何聯(lián)系會(huì )很有趣，但我們希望向員工保證他們的匿名性，這樣他們就不會(huì )擔心 Shipt 僅僅因為他們參與了這個(gè)項目而解雇他們。從技術(shù)上講，共享有關(guān)其工作的數據違反了公司的服務(wù)條款;令人驚訝的是，工人——包括被歸類(lèi)為“獨立承包商”的零工——往往對自己的數據沒(méi)有權利。

一旦系統準備就緒，索利斯和他的盟友就通過(guò)郵件列表和Facebook和WhatsApp上的工人團體傳播了這一消息。他們稱(chēng)該工具為購物者透明度計算器，并敦促人們發(fā)送屏幕截圖。一旦一個(gè)人發(fā)送了 10 張屏幕截圖，他們就會(huì )收到一條消息，其中包含對他們特定情況的初步分析：該工具確定該人是否在新算法下獲得報酬，如果是，它會(huì )說(shuō)明如果 Shipt 沒(méi)有改變其薪酬系統，他們會(huì )多賺多少錢(qián)。工人還可以要求提供有關(guān)他們的收入中有多少來(lái)自小費以及他們都會(huì )區其他購物者的收入的信息。

Shipt Pay 算法如何縮短工人
截至 2020 年 10 月，我們收到了來(lái)自 200 多名工人的 5,600 多張屏幕截圖，我們暫停了數據收集以處理這些數字。對于在新算法下獲得報酬的購物者，我們發(fā)現40%的工人的收入比在舊算法下低10%以上。更重要的是，通過(guò)查看所有地理區域的數據，我們發(fā)現大約三分之一的工人的收入低于所在州的最低工資。
這并不是一個(gè)明顯的工資盜竊案例，因為在新計劃下，60%的工人的收入大致相同或略高。但我們認為，重要的是要關(guān)注那些通過(guò)黑匣子過(guò)渡而突然減薪的 40% 的工人。
除了公平的薪酬，工人還希望透明度和能動(dòng)性。這個(gè)項目凸顯了 Shipt 工人為獲得這種透明度付出了多少努力和基礎設施：需要積極進(jìn)取的工人、一個(gè)研究項目、一個(gè)數據科學(xué)家和定制軟件來(lái)揭示有關(guān)這些工人狀況的基本信息。在一個(gè)更公平的世界里，工人擁有基本的數據權利，法規要求公司披露他們在工作場(chǎng)所使用的人工智能系統的信息，這種透明度將默認提供給工人。
我們的研究沒(méi)有確定新算法是如何得出其支付金額的。但 Shipt 技術(shù)團隊在 2020 年 7 月的一篇博客文章中談到了該公司擁有的有關(guān)其合作商店規模的數據，以及他們計算購物者在空間中走動(dòng)需要多長(cháng)時(shí)間的數據。我們最好的猜測是，Shipt的新支付算法估計了工人完成訂單所需的時(shí)間（包括在商店中尋找商品所花費的時(shí)間和開(kāi)車(chē)時(shí)間），然后嘗試每小時(shí)支付15美元。似乎被減薪的工人花費的時(shí)間可能比算法預測的要多。

索利斯和他的盟友利用這些結果來(lái)吸引媒體的關(guān)注，因為他們在阿拉巴馬州伯明翰的希普特總部和明尼阿波利斯的塔吉特總部組織了罷工、抵制和抗議活動(dòng)。他們要求與希普特的高管會(huì )面，但他們從未得到公司的直接回應。它對媒體的聲明含糊其辭，只說(shuō)新的支付算法根據工作所需的努力來(lái)補償工人，并暗示工人占了上風(fēng)，因為他們可以“選擇是否接受訂單”。

抗議活動(dòng)和新聞報道對工人條件有影響嗎？我們不知道，這令人沮喪。但是我們的實(shí)驗為其他希望使用數據進(jìn)行組織的零工工作者提供了一個(gè)榜樣，它提高了人們對算法管理缺點(diǎn)的認識。我們需要的是平臺商業(yè)模式的大規模改變。

算法管理的未來(lái)？
自 2020 年以來(lái)，已經(jīng)向前邁出了幾步充滿(mǎn)希望的一步。歐盟最近就一項旨在改善零工工人條件的規則達成了協(xié)議。所謂的“平臺工人指令”與最初的提案相比大大淡化，但它確實(shí)禁止平臺收集有關(guān)工人的某些類(lèi)型的數據，例如生物識別數據和有關(guān)其情緒狀態(tài)的數據。它還賦予工人有關(guān)平臺算法如何做出決策的信息的權利，并有權審查和解釋自動(dòng)化決策，并由平臺支付獨立審查費用。雖然許多工人權利倡導者希望該規則走得更遠，但它仍然是監管的一個(gè)很好的例子，它控制了平臺的不透明性，并賦予工人一些尊嚴和能動(dòng)性。
一些關(guān)于零工數據權利的辯論甚至已經(jīng)進(jìn)入了法庭。例如，英國的 Worker Info Exchange 在 2023 年贏(yíng)得了針對 Uber 的訴訟，該訴訟涉及其解雇兩名司機的自動(dòng)決定。法院裁定，必須向司機提供有關(guān)他們被解雇原因的信息，以便他們能夠有意義地挑戰機器人解雇。
在美國，紐約市通過(guò)了該國第一部針對零工的最低工資法，去年該法律在DoorDash、Uber和Grubhub的法律挑戰中幸存下來(lái)。在新法律出臺之前，該市已經(jīng)確定其 60,000 名送貨工人的平均時(shí)薪約為 7 美元;法律將費率提高到每小時(shí)約20美元。但法律對零工工作中的權力失衡無(wú)能為力——它沒(méi)有提高工人確定工作條件、獲取信息、拒絕監視或對決定提出異議的能力。
在世界其他地方，零工工作者正在聚集在一起，想象替代方案。一些送貨員已經(jīng)開(kāi)始了工人擁有的服務(wù)，并加入了一個(gè)名為CoopCycle的國際聯(lián)合會(huì )。當員工擁有平臺時(shí)，他們可以決定要收集哪些數據以及如何使用這些數據。在印度尼西亞，快遞員創(chuàng )建了“大本營(yíng)”，他們可以在那里為手機充電、交換信息并等待下一個(gè)訂單;有些甚至建立了非正式的應急響應服務(wù)和類(lèi)似保險的系統，以幫助發(fā)生交通事故的快遞員。
雖然希普特工人的反抗和審計的故事沒(méi)有童話(huà)般的結局，但我希望它仍然能激勵其他零工工人以及工作時(shí)間越來(lái)越受到算法控制的輪班工人。即使他們想更多地了解算法如何做出決策，這些工人也往往無(wú)法獲得數據和技術(shù)技能。但是，如果他們考慮有關(guān)工作條件的問(wèn)題，他們可能會(huì )意識到他們可以收集有用的數據來(lái)回答這些問(wèn)題。還有一些研究人員和技術(shù)人員有興趣將他們的技術(shù)技能應用于此類(lèi)項目。
零工并不是唯一應該關(guān)注算法管理的人。隨著(zhù)人工智能逐漸滲透到我們經(jīng)濟的更多領(lǐng)域，白領(lǐng)發(fā)現自己受到自動(dòng)化工具的影響，這些工具定義了他們的工作日并判斷了他們的表現。
在 COVID-19 大流行期間，當數以百萬(wàn)計的專(zhuān)業(yè)人士突然開(kāi)始在家工作時(shí)，一些雇主推出了軟件，可以捕獲員工計算機的屏幕截圖，并通過(guò)算法對他們的生產(chǎn)力進(jìn)行評分。不難想象，當前生成式人工智能的繁榮將如何建立在這些基礎之上：例如，大型語(yǔ)言模型可以消化員工寫(xiě)的每封電子郵件和 Slack 消息，為管理人員提供員工生產(chǎn)力、工作習慣和情緒的摘要。這些類(lèi)型的技術(shù)不僅損害了人們的尊嚴、自主權和工作滿(mǎn)意度，還造成了信息不對稱(chēng)，限制了人們挑戰或談判工作條款的能力。

我們不能讓它走到這一步。零工工人正在進(jìn)行的戰斗是爭取工作場(chǎng)所權利的更大戰爭的領(lǐng)先戰線(xiàn)，這將影響我們所有人?，F在是時(shí)候定義我們與算法的關(guān)系了。