“無意的算法殘酷”：困在系統里的外賣騎手如何“養系統”
“人工智障”
騎手對于系統的感知多來自對App的使用以及自身的送單勞動。在日常工作中，騎手對于后臺系統的稱呼十分多樣，包括“送單App”“技術”“后臺”“手機”，也有騎手直接使用“平臺”來稱呼派單系統。對于大多數騎手來說，后臺的技術系統“十分復雜”，“整不太明白”。而在日常的交流中，騎手對于系統的感知形態通常十分具體、充滿了情境性。他們根據自己的勞動去理解、揣摩算法，并闡釋了自己對于技術系統的理解。我和調研小組其他成員在訪談中聽外賣員講了很多大大小小的關于系統的例子。這些例子雖然無法讓我們看到整個系統與勞動的互動全貌，但是卻像一塊塊單片的拼圖，讓我們得以透過個案“以小見大”，窺見系統與勞動的動態互動。
在實際的送餐過程中，騎手對于派單路線和地圖引導的抱怨十分普遍，幾乎到了人人都要說兩句的地步。其中對于地圖的智能引導抱怨最多。我在2017、2018年的田野調查中發現，彼時很多外賣平臺的訂單配送距離設置都是計算直線距離而非實際路程距離。由于算法需要根據訂單的配送距離預估配送時間，實際路程與直線距離的差異增加了外賣員的配送壓力。對此，高喆師傅多次向我抱怨：
直線距離短，實際距離比這長多了！有一次，一個去豪景東方的單子，顯示是3公里，結果你猜，我跑了多少？5.2公里！……系統這個地圖不對。顯示直線距離算什么？我們又不是直升飛機，起飛、降落就行。
對于計算距離，平臺的地圖系統后來做出了調整，以實際距離代替了直線距離來計算時間。但是，一些騎手仍然不滿，他們表示，系統顯示的距離經過了處理，被有意無意地縮短了，實際的送單距離往往要超過系統顯示的距離。騎手大多不通曉計算和技術，但在他們看來，后臺這些充滿高科技、十分復雜的算法系統出現的問題有時“十分幼稚”，讓他們啼笑皆非。他們在聊天的時候，將后臺系統戲稱為“人工智障”。
巖暉濤（下文對話中簡稱“巖”）是潘家園附近的一名“餓了么”騎手，他不高，有點胖，說話的時候笑瞇瞇。2017年開始，他在一家連鎖餐廳駐店，專門負責該餐廳的訂單派送。采訪后，我們加了微信，有時會通過微信聊天。有一天，他主動找我，問我是否還在繼續做外賣騎手的調研，并表示他愿意給我提供一些系統“搞笑的事情”。為了讓我更好地理解，他先是給我發了很多張手機截圖（參見圖10），然后開始講系統是怎樣“無理取鬧”，以至于讓他無可奈何。
下面是我倆的微信對話：
巖：今天這些單派得，太不合理了。
我：哪里不合理？
巖：反向派單能合理嗎？現在時間太緊張了。
我：就是逆行嗎？
巖：嗯，系統的路線就是逆行路線。你看，從3到4，我得過一條河，還有一條高速。按照地圖導航，我得繞一個大圈。按理說，以高速為界，兩側的單幾乎沒法送。我今天倒好，送了好幾次！
我：你是怎么過去的？
巖：找天橋，逆行過去。
由于后臺系統會根據騎手的流動數據來不斷調整送餐路線，所以在很多情況下，流量多的數據便有了合法性。于是，很多情況下，騎手為了節省距離、縮短送餐時間而不得已選擇的逆行路線也會被后臺地圖逐漸采納，并發展成推薦路線。每次說起這個事情，巖暉濤都會哈哈大笑，然后拋給我一句：“魯迅說得好，這世上本沒有路，走的人多了也就成了路！”
也有騎手抱怨后臺系統“不好使”、“不智能”。老高站點里的同事曾經抱怨過App的藍牙識別不準確：
不點到店，沒法出餐。（App后臺有一個）藍牙識別到店（功能），有的（時候，后臺對）商家定位不準，你明明就在，但你就點不了到店。你到不到店，技術說了算。但是這個時候，如果客戶取消，就是（我們的）物流責任，罰騎手五百，一天白干。
諸如定位不準、無法點擊下一步、派單混亂等問題經常被騎手們提及。而每一個技術性的問題背后，其實都與騎手的配送“業績”和勞動收入緊密關聯。為了保證自己的送餐過程順暢，騎手發展出了很強的能動性和靈活性，他們會實時跟進訂單的剩余時間、到店取餐時間、路程的遠近，以及樓層、有無電梯、是否需要通過門禁等。面對“人工智障”，騎手會在此過程中開辟一套特定的、與系統對話的邏輯，并在此基礎上實現人與機器的共同進化。通過送單勞動，騎手不斷地為平臺算法所設計的邏輯“試錯”。騎手所承擔的勞動，更像“測試端”的工程師，他們一次次地送單，一次次地驗證系統的準確性。唯一不同的是，測試工程師面對的是電腦屏幕，而騎手的測試則是在三維立體、充滿各種復雜情況的大街上。“騎手抱怨—平臺改進”的這個過程生動地展現了智能算法的成長歷程。
“養系統”
2021年夏天的午后，我們和大強哥、王小笠、李飛龍、驢哥等騎手在房山美食一條街的一家餐館聊天。閑聊時我提到外賣的派單系統，以此開啟了話頭，騎手們紛紛發表意見。在你來我往的激烈討論中，我發現，雖然大家對于平臺的派單系統充滿了各式各樣的不滿，但是卻在一點上達成了共識，那就是，作為騎手，需要養好自己的派單系統。坐在我旁邊的大強哥扒了一口米飯，沒好氣地說：
系統就是爺爺，需要時時養著！你對它好，它才會對你好！
大強哥是房山良鄉楸樹街的眾包騎手。他三十歲左右，身材魁梧，挺著個啤酒肚，騎一輛大摩托，為人直爽，說話聲音大。按照我的理解，他算得上是房山美食一條街的“意見領袖”。他干的時間長，經驗豐富，認識的騎手兄弟多，也喜歡跟大家交流。遇到拿不準的事情，騎手們會找他商量。2021年夏天，我和調研小組的同學們多次前往楸樹街，大強哥熱情地給我們介紹其他騎手，還給我們每人指定了一位騎手，讓我們跟著去跑單。我曾經跟著大強哥跑了一個下午，他騎車快，走路速度也快，我不得不跟在后面一路小跑。
對我來說，“養系統”是一個非常有趣的田野議題。根據大強哥的反饋，系統是分層級的，只有把數據弄好了，系統才會派給自己更好的單子。對于如何“弄好自己的數據”，大強哥的回答是：“好好跑單。”他的解釋如下：
首先，不能老拒單。拒一次兩次行，一天拒很多次，后臺就會知道——它都有自己的設置。到了一定數量，你不但接不到單，還可能被封號。對啊，因為你老拒單。……還有，要堅持跑。你看那些排名靠前、業績好的，哪個不是全天在崗？（他們）很少請假。三天打魚兩天曬網不行。數據都是積累起來的，不常跑，沒有好數據。
在跑單過程中，騎手們敏銳地發現了后臺系統是靠數據積累對外賣騎手進行等級評定和派單的。這一點尤其適用于搶單的眾包騎手。到了午高峰和晚高峰時段，眾包騎手們出現在大街上，三五成群，或坐在小吃店門口，或倚靠在電動車旁，開始埋頭“搶單”。我曾不止一次地聽到騎手們抱怨，一個訂單發出來，大家一起搶，但是最后，總是會落到他們知道的幾個人手里。他們對此百思不得其解，有人說是因為不同品牌的手機搶單速度不同，也有人說是距離的問題，還有人說是搶到的人用了作弊軟件。
但是大強哥不這么認為。按照他的說法，那幾個固定的人總是可以搶到單，是因為他們的“數據好，跑單從來不挑”，所以系統才會傾向于把好單子派給他們。大強哥一直堅持說“好數據是靠努力得來的”。他并不看好整日蹲在街頭“挑單子”、“拒單子”的騎手。相反，想要有一個好的數據，需要埋頭苦干。
《又是充滿希望的一天》劇照
在這里，“養系統”的埋頭苦干和前文中所提及的闖關游戲不謀而合。系統在不斷升級、進化的邏輯下，需要騎手生產源源不斷的數據“投喂”自己。在游戲化的邏輯下，騎手勞動和后臺系統形成了微妙的互動循環：送單多、時效快的騎手會得到更多的訂單，而單量小、“挑單子”的騎手則不會得到系統的正反饋，并存在被邊緣化的傾向。算法系統逐漸向著組織化和層級化的結構轉變，其中，持續性、遵從性成為系統派單的主邏輯。
“閃送”平臺的“派單”和“搶單”分類是“養系統”生動的體現。平臺會根據騎手的送單數量和工作時長將閃送員劃分為“派單”和“搶單”兩個類別。前者指的是由平臺主動派單給騎手，“派單”的級別高、單量多、訂單價高；后者則需要騎手在平臺分發出來的訂單中自主搶單，“搶單”級別低、單量少、訂單價低。騎手想要維持“派單”的級別，需要持續地、不間斷地定額勞動。按照規定，一個騎手每周、每天都需要完成一定額度的送單量，如果因為某些原因沒有完成規定訂單量，則會被降級為“搶單”。
“算法想象”一直是算法研究中的重要領域，它旨在探究人們如何知曉、認識算法體系本身。擁有專業技能的人可能通過算法的內里機制向外延伸想象算法的應用，而更多的、無從知曉算法“黑箱”的人，則通過算法體系的外在表現關注算法的系統設置。在這一理論探索中，“算法想象”并不僅僅是一種“想象”而已。相反，它是一個實踐過程，一個生成性過程。個體對于算法的想象會直接影響到其個人生活以及其與算法的交互。長期的實踐經驗養成了外賣騎手對于后臺算法的獨到想象。大強哥、王小笠、李飛龍、驢哥在一起的時候，時常討論起后臺的算法“黑箱”。雖然他們無法從專業的角度理解、闡釋為什么在一些情況下算法會這樣，在另一些情況下卻變成另外的樣子，但是他們的猜測、質疑、想法毫無疑問形成了“算法八卦”（algorithmic gossip），這些話語的表達組成了外賣騎手對于算法的想象，也深刻地影響著他們的跑單勞動。
例如，當知道系統需要不斷通過個體勞動“被投喂”時，“養系統”所需要的持續性有時候讓騎手們很為難。雖然平臺以靈活自主的工作定位來招工，但在實際的勞動過程中對騎手有連續的工作時間要求。一些騎手因為探病、秋收或者其他緊急情況回老家的情形時常發生，而這些意外一旦打斷了其工作的連續性，他們的后臺數據就會變得“不好看”，騎手等級也會隨之下調。一位“閃送”平臺的騎手曾在“抖音”上悶悶不樂地描述自己的處境：
必須天天跑。你看，我這幾天回老家一趟，有點事，這績效就下來了。沒法拿到大單，只能送一些周邊的小單。
2014年，網頁設計顧問兼作家埃里克·邁耶（Eric Meyer）創造了“無意的算法殘酷”一詞，用來描述計算機設計中的一個缺陷——缺乏共情的能力。的確，在送餐平臺的算法設計中，通過持續性勞動來“養系統”的做法也同樣充滿爭議。作為身處社會之網中的流動人群，騎手面臨著生活和勞動中的諸多不確定。通過單一的算法監控來“定價”騎手的勞動而不允許其“出現意外”，其實是在將騎手當作一種可以持續生產價值的機器，而非具有個體化生活情境的人。
更加令人驚奇的是，在日積月累的勞動中，騎手們會對算法系統產生情感依賴。他們將App擬人化，并努力地與其進行對話。在這個過程中，“養系統”成為一種非常有趣的人機互動實踐。“非常聰明”“雞賊”“很會算計”等用來形容人的詞匯被大量用來形容平臺后臺的派單系統。在等單之余，騎手們也會“鉆研系統”。他們通過瀏覽App網頁內的諸多細則、規定，從中得出自己的理解，并與其他騎手一起分享、討論，甚至是在送單過程中不斷實踐、驗證。關于騎手“逆算法”的勞動實踐，將在第六章詳細展開。這里我所要強調的，是騎手與系統形成的既依附又對抗、既合作又協商的互動過程。在這個過程中，甚至出現了有趣的情感依賴。在情感社會學的論述中，學者認為，情感的喚醒和聯結是人類的重要特性。同時，情感受到社會和文化諸多結構性因素的影響。外賣騎手與技術系統的互動是催生其情感喚醒的重要因素，也極有可能是我們人類即將面對的人機對話的未來場景。
卡羅琳·馬文在其著作《當舊技術尚新》一書中，闡釋了對于技術進化的理解。她認為，技術的進化不僅僅有功用性、工具性的一面，更有其人文性和社會性的一面。這樣的觀點，放到今天算法和人工智能技術的演進中依舊適用。在技術形態發生深刻轉變的今天，算法的進化絕對不是單純的編碼、程序、軟件所講述的單一邏輯。恰恰相反，它的進化深深地嵌入在平臺勞動的過程中。算法的進化需要以數字勞動者的“行為化數據”作為基礎，并在此之上形塑對勞動者越來越精細和嚴格的管理。這也正是我在本章開頭所表述的“生成性管理”的內涵。
此種“反噬”的后果，值得我們深思。正如《外賣騎手，困在系統里》所闡釋的，當算法系統越來越嚴苛，騎手的速度越來越快，整個外賣產業便陷入了難以逃脫的“負循環”。也正因此，外賣產業會被冠以“過渡勞動”的意涵，源源不斷地有人加入，也源源不斷地有人離開。如今的外賣系統更像是一個“技術奇點”，把所有參與其中的人帶向一個未知的未來。
提上日程的算法倫理
《又是充滿希望的一天》劇照
在智能技術如此“脫韁”的今天，我們確實有必要呼吁對于它的控制和反思。尤其是當技術與資本進一步綁定以來，它的強大動能及相伴而生的強大破壞力日益顯現，技術的利維坦似乎正在成為現實。平臺經濟日益普及，技術的資本屬性和公共屬性發生了明顯的沖突。“困在系統里”的騎手所展現的正是這樣一種矛盾。騎手參與了算法的生產，卻無法參與算法規則的制定。對于算法倫理問題的討論，展現出了技術的公共性邏輯與私人化邏輯之間的矛盾。
我們不妨回到技術設定的最初期望。技術的初心和本質是什么？從有了技術發展的理念起，人類歷史對于技術發展方向的設定應該是讓社會和生活變得更美好。這種“美好”體現在技術的發展讓越來越多的人享受到或便利或充裕的生活。技術可能會被濫用，但技術帶有的共享、公益，始終是其最重要的社會屬性。正如有學者指出，“與狹隘的私人性、集團性相對立的公共性、公益性，是技術社會化實踐最重要的價值內核和評判標準”。
退一步講，無論是從學理還是實踐角度來說，基于人類智力勞作所產生的技術產品，其必然帶有與生俱來的公共性特質。這種公共性特質表現為技術的出現會增益于人類的生存、生活與發展，能夠幫助人類進一步解決整體性的生存困境，并不斷增加人類生活的公共價值。例如，互聯網技術的最初出現，便是基于全人類互聯互通、信息自由流通的邏輯來進行的設計。無論是技術史還是社會史都表明，一項技術的生成絕對不是個體化、單一化的產物，恰恰相反，它具有集體性、互動性，是結合了多種行動者且具有多元特質的產物。說回到算法，它的生產和生成同樣是遵循集體性生成的邏輯。因此，當這樣一項集體合作的技術因為諸多組織化、結構化和科層制的干預而演變為單一方面的決策與獨斷時，便出現了技術有悖于公共性的問題。
“外賣騎手，困在系統里”的討論在全社會范圍內迅速引發了關于算法技術倫理的關注。這引起了政府的重視，也給平臺公司帶來了較大的輿情壓力。在此之后，各方終于開始積極反思算法作為一種帶有社會權力關系的技術系統應該如何被建構和管理，并開始采取行動。
在最為大家所詬病的騎手“送餐時間”的問題上，“美團”于2021年9月向社會公開了騎手配送時間的計算規則。對于騎手配送時間的預估，后臺系統設置了“歷史數據模型估算時間”“城市通行狀態特性下估算時間”“出餐到店取餐等配送各場景累加估算時間”和“配送距離估算時間”四種算法，并承諾將使用四種算法中的最長時間作為騎手的“預估送達時間”。在此之外，為了減少取餐環節“人等餐”的情況，騎手可以通過App上報，獲得一定的時間補充。在回應關于算法優化的目標問題上，平臺確立了三個原則：一是堅持公正合理、以人為本；二是堅持公平協調，充分考慮消費者、商戶、騎手等平臺關聯各方的利益訴求；三是堅持公開透明，及時向社會公開關系各方權益的算法規則。2021年11月，“美團”公布了“訂單配送”算法，通過其給出的資料，“美團”指出訂單分配的邏輯綜合了騎手、商戶與消費者三端，并調整了騎手的時間寬裕度、順路程度兩個指標來進行訂單分配。
政府政策緊隨其后。2021年9月17日，國家互聯網信息辦公室、中央宣傳部、教育部、科學技術部、工業和信息化部、公安部、文化和旅游部、國家市場監督管理總局、國家廣播電視總局等九部委印發了《關于加強互聯網信息服務算法綜合治理的指導意見》，明確了算法生態規范的原則：“算法應用公平公正、公開透明，算法發展安全可控、自主創新，有效防范算法濫用帶來的風險隱患。”2022年1月4日，國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局等四部門聯合發布《互聯網信息服務算法推薦管理規定》，指出在提供算法相關服務時，“應當遵守法律規定、尊重社會公德和倫理，遵守商業道德和職業道德，遵循公平公正、公開透明、科學合理和誠實信用的原則”。
這是一種積極的反饋。算法的倫理問題被提上日程。通過《外賣騎手，困在系統里》一文，社會各方開始關注數據的生產、算法的規則制定以及由此衍生的平臺勞動者權益問題。而在“生成性管理”邏輯下的平臺經濟中，算法倫理反思的核心議題應該是數據的從屬和算法規則的公共參與。在智能與個體生活勞作聯系如此緊密的今天，數據和算法的問題“已經從單純的‘個體信息’和隱私保護的單一維度，擴展至‘個體權益、企業競爭和生產關系’三個維度”。因此，回到政治經濟學的視角去反思這是誰生產的技術系統、應該為誰所有、能夠產生什么樣的公共價值，顯得更為必要。
技術倫理學家安德魯·芬伯格在《可選擇的現代性》中這樣說：“首先，我們正在進入一個以泛化的技術為特征的新時代，這些技術以非常難以意料的方式影響著我們；其次，它關系到我們如何對待技術，因為，這也許是歷史上的第一次，公眾的參與正在開始對技術變革的形式產生重要的影響。”后疫情時代，基于全球產業、信息技術的民族國家利益紛爭和市場化消費，強化了智能技術發展的光環、優勢和支配性心理。誰掌握了更多的技術、誰擁有更多的數據，誰便擁有了決定未來數字化方向的更多主動權。也是因此，數字技術的生產、規則的確定、數據的確權問題一直都存在。在此，我們尤其需要警惕基于資本的數字化意識形態正在不斷銷蝕技術的公共性特質這一趨勢，畢竟，技術對于生活世界的徹底殖民，不是我們想要的未來。
（本文選摘自《過渡勞動：平臺經濟下的外賣騎手》一書，澎湃新聞經出版社授權刊發）