return ✕︎

適應式行政

原文:ADAPTIVE ADMINISTRATION

| 作者:E. Glen Weyl, Audrey Tang and ⿻ Community | 譯者:唐鳳 Audrey Tang, 周宜蔓 Gisele Chou


在瑞士達沃斯舉行的世界經濟論壇上,微軟首席執行官薩提亞·納德拉(Satya Nadella)展示了一項創新技術:在印度農村地區,講當地語言的農民如何利用配備了大型語言模型(LLM)的功能手機來獲取公共服務。這個模型能夠理解語音,將當地語言翻譯成國家官方語言,並提供相關表格及填寫指南,進一步以語音形式向農民提供指導。

這項技術的成功源於多年的努力和跨領域合作,涵蓋了如 AI4Bharat、Karya 和 IVR Junction 等組織,它們專注於收集印度當地語言數據,並利用這些數據提升本地工作者翻譯這些語言的能力。此技術尤其對那些僅能使用簡易功能手機的文盲群體至關重要,將他們接入基於語音的網絡。這不僅有助於保護和強化印度豐富的文化多樣性,還確保了那些語言較少使用、居住在偏遠地區的人們能夠獲得維持生活所需的公共服務。

印度農民在看手機 (由微軟提供)

微軟公司這項展示,向印度企業、民間和政府機構說明如何使用這些技術能力的案例。他們推出了各種服務,包括一個政府支持的聊天機器人,用於協助農民申請財政支援計劃,以及一個基於 WhatsApp 的免費多語言聊天機器人,提供各種公共服務的引導。

行政管理的核心

行政管理和科層組織是組織世界多數地區的關鍵特徵。它們涉及結構化的交流方式和對資訊的規則綁定。這些方式通常比自然語言的慣例更為正式和嚴格,更不用說豐富的感官體驗————通常這樣的目的在於實現合法性、公平性和程序正義。與投票或市場決策等更嚴格的數學和機械互動相比,它們通常允許某種程度的擴展交流。因此,有效的行政管理需要參與者之間更深層次的共識,以確保慣例得到適當運用且不被違背。行政管理是個體或小型企業與政府或大型公司之間大部分互動的核心,也是在社會結構較為鬆散的政體中形成中長期關係的基礎。我們所認識的法律、財產制度、身份認證、招聘和錄取,以及「行政國家」和「企業官僚機構」的大部分職能都受到行政管理的影響。

科層組織和行政管理的常見批評包括其不穩定性和僵化性。一方面,它們給予行政人員過多的自由裁量權,另一方面,又不能適應個案的細微差異或超出科層組織預期範圍的文化背景。本章旨在闡明數位技術的進步,尤其是生成式基礎模型(GFM),如何幫助減輕這些矛盾,促進不同群體在行政系統中的合作,同時尊重他們的生活方式。

今日的行政管理

生活中許多最重要的時刻,都取決於基於資訊結構(各種「格式」)的行政結果。而這種結構比我們大多數人的生活形式薄弱得多。例如:

  • 身分證件和旅行證件
  • 教育成績單、簡歷和其他「人生歷程」總結(履歷表)
  • 法定檔案,包括房屋權狀和契約
  • 稅務單
  • 結構化績效評估
  • 醫療紀錄和評估表
  • 法律檔案(儘管這些檔案通常比上述檔包含更多細節和背景資訊)

這些結構化的資訊形式旨在對複雜的分配或選擇進行「公平」、「公正」和「客觀」的評估。因為這些分配或選擇過於複雜,無法像市場和投票那樣制定普遍透明的規則。為了實現公平,這些制度往往刻意摒棄一系列資訊,歐洲傳統中各種人格化表徵中的正義盲目就是明顯的例子。至少從先進社會學家馬克斯·韋伯(Max Weber)開始,就有學者指出,為了實現這兩個目標,即在利用比選票或市場更豐富的資訊的同時保持公平,行政系統採用了龐大的「科層組織」機構 和大量的數位處理方式,按照行政系統的規則和程序來評估這些結構化資料。

因此,行政系統面臨兩個截然相反的問題,分別對應於它們合作豐富性的局限性和跨越社會多樣性的能力的局限性。

第一種問題被稱為「僵化」問題,即科層組織的規則忽略了許多細節,導致結果對具體情況或當地環境的重要特徵不敏感。這方面的例子有從平凡到壓抑,甚至荒唐可笑,請看以下的例子:

  • 大多數司法管轄區都有車速限制,但安全車速因道路、環境和其他條件而異。類似的邏輯適用於幾乎所有的行政政策設置,從商品價格到工人休息時間。
  • 為了獲得高薪工作,來自不同文化背景的人不得不將自己的成就和生活經歷套入簡歷和成績單的格式中,以便行政官僚和招聘經理能理解,而不是為了準確反映他們的成就。
  • 20 世紀 90 年代末,一架荷蘭客機最終將數百隻沒有適當檔的活松鼠撕成碎片,這些松鼠無法在希波爾機場過境。雖然這是一個特別令人討厭的例子,但幾乎所有乘坐過飛機的人都知道管理航空旅行的組織僵化,因此並不會對這樣的結果感到過於驚訝。

然而,在抱怨科層組織僵化、冷酷、無情的同時,另一常見的批評是其「複雜性」:它往往難以理解和操作,充滿了繁文縟節,並給予行政人員過多的自由裁量權。(例如,參見法蘭茲·卡夫卡的經典作品《城堡》)這種複雜性是科層組織結構最令人煩惱的特點之一,也是自由主義者時常抱怨的問題。事實上,這些特點啟發了許多關於「分散式自治組織」(DAO)和「智慧型合約」的想法,旨在減少過度的自由裁量權,降低法律部門的高成本,而這正是人們不斷抱怨的根源。然而,造成這種複雜性的一個關鍵原因,顯然是需要處理他們必須管理的案件的多樣性和細微差別。因此,科層組織在試圖跨越廣泛的社會多樣性時變得不合法的主要原因,正是為了適應這種多樣性,它們必須變得如此複雜。然而,伴隨著越來越多數位技術的出現,這種權衡變得更加優雅,從而使更豐富的合作能夠合法地跨越更廣泛的多樣性。

明日的行政管理

迄今為止,最重要的技術進步之一是通常被稱為「人工智慧」(AI)的技術。然而,正如我們一再指出的「人工智慧」一詞更多地是指一種願望,而不是指一套特定的工具。在這種情況下,涉及工具的細節對於區分過去的行政官僚機構與最新一代有時被稱為「生成式基礎模型」(GFM)的潛力至關重要。20 世紀 70 年代和 80 年代占主導地位的 AI 工作,有時被稱為「老式 AI」(GOFAI),在許多方面都是嘗試將傳統的官僚處理過程自動化。工程師通過與「專家」交流,試圖將行政軟體編寫為複雜的嵌套規則集(通常稱為「決策樹」):病人發燒了嗎?如果是,她的眼睛是否發紅 ; 如果不是,她的淋巴結是否發炎?這種人工智慧方式在 20 世紀 90 年代遇到了很大的障礙,且逐漸失寵,後來基本上被「機器學習」所取代,特別是神經網路及其最雄心壯志的產物 -- 生成式基礎模型(GFM)。

「機器學習」與 GOFAI 形成鮮明對比,它是一種用於分類、預測和決策的統計和新興方法。系統不是應用一套自上而下、寫死的編碼規則,而是根據實例,以概率的方式學習分類,這樣的方式往往難以簡單解釋。在神經網路,尤其是 GFM 中,通常有數十億甚至數萬億個「節點」,它們相互接收輸入,觸發並輸入到其他節點,所有的這一切都是為了預測結果,例如下一個單詞或圖像。基於這樣的過程,GFM 已經顯示出它的非凡能力,且這種能力還在迅速提高中,能夠以快速擴展和基本可複製的方式,真實地再現出人類靈活分類、反應與推理能力。

這些成功為通用公平機制改善管理核心的基本權衡創造了誘人的前景。將通用公平機制作為行政程序的組成部分,可以使它們接受更加多樣化和非結構化的輸入,以深思熟慮和知識淵博的專家可能採取的方式適應這些輸入,同時以至少提供一定程度的可重複性的方式這樣做,而不會給用戶帶來「填寫專門表格」的過重負擔。

對這種可能性的探索在過去兩年中尤為突出,因為人們對通用公平機制的興趣急劇增長:

  • 正如我們在開頭的故事中強調的,這些工具在幫助邊緣化群體獲取公共服務方面,顯示出了巨大的潛力,否則它們可能難被發現和利用這些服務。長期以來,社會工作者的主要職責一直是支持這種導航行為,然而公共經費通常太少,無法確保普及,尤其是在發展中國家。在發達國家,如芬蘭政府的 Kela-Kelpo 專案、德國的聯邦養老保險系統和美國的福利數據信託基金等在這方面走在了前列。

  • 一個類似但更加雄心勃勃的應用是利用 GFM ,改善那些負擔不起高質量傳統法律支持的人獲得法律諮詢和服務的機會。這方面的例子包括 Legal Robot 和 DoNotPay,這兩家公司都旨在幫助經濟能力有限的客戶減少與有能力負擔高質量法律服務的公司實體在法律獲取方面的不平衡。

  • 就業市場往往陷入「富者越富」的模式,因為頂級僱主往往只從名牌大學招聘人才,或者把在知名同行公司的工作經驗作為衡量潛力的主要指標,這就阻絕了許多未循傳統途徑人士的機會,也許更重要的是,迫使每個對這種機會感興趣的人走狹窄路徑的教育和職業道路。一些新的人力資源平臺(如 HiredScore、Paradox.ai、Turing 和 Untapped)旨在讓招聘經理可擴大考慮候選人的廣度和多樣性。當然,一個主要的挑戰是,過去聘用此類候選人的有限實例可能會削弱此類算法的可靠性和靈活性。

  • 地球上許多環境和文化最豐富的地區,要不沒有繪製地圖,不然就是繪製地圖的方式強加了殖民地外來者的視角,而不是更加關注環境和各民族之間長期存在的關係的原住民傳統。各種團體利用數位測繪工具和越來越多的 GFM 來描述這種傳統的權利模式,並針對殖民地法律體系維護這些權利。這些團體包括數位民主、美國雨林基金會、澳大利亞政府的 Indigenous Land 以及墨西哥的 SERVIR Amazonia。

正如最後一個例子所特別指出的,一系列傳統上與「AI」無關的數位技術也與此相關,包括製圖(全球定位和地理資訊系統),這在 Ushahidi 的合作製圖工作中得到了充分體現,該工作有助於應對災害和衝突;透明數據庫(包括分佈式腳本),這在一系列案例中得到了體現,ID2020 等組織將這些數據庫用作難民身份或洪都拉斯等地土地登記的基礎。

此外,GFM 的力量與其說源於「AI」,不如說源於其網絡化和概率性結構,這種結構使其能夠適應更加多樣化和模糊的輸入。這種結構也可以存在於人際關係網絡中,包括更具適應性的官僚機構形式、基於分組交換的信任關係等。例如,在開放源碼和維基風格的專案管理中,這種方法就很重要。

行政管理的前沿

無論是以人類思維網絡為基礎,還是以電腦模擬的神經元為基礎,或者最有可能和最有效的是以二者交織的網狀結構為基礎,此類系統的潛力都遠遠超出了這些最初的實驗。因此,我們應該將思維從這些限制中解放出來,想像一下如何進行更具變革性的改革。

一個最具前瞻性的方向是由丹妮爾·艾倫(Danielle Allen)、戴維·基德(David Kidd)和阿麗安娜·澤特林(Ariana Zetlin)提出的。他們建議逐步取代傳統的課程作業和成績制度,以更多元化的「徽章」取而代之,從具體認可特定可量測技能的「微徽章」開始,這些技能能幫助持有者獲得基於適當組合微徽章的「中徽章」,最終逐級達到可被潛在雇主或教育機構使用的「宏觀徽章」。這個過程直接反映了神經網路中發生的情況,即低層次輸入的組合觸發逐漸高層次且因此更有意義的輸出。Allen 及其合著者認為,這樣的系統將與多年的教育心理學研究更為一致,這些研究強調技能的細粒度本質和標準課堂實踐對其的不適配,以及許多學生,特別是歷史上被邊緣化或在學術上不感興趣的學生,經常因這樣僵化的結構而被排除在機會之外的事實。

GFM 及其他神經網路不僅可以在這樣的系統結構中得到反映,它們還可能直接有用於幫助雇主應對它會創建的更複雜的履歷,幫助學生導航它會允許的更多樣化的學習途徑,並可能直接實例化和產生一些相關徽章。此外,公開的數位技術(包括社交網絡、可驗證的憑證和分散式賬本)可能對於實現這些徽章的信任、可信度和透明度至關重要。

同時,或許更廣泛來說,許多需要身分識別及憑證的空間(例如俱樂部、學校、取得移民身分等),都可以仰賴來自多種社會關係的、更分散的網絡信號,如果這些信號能在未來,由更具適應性的行政基礎設施進行有意義的處理,正如我們在《4-1 身份和人格權》所討論的那樣。

更大的想像是,也許有一天我們可以將更多樣化的法律體系更充分地融入行政實踐中。現代化和殖民主義在世界各地的到來,在很大程度上推翻了一系列因地理和文化而大相徑庭的傳統做法。其中許多習俗現今以非正式的方式存在,但通與往往遙遠的國家政府強加的正式法律結構相衝突。這些習俗包括有關性別和性關係的習俗、與送禮相關的義務、家庭衝突和義務的解決、土地使用等。雖然在某些情況下,人們越來越一致地認為廢除這些傳統是適當的(如禁止女性生殖器切割),但在許多情況下,法律「覆蓋」傳統習俗更多的是出於方便,而不是出於信念。例如,傳統習俗使遠方的人很難了解如何獲得土地或在社區中適當通婚。文化習俗的同質化有時是被強迫的,有時是被慫恿的,這給文化的交融和活力帶來了一些好處,但往往也使古老而多樣的文化智慧付出了巨大的代價。

就像 GFM 越來越能夠以低成本跨越越來越多語言提供翻譯一樣,我們可以想像同樣快速的、跨文化規範的翻譯也可能變得可行。這在過去只能由文化人類學家和民族學家以非常不完美和昂貴的方式提供。就像更便宜、更容易的翻譯可能允許更廣泛的語言範圍因為它允許的外部互操作性而對新一代保持可行和吸引力一樣,更便宜、更容易的規範翻譯可能使得更廣泛的法律和財產實踐範圍可持續。這將減少不僅是被殖民者而且是在發達世界內許多「傳統」社區經常承擔的適應現代性的持續負擔,這些社區通常位於農村地區。這也將大大豐富作為社會成長和進步燃料的多樣性,隨著下一代 GFM 學習被這些文化差異拉伸以執行更加靈活。

除了保護現有的多樣性,這樣的未來還有助於支持其進一步的多樣化和物種形成。我們在本書中描繪的許多做法,甚至挑戰了雄心勃勃的未來學家的想像。這使得那些被這些想法所吸引的人提出了「網絡國家」、「特許城市」、「海上家園」以及其他形式的擺脫現有法律管轄的方案,顯然,這些都會與保護更廣泛的公共財和社會秩序的緊張關係碰撞。然而,如果通過機器翻譯,這些實驗可以很容易地被現有的法律結構所理解和整合,那麼支持這些實驗可能就不需要這種清晰切割。這樣就可以在保持跨越社會差異的合作的同時,對新穎做法和傳統做法的組合進行多種多樣的試驗,從而以無限的組合,促進不斷擴大的無限多樣性的蓬勃發展。

行政管理的局限

如今,可能沒有任何一種技術的隱患和危險比全球論壇的討論更多,這是有道理的。它們的不透明性、有助於掩蓋創建條件的自主神祕性、可能繼承其資料來源和創建者偏見的可能性以及濫用的可能性,所有這些都構成了重大危險。

在行政應用方面,這些缺陷的表現是顯而易見的。雖然與 GFM 互動可能較不繁瑣,但它們可以說進一步加劇了科層組織的不透明性,且鑑於通常非常難以映射這些系統的偏見或過去哪些人類行為群聚塑造了它們今天的輸出,它們可能不會大幅緩解裁量和人類偏見的問題。因為此類模型絕大多數都是通過模仿現資料進行訓練,因此衡量 AI 研究人員所重視但卻難以定義的資料多樣性,對於確保模型的總體性能,以及能夠以我們所想像的方式應對多樣性至關重要。探索這種多樣性並將其納入模型的權力條件,將決定模型是如何為多樣性提供機會,還是迫使人們順從;許多古老的人種學家成為殖民征服的工具,而不是包容翻譯的代言人。此外,在強大利益集團的濫用下,跨法律制度的互操作性很容易淪為監管套利,利用法律意圖與正式規則之間的差距。

幸運的是,我們在本節其他章節中強調的一些技術有可能至少部分解決其中一些危害。當我們試圖將 GFM 的邏輯簡化為數學的簡單表述時,它的邏輯絕望地不透明,而更豐富的形式,如身臨其境的共享現實或後符號通信,可能會提供更深層次的聯繫和理解模式,有助於在人類社群中建立信任,從而能夠使用更豐富的自由裁量權。我們在上一章中強調並在下一章中進一步探討的許多集體審議和決策方法,都可以自然而然地應用於界定合法的權力分配,從而直接塑造 GFM 的治理、其創造的經濟價值的分配以及集體引導其行為符合公衆意願的方式。這些系統和其他數位系統以其合法性為基礎,通過更豐富的互動模式進行探索,有望克服現代性所帶來的系統世界既冷酷又武斷的特性。