📈 economics

Scaling the Queue: Reinforcement Learning for Equitable Call Classification Capacity in NYC Municipal Complaint Systems

यह शोध पत्र न्यूयॉर्क शहर की नगर निगम शिकायत प्रणालियों के लिए एक इक्विटी-केंद्रित सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) ढांचे का प्रस्ताव करता है जो छह डिपार्टमेंट ऑफ बिल्डिंग्स डोमेन में कॉल वर्गीकरण क्षमता को अनुकूलित करने के लिए एक बुद्धिमान राउटर के रूप में कार्य करके थ्रूपुट को अधिकतम करता है, त्रुटियों को कम करता है, और ऐतिहासिक नस्लीय एवं आय-आधारित सेवा असमानताओं को सक्रिय रूप से कम करता है।

मूल लेखक: Irene Aldridge, Ellie Bae, Siddhesh Darak, Nicholas Donat, Akhil Fernando-Bell, Bella Ge, Nicholas Goguen-Compagnoni, Ishita Gupta, Ali Hasan, Pierce Hoenigman, Imran Isa-Dutse, Jiwon Jeong, Tishya Kh

प्रकाशित 2026-05-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Irene Aldridge, Ellie Bae, Siddhesh Darak, Nicholas Donat, Akhil Fernando-Bell, Bella Ge, Nicholas Goguen-Compagnoni, Ishita Gupta, Ali Hasan, Pierce Hoenigman, Imran Isa-Dutse, Jiwon Jeong, Tishya Khanna, Neha Konduru, Yixuan Liu, Kai Maeda, Nolan McKenna, Karl Muller, Farzaan Naeem, Rishabh Patel, Zachary Sheldon, Ammar Syed, Nathan Tai, Michael Twersky, Haoying Wang, Zening Wang, Zexun Yao, Nadav Yochman

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

न्यूयॉर्क शहर की 311 प्रणाली की कल्पना एक विशाल, अराजक प्रतीक्षा कक्ष (waiting room) के रूप में करें। हर दिन, हजारों लोग समस्याओं की रिपोर्ट करने के लिए कॉल करते हैं: एक टूटा हुआ बॉयलर, एक हिलता हुआ मचान (scaffold), गर्मी की कमी, या एक लीक होता पाइप। शहर के पास इन समस्याओं को ठीक करने के लिए निरीक्षकों (इस प्रतीक्षा कक्ष में "डॉक्टरों") की एक सीमित संख्या है।

समस्या यह है कि किसे पहले देखा जाए, इसके लिए निर्णय लेने वाली वर्तमान प्रणाली दोषपूर्ण है। यह एक सरल नियम पर निर्भर करती है: "अधिक कॉल का मतलब अधिक तात्कालिकता (urgency) है।" लेकिन इस नियम में एक छिपा हुआ दोष है। समृद्ध पड़ोस, जिनमें बेहतर इंटरनेट, अधिक अंग्रेजी बोलने वाले लोग और सरकार में उच्च विश्वास होता है, वे 311 को अधिक बार और तेज़ी से कॉल करते हैं। गरीब पड़ोस, जहाँ लोगों के पास शायद समान संसाधन या विश्वास न हो, कम कॉल करते हैं, भले ही उनकी इमारतें उतनी ही खतरनाक क्यों न हों।

क्योंकि शहर की वर्तमान कंप्यूटर प्रणाली केवल कॉलों की गिनती करती है, यह अंततः समृद्ध पड़ोसों को भेज देती है (जहाँ बहुत अधिक कॉल होते हैं) और गरीब पड़ोसों को अनदेखा कर देती है (जहाँ कम कॉल होते हैं, भले ही समस्याएँ उतनी ही वास्तविक हों)। यह एक ट्राइएज नर्स (triage nurse) की तरह है जो केवल उन रोगियों का इलाज करती है जो सबसे ज़ोर से चिल्ला रहे हैं, जबकि वे जो चुपचाप दर्द में बैठे हैं, उन्हें भुला दिया जाता है।

समाधान: एक "फेयरनेस कोच" (Fairness Coach)

इस शोध पत्र के लेखकों ने रीइन्फोर्समेंट लर्निंग (RL) का उपयोग करके एक नए प्रकार का कंप्यूटर मस्तिष्क बनाया है। इसे एक रोबोट के रूप में न सोचें जो मानव कर्मचारियों की जगह ले लेता है, बल्कि एक अत्यंत बुद्धिमान "फेयरनेस कोच" के रूप में सोचें जो इंटेक वर्कर्स (intake workers) के बगल में बैठा है।

केवल यह बताने के बजाय कि सिस्टम को "जितनी संभव हो उतनी समस्याओं को ठीक करना है," शोधकर्ताओं ने इस कोच को एक नया लक्ष्य सिखाया: "समस्याओं को निष्पक्षता से ठीक करें, चाहे वे कहीं भी हों।"

उन्होंने इसे कैसे किया, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

1. "घोस्ट कॉल" (Ghost Call) सुधार
इस शोध पत्र की सबसे बड़ी चाल "गायब कॉल्स" को संभालने का तरीका है। शोधकर्ताओं ने महसूस किया कि सिर्फ इसलिए कि एक गरीब पड़ोस ने 311 पर कॉल नहीं किया है, इसका मतलब यह नहीं है कि इमारतें सुरक्षित हैं। इसका मतलब केवल यह है कि निवासी अभी तक कॉल करने में सक्षम नहीं हो पाए हैं।

उपमा: एक शिक्षक की कल्पना करें जो कक्षा का मूल्यांकन कर रहा है। यदि एक छात्र 10 बार हाथ उठाता है और दूसरा केवल एक बार, तो शिक्षक को लग सकता है कि पहला छात्र अधिक सक्रिय है। लेकिन क्या होगा यदि दूसरा छात्र बहुत शर्मीला है?
सुधार: कंप्यूटर एक विशेष गणितीय सूत्र (जो आय और शिक्षा जैसे पड़ोस के डेटा पर आधारित है) का उपयोग करके "घोस्ट कॉल्स" का अनुमान लगाता है। यह पूछता है, "यदि इस पड़ोस में हर कोई एक समृद्ध पड़ोस की तरह आसानी से कॉल करता, तो वास्तव में हमारे पास कितने कॉल होते?" यह फिर केवल प्राप्त कॉलों की कच्ची संख्या के बजाय, इस अनुमानित संख्या का उपयोग यह तय करने के लिए करता है कि किसे मदद की आवश्यकता है।

2. "फेयरनेस स्कोर" (Fairness Score)
कंप्यूटर एक खेल खेलकर सीखता है। हर बार जब यह किसी इमारत में निरीक्षक भेजता है, तो इसे अंक मिलते हैं।

पुरानी प्रणाली: आपको अंक मिलते हैं यदि आप उन सभी को निरीक्षक भेजते हैं जिन्होंने कॉल किया है।
नई प्रणाली: आपको अंक मिलते हैं यदि आप उन सभी को भेजते हैं जिन्हें मदद की ज़रूरत है, लेकिन आपको अतिरिक्त अंक मिलते हैं यदि आप उस पड़ोस की मदद करते हैं जिसे आमतौर पर अनदेखा किया जाता है। यदि सिस्टम गरीब पड़ोसों को अनदेखा करना शुरू कर देता है, तो इसके अंक कट जाते हैं। यह कंप्यूटर को गति और निष्पक्षता के बीच संतुलन बनाने के लिए मजबूर करता है।

3. ट्रेड-ऑफ (निष्पक्षता की "कीमत")
शोधकर्ताओं ने पूछा: "क्या निष्पक्ष होने से पूरा सिस्टम धीमा हो जाता है?"

परिणाम: हाँ, लेकिन केवल बहुत थोड़ा सा। निष्पक्षता के लक्ष्य को जोड़ने से, सिस्टम समग्र रूप से कॉल प्रोसेस करने में लगभग 4% से 7% धीमा हो गया। हालाँकि, इस मामूली सुस्ती का अर्थ यह था कि कम आय वाले पड़ोसों को बहुत तेज़ी से मदद मिली, जिससे अमीर और गरीब क्षेत्रों के बीच का अंतर कम हो गया। लेखक तर्क देते हैं कि गरीबों के साथ भेदभाव को रोकने के लिए यह छोटा सा खर्च वाजिब है।

4. "ब्लैक बॉक्स" की समस्या
कभी-कभी, कंप्यूटर ऐसे निर्णय लेते हैं जिन्हें हम समझ नहीं पाते। इसे ठीक करने के लिए, टीम ने SHAP नामक एक उपकरण का उपयोग किया (जो एक आवर्धक लेंस/magnifying glass की तरह कार्य करता है)। उन्होंने देखा कि कंप्यूटर अपने चुनाव क्यों कर रहा था।

खोज: उन्होंने पाया कि कंप्यूटर "पड़ोस के ज़िप कोड" और "बोली जाने वाली भाषा" जैसी चीज़ों पर ध्यान दे रहा था। जबकि इसने उसे "घोस्ट कॉल्स" खोजने में मदद की, इसका मतलब यह भी था कि कंप्यूटर अप्रत्यक्ष रूप से निर्णय लेने के लिए जाति और आय का उपयोग कर रहा था। टीम का कहना है कि यह तभी ठीक है जब हम इसे करीब से देखते रहें ताकि यह सुनिश्चित हो सके कि यह लोगों की मदद कर रहा है, उन्हें नुकसान नहीं पहुँचा रहा है।

मुख्य निष्कर्ष (The Bottom Line)

यह शोध पत्र निष्कर्ष निकालता है कि आप शहर की समस्याओं को ठीक करने के लिए केवल एक तेज़ कंप्यूटर नहीं बना सकते; आपको एक अधिक निष्पक्ष कंप्यूटर बनाना होगा।

निष्पक्षता के लक्ष्य के बिना: कंप्यूटर तेज़ हो जाता है लेकिन गरीबों को अनदेखा करना जारी रखता है।
निष्पक्षता के लक्ष्य के साथ: कंप्यूटर समग्र रूप से थोड़ा धीमा हो जाता है, लेकिन यह उन लोगों को अनदेखा करना बंद कर देता है जिन्हें सबसे अधिक मदद की आवश्यकता है।

लेखक इस बात पर ज़ोर देते हैं कि यह केवल एक तकनीकी सुधार नहीं है; यह एक नैतिक विकल्प है। कंप्यूटर को निष्पक्षता को महत्व देने के लिए प्रोग्राम करके, शहर यह सुनिश्चित कर सकता है कि एक गरीब पड़ोस में टूटा हुआ बॉयलर भी उतनी ही तेज़ी से ठीक हो जाए जितना कि एक समृद्ध पड़ोस में, भले ही उस गरीब पड़ोस ने कम कॉल किया हो।

संक्षेप में: यह शोध पत्र दिखाता है कि सही "खेल के नियमों" के साथ, हम कंप्यूटर को निष्पक्ष होना सिखा सकते हैं, जिससे यह सुनिश्चित होता है कि शहर की मदद सभी तक पहुँचे, न कि केवल उन लोगों तक जो मदद माँगने में सबसे कुशल हैं।

तकनीकी सारांश: कतार का विस्तार – NYC नगरपालिका शिकायत प्रणालियों में न्यायसंगत कॉल वर्गीकरण क्षमता के लिए सुदृढीकरण शिक्षण (Reinforcement Learning)

1. समस्या विवरण

नगरपालिका 311 कॉल सेंटर और शिकायत प्राप्ति प्रणालियों को आने वाली शिकायतों के आयतन (volume) और उन्हें वर्गीकृत करने, प्राथमिकता देने और रूट करने के लिए उपलब्ध क्षमता के बीच एक संरचनात्मक बेमेल का सामना करना पड़ता है। वर्तमान इनटेक वर्कफ़्लो प्रतिक्रियाशील, नियम-आधारित ह्यूरिस्टिक्स (heuristics) पर निर्भर करते हैं जो मांग के साथ तालमेल बिठाने में विफल रहते हैं। यह बाधा व्यवस्थित गलत प्राथमिकता (misprioritization) का परिणाम है, जहाँ कम आय वाले और अल्पसंख्यक पड़ोस की शिकायतों को असमान रूप से कम-प्राथमिकता वाली कतारों में असाइन किया जाता है, अनुचित रूप से बैच किया जाता है, या बिना वर्गीकृत छोड़ा जाता है।

मुख्य मुद्दा केवल यादृच्छिक त्रुटि नहीं है, बल्कि मापन अन्याय (measurement injustice) है। शिकायत का आयतन अंतर्निहित आवास जोखिम का एक पक्षपाती संकेत है क्योंकि रिपोर्टिंग दर आय, शिक्षा और डिजिटल साक्षरता के साथ सकारात्मक रूप से सह-संबंधित है। फलस्वरूप, क्लासिफायर जो ऐतिहासिक 311 डेटा पर सहजता (naively) से प्रशिक्षित होते हैं, वे "भागीदारी अंतराल" (participation gap) को विरासत में लेते हैं और उसे बढ़ा देते हैं, जहाँ कम सेवा प्राप्त समुदायों में घटनाओं की दर अधिक होने के बावजूद रिकॉर्ड कम उत्पन्न होते हैं। इसके परिणामस्वरूप एक फीडबैक लूप बनता है जहाँ कम-रिपोर्ट किए गए क्षेत्रों को कम निरीक्षण प्राप्त होते हैं, जिससे भविष्य के प्रशिक्षण के लिए और भी कम परिणाम रिकॉर्ड उत्पन्न होते हैं।

यह शोध पत्र तीन शोध प्रश्नों को संबोधित करता है:

समता (Equity): क्या सुदृढीकरण शिक्षण (RL) नीतियां जनसांख्यिकीय समूहों के बीच सही एक्शन असाइनमेंट को न्यायसंगत रूप से वितरित कर सकती हैं?
क्षमता (Capacity): क्या RL एजेंट मौजूदा ह्यूरिस्टिक्स की तुलना में उच्च थ्रूपुट और कम गलत वर्गीकरण दर प्राप्त कर सकते हैं?
ट्रेड-ऑफ (Trade-offs): समता की मात्रात्मक लागत क्या है, और रिवॉर्ड कॉन्फ़िगरेशन के साथ गति, लागत और न्यायसंगत कवरेज के बीच पारेटो फ्रंटियर (Pareto frontier) कैसे बदलता है?

2. कार्यप्रणाली

2.1 औपचारिक ढांचा: मल्टी-ऑब्जेक्टिव MDP

लेखक न्यूयॉर्क सिटी डिपार्टमेंट ऑफ बिल्डिंग्स (DOB) के छह परिचालन डोमेन (बॉयलर सुरक्षा, क्रेन/डेरिक, हीट/हॉट वॉटर, हाउसिंग ट्राइएज, स्कैफोल्ड सुरक्षा, और नेचुरल एरिया डिस्ट्रिक्ट्स) को डिस्क्रीट-टाइम मार्कोव निर्णय प्रक्रियाओं (MDPs) के रूप में औपचारिक रूप देते हैं।

अवस्था (State - $S$ ): शिकायत कतार, पड़ोस के आंकड़े (सेन्सस-ट्रैक्ट स्तर), और क्षमता संकेतक को एनकोड करता है। इसमें पुनरावृत्ति फ्लैग, बैकलॉग और पड़ोस के जोखिम स्कोर शामिल हैं।
क्रिया (Action - $A$ ): वर्गीकरण श्रेणियाँ जैसे कि एस्केलेट (Escalate), बैच (Batch), डिफर (Defer), अभी निरीक्षण करें (Inspect Now), या इग्नोर (Ignore)।
पुरस्कार (Reward - $R$ ): एक मल्टी-ऑब्जेक्टिव फंक्शन जिसे थ्रूपुट को अधिकतम करने, गलत वर्गीकरण लागत को कम करने और ऐतिहासिक समानता अंतराल को सक्रिय रूप से कम करने के लिए डिज़ाइन किया गया है।

2.2 समता-केंद्रित पुरस्कार डिजाइन

एक महत्वपूर्ण नवाचार यह है कि न्यायसंगत वर्गीकरण कवरेज को एक साइड कंस्ट्रेंट के बजाय एक प्रथम-श्रेणी के पुरस्कार उद्देश्य (first-class reward objective) के रूप में माना गया है। स्टेप $t$ पर रिवॉर्ड फंक्शन को इस प्रकार परिभाषित किया गया है:
$r_t = \alpha_1 r_{speed} - \alpha_2 r_{cost} + \alpha_3 r_{equity} + \alpha_4 r_{retention}$

"भागीदारी अंतराल" को संबोधित करने के लिए, लेखक समता गणनाओं के लिए सामान्यीकरण करने से पहले एक अपस्ट्रीम रिपोर्टिंग-रेट सुधार पेश करते हैं। समता गणनाओं के लिए डिनोमिनेटर (denominator) के रूप में कच्चे शिकायत काउंट ( $N_g$ ) का उपयोग करने के बजाय, वे अंतर्निहित घटना गणना ( $\hat{N}_g$ ) का अनुमान लगाते हैं:

डुप्लिकेट-रिपोर्ट एस्टिमेटर: Liu et al. [12] के अनुसार, एक ही घटना के लिए डुप्लिकेट रिपोर्ट की दर का उपयोग रिपोर्टिंग प्रवृत्ति ( $\rho$ ) का अनुमान लगाने के लिए किया जाता है।
बायेसियन स्पेशियल मॉडल: जब डुप्लिकेट डेटा विरल (sparse) होता है, तो ACS कोवेरिएट्स (आय, शिक्षा, भाषा पहुंच) रिपोर्टिंग प्रवृत्ति के प्रॉक्सी के रूप में कार्य करते हैं।
सुधार: अनुमानित अंतर्निहित घटना गणना $\hat{N}_g = C_g / \hat{\rho}_g$ को समता पद में कच्चे काउंट की जगह लेता है। यह सुनिश्चित करता है कि एजेंट को उनके अनुमानित आवश्यकता के अनुपात में (अक्सर कम-आय वाले) ट्रैक्ट्स से आने वाली शिकायतों को एस्केलेट करने के लिए प्रोत्साहित किया जाए, न कि उनके फाइलिंग वॉल्यूम के आधार पर।

2.3 एल्गोरिदम और प्रशिक्षण

अध्ययन कई RL एल्गोरिदम का मौजूदा DOB ह्यूरिस्टिक्स, रैंडम पॉलिसी और नियम-आधारित विशेषज्ञ प्रणालियों के विरुद्ध मूल्यांकन करता है:

DQN (Deep Q-Network): एक्सपीरियंस रिप्ले और टारगेट नेटवर्क के साथ उपयोग किया जाता है; विशिष्ट डोमेन में CQL (कंजर्वेटिव Q-लर्निंग) दंड शामिल है।
REINFORCE विद लर्नड बेसलाइन: अनुक्रमिक संसाधन आवंटन के लिए अनुकूलित एक पॉलिसी-ग्रेडिएंट विधि।
टेबुलर TD Q-Learning: छोटे स्टेट स्पेस के लिए उपयोग किया जाता है।
बिहेवियरल क्लोनिंग (BC): ऐतिहासिक नीति प्रदर्शन का अनुमान लगाने के लिए एक बेसलाइन के रूप में उपयोग किया जाता है।

प्रशिक्षण में डेटा लीकेज को रोकने और वास्तविक दुनिया के परिनियोजन का अनुकरण करने के लिए सख्त कालानुक्रमिक विभाजन (जैसे, प्रशिक्षण के लिए 2020-2024, परीक्षण के लिए 2025) का उपयोग किया जाता है।

2.4 व्याख्यात्मकता और ऑडिटिंग

लेखक नीतियों का ऑडिट करने के लिए SHAP (SHapley Additive exPlanations) एट्रिब्यूशन का उपयोग करते हैं। यह पहचानता है कि क्या जनसांख्यिकीय विशेषताओं (जैसे पड़ोस की आय, नस्लीय संरचना) के प्रॉक्सी के रूप में कार्य करने वाले फीचर्स निर्णयों को संचालित कर रहे हैं। ऑडिट को असमान प्रभावों का पता लगाने के लिए सेन्सस-ट्रैक्ट आय क्विंटाइल और नस्लीय संरचना के आधार पर अलग किया गया है।

3. मुख्य परिणाम

3.1 वर्गीकरण थ्रूपुट और सटीकता

हीट और हाउसिंग डोमेन: REINFORCE ने HDQN और रैंडम पॉलिसी की तुलना में संचयी पुरस्कार (cumulative reward) में 4 गुना सुधार दिखाया। इसने 365-दिवसीय क्षितिज में लगभग 20-27% अधिक उल्लंघन (101 बनाम 80-84) को क्लोज किया।
बॉयलर सेफ्टी: DQN ने कुल पुरस्कार ( $10.3M बनाम$ 9.0M) और रिकॉल (98.7% बनाम 94.5%) में REINFORCE को पछाड़ा, हालांकि दोनों में निम्न प्रिसिजन (~22%) देखी गई क्योंकि सुरक्षा खतरे को मिस करने की लागत विषमता (26:1 लागत अनुपात) बहुत अधिक थी।
एलिवेटर और SNAD डोमेन: RL एजेंट (DQN और REINFORCE) 'बैलेंस्ड' ह्यूरिस्टिक और अन्य बेसलाइन्स की तुलना में रिवॉर्ड और एक्शन योग्य वर्गीकरण दरों के मामले में लगातार बेहतर रहे।

3.2 मल्टी-ऑब्जेक्टिव ट्रेड-ऑफ (पारेटो फ्रंटियर)

"समता की कीमत" (The Price of Equity): अध्ययन से पता चलता है कि एक समता उद्देश्य ( $\alpha_3 > 0$ ) जोड़ने से 4-7% का मामूली थ्रूपुट दंड मिलता है। यह Liu और Garg [13] के सैद्धांतिक सीमाओं के अनुरूप है, जो सुझाव देता है कि नगरपालिका परिवेश में दक्षता और समता काफी हद तक पूरक हैं, न कि विरोधी।
नीति प्रभुत्व (Policy Dominance): समता उद्देश्यों वाले RL नीतियां दक्षता और समता दोनों आयामों पर यथास्थिति (status quo) वाले NYC निरीक्षण शेड्यूलिंग पर हावी हैं।

3.3 समता विश्लेषण

विभेद में कमी: वर्तमान DOB ह्यूरिस्टिक एक सांख्यिकीय रूप से महत्वपूर्ण ग्रेडिएंट प्रदर्शित करता है जहाँ कम-आय वाले पड़ोस (Q1) उच्च-आय वाले पड़ोस (Q5) की तुलना में प्रति शिकायत कम सही एस्केलेशन प्राप्त करते हैं।
समता-केंद्रित RL: संशोधित समता रिवॉर्ड टर्म ( $\alpha_3 > 0$ ) के साथ प्रशिक्षित एजेंट आय क्विंटाइल के बीच समानता के करीब पहुँच जाते हैं। इसके विपरीत, बिना समता पद के प्रशिक्षित एजेंट अंतर को कम तो करते हैं, लेकिन उसे समाप्त नहीं कर पाते।
फीचर महत्व: SHAP विश्लेषण ने खुलासा किया कि पड़ोस-स्तर के फीचर्स (जैसे मैनहट्टन में कम्युनिटी बोर्ड 12) मजबूत भविष्यवक्ता हैं, जो पुष्टि करता है कि ऐतिहासिक डेटा में भौगोलिक चर सामाजिक-आर्थिक स्थिति को एनकोड करते हैं।

4. महत्व और दावे

यह शोध पत्र दावा करता है कि समता दक्षता का एक अपरिहार्य उपोत्पाद (byproduct) नहीं है; इसे रिवॉर्ड फंक्शन में स्पष्ट रूप से अंकित किया जाना चाहिए।

स्पष्ट समता की आवश्यकता: केवल थ्रूपुट के लिए अनुकूलित एजेंट ऐतिहासिक असमानताओं को कम तो करते हैं लेकिन उन्हें समाप्त करने में विफल रहते हैं। केवल स्पष्ट कवरेज समानता उद्देश्यों वाले एजेंट ही डिफेक्ट डिटेक्शन में ह्यूरिस्टिक्स से बेहतर प्रदर्शन करते हुए निकट-समानता प्राप्त करते हैं।
मामूली लागत: समता के लिए ट्रेड-ऑफ मात्रात्मक और छोटा (4-7% थ्रूपुट हानि) है, जो इस धारणा को चुनौती देता है कि निष्पक्षता के लिए महत्वपूर्ण परिचालन बलिदान की आवश्यकता होती है।
डेटा गुणवत्ता की सीमाएं: लेखक इस बात पर जोर देते हैं कि वर्गीकरण की गुणवत्ता डेटा की गुणवत्ता द्वारा सीमित है। "भागीदारी अंतराल" (कम-आय वाले क्षेत्रों में कम रिपोर्टिंग) को ठीक किए बिना, RL सिस्टम फीडबैक लूप के कारण क्रमिक प्रशिक्षण दौरों में समता को कम करने का जोखिम उठाते हैं।
मानदण्डिक नीति निर्धारण (Normative Policymaking): सार्वजनिक क्षेत्र के RL के लिए रिवॉर्ड फंक्शन को कॉन्फ़िगर करना एक मानदण्डिक नीति निर्धारण का कार्य है। पेपर का तर्क है कि पारेटो फ्रंटियर (गति, लागत और समता को संतुलित करना) पर कहाँ काम करना है, यह एक राजनीतिक निर्णय है जो एजेंसी और उन समुदायों का है जिनकी वे सेवा करती हैं, न कि केवल एल्गोरिदम का।

5. परिनियोजन सिफारिशें

लेखक एक "ह्यूमन-इन-द-लूप" परिनियोजन रणनीति प्रस्तावित करते हैं जिसमें विशिष्ट सुरक्षा उपाय शामिल हैं:

निरंतर ऑडिट: मैनुअल समीक्षा के लिए पूर्व-निर्धारित थ्रेसहोल्ड के साथ मासिक जनसांख्यिकीय ऑडिट।
रिपोर्टिंग सुधार: प्रत्येक रिट्रेनिंग चक्र से पहले समता डिनोमिनेटर को ठीक करने के लिए डुप्लिकेट-रिपोर्ट एस्टिमेटर को लागू करना।
फीडबैक लूप शमन: मॉडल को ऐतिहासिक अल्प-सेवा को सुदृढ़ करने से रोकने के लिए एक्सप्लोरेशन बोनस और काउंटरफैक्चुअल एस्केलेशन का उपयोग करना।
पारदर्शिता: रिवॉर्ड कॉन्फ़िगरेशन को मानदण्डिक नीति प्राथमिकता के बयान के रूप में सार्वजनिक रूप से दस्तावेजीकृत करना।

पेपर निष्कर्ष निकालता है कि जबकि RL वर्गीकरण क्षमता को स्केल करने के लिए एक लीवर प्रदान करता है, न्यायसंगत सेवा वितरण के वादे को साकार करने के लिए एल्गोरिथम निर्णयों को आकार देने से पहले नागरिक डेटा संग्रह में निहित संरचनात्मक पूर्वाग्रहों को ठीक करना आवश्यक है।