🤖 machine learning

The Pokémon Theorem and other Fairness Impossibility Results

यह शोध पत्र विभिन्न निष्पक्षता असंभवता परिणामों (fairness impossibility results) को एक साझा RKHS ज्यामिति के अंतर्गत एकीकृत करता है, यह प्रदर्शित करते हुए कि असमान आधार दरें (unequal base rates) रैखिक निष्पक्षता बाधाओं को अति-निर्धारित (overdetermined) बना देती हैं, जो क्लेनबर्ग-मुलनेथन-राघवन द्वंद्व (Kleinberg–Mullainathan–Ragvan dichotomy), MMD द्वारा मापे गए अवशिष्ट उल्लंघनों के संबंध में एक "पोकेमॉन प्रमेय" (Pokémon theorem), और निष्पक्ष फीचर लर्निंग की मौलिक सीमाओं पर नए अंतर्दृष्टि की ओर ले जाती है।

मूल लेखक: Daniel Matsui Smola, Alex Smola

प्रकाशित 2026-05-12

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Daniel Matsui Smola, Alex Smola

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "द पोकेमोन थ्योरम एंड अदर फेयरनेस इमपॉसिबिलिटी रिजल्ट्स" (The Pokémon Theorem and other Fairness Impossibility Results) पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके विवरण दिया गया है।

बड़ी तस्वीर: निष्पक्षता का "अनुचित" गणित

कल्पना कीजिए कि आप एक ऐसी मशीन बनाने की कोशिश कर रहे हैं जो निर्णय लेती है (जैसे ऋण/लोन को मंजूरी देना या यह अनुमान लगाना कि कोई व्यक्ति दोबारा अपराध करेगा या नहीं) जो लोगों के दो अलग-अलग समूहों के लिए पूरी तरह से निष्पक्ष हो, जिन्हें हम ग्रुप A और ग्रुप B कह सकते हैं।

दशकों से, शोधकर्ता इस बात पर बहस कर रहे हैं कि "निष्पक्षता" का वास्तव में क्या अर्थ है। कुछ कहते हैं कि इसका मतलब है कि मशीन दोनों समूहों के लिए समान संख्या में गलतियाँ करती है। अन्य कहते हैं कि इसका मतलब है कि मशीन के पूर्वानुमान दोनों समूहों के लिए समान रूप से सटीक हैं।

यह पेपर तर्क देता है कि यदि ग्रुप A और ग्रुप B वास्तविक दुनिया के आंकड़ों (उदाहरण के लिए, यदि ग्रुप A स्वाभाविक रूप से सफलता की उच्च दर रखता है) में मौलिक रूप से भिन्न हैं, तो आप एक ही समय में निष्पक्षता की सभी परिभाषाओं को संतुष्ट नहीं कर सकते। यह केवल कोड में कोई बग नहीं है; यह गणित का एक नियम है।

लेखक इस बात को सिद्ध करने के लिए RKHS (Reproducing Kernel Hilbert Space) नामक एक फैंसी गणितीय उपकरण का उपयोग करते हैं। RKHS को एक विशाल, अनंत-आयामी मानचित्र (map) के रूप में सोचें जहाँ "निष्पक्षता" को मापने का हर संभव तरीका मानचित्र पर एक विशिष्ट दिशा है।

1. स्ट्रॉन्गर "KMR" थ्योरम: "औसत" का जाल

पुराना विचार: पिछले शोध (क्लेनबर्ग, मुलेनथुलन, राघवन) ने दिखाया कि यदि आप मांग करते हैं कि एक मशीन पूरी तरह से "कैलिब्रेटेड" (इसके पूर्वानुमान वास्तविकता से सटीक रूप से मेल खाते हैं) हो और समूहों के बीच संतुलित भी हो, तो आप इसे तब तक नहीं कर सकते जब तक कि समूह समान न हों या मशीन एक पूर्ण क्रिस्टल बॉल न हो।

नई अंतर्दृष्टि: यह पेपर कहता है, "आपको दीवार से टकराने के लिए पूर्ण कैलिब्रेशन की भी आवश्यकता नहीं है।"

उपमा: कल्पना कीजिए कि आप दो अलग-अलग कक्षाओं को ग्रेड दे रहे हैं। क्लास A का प्राकृतिक औसत स्कोर 80 है, और क्लास B का प्राकृतिक औसत 60 है।
नियम: आप वादा करते हैं कि आपकी ग्रेडिंग प्रणाली "औसत पर निष्पक्ष" है (आपके द्वारा क्लास A को दिया गया औसत उनके 80 से मेल खाता है, और क्लास B के लिए 60 से)।
परिणाम: यह पेपर सिद्ध करता है कि यदि आप यह भी मांग करते हैं कि आपकी ग्रेडिंग प्रणाली दोनों कक्षाओं के "टॉप छात्रों" और "बॉटम छात्रों" के साथ बिल्कुल एक जैसा व्यवहार करे, तो आपके पास एकमात्र विकल्प यह है कि आप ग्रेडिंग करना ही बंद कर दें और केवल यह अनुमान लगाएं कि छात्रों का अंतिम स्कोर क्या होगा। आप व्यक्तिगत प्रदर्शन को वास्तव में मापने की अपनी पूरी क्षमता खो देते हैं।
सीख: आप एक ऐसी प्रणाली नहीं रख सकते जो औसत पर निष्पक्ष हो, उप-समूहों (subgroups) के साथ समान व्यवहार करे, और फिर भी व्यक्तियों के बारे में कुछ उपयोगी जानकारी दे सके, जब तक कि समूह पहले से ही समान न हों।

2. "पोकेमोन थ्योरम": आप सबको नहीं पकड़ सकते

अवधारणा: यह इस पेपर का सबसे प्रसिद्ध योगदान है। यह एक आम उम्मीद को संबोधित करता है: "शायद हमने अभी तक पर्याप्त निष्पक्षता नियमों की जाँच नहीं की है। यदि हम 10, 100 या 1,000 नियमों की जाँच करते हैं, तो शायद हम सिद्ध कर सकें कि सिस्टम निष्पक्ष है।"

उपमा: कल्पना कीजिए कि आप पोकेमोन खेल रहे हैं। आपके पास "निष्पक्षता जाँच" (जैसे "समान त्रुट दर", "समान अनुमोदन दर" आदि) की एक सूची है। आप अपने सिस्टम की इन नियमों के विरुद्ध जाँच करते हैं।

पकड़ (The Catch): यह पेपर सिद्ध करता है कि आपकी चेकलिस्ट कितनी भी लंबी क्यों न हो (भले ही वह 100 आइटम की हो), यदि ग्रुप A और ग्रुप B अलग हैं, तो हमेशा कम से कम एक और निष्पक्षता नियम होगा जिसे आपने अभी तक चेक नहीं किया है और वह विफल हो जाएगा।
"MMD विटनेस" (MMD Witness): दोनों समूहों के बीच के अंतर को अंधेरे में छिपे एक छिपे हुए राक्षस के रूप में सोचें। आपकी चेकलिस्ट के 100 नियम 100 अलग-अलग दिशाओं में टॉर्च चमकाने जैसा है। यदि राक्षस 101वीं दिशा में छिपा है, तो आपकी टॉर्च उसे मिस कर देगी।
क्षय (The Decay): यह पेपर गणना करता है कि नियम जोड़ने पर यह "छिपा हुआ राक्षस" कितनी तेजी से छोटा होता जाता है। यह सच है कि नियमों की एक विशाल संख्या होने के बावजूद, हमेशा एक छोटा, पता लगाने योग्य "उल्लंघन" बचा रहता है। आप कभी भी पूर्ण निष्पक्षता को "पकड़" नहीं सकते; आप केवल इसे एक कोने में धकेल सकते हैं जहाँ यह बहुत छोटा हो जाता है, लेकिन कभी शून्य नहीं होता।

3. "फेयर फीचर लर्निंग" की असंभवता: "साफ किया गया" सिग्नल

अवधारणा: कई आधुनिक AI शोधकर्ता निष्पक्षता को "ठीक" करने के लिए कंप्यूटर को समूह की पहचान भूलने (जैसे, "जाति या लिंग को न देखें, बस कौशल को देखें") की शिक्षा देने की कोशिश करते हैं। वे आशा करते हैं कि यदि कंप्यूटर समूह को देख ही नहीं पाएगा, तो वह पक्षपाती नहीं हो सकता।

उपमा: कल्पना कीजिए कि आप किसी केक (परिणाम की भविष्यवाणी करना) को बनाने की कोशिश कर रहे हैं जिसमें ऐसे सामग्रियां (फीचर्स) हैं जिन्हें किसी भी "ग्रुप फ्लेवर" (जनसांख्यिकी) से साफ किया गया है।

समस्या: यह पेपर सिद्ध करता है कि यदि दो समूहों की सफलता दर स्वाभाविक रूप से अलग है (अलग बेस रेट), तो आप डेटा का ऐसा "साफ" संस्करण नहीं बना सकते जो:
1. निष्पक्ष हो (दोनों समूहों के लिए समान दिखे)।
2. उपयोगी हो (अभी भी बताए कि कौन सफल होगा)।
परिणाम: यदि आप डेटा को दोनों समूहों के लिए समान दिखने के लिए मजबूर करते हैं, तो आप अनजाने में उस सिग्नल को मिटा देते हैं जो बताता है कि कौन सफल होगा। केक बेस्वाद हो जाता है। कंप्यूटर सीख जाता है कि ग्रुप A और ग्रुप B अविभेद्य हैं, इसलिए वह किसी के लिए भी उपयोगी भविष्यवाणी करने में सक्षम नहीं रह जाता।
सीख: आप सब कुछ एक साथ नहीं पा सकते। यदि समूह सांख्यिकीय रूप से भिन्न हैं, तो डेटा को उन अंतरों के प्रति "अंधा" बनाने की कोशिश करना उपयोगी जानकारी को नष्ट कर देता है।

4. ट्रेड-ऑफ फ्रंटियर: निष्पक्षता का "बजट"

अवधारणा: चूंकि हम पूर्ण निष्पक्षता प्राप्त नहीं कर सकते, हमें क्या करना चाहिए? पेपर सुझाव देता है कि हम निष्पक्षता को एक बजट की तरह मानें।

बजट: "बजट" ग्रुप A और ग्रुप B के बीच कुल सांख्यिकीय अंतर है।
खर्च: हर बार जब आप एक निष्पक्षता नियम (जैसे "समान त्रुट दर") लागू करते हैं, तो आप इस बजट का कुछ हिस्सा खर्च करते हैं।
फ्रंटियर (Frontier): पेपर एक रेखा (फ्रंटियर) खींचता है जो ट्रेड-ऑफ को दर्शाती है। यदि आप बहुत निष्पक्ष होना चाहते हैं (बजट का बहुत अधिक खर्च करना चाहते हैं), तो आपकी सटीकता (त्रुटि दर) बढ़नी चाहिए। यदि आपको उच्च सटीकता चाहिए, तो आपको कुछ अननिष्पक्षता स्वीकार करनी होगी।
"वर्जित कोना" (The Forbidden Corner): ग्राफ में एक विशिष्ट क्षेत्र (कम त्रुटि + उच्च निष्पक्षता) है जो गणितीय रूप से असंभव है। पेपर दिखाता है कि वास्तविक दुनिया के प्रयोग कभी भी इस वर्जित क्षेत्र में प्रवेश नहीं करते; वे हमेशा रेखा के "असंभव" पक्ष पर ही रहते हैं।

सारांश

यह पेपर हमें एक कठिन सत्य बताने के लिए उन्नत गणित का उपयोग करता है: यदि दो समूहों के लोग स्वाभाविक रूप से भिन्न हैं, तो कोई भी एल्गोरिदम हर परिभाषा के अनुसार पूरी तरह से निष्पक्ष होते हुए भी उपयोगी नहीं हो सकता।

आप पूर्ण निष्पक्षता को सिद्ध करने के लिए पर्याप्त नियमों की जाँच नहीं कर सकते (पोकेमोन थ्योरम)।
आप समूहों को छिपाने के लिए डेटा को साफ नहीं कर सकते बिना उपयोगी जानकारी को नष्ट किए (फेयर फीचर लर्निंग)।
आपको इस बात के बीच चुनाव करना होगा कि आप कितने निष्पक्ष होना चाहते हैं और आपको कितनी सटीकता की आवश्यकता है (द फ्रंटियर)।

लेखक निष्कर्ष निकालते हैं कि एक जादुई एल्गोरिदम की उम्मीद करने के बजाय जो सब कुछ ठीक कर दे, हमें इन गणितीय सीमाओं को स्वीकार करना चाहिए और यह तय करना चाहिए कि समाज के लिए कौन से ट्रेड-ऑफ स्वीकार्य हैं।

तकनीकी सारांश: पोकेमोन प्रमेय (The Pokémon Theorem) और अन्य निष्पक्षता असंभवता परिणाम

समस्या विवरण

यह शोध पत्र एल्गोरिद्मिक निष्पक्षता (algorithmic fairness) की मौलिक सीमाओं को संबोधित करता है, विशेष रूप से यह जांचता है कि क्या ज्ञात असंभवता परिणाम (जैसे क्लेनबर्ग-मुलैनैथन-रघवन द्वैत) विशिष्ट स्केलर मानदंडों के आर्टिफैक्ट हैं या असमान आधार दरों (unequal base rates) वाले वितरणों के अंतर्निहित संरचनात्मक गुण हैं। दो प्राथमिक प्रश्न पूछे गए हैं:

सीमित चेकलिस्ट सीमा (Finite Checklist Limit): क्या लीनियर मीन-फेयरनेस मानदंडों (जैसे डेमोग्राफिक पैरिटी, इक्वलाइज्ड ऑड्स) का एक परिमित संग्रह यह प्रमाणित कर सकता है कि दो समूह वितरण समान हैं, या क्या एक अवशिष्ट उल्लंघन (residual violation) हमेशा बना रहेगा?
प्रतिनिधित्व शिक्षण सीमा (Representation Learning Limit): क्या फेयर फीचर लर्निंग (एक ऐसा एनकोडर सीखना जो समूह की जानकारी को हटा देता है) इन असंभवताओं को दरकिनार कर सकता है, जिससे एक ऐसा प्रतिनिधित्व प्राप्त हो सके जहाँ डाउनस्ट्रीम प्रेडिक्टर्स उपयोगिता (utility) का त्याग किए बिना निष्पक्षता विरासत में प्राप्त करें?

मौजूदा साहित्य अक्सर इन असंभवताओं को स्केलर सांख्यिकी (जैसे कैलिब्रेशन बनाम त्रुटि-दर संतुलन) के बीच संघर्ष के रूप में फ्रेम करता है। लेखक तर्क देते हैं कि यह स्केलर फ्रेमिंग अंतर्निहित ज्यामितीय संरचना को धुंधला कर देती है और यह प्रश्न खुला छोड़ देती है कि क्या "अधिक" मानदंड इस अंतर को पाट सकते हैं।

कार्यप्रणाली (Methodology)

लेखक इन निष्पक्षता बाधाओं को रिप्रोड्यूसिंग कर्नेल हिलबर्ट स्पेस (RKHS) और मीन एम्बेडिंग्स (mean embeddings) का उपयोग करके एकीकृत करते हैं।

RKHS ज्यामिति: वे निष्पक्षता मानदंडों को एक हिलबर्ट स्पेस $\mathcal{H}$ के भीतर कंडिशनल मीन एम्बेडिंग्स $\mu_{P} = \mathbb{E}[\phi(X)]$ पर लीनियर बाधाओं के रूप में मॉडल करते हैं।
विशेष लक्षण वाले कर्नेल (Characteristic Kernels): विशिष्ट (characteristic) कर्नेल का उपयोग करके, वे सुनिश्चित करते हैं कि अलग-अलग वितरण अलग-अलग मीन एम्बेडिंग्स में मैप होते हैं ( $\mu_P \neq \mu_Q \iff P \neq Q$ )।
टोटल एक्सपेक्टेशन कपलिंग: असंभवता परिणामों को संचालित करने वाला मुख्य तंत्र टोटल एक्सपेक्टेशन का नियम (law of total expectation) है, जो ग्रुप-कंडीशनल अपेक्षाओं को बेस-रेट गैप ( $\Delta p = p_a - p_b$ ) के साथ जोड़ता है।
स्पेक्ट्रल विश्लेषण: पेपर स्पेक्ट्रल रेगुलैरिटी धारणाओं (पूल किए गए कोवेरिएंस ऑपरेटर का पॉलिनोमियल आइजनडिके और सोर्स कंडीशंस) का उपयोग यह मात्रा निर्धारित करने के लिए करता है कि जैसे-जैसे निष्पक्षता मानदंडों की संख्या बढ़ती है, अवशिष्ट उल्लंघन किस दर से घटते हैं।

मुख्य योगदान

1. सुदृढ़ KMR प्रमेय

लेखक शास्त्रीय क्लेनबर्ग-मुलैनैथन-रघवन (KMR) असंभवता परिणाम को सुदृढ़ करते हैं। वे प्रदर्शित करते हैं कि कैलिब्रेशन और क्लास-कंडीशनल बैलेंस के बीच का विरोधाभास ग्रुप-कंडीशनल अनबायस्डनेस ( $\mathbb{E}[S|G=g] = p_g$ ) की कमजोर स्थिति के तहत भी बना रहता है, न कि पूर्ण विदिन-ग्रुप कैलिब्रेशन की आवश्यकता होती है। यह दर्शाता है कि मिसकैलिब्रेटेड स्कोर, जो केवल समूह के औसत बेस रेट को ट्रैक करते हैं, अभी भी असंभवता के अधीन हैं।

2. पोकेमोन प्रमेय (The Pokémon Theorem)

इसका नाम "Gotta Catch 'Em All" के नारे से रखा गया है, यह 'फाइनाइट चेकलिस्ट' प्रश्न को संबोधित करता है।

गुणात्मक परिणाम: किसी भी भिन्न समूह युग्म ( $P_a \neq P_b$ ) और लीनियर मीन-फेयरनेस मानदंडों $\{v_1, \dots, v_m\}$ के किसी भी परिमित सेट के लिए, जो समूहों द्वारा संतुष्ट किए जाते हैं, ऑर्थोगोनल कॉम्प्लीमेंट में एक अवशिष्ट उल्लंघन मौजूद होगा। यह उल्लंघन एक MMD विटनेस वेक्टर $\delta / \|\delta\|_{\mathcal{H}}$ द्वारा प्रमाणित किया जाता है।
मात्रात्मक परिणाम: स्पेक्ट्रल रेगुलैरिटी (पॉलिनोमियल आइजनडिके) और एक सोर्स कंडीशन के तहत, मिनिमैक्स अवशिष्ट उल्लंघन कोलमोगोरोव m-विड्थ दर $\Theta(m^{-2\alpha r})$ पर घटता है। इसका तात्पर्य यह है कि जबकि अधिक मानदंड 'वर्स्ट-केस' उल्लंघन को कम करते हैं, वे परिमित $m$ के लिए पूरी तरह से समाप्त नहीं होते हैं जब तक कि वितरण समान न हों।

3. फेयर फीचर लर्निंग की असंभवता

पेपर सिद्ध करता है कि फेयर रिप्रेजेंटेशन लर्निंग एक साथ निम्नलिखित प्राप्त नहीं कर सकता है:

डिस्ट्रिब्यूशनल पैरिटी: $\Phi(P_a) = \Phi(P_b)$ (प्रतिनिधित्व समूह-अपरिवर्तनीय है)।
क्लास-कंडीशनल सेपरेशन: प्रतिनिधित्व विशिष्ट क्लास-कंडीशनल वितरणों को सुरक्षित रखता है ( $\Phi(X) \perp\!\!\!\perp G | Y$ )।
गैर-तुच्छ सिग्नल (Nontrivial Signal): प्रतिनिधित्व आउटकम $Y$ के लिए प्रेडिक्टिव पावर बनाए रखता है।

यदि बेस दरें भिन्न हैं ( $p_a \neq p_b$ ), तो डिस्ट्रिब्यूशनल पैरिटी और क्लास-कंडीशनल सेपरेशन दोनों को लागू करने से क्लास कोलैप्स ( $\Phi(X) \perp\!\!\!\perp Y$ ) होता है, जिससे प्रतिनिधित्व भविष्यवाणी के लिए बेकार हो जाता है।

4. अनुमानित निष्पक्षता और पोकेमोन-KMR ब्रिज

लेखक अनुमानित निष्पक्षता के लिए मात्रात्मक सीमाएं व्युत्पन्न करते हैं:

अनुमानित फीचर लर्निंग: वे एक पारेटो फ्रंटियर स्थापित करते जहाँ उपयोगी डाउनस्ट्रीम सिग्नल (क्लास-कंडीशनल मीन गैप) $(\epsilon + \rho) / |p_a - p_b|$ द्वारा सीमित है, जहाँ $\epsilon$ पैरिटी उल्लंघन है और $\rho$ सेपरेशन उल्लंघन है।
KMR से जुड़ाव: वे दिखाते हैं कि जैसे-जैसे ऑडिट मानदंडों की संख्या $m \to \infty$ होती है और अवशिष्ट उल्लंघन समाप्त होते हैं, अनुमानित स्थितियाँ सटीक KMR असंभवता को पुनः प्राप्त करती हैं (पूर्ण भविष्यवाणी ही एकमात्र समाधान है)।

प्रयोगात्मक परिणाम

पेपर इन सैद्धांतिक सीमाओं को मानक निष्पक्षता बेंचमार्क (Adult Income, COMPAS, ACS PUMS) पर मान्य करता है:

स्पेक्ट्रल डिके (Spectral Decay): मानदंडों की संख्या $m$ के विरुद्ध अवशिष्ट MMD के प्रयोगात्मक प्लॉट्स, पोकेमोन प्रमेय द्वारा अनुमानित पॉलिनोमियल डिके दर की पुष्टि करते हैं। मानदंडों को संतुष्ट करने के लिए आवश्यक MMD का "बजट" डेटासेट के अनुसार भिन्न होता है (जैसे, COMPAS कम डाइमेंशनलिटी के कारण तेजी से केंद्रित होता है)।
पारेटो फ्रंटियर्स: सेपरेशन-एनफोर्सिंग क्लासिफायर के एरर बनाम डेमोग्राफिक पैरिटी गैप प्लॉट्स, सेक्शन 6.2 में प्राप्त सैद्धांतिक लोअर बाउंड के साथ संरेखित होते हैं।
वर्जित क्षेत्र (Forbidden Region): फेयर एनकोडर्स (LFR, Fair-VAE, Adversarial Debiasing) के साथ प्रयोग दिखाते हैं कि कोई भी विधि प्लॉट के "वर्जित" ऊपरी-बाएँ क्षेत्र (कम पैरिटी गैप के साथ उच्च क्लास-कंडीशनल सिग्नल) को सफलतापूर्वक भरने में सफल नहीं होती है, जो क्लास कोलैप्स असंभवता की पुष्टि करती है।

महत्व और दावे

पेपर निष्पक्षता असंभवता परिणामों के लिए एक एकीकृत ज्यामितीय ढांचे का दावा करता है।

संरचनात्मक अंतर्दृष्टि: यह निष्पक्षता असंभवताओं को विशिष्ट स्केलर मेट्रिक्स के संघर्ष के रूप में नहीं, बल्कि असमान बेस दरों पर कार्य करने वाले 'लॉ ऑफ टोटल एक्सपेक्टेशन' के एक संरचनात्मक परिणाम के रूप में पुनर्गठित करता है।
बजट आवंटन: यह निष्पक्षता ऑडिटिंग को एक बजट-आवंटन समस्या के रूप में पुनर्गठित करता है जहाँ कुल "बजट" समूहों के बीच MMD है। सटीक निष्पक्षता के लिए इस बजट को समाप्त करना आवश्यक है, जो यदि बेस दरें भिन्न हैं तो उपयोगिता (utility) का त्याग किए बिना असंभव है।
व्यावहारिक निहितार्थ: परिणाम बताते हैं कि जब समूह वितरण संबंधी रूप से भिन्न होते हैं, तो केवल एल्गोरिद्मिक हस्तक्षेप ही पूर्ण निष्पक्षता और उपयोगिता को एक साथ प्राप्त नहीं कर सकते। पेपर यह संकेत देता है कि ऐसे शासन में केवल फीचर स्क्रबिंग या बाधा अनुकूलन (constraint optimization) पर निर्भर रहने के बजाय नीतिगत हस्तक्षेप या स्पष्ट उपचार विसंगतियों (treatment disparities) की आवश्यकता हो सकती है।

लेखक एक विनम्र रुख बनाए रखते हैं, यह नोट करते हुए कि उनके परिणाम अवलोकन संबंधी (observational) हैं और वे नए एल्गोरिदम का प्रस्ताव नहीं करते हैं। इसके बजाय, वे एक सैद्धांतिक "नो-गो" (no-go) प्रमेय प्रदान करते हैं जो असमान बेस दरों के तहत फेयर मशीन लर्निंग में क्या हासिल किया जा सकता है, उसकी सीमाओं को परिभाषित करता है।