Training Fair Tabular Foundation Models
यह शोध पत्र FairTFM प्रस्तुत करता है, जो एक स्केलेबल प्रशिक्षण रणनीति है जो सिंथेटिक निष्पक्षता कार्यों (synthetic fairness tasks) और एक ग्रेडिएंट रिवर्सल लेयर के माध्यम से टैबुलर फाउंडेशन मॉडल्स में सीधे निष्पक्षता बाधाओं को शामिल करती है, जिससे संवेदनशील विशेषताओं तक पहुँच के बिना प्रतिस्पर्धी सटीकता बनाए रखते हुए निष्पक्ष, इन-कॉन्टेक्स्ट भविष्यवाणियाँ सक्षम होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक सुपर-स्मार्ट, प्री-ट्रेन्ड एआई असिस्टेंट का उपयोग करके एक रहस्य सुलझाने की कोशिश कर रहे हैं। यह असिस्टेंट लाखों केस फाइलों को पढ़ चुका है और डेटा में पैटर्न पहचानने में माहिर है, जैसे कि एक अनुभवी जासूस जो कुछ सुराग देखते ही तुरंत अपराधी का अंदाजा लगा लेता है। यह टेबुलर फाउंडेशन मॉडल्स (Tabular Foundation Models) की दुनिया है। इन्हें "यूनिवर्सल डिटेक्टिव्स" के रूप में सोचें जो किसी भी नए केस में कूद सकते हैं—चाहे वह लोन अप्रूवल की भविष्यवाणी करना हो, बीमारियों का निदान करना हो, या यह तय करना हो कि किसे छात्रवृत्ति मिलनी चाहिए—और इसके लिए उन्हें शुरू से फिर से प्रशिक्षित करने की आवश्यकता नहीं होती। वे इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning) नामक एक ट्रिक का उपयोग करते हैं, जो बिल्कुल वैसा ही है जैसे जासूस को वर्तमान केस के कुछ उदाहरण एक नोटबुक में देकर कहना, "हम आमतौर पर इन्हें ऐसे सुलझाते हैं; अब तुम इसे सुलझाओ।"
लेकिन यहाँ एक पेंच है: यहाँ तक कि सबसे स्मार्ट जासूसों में भी छिपे हुए पूर्वाग्रह (biases) हो सकते हैं। यदि जासूस ने पुराने केस फाइलों से सीखा है जहाँ कुछ समूहों के साथ अन्यायपूर्ण व्यवहार किया गया था, तो वे अनजाने में उन समान समूहों के लोगों के साथ भी अन्याय कर सकते हैं। यह एल्गोरिद्मिक फेयरनेस (algorithmic fairness) की समस्या है। वास्तविक दुनिया में, हमारे पास सख्त नियम हैं (जैसे भेदभाव विरोधी कानून) जो कहते हैं कि निर्णय लिंग, जाति या आयु जैसे संवेदनशील गुणों पर आधारित नहीं होने चाहिए। बड़ा सवाल यह है कि क्या हम इन "यूनिवर्सल डिटेक्टिव्स" को वास्तविक केस देखने से पहले ही निष्पक्ष बनाना सिखा सकते हैं, ताकि उन्हें बाद में ठीक करने की जरूरत न पड़े?
यह पेपर एक नया तरीका पेश करता है जिसे FairTFM कहा जाता है, जो इन मॉडल्स को उनके प्रशिक्षण के दौरान सीधे उनके "दिमाग" में निष्पक्षता भरने की कोशिश करता है। केवल सटीकता सिखाने के बजाय, शोधकर्ता मॉडल को उन "संवेदनशील" सुरागों को अनदेखा करना सिखाते हैं जो मायने नहीं रखने चाहिए। उन्होंने पाया कि एक चतुर प्रशिक्षण तकनीक का उपयोग करके, वे एक ऐसा मॉडल बना सकते हैं जो एक ही नज़र में निष्पक्ष भविष्यवाणियाँ करता है, बिना हर नए काम के लिए फिर से प्रशिक्षित हुए। हालाँकि कभी-कभी मॉडल को अपनी पूर्ण सटीकता में थोड़ा सा समझौता करना पड़ता है, लेकिन परिणाम बताते हैं कि यह निष्पक्षता को काफी कम कर सकता है—कभी-कभी 70% से अधिक—जबकि अपने मुख्य कार्य में भी बेहतरीन प्रदर्शन करता है।
समस्या: एक "ब्लाइंड स्पॉट" वाला "यूनिवर्सल डिटेक्टिव"
टेबुलर डेटा बस सूचना है जो पंक्तियों और स्तंभों (rows and columns) में व्यवस्थित है, जैसे कि एक विशाल स्प्रेडशीट। दशकों से, इन स्प्रेडशीट्स से भविष्यवाणियाँ करने का सबसे अच्छा तरीका ट्री-बेस्ड मॉडल्स (सोचिए फ्लोचार्ट के बारे में जो हाँ/ना के सवालों की एक श्रृंखला पूछते हैं) का उपयोग करना रहा है। लेकिन हाल ही में, टेबुलर फाउंडेशन मॉडल (TFM) नामक एक नया प्रकार का एआई उभरा है। ये डेटा की दुनिया के "सुपर-डिटेक्टिव्स" की तरह हैं। उन्हें विशाल डेटा संग्रहों पर प्रशिक्षित किया जाता है ताकि वे केवल वर्तमान भविष्यवाणी के समय दिए गए कुछ उदाहरणों का उपयोग करके तुरंत नए कार्यों के अनुकूल बन सकें।
समस्या यह है कि ये सुपर-डिटेक्टिव्स अतीत से सीख रहे हैं, और अतीत अक्सर अन्याय से भरा होता है। यदि किसी बैंक के ऐतिहासिक डेटा से पता चलता है कि महिलाओं को बिना किसी ठोस कारण के पुरुषों की तुलना में अधिक बार ऋण देने से मना किया गया था, तो एक मानक TFM उस पैटर्न को सीख सकता है और महिलाओं को ऋण देने से मना करना जारी रख सकता है, भले ही यह अवैध और गलत हो।
आमतौर पर, इसे ठीक करने के लिए, डेटा वैज्ञानिक प्रशिक्षण से पहले डेटा को "साफ" करने की कोशिश करते हैं, या प्रशिक्षण के बाद मॉडल में बदलाव करते हैं। लेकिन TFMs के साथ, यह कठिन है। क्योंकि ये मॉडल्स "फ्रोजन" (यानी हम हर नए कार्य के लिए उनके आंतरिक वेट्स को नहीं बदलते) होने के लिए डिज़ाइन किए गए हैं, हम हर विशिष्ट बैंक या अस्पताल के लिए उन्हें आसानी से फिर से प्रशिक्षित नहीं कर सकते। हमें उन्हें तैनात करने से पहले ही निष्पक्ष बनाना होगा, ताकि वे किसी भी नए समस्या को हल करने के लिए पूछे जाने पर तैयार रहें।
समाधान: जासूस को "गलत" सुरागों को अनदेखा करना सिखाना
इस पेपर के लेखक, पैट्रिक केनफैक और उनकी टीम, इन मॉडल्स को प्रशिक्षित करने का एक नया तरीका प्रस्तावित करते हैं जिसे FairTFM कहा जाता है। उनका विचार सरल लेकिन शक्तिशाली है: प्रशिक्षण चरण के दौरान, वे मॉडल को एक खेल खेलने के लिए प्रशिक्षित करते हैं जहाँ उसे संवेदनशील जानकारी का उपयोग किए बिना परिणाम का अनुमान लगाना होता है।
इसे करने का तरीका यहाँ दिया गया है, एक मजेदार उपमा का उपयोग करते हुए:
कल्पना कीजिए कि आप एक जासूस को यह सुलझाने के लिए प्रशिक्षित कर रहे हैं कि किसने कुकी चुराई है। आपके पास सुरागों की एक सूची है: दिन का समय, जूते के निशान का प्रकार, और संदिग्ध का पसंदीदा रंग। लेकिन आपके पास एक "संवेदनशील" सुराग भी है: संदिग्ध का लिंग। आप चाहते हैं कि जासूस अपराध को जूते के निशान और समय के आधार पर सुलझाए, लेकिन लिंग के आधार पर नहीं।
अतीत में, आपने शायद सिर्फ लिंग के सुराग को छिपाने की कोशिश की होगी। लेकिन जासूस स्मार्ट है; वह अन्य सुरागों (जैसे जूते के निशान) के आधार पर लिंग का अनुमान लगा सकता है और उसका उपयोग अनुचित लाभ प्राप्त करने के लिए कर सकता है।
FairTFM प्रशिक्षण के दो भागों वाले खेल का उपयोग करता है:
- मुख्य खेल (The Main Game): जासूस अनुमान लगाने की कोशिश करता है कि कुकी किसने चुराई (मुख्य भविष्यवाणी)।
- एंटी-चीट गेम (The Anti-Cheat Game): उसी समय, जासूस को केवल उन सुरागों के आधार पर संदिग्ध के लिंग का अनुमान लगाने के लिए मजबूर किया जाता है जिनका उपयोग उसने अपराध को सुलझाने के लिए किया था।
यहाँ जादू का मंत्र है: शोधकर्ता एक विशेष उपकरण का उपयोग करते हैं जिसे ग्रेडिएंट रिवर्सल लेयर (Gradient Reversal Layer) कहा जाता है। इसे जासूस के दिमाग के लिए एक "रिवर्स गियर" के रूप में समझें। जब जासूस लिंग का अनुमान लगाने की कोशिश करता है, तो यह उपकरण फीडबैक को उलट देता है। यदि जासूस लिंग का सही अनुमान लगा लेता है, तो टूल कहता है, "नहीं, यह बुरा है! तुम लिंग पर बहुत अधिक निर्भर हो!" और जासूस को उस संबंध को भूलने के लिए प्रेरित करता है।
ऐसा बार-बार करने से, हजारों अलग-अलग नकली "कुकी चोरी" परिदृश्यों (जहाँ संवेदनशील सुराग लिंग से आयु या जाति में बदल जाता है) के साथ, जासूस केवल प्रासंगिक सुरागों का उपयोग करके अपराध को सुलझाना सीख जाता है। वे दुनिया का एक ऐसा मानसिक मानचित्र बनाना सीखते हैं जहाँ लिंग का सुराग अदृश्य हो जाता है।
परिणाम: कहानी खोए बिना निष्पक्षता
टीम ने 132 अलग-अलग कार्यों पर अपने नए "फेयर डिटेक्टिव" (FairTFM) का परीक्षण किया, जिसमें आय की भविष्यवाणी करने से लेकर यह जांचना शामिल है कि क्या कोई व्यक्ति फिर से गिरफ्तार किया जाएगा। उन्होंने इसकी तुलना निम्नलिखित से की:
- मानक डिटेक्टिव्स (Standard Detectives): सामान्य, अत्यधिक सटीक TFMs (जैसे TabPFN और TabICL) जो निष्पक्षता की परवाह नहीं करते।
- पुराने स्कूल के डिटेक्टिव्स (Old-School Detectives): रैंडम फॉरेस्ट और लॉजिस्टिक रिग्रेशन जैसे पारंपरिक मॉडल।
- "फेयर" प्रतियोगी (The "Fair" Competitor): एक अन्य मॉडल जिसे FairPFN कहा जाता है, जो निष्पक्ष होने की कोशिश करता है लेकिन निष्पक्षता की एक अलग, अधिक जटिल परिभाषा का उपयोग करता है।
परिणाम उत्साहजनक थे। मानक, सुपर-सटीक TFMs वास्तव में सबसे सटीक थे, लेकिन वे सबसे अधिक अन्यायपूर्ण भी थे। उन्होंने विभिन्न समूहों के साथ व्यवहार करने में बड़ी गलतियाँ कीं।
हालाँकि, FairTFM ने एक बीच का रास्ता खोज लिया। एक "नॉब" (जिसे कहा जाता है जो यह नियंत्रित करता है कि मॉडल कितनी कड़ी मेहनत से निष्पक्ष होने की कोशिश करता है) को समायोजित करके, शोधकर्ता सटीक संतुलन बना सकते थे।
- समझौता (The Trade-off): निष्पक्ष भविष्यवाणियाँ प्राप्त करने के लिए, मॉडल को थोड़ी सी कच्ची सटीकता छोड़नी पड़ी। पेपर में पाया गया कि सटीकता में थोड़ी सी गिरावट (2% और 11% के बीच) के लिए, मॉडल मानक मॉडलों की तुलना में 32% से 75% अधिक निष्पक्ष हो गया।
- "वन-शॉट" जीत (The "One-Shot" Win): सबसे अच्छी बात यह है कि FairTFM यह एक सिंगल फॉरवर्ड पास में करता है। आपको हर नए बैंक या अस्पताल के लिए इसे फिर से प्रशिक्षित करने की आवश्यकता नहीं है। आप बस डेटा देते हैं, और यह तुरंत एक निष्पक्ष भविष्यवाणी करता है।
अन्य "फेयर" मॉडल (FairPFN) की तुलना में, FairTFM आगे निकला। FairPFN निष्पक्ष था, लेकिन यह बहुत कम सटीक था। FairTFM निष्पक्ष और सटीक दोनों होने में सफल रहा, और लगभग हर मीट्रिक पर FairPFN को पीछे छोड़ दिया।
यह भविष्य के लिए क्या मायने रखता है
पेपर सुझाव देता है कि हमें एक स्मार्ट एआई और एक निष्पक्ष एआई के बीच चयन करने की आवश्यकता नहीं है। अपने "बचपन" (प्री-ट्रेनिंग) के दौरान संवेदनशील विशेषताओं को अनदेखा करने के लिए मॉडल को प्रशिक्षित करके, हम एक ऐसा उपकरण बना सकते हैं जो वास्तविक दुनिया में प्रवेश करते ही निष्पक्ष होने के लिए तैयार हो।
बेशक, लेखक इस बात पर ध्यान देने में सावधानी बरतते हैं कि यह कोई जादुई छड़ी नहीं है जो सभी भेदभावों को हल कर देती है। मॉडल को अभी भी वास्तविक दुनिया के डेटा पर परीक्षण करने की आवश्यकता है, और "निष्पक्षता" की परिभाषा जटिल हो सकती है। लेकिन यह कार्य एक स्पष्ट मार्ग दिखाता है: हम ऐसे फाउंडेशन मॉडल्स बना सकते हैं जो न केवल शक्तिशाली हैं, बल्कि सिद्धांतवादी भी हैं, जिससे वित्त, स्वास्थ्य सेवा और न्याय जैसे उच्च-जोखिम वाले निर्णयों में वे अधिक सुरक्षित और विश्वसनीय बनते हैं।
संक्षेप में, लेखकों ने दिखाया है कि सही प्रशिक्षण के साथ, हम अपने एआई जासूसों को अपने पूर्वाग्रहों को रास्ते में आने देने के बिना अपराध सुलझाना सिखा सकते हैं। और यह सभी के लिए एक जीत है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।