Causal Bias Detection in Generative Artifical Intelligence
यह शोध पत्र जनरेटिव एआई (generative AI) में कॉज़ल फेयरनेस (causal fairness) के लिए एक एकीकृत सैद्धांतिक ढांचा स्थापित करता है, जो नए डिकंपोज़िशन मेथड्स और एस्टिमेटर्स को व्युत्पन्न करता है ताकि यह मात्रात्मक रूप से मापा जा सके कि जनरेटिव मॉडल्स के आंतरिक कॉज़ल मैकेनिज्म्स विभिन्न पाथवेज़ (pathways) के माध्यम से जनसांख्यिकीय पूर्वाग्रहों (demographic biases) में कैसे योगदान देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि समाज में दो समूहों के साथ अलग-अलग व्यवहार क्यों किया जाता है। शायद एक समूह को कम वेतन मिलता है, या किसी विशेष बीमारी के निदान की संभावना अधिक होती है, या वे कुछ पदार्थों का अधिक उपयोग करते हैं।
अब, कल्पना कीजिए कि हम एक सुपर-स्मार्ट कंप्यूटर (एक AI) बनाते हैं ताकि वह इन लोगों के बारे में निर्णय लेने या उनकी कहानियाँ बताने में हमारी मदद कर सके। बड़ी चिंता यह है: क्या कंप्यूटर केवल वास्तविक दुनिया की नाइंसाफी की नकल करता है, या यह अनजाने में इसे और बदतर बना देता है?
यह शोधपत्र कंप्यूटर के "मस्तिष्क" की जांच करने का एक नया तरीका पेश करता है ताकि यह देखा जा सके कि वह वास्तव में कैसे और क्यों पक्षपाती हो सकता है। यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:
1. पुराना तरीका बनाम नया तरीका
पुराना तरीका (मानक AI):
एक पारंपरिक AI को एक न्यायाधीश की तरह समझें। न्यायाधीश किसी व्यक्ति के बायोडाटा (उसकी आयु, शिक्षा, नौकरी का इतिहास) को देखता है और तय करता है कि उसे ऋण या नौकरी मिलेगी या नहीं। न्यायाधीश आयु और शिक्षा के काम करने के वास्तविक दुनिया के नियमों का उपयोग करता है, लेकिन न्यायाधीश अंतिम निर्णय के लिए अपना विशिष्ट नियम लागू करता है।
- समस्या: हम आमतौर पर केवल यह देखते हैं कि न्यायाधीश का अंतिम निर्णय निष्पक्ष है या नहीं। हम यह नहीं देखते कि क्या न्यायाधीश ने दुनिया कैसे काम करती है, इसे समझने में गलती की है।
नया तरीका (जेनेरेटिव AI):
एक जेनेरेटिव AI (जैसे कि चैटबॉट्स जिन्हें आप जानते हैं) को एक कथावाचक की तरह समझें। यह कथावाचक केवल बायोडाटा देखकर "हाँ/ना" नहीं कहता। यह पूरे जीवन की रचना करता है। यह तय करता है कि किसी व्यक्ति का काम क्या है, उसका वेतन क्या है, उसके शौक क्या हैं, और वह बीमार होगा या नहीं, और यह सब इस आधार पर होता है कि वह कौन है।
- समस्या: क्योंकि कथावाचक सब कुछ गढ़ता है, इसलिए उसके दुनिया के बारे में अपने ही अजीब विचार हो सकते हैं। वह सोच सकता है, "ओह, समूह A के लोग आमतौर पर कम आय वाले होते हैं," भले ही वास्तविकता में ऐसा न हो। वह केवल निर्णय नहीं ले रहा है; वह ब्रह्मांड के नियमों को फिर से लिख रहा है।
2. "S-Node": वास्तविकता का स्विच
शोधकर्ताओं ने S-SFM (सिलेक्शन-स्टैंडर्ड फेयरनेस मॉडल) नामक एक विशेष उपकरण बनाया है। एक विशाल स्विचबोर्ड की कल्पना करें जिस पर "S" लिखा है।
- जब स्विच वास्तविक दुनिया (Real World) पर सेट होता है, तो कंप्यूटर मानव इतिहास के वास्तविक तथ्यों (जैसे वास्तविक जनगणना डेटा) का उपयोग करता है।
- जब स्विच AI दुनिया (AI World) पर सेट होता है, तो कंप्यूटर अपने स्वयं के बनाए हुए विश्वासों का उपयोग करता है।
किसी व्यक्ति के जीवन के विभिन्न हिस्सों (उनकी पृष्ठभूमि, उनकी नौकरी, उनके स्वास्थ्य) के लिए इस स्विच को बदलकर, शोधकर्ता यह अलग कर सकते हैं कि AI कहाँ गलत हो रहा है।
3. पक्षपात के तीन मार्ग
यह शोधपत्र नाइंसाफी को तीन "रास्तों" में विभाजित करता है जो AI अपना सकता है:
- सीधा मार्ग (The Direct Road): AI समूह A के साथ समूह B की तुलना में अलग व्यवहार करता है क्योंकि वे कौन हैं (जैसे, "क्योंकि आप X हैं, इसलिए आपको Y मिलता है")।
- अप्रत्यक्ष मार्ग (The Indirect Road): AI समूह A के साथ अलग व्यवहार करता है क्योंकि वह सोचता है कि उनके पास अलग मध्यस्थ लक्षण हैं (जैसे, "क्योंकि आप X हैं, AI सोचता है कि आपके पास कम शिक्षा है, इसलिए आपको कम पैसा मिलता है")।
- भ्रामक मार्ग (The Spurious Road): AI पृष्ठभूमि के शोर (background noise) से भ्रमित हो जाता है (जैसे, "समूह A औसतन युवा है, और युवा लोग कम बीमार पड़ते हैं, इसलिए AI सोचता है कि समूह A अधिक स्वस्थ है, भले ही पूरी कहानी यह न हो")।
4. "वॉटरफॉल" प्रयोग
शोधकर्ताओं ने केवल अंतिम परिणाम को नहीं देखा। उन्होंने यह देखने के लिए एक वॉटरफॉल (झरना) बनाया कि पानी (पक्षपात) कहाँ बदलता है।
- उन्होंने वास्तविक दुनिया के डेटा से शुरुआत की।
- फिर, उन्होंने वास्तविक दुनिया के तथ्यों को बाकी सब के लिए रखते हुए, AI के "परिणाम" मस्तिष्क (कि कोई धूम्रपान करता है या बीमार होता है, इसका निर्णय कैसे लेता है) को बदल दिया।
- इसके बाद, उन्होंने AI के "मध्यस्थ" मस्तिष्क (कि कोई आय या शिक्षा कैसे तय करता है) को बदला।
- अंत में, उन्होंने AI के "पृष्ठभूमि" मस्तिष्क (कि कोई आयु या नस्ल कैसे तय करता है) को बदला।
प्रत्येक चरण में पानी के स्तर को ऊपर या नीचे गिरते हुए देखकर, वे सटीक रूप से पता लगा सके: क्या AI इसलिए पक्षपाती है क्योंकि वह सोचता है कि अल्पसंख्यक अधिक नशीली दवाओं का उपयोग करते हैं? या क्या वह इसलिए पक्षपाती है क्योंकि वह सोचता है कि अल्पसंख्यकों की आय कम है?
5. उन्होंने क्या पाया
उन्होंने तीन वास्तविक दुनिया के विषयों पर 10 अलग-अलग लोकप्रिय AI मॉडलों का परीक्षण किया: मारिजुआना का उपयोग, मधुमेह और वेतन।
- "दर्पण" प्रभाव (The Mirror Effect): कभी-कभी, AI वास्तविकता का एक आदर्श दर्पण था।
- "विकृति" प्रभाव (The Distortion Effect): कभी-कभी, AI ने वास्तविक दुनिया के एक छोटे से पक्षपात को लेकर उसे बहुत बड़ा बना दिया।
- "विपरीत" प्रभाव (The Reversal Effect): कभी-कभी, AI ने इसे पूरी तरह से उल्टा कर दिया। उदाहरण के लिए, वास्तविक दुनिया में, अन्य कारकों को नियंत्रित करने पर अल्पसंख्यक समूह वास्तव में बहुमत समूह की तुलना में कम मारिजुआना का उपयोग करते थे। लेकिन एक AI मॉडल (Gemma 3) ने इसके विपरीत निर्णय लिया, और एक स्टीरियोटाइप गढ़ दिया कि अल्पसंख्यक अधिक मारिजुआना का उपयोग करते हैं।
- परिवार मायने रखता है (Family Matters): आप सोच सकते हैं कि एक ही कंपनी के AI मॉडल (जैसे "Llama" के भाई-बहन) एक जैसा ही सोचेंगे। अध्ययन में पाया गया कि ऐसा हमेशा सच नहीं था। एक ही परिवार के दो मॉडल पक्षपात के संबंध में बहुत अलग "व्यक्तित्व" रख सकते हैं, जबकि अलग-अलग परिवारों के मॉडल कभी-कभी एक जैसा सोच सकते हैं।
निष्कर्ष
यह शोधपत्र AI पक्षपात के लिए एक सूक्ष्मदर्शी (microscope) प्रदान करता है। केवल यह कहने के बजाय कि "यह AI अनुचित है," अब हम कह सकते हैं, "यह AI इसलिए अनुचित है क्योंकि इसके पास एक विशिष्ट, गलत धारणा है कि शिक्षा का आय से क्या संबंध है।"
यह एक डॉक्टर द्वारा मरीज के निदान करने जैसा है। केवल यह कहने के बजाय कि "आप बीमार हैं," अब डॉक्टर कह सकता है, "आपको बुखार इस विशिष्ट वायरस के कारण है, न कि उस दूसरे के कारण।" यह हमें AI के "मस्तिष्क" के उस विशिष्ट हिस्से को ठीक करने में मदद करता है जो खराब है, बजाय इसके कि हम पूरे कंप्यूटर को ही फेंक दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।