Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution
यह स्थिति पत्र (position paper) यह तर्क देता है कि कार्य-कारण संबंध (causality) विश्वसनीय एआई के प्रतिस्पर्धी उद्देश्यों—जैसे कि निष्पक्षता, सुदृढ़ता, गोपनीयता और व्याख्यात्मकता—के बीच अंतर्निहित संघर्षों को हल करने के लिए एक एकीकृत ढांचा प्रदान करता है, जो इन समझौतों (trade-offs) को चयनात्मक अपरिवर्तनीयता (selective invariance) के माध्यम से संतुलित की जा सकने वाली असंगत अपरिवर्तनीयता आवश्यकताओं के रूप में पुनर्व्याख्या करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक ही समय में एक आदर्श डॉक्टर, एक निष्पक्ष न्यायाधीश और एक सुरक्षित तिजोरी बनने के लिए सिखाने की कोशिश कर रहे हैं। यह शोध पत्र तर्क देता है कि अभी हम इसमें विफल हो रहे हैं क्योंकि हम रोबोट को दुनिया को एक जासूस की तरह देखने के लिए सिखा रहे हैं जो सुरागों (सहसंबंध/correlations) की तलाश में रहता है, जबकि उसे एक वैज्ञानिक की तरह देखना चाहिए जो कारणों (causes) की तलाश में रहता है।
यहाँ रोजमर्रा के उदाहरणों का उपयोग करके इस शोध पत्र के तर्क का सरल विवरण दिया गया है।
1. समस्या: "सुराग" का जाल (The "Clue" Trap)
वर्तमान में, AI मॉडल पैटर्न खोजने में बहुत अच्छे हैं। यदि वे देखते हैं कि "लाल टोपी पहनने वाले लोग अक्सर बीमार होते हैं," तो वे टोपी के आधार पर बीमारी की भविष्यवाणी करना सीख जाते हैं।
- समस्या: एक स्थिर वातावरण में यह अनुमान लगाने के लिए बहुत अच्छा काम करता है कि आगे क्या होने वाला है। लेकिन यह तब विफल हो जाता है जब हम AI से निष्पक्ष (Fair), मजबूत (Robust), निजी (Private) या व्याख्या योग्य (Explainable) होने की मांग करते हैं।
- द्वंद्व: पेपर कहता है कि ये लक्ष्य आपस में लड़ रहे हैं क्योंकि वे मांग करते हैं कि AI अलग-अलग, परस्पर विरोधी तरीकों से "अटल" (unmovable/invariant) रहे:
- निष्पक्षता (Fairness) कहती है: "अगर व्यक्ति की जाति या लिंग बदल जाए, तो अपना उत्तर मत बदलो।"
- गोपनीयता (Privacy) कहती है: "अगर हम किसी एक विशिष्ट व्यक्ति का डेटा हटा दें, तो अपना उत्तर मत बदलो।"
- मजबूती (Robustness) कहती है: "अगर अस्पताल के उपकरण बदल जाएं या मौसम खराब हो जाए, तो अपना उत्तर मत बदलो।"
- सटीकता (Accuracy) कहती है: "सही उत्तर पाने के लिए हर संभव सुराग का उपयोग करो।"
यदि AI सटीक होने के लिए "लाल टोपी" वाले सुराग का उपयोग करता है, तो वह निष्पक्षता का उल्लंघन कर सकता है (यदि टोपी किसी विशिष्ट समूह से जुड़ी है) या गोपनीयता का उल्लंघन कर सकता है (यदि टोपी किसी एक व्यक्ति की विशिष्ट पहचान है)। शोध पत्र इसे एक "इनवेरिएंस कॉन्फ्लिक्ट" (Invariance Conflict) कहता है। AI एक ही समय में कई अलग-अलग दिशाओं में अटल रहने की कोशिश कर रहा है, और इसी वजह से वह टूट जाता है।
2. समाधान: "कारणों का मानचित्र" (The "Causal Map")
शोध पत्र प्रस्तावित करता है कि कार्य-कारण संबंध (Causality) ही इस समस्या को ठीक करने की जादुई कुंजी है।
कल्पना कीजिए कि AI एक शेफ (रसोइया) है।
- वर्तमान AI (सहसंबंध/Correlation): शेफ देखता है कि जुलाई में "आइसक्रीम की बिक्री" और "डूबने से होने वाली मौतें" दोनों बढ़ जाती हैं। शेफ निष्कर्ष निकालता है: "आइसक्रीम डूबने का कारण है!" और आइसक्रीम बैन करके डूबने को रोकने की कोशिश करता है। यह गलत है क्योंकि यह सिर्फ एक संयोग है (दोनों का कारण गर्म मौसम है)।
- कॉज़ल AI (Causal AI): शेफ एक मानचित्र (Map) बनाता है। मानचित्र दिखाता है कि गर्म मौसम के कारण आइसक्रीम की बिक्री और डूबना दोनों होते हैं।
- यदि शेफ डूबने को रोकना चाहता है, तो वह आइसक्रीम बैन नहीं करता; बल्कि वह लोगों को पानी के प्रति सचेत करता है।
- यदि शेफ निष्पक्ष होना चाहता है, तो वह समझ जाता है कि "टोपी" बीमारी का कारण नहीं है; इसके पीछे का जैविक विज्ञान (biology) असली कारण है।
यह संघर्षों को कैसे हल करता है:
मानचित्र को समझकर, AI "चयनात्मक रूप से अटल" (selectively unmovable) हो सकता है।
- वह कह सकता है: "मैं 'टोपी' को अनदेखा कर दूँगा (जो कि एक बुरा सुराग है) क्योंकि यह बीमारी का कारण नहीं है।" -> निष्पक्षता प्राप्त हुई।
- वह कह सकता है: "मैं 'जीव विज्ञान' (असली कारण) पर ध्यान केंद्रित करूँगा क्योंकि यह वही रहता है चाहे अस्पताल बदल जाए या मौसम।" -> मजबूती प्राप्त हुई।
- वह कह सकता है: "मुझे यह जानने के लिए विशिष्ट रोगी के नाम को याद रखने की आवश्यकता नहीं है कि जीव विज्ञान क्या है।" -> गोपनीयता प्राप्त हुई।
3. इस मानचित्र को बनाने के दो तरीके
शोध पत्र बताता है कि हम AI के आकार के आधार पर इस "कॉज़ल मैप" को दो तरह से बना सकते हैं:
- स्पष्ट (The Blueprint - खाका): छोटे, विशिष्ट AI के लिए, हम वास्तव में मानचित्र (एक ग्राफ) बना सकते हैं और AI को उसका पालन करने के लिए मजबूर कर सकते हैं। यह एक रोबोट को सख्त नियम पुस्तिका देने जैसा है। यह उच्च-जोखिम वाले कार्यों (जैसे कानून या चिकित्सा) के लिए बहुत अच्छा है जहाँ हमें यह जानने की आवश्यकता होती है कि निर्णय क्यों लिया गया।
- अंतर्निहित (The Gut Feeling - अंतर्ज्ञान): विशाल AI (जैसे आज के बड़े चैटबॉट्स) के लिए, हम सब कुछ के लिए मानचित्र नहीं बना सकते। इसके बजाय, हम उन्हें विविध डेटा पर प्रशिक्षित करते हैं और विशेष तकनीकों का उपयोग करते हैं ताकि वे वास्तविक कारण और नकली सुराग के बीच के अंतर को "महसूस" कर सकें। यह एक कुत्ते को बिना यह बताए कि हर व्याकुलता (distraction) क्या है, व्याकुलताओं को अनदेखा करने के लिए प्रशिक्षित करने जैसा है।
4. भविष्य के लिए इसका क्या अर्थ है
शोध पत्र निष्कर्ष निकालता है कि हम केवल AI को बेहतर बनाने के लिए उसमें "बदलाव" (tweak) नहीं कर सकते। हमें इसके बारे में सोचने का तरीका बदलना होगा।
- बंद करें AI को निष्पक्षता, गोपनीयता और सटीकता के रूप में अलग-अलग समस्याओं के रूप में देखना जिन्हें हमें एक सी-सॉ (seesaw) की तरह संतुलित करना है।
- शुरू करें उन्हें एक ही कॉज़ल मैप (Causal Map) के विभिन्न दृष्टिकोणों के रूप में देखने के रूप में।
यदि हम ऐसा AI बनाते हैं जो यह समझता है कि चीजें क्यों होती हैं (कार्य-कारण संबंध) न कि केवल यह कि चीजें एक साथ क्या होती हैं (सहसंबंध), तो हम एक ऐसा AI प्राप्त कर सकते हैं जो एक ही समय में सटीक, निष्पक्ष, निजी और मजबूत हो। शोध पत्र का तर्क है कि यह केवल एक अच्छा विचार नहीं है; यह उन मौलिक संघर्षों को हल करने का एकमात्र तरीका है जो आज AI को रोक रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।