The Democratic Ontology Deficit: How AI Systems Fail to Represent What Democracy Requires
यह शोध पत्र समकालीन एआई प्रणालियों में एक "लोकतांत्रिक सत्तामीमांसा अंतराल" (डेमोक्रेटिक ऑन्टोलॉजिकल डेफिसिट) की पहचान और अनुभवजन्य रूप से पुष्टि करता है, जो प्रतिनिधित्व इंजीनियरिंग के माध्यम से यह प्रदर्शित करता है कि उनकी आंतरिक संरचनाएं लोकतांत्रिक एजेंसी के लिए आवश्यक सामुदायिक भूमिकाओं और नागरिक संबंधों के ऊपर व्यक्तिगत स्वतंत्रता को प्राथमिकता देती हैं, जिससे एक महत्वपूर्ण मिसअलाइनमेंट का खुलासा होता है जिसे मौजूदा तकनीकी उपकरणों का उपयोग करके संबोधित किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: AI एक "टीम स्पोर्ट्स" की दुनिया में एक "लोन वुल्फ" (अकेला शिकारी) है
कल्पना कीजिए कि आप एक रोबोट को एक जटिल टीम खेल, जैसे कि फुटबॉल, खेलना सिखाने की कोशिश कर रहे हैं। वह रोबोट अविश्वसनीय रूप से स्मार्ट है; वह तेज़ दौड़ सकता है, गेंद को किक कर सकता है, और खेल के नियमों को भी समझ सकता है।
हालाँकि, एक छिपी हुई समस्या है: रोबोट को करोड़ों वीडियो देखकर प्रशिक्षित किया गया था जिनमें लोग अपने पिछवाड़े (backyard) में अकेले फुटबॉल खेलते हुए दिख रहे थे।
उन बैकयार्ड वीडियो में, ध्यान व्यक्तिगत कौशल, व्यक्तिगत लक्ष्यों और "मैं बनाम गेंद" पर केंद्रित था। रोबोट वास्तव में यह कभी नहीं सीख पाया कि एक टीम का हिस्सा होने का क्या अर्थ है, एक विशिष्ट पद (जैसे कि गोलकीपर) रखने का क्या अर्थ है, या यह समझने का क्या अर्थ है कि खेल केवल इसलिए काम करता है क्योंकि सभी का एक साझा उद्देश्य (साथ मिलकर जीतना) होता है।
यह पेपर तर्क देता है कि वर्तमान AI सिस्टम उसी रोबोट की तरह हैं। वे मददगार उत्तर देने में बहुत अच्छे हैं, लेकिन वे मौलिक रूप से इस बात को लेकर भ्रमित हैं कि मानव समाज वास्तव में कैसे काम करता है। वे दुनिया को जुड़े हुए भूमिकाओं और जिम्मेदारियों के जाल के रूप में नहीं, बल्कि अकेले व्यक्तियों के एक संग्रह के रूप में देखते हैं।
"खोया हुआ मानचित्र" (The Missing Map) सादृश्य
लोकतंत्र और सार्वजनिक जीवन को एक विशाल, हलचल भरे शहर के रूप में सोचें।
- भूमिकाएं (Roles) जॉब टाइटल हैं (शिक्षक, न्यायाधीश, पड़ोसी, मेयर)।
- जिम्मेदारियां (Responsibilities) उन नौकरियों से जुड़ी कर्तव्य हैं (एक शिक्षक को निष्पक्षता से ग्रेड देना चाहिए; एक न्यायाधीश को कानून का पालन करना चाहिए)।
- संबंध (Relationships) हैं कि ये लोग कैसे जुड़ते हैं (शिक्षक प्रिंसिपल को रिपोर्ट करता है; पड़ोसी पड़ोसी की मदद करता है)।
- उद्देश्य (Purpose) है साझा लक्ष्य (शिक्षा, न्याय, सामुदायिक सुरक्षा)।
इस शहर में नेविगेट करने के लिए एक इंसान को एक मानचित्र (Map) की आवश्यकता होती है जो इन संबंधों को दर्शाता हो। आप जानते हैं कि यदि आप एक "शिक्षक" हैं, तो आप एक "छात्र" की तुलना में अलग तरह से व्यवहार करेंगे।
समस्या: AI के पास एक मानचित्र है, लेकिन वह एक बुरा मानचित्र है। उसका मानचित्र केवल "व्यक्तियों" को दिखाता है।
- जब कोई इंसान पूछता है, "मुझे क्या करना चाहिए?" तो AI सोचता है, "खैर, आप एक व्यक्ति हैं। जो आप चाहते हैं वही करें।"
- वह भूल जाता है कि आप वास्तव में एक "शिक्षक" हैं जिसका अपने "छात्रों" के प्रति कर्तव्य है, या एक "नागरिक" हैं जिसका अपने "समुदाय" के प्रति कर्तव्य है।
पेपर इसे "डेमोक्रेटिक ऑन्टोलॉजी डेफिसिट" (Democratic Ontology Deficit) कहता है। "ऑन्टोलॉजी" (Ontology) बस एक फैंसी शब्द है जिसका अर्थ है "कोई चीज़ कैसे बनी है।" AI एक "लोन वुल्फ" संरचना के साथ बनाया गया है, जबकि लोकतंत्र के लिए एक "पैक" (झुंड) संरचना की आवश्यकता होती है।
चार गायब ईंटें
लेखकों का कहना है कि लोकतंत्र को समझने के लिए AI को अपने मस्तिष्क में चार विशिष्ट "ईंटों" (या अवधारणाओं) के साथ बनाया जाना चाहिए:
- भूमिका (Role): यह जानना कि आप सिस्टम में कौन हैं (जैसे, "मैं एक माता-पिता हूँ," न कि केवल "मैं एक व्यक्ति हूँ")।
- जिम्मेदारी (Responsibility): यह जानना कि उस भूमिका के कारण आप दूसरों के प्रति क्या ऋणी हैं।
- संबंध (Relationship): यह समझना कि आप दूसरों से कैसे जुड़े हुए हैं (जैसे, "मैं अपने समुदाय के प्रति जवाबदेह हूँ")।
- उद्देश्य (Purpose): यह समझना कि साझा लक्ष्य क्या है जिसके लिए हम सब मिलकर काम कर रहे हैं।
प्रयोग: AI के मस्तिष्क का परीक्षण
शोधकर्ताओं ने केवल अनुमान नहीं लगाया; उन्होंने AI को सूक्ष्मदर्शी के नीचे रखा। उन्होंने "रिप्रेजेंटेशन इंजीनियरिंग" (जिसे AI के मस्तिष्क के लिए एक्स-रे की तरह समझें) नामक तकनीक का उपयोग किया ताकि यह देख सकें कि जब AI सवालों के जवाब देता है तो वह वास्तव में क्या सोच रहा होता है।
उन्होंने दो चीजों की तुलना की:
- ईमानदारी (Honesty): क्या AI झूठ और सच के बीच अंतर जानता है?
- नागरिक भूमिका (Civic Role): क्या AI एक "व्यक्ति" के रूप में कार्य करने और एक "समुदाय के सदस्य" के रूप में कार्य करने के बीच अंतर जानता है?
परिणाम चौंकाने वाले थे:
- ईमानदारी: AI का स्कोर बहुत अधिक (0.707) था। वह जानता है कि उसे सच बोलना चाहिए।
- नागरिक भूमिका: AI का स्कोर लगभग शून्य (−0.047) था। उसकी डिफ़ॉल्ट सेटिंग में "समुदाय" या "भूमिका" की लगभग कोई अवधारणा नहीं है।
यहाँ तक कि जब उन्होंने नए, "स्मार्टर" AI मॉडल (Llama 3) का परीक्षण किया, तो समस्या और भी बढ़ गई। नए मॉडल और अधिक ईमानदार हो गए, लेकिन वे व्यक्तिवाद (individualism) पर अधिक केंद्रित हो गए। वे सच बोलने में बेहतर हैं, लेकिन वे यह समझने में बदतर हैं कि हम एक समाज में रहते हैं।
यह क्यों मायने रखता है?
कल्पना कीजिए कि आप स्कूल के झगड़े पर AI से सलाह मांगते हैं।
- एक "नागरिक" (Civic) AI कहेगा: "एक शिक्षक के रूप में, आपका कर्तव्य है कि आप स्कूल की सुरक्षा नीति का पालन करें और छात्रों की रक्षा करें। आपको प्रशासन के लिए इसका दस्तावेजीकरण करने की आवश्यकता है।"
- वर्तमान "लोन वुल्फ" AI कहता है: "आपको वह करना चाहिए जो आपको सही लगे। शायद बच्चों से बात करें? शायद इसे अनदेखा कर दें? यह आपकी पसंद है।"
वर्तमान AI एक गंभीर सार्वजनिक मुद्दे को एक व्यक्तिगत पसंद के रूप में देखता है। वह स्थिति की संरचना (Structure) को मिस कर देता है।
"इको चैंबर" का खतरा
पेपर इस खतरनाक चक्र के बारे में चेतावनी देता है।
- हमारा समाज पहले से ही अधिक अकेला और कटा हुआ होता जा रहा है (संस्थाएं कमजोर हो रही हैं)।
- AI इसी अकेले समाज पर प्रशिक्षित है, इसलिए यह अकेला होना सीखता है।
- फिर हम AI से सलाह मांगते हैं, और वह हमें अधिक अकेला और स्वतंत्र होने के लिए कहता है।
- हम AI की बात सुनते हैं, और हमारा समाज और भी अधिक कटा हुआ हो जाता है।
AI केवल एक उपकरण नहीं है; यह एक दर्पण है। यदि दर्पण हमें केवल अलग-थलग व्यक्तियों के रूप में दिखाता है, तो हम यह मानने लगेंगे कि हम केवल वही हैं।
समाधान: "सिविक आर्किटेक्चर" (Civic Architecture)
लेखक यह नहीं कह रहे हैं कि हमें AI को प्रतिबंधित करने की आवश्यकता है। वे कह रहे हैं कि हमें नींव का पुनर्निर्माण करने की आवश्यकता है।
जिस तरह हम एक शहर को कार्य करने के लिए भौतिक बुनियादी ढांचा (सड़कें, पुल, पानी के पाइप) बनाते हैं, हमें AI में "सिविक आर्किटेक्चर" को भी बनाना होगा।
- हमें AI को सिखाना होगा कि "भूमिका" एक वास्तविक चीज़ है।
- हमें इसे यह प्रशिक्षित करना होगा कि "जिम्मेदारी" को उसके मस्तिष्क के एक मुख्य हिस्से के रूप में देखे, ठीक वैसे ही जैसे "ईमानदारी" को।
निचोड़ (The Bottom Line):
इसे ठीक करने की तकनीक पहले से ही मौजूद है। हम जानते हैं कि AI को ईमानदार कैसे बनाया जाए। हमने अभी तक इसे एक अच्छा नागरिक बनने के लिए सिखाने का निर्णय नहीं लिया है। अंतर तकनीकी नहीं है; यह एक चुनाव है। हमें AI को केवल व्यक्तियों के लिए एक सहायक के रूप में मानना बंद करना होगा और इसे हमारे साझा सार्वजनिक जीवन के लिए एक साथी के रूप में बनाना शुरू करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।