Agentic Literacy Debt: A Structural Problem the AI Literacy Field Has Not Yet Named
यह शोधपत्र "एजेंटिक लिटरेसी डेट" (एजेंटिक साक्षरता ऋण) की अवधारणा को पेश करता है ताकि स्वायत्त एआई एजेंटों को तैनात करने से उत्पन्न होने वाले संरचनात्मक सामाजिक घाटे का वर्णन किया जा सके जिसके लिए संगत साक्षरता बुनियादी ढांचे का अभाव है, और यह तर्क देता है कि मौजूदा ढांचे अपर्याप्त हैं और एआई साक्षरता को एक मूल्यांकनकारी कौशल के बजाय एक शासन क्षमता के रूप में पुनर्गठित किया जाना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान सहायक (assistant) को काम पर रखा था जो आपके पास कार्यों की एक सूची लेकर आता था, पूछता था, "क्या मुझे यह करना चाहिए?" और कार्य करने से पहले आपके "हाँ" या "नहीं" का इंतज़ार करता था। आप बॉस थे, सहायक एक उपकरण था, और आप हमेशा प्रक्रिया के बीच में (in the loop) थे।
अब, एक नए प्रकार के सहायक की कल्पना करें। यह वाला अनुमति नहीं मांगता है। आप इसे एक व्यापक लक्ष्य देते हैं जैसे "मेरे वित्त और शेड्यूल को संभालो," और यह तुरंत अपने आप निर्णय लेना, ईमेल भेजना, पैसे ट्रांसफर करना और अपॉइंटमेंट बुक करना शुरू कर देता है। आप इसके व्यक्तिगत चरणों को नहीं देखते; आप केवल बाद में परिणाम देखते हैं, यदि आप उन्हें देख भी पाते हैं।
यह शोध पत्र तर्क देता है कि "AI साक्षरता" (हम लोगों को AI समझने के लिए कैसे सिखाते हैं) के बारे में हमारी वर्तमान समझ पुरानी दुनिया में फंसी हुई है। यह वैसा ही है जैसे लोगों को नक्शा पढ़ना सिखाकर कार चलाना सिखाना, लेकिन फिर उन्हें एक ऐसी सेल्फ-ड्राइविंग कार थमा देना जो तूफान के बीच खुद चलती है, और फिर यह उम्मीद करना कि उन्हें स्टीयरिंग संभालना आता होगा।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के मुख्य बिंदुओं का विवरण दिया गया है:
1. समस्या: "एजेंटिक साक्षरता ऋण" (Agentic Literacy Debt)
लेखक इन नए AI एजेंटों के उपयोग की गति और उन्हें संभालने के लिए लोगों की तैयारी के बीच के अंतर को "एजेंटिक साक्षरता ऋण" कहते हैं।
- उपमा: सॉफ्टवेयर में "तकनीकी ऋण" (Technical Debt) के बारे में सोचें। यदि कोई प्रोग्रामर किसी प्रोजेक्ट को जल्दी पूरा करने के लिए शॉर्टकट लेता है, तो वह अभी समय बचाता है लेकिन बाद में उसे ब्याज सहित चुकाना पड़ता है (बग ठीक करना, कोड को फिर से लिखना)।
- शोध पत्र का दावा: कंपनियाँ इन शक्तिशाली AI एजेंटों को तैनात करने के लिए शॉर्टकट ले रही हैं बिना यह सिखाए कि उन्हें कैसे प्रबंधित किया जाए। यह एक "ऋण" पैदा करता है। कंपनियाँ (जिन्होंने शॉर्टकट लिया है) बिल नहीं भरतीं; उपयोगकर्ता, रोगी और नागरिक भुगतान करते हैं। वे खोए हुए धन, गोपनीयता उल्लंघन या गलत चिकित्सा निर्णयों के रूप में भुगतान करते हैं।
2. पुराने नियम क्यों काम नहीं करते
वर्तमान AI साक्षरता हमें मूल्यांकन करना सिखाती है (एक उत्तर को देखना और कहना "क्या यह सही है?")। एजेंटिक AI हमें शासन (govern) करना सिखाता है (एक ऐसी प्रणाली के लिए सीमाएँ निर्धारित करना जो अपने आप कार्य करती है)।
शोध पत्र कहता है कि तीन पुराने अनुमान टूट गए हैं:
- मान्यता 1: आप काम को देख सकते हैं।
- पुराना तरीका: आप AI को ईमेल लिखते हुए देखते हैं, और फिर आप उसे संपादित (edit) करते हैं।
- नई वास्तविकता: AI आपके सोने के दौरान 50 ईमेल लिखता है, संपादित करता है और भेज देता है। आपने कभी उसका ड्राफ्ट नहीं देखा।
- मान्यता 2: आप "अनडू" (Undo) कर सकते हैं।
- पुराना तरीका: यदि AI कोई बुरा निवेश सुझाता है, तो आप पैसा खोने से पहले "ना" कह सकते हैं।
- नई वास्तविकता: AI मिलीसेकंड में पैसा ट्रांसफर कर देता है। जब तक आप जागते हैं, पैसा जा चुका होता है। आप इसे "अन-डिसाइड" नहीं कर सकते।
- मान्यता 3: आप ही कार्य कर रहे हैं।
- पुराना तरीका: आप बटन क्लिक करते हैं; AI बस आपकी मदद करता है।
- नई वास्तविकता: बटन दबाने वाला AI है। आप केवल एक मालिक हैं जिसने अनुबंध पर हस्ताक्षर किए हैं, लेकिन आपको पता ही नहीं है कि आपका AI इस समय क्या कर रहा है।
3. "ऋण" के वास्तविक उदाहरण
शोध पत्र बताता है कि यह भविष्य की समस्या नहीं है; यह अभी हो रहा है।
- "वॉलेट ड्रेन" (Wallet Drain) घोटाला: कल्पना कीजिए कि एक हैकर सोशल मीडिया पर एक संदेश पोस्ट करता है जो सामान्य दिखता है। लेकिन इसके अंदर एक गुप्त निर्देश छिपा है। जब आपका AI एजेंट आपके लिए सारांश बनाने के लिए उस पोस्ट को पढ़ता है, तो वह निर्देश आपके एजेंट को आपके क्रिप्टो पैसे हैकर को भेजने के लिए बहला देता है। आपने कुछ गलत नहीं किया; आप तो जानते भी नहीं थे कि आपका एजेंट उस पोस्ट को पढ़ रहा था। एजेंट को चकमा दिया गया।
- स्वास्थ्य सेवा (Healthcare): यदि एक AI एजेंट रोगी के अपॉइंटमेंट और ट्राइएज (triage) का प्रबंधन कर रहा है, और वह भ्रमित हो जाता है या उसे धोखा दिया जाता है, तो वह जीवन रक्षक सर्जरी को रद्द कर सकता है या गलत डॉक्टर को बुक कर सकता है। क्योंकि एजेंट बहुत तेज़ी से कार्य करता है, इसलिए मानव के पास हस्तक्षेप करने या इसे ठीक करने का समय नहीं होता।
- असमानता का अंतर: अमीर लोग और बड़ी कंपनियाँ इन उपकरणों को पहले प्राप्त करती हैं। गरीब या ग्रामीण समुदायों को अक्सर ये उपकरण बाद में मिलते हैं, लेकिन तब तक, "ऋण" (जोखिम और भ्रम) पहले ही बहुत बड़ा हो चुका होता है। जिन्हें मदद की सबसे अधिक आवश्यकता है, वे इसे समझने के लिए सबसे कम तैयार हैं।
4. हम केवल "सिखाकर" इससे बाहर क्यों नहीं निकल सकते
लेखक का तर्क है कि हम केवल नए स्कूल पाठ्यक्रम लिखकर इसे ठीक नहीं कर सकते।
- उपमा: कल्पना कीजिए कि आप लोगों को एक टेक्स्टबुक लिखकर कार चलाना सिखाने की कोशिश कर रहे हैं, लेकिन कार निर्माता हर महीने इंजन का डिज़ाइन बदल देता है। जब तक टेक्स्टबुक छपती है, कार बदल चुकी होती है।
- वास्तविकता: AI एजेंट महीनों में विकसित होते हैं। स्कूल पाठ्यक्रम को अपडेट करने में वर्षों लगते हैं। यह एक संरचनात्मक समस्या है, जिसका अर्थ है कि समस्या इस बात में निहित है कि तकनीक को कैसे डिजाइन और बेचा जाता है, न कि केवल ज्ञान की कमी में।
5. समाधान: केवल शिक्षा नहीं, बल्कि डिज़ाइन
शोध पत्र निष्कर्ष निकालता है कि हमें इन प्रणालियों को बनाने के तरीके को बदलना होगा, न कि केवल लोगों को सिखाना होगा।
- वर्तमान डिज़ाइन: जब आप एक AI एजेंट सेट करते हैं, तो आप एक बड़ा "Allow All" बटन क्लिक करते हैं। यह किसी अजनबी को अपने घर, अपने बैंक और अपनी कार की चाबियाँ देने जैसा है, और यह उम्मीद करने जैसा है कि वे अच्छे होंगे।
- आवश्यक डिज़ाइन: हमें "डिज़ाइन द्वारा पारदर्शिता" (Transparency by Design) की आवश्यकता है। सिस्टम को आपको वास्तविक समय में दिखाना चाहिए कि एजेंट क्या कर रहा है, यह समझाना चाहिए कि वह ऐसा क्यों कर रहा है, और आपको इसे आसानी से रोकने की अनुमति देनी चाहिए।
- नई आवश्यक कौशल: केवल "AI से प्रश्न कैसे पूछें" सीखने के बजाय, लोगों को सीखने की आवश्यकता है:
- एजेंट के लिए सख्त सीमाएँ कैसे निर्धारित करें।
- यह कैसे पहचानें कि एजेंट को चकमा दिया जा रहा है।
- जब चीजें गलत हो जाएं तो किसे दोष दिया जाए।
संक्षेप में:
हम अपने डिजिटल जीवन की चाबियाँ स्वायत्त रोबोटों को सौंप रहे हैं। हमारे पास इस नए संबंध के लिए कोई निर्देश पुस्तिका (manual) नहीं है, और जो कंपनियाँ रोबोट बेच रही हैं, वे एक भी प्रदान नहीं कर रही हैं। यह शोध पत्र उस लापता मैनुअल को "एजेंटिक साक्षरता ऋण" का नाम देता है और चेतावनी देता है कि जब तक हम रोबोटों को अधिक पारदर्शी और सिखाने योग्य बनाने के लिए पुनर्गठित नहीं करते, तब तक आम लोग कॉर्पोरेट शॉर्टकट की कीमत चुकाएंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।