Astra: AI Safety, Trust, & Risk Assessment
यह शोध पत्र अस्ट्रा (ASTRA) को प्रस्तुत करता है, जो भारत की विशिष्ट सामाजिक-तकनीकी चुनौतियों—जैसे जातिगत भेदभाव और भाषाई बहिष्कार—से निपटने के लिए डिज़ाइन किया गया एक संदर्भ-विशिष्ट एआई सुरक्षा जोखिम डेटाबेस है, जो शिक्षा और वित्तीय ऋण जैसे क्षेत्रों में डिज़ाइन-दोष-जनित खतरों को वर्गीकृत करने और कम करने के लिए एक त्रिपक्षीय कारण वर्गीकरण (tripartite causal taxonomy) और एक स्केलेबल ऑन्टोलॉजी का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि भारत 1.5 अरब लोगों वाला एक विशाल, हलचल भरा शहर है, जहाँ सैकड़ों अलग-अलग भाषाएँ हैं, और इसे चलाने का एक अनूठा तरीका है: डिजिटल उपकरणों (जैसे आधार और UPI) का उपयोग करना ताकि हर किसी को भोजन, पैसा और शिक्षा मिल सके। यह इंजीनियरिंग का एक चमत्कार है।
अब, कल्पना कीजिए कि हम इस शहर के लिए एक नया, अत्यंत बुद्धिमान लेकिन अनुभवहीन सहायक नियुक्त करने जा रहे हैं: आर्टिफिशियल इंटेलिजेंस (AI)। यह सहायक कविताएँ लिख सकता है, गणित की समस्याएँ हल कर सकता है और सलाह दे सकता है। लेकिन, किसी भी नए सहायक की तरह, इसमें गलतियाँ करने की आदत है, कभी-कभी खतरनाक गलतियाँ।
यह शोध पत्र, जिसका शीर्षक ASTRA है, एक सुरक्षा नियमावली (Safety Manual) है जो विशेष रूप से भारत के लिए लिखी गई है। यह कहता है: "हम केवल अमेरिका या यूरोप के सुरक्षा नियमों को कॉपी-पेस्ट नहीं कर सकते। भारत बहुत अनूठा है। हमें अपना खुद का नियम-पुस्तिका (rulebook) चाहिए ताकि यह सुनिश्चित हो सके कि हमारा AI सहायक अनजाने में उन लोगों को चोट न पहुँचाए जिनकी वह मदद करने की कोशिश कर रहा है।"
यहाँ इस शोध पत्र को सरल शब्दों में, कुछ रचनात्मक उपमाओं (analogies) का उपयोग करके समझाया गया है।
1. समस्या: "भ्रमित करने वाला" (Hallucinating) सहायक
पश्चिम में, लोग इस बात से डरते हैं कि AI दुनिया पर कब्ज़ा कर लेगा या रोबोट दुष्ट बन जाएंगे। भारत में, चिंता अधिक व्यावहारिक है: क्या होगा यदि AI एक गरीब किसान या एक छोटे दुकानदार को गलत सलाह दे दे?
- उपमा: एक विदेशी शहर में एक टूर गाइड की कल्पना करें जो उत्तम अंग्रेजी बोलता है लेकिन वास्तव में उस शहर में कभी गया ही नहीं है। वे पर्यटकों को आत्मविश्वास से बताते हैं, "पुल सुरक्षित है!" जबकि वास्तव में वह टूटा हुआ है। गाइड झूठ नहीं बोल रहा है; उसे बस वास्तविकता का ज्ञान नहीं है।
- शोध पत्र का बिंदु: AI मॉडल उस टूर गाइड की तरह हैं। उन्हें समृद्ध देशों (ग्लोबल नॉर्थ) के डेटा पर प्रशिक्षित किया गया है। जब वे एक भारतीय किसान या गाँव के छात्र की मदद करने की कोशिश करते हैं, तो वे "हैलुसिनेट" (मनगढ़ंत बातें बनाना) कर सकते हैं या ऐसी सलाह दे सकते हैं जो स्थानीय संस्कृति, भाषा या गरीबी के स्तर के अनुकूल नहीं होती।
2. मुख्य विचार: "सुरक्षा" (Safety) बनाम "प्रणालीगत" (Systemic) जोखिम
लेखक दो प्रकार के जोखिमों के बीच एक महत्वपूर्ण अंतर स्पष्ट करते हैं:
- AI सुरक्षा जोखिम (ASRs): ये वे गलतियाँ हैं जो AI के डिज़ाइन के कारण होती हैं।
- उपमा: एक कार में एक ब्रेक पेडल है जिसे फैक्ट्री द्वारा उल्टा लगाया गया था। ड्राइवर चाहे कितना भी अच्छा क्यों न हो, कार नहीं रुकेगी। यह एक डिज़ाइन दोष है।
- उदाहरण: एक AI ऋण (loan) ऐप एक महिला के आवेदन को खारिज कर देता है क्योंकि इसे मुख्य रूप से पुरुषों के डेटा पर प्रशिक्षित किया गया था। "ब्रेक" (एल्गोरिदम) खराब है।
- प्रणालीगत जोखिम (Systemic Risks): ये बड़े, जटिल सामाजिक मुद्दे हैं जिन्हें AI और भी बदतर बना सकता है, लेकिन यह अनिवार्य रूप से AI की "गलती" नहीं है।
- उपमा: यदि हर कोई कार चलाना शुरू कर देता है, तो ट्रैफिक जाम होता है। कार ने ट्रैफिक जाम डिज़ाइन नहीं किया है; समाज ने किया है।
- उदाहरण: AI नौकरियों को छीन रहा है। शोध पत्र कहता है, "हम इसकी चिंता बाद में करेंगे। अभी के लिए, आइए टूटे हुए ब्रेक्स को ठीक करें।"
3. भारत को अपनी स्वयं की नियम-पुस्तिका की आवश्यकता क्यों है?
पत्र का तर्क है कि पश्चिमी सुरक्षा नियम सर्दियों के कोट की तरह हैं। वे न्यूयॉर्क या लंदन के लिए बेहतरीन हैं, लेकिन यदि आप दिल्ली की गर्मी में भारी सर्दियों का कोट पहनते हैं, तो आप अत्यधिक गर्मी महसूस करेंगे और बीमार पड़ जाएंगे।
- "जाति" का कारक: पश्चिमी AI भारतीय जाति व्यवस्था को नहीं समझता। एक AI को यह एहसास नहीं हो सकता कि एक विशिष्ट उपनाम या गाँव का नाम एक निश्चित सामाजिक स्थिति को दर्शाता है जो इस बात को प्रभावित करती है कि किसी व्यक्ति के साथ कैसा व्यवहार किया जाता है।
- "कनेक्टिविटी" का कारक: पश्चिमी AI यह मान लेता है कि आपके पास हाई-स्पीड 5G इंटरनेट है। ग्रामीण भारत में, इंटरनेट धीमा हो सकता है या मौजूद ही नहीं हो सकता। यदि कोई AI ऐप सिग्नल न होने के कारण क्रैश हो जाता है, तो यह फसल की कीमतें देखने की कोशिश कर रहे किसान के लिए एक सुरक्षा जोखिम है।
- "भाषा" का कारक: भारत में सैकड़ों बोलियाँ हैं। एक AI जो मानक हिंदी पर प्रशिक्षित है, वह एक जनजातीय बोली को गलत समझ सकता है, जिससे गलत व्यक्ति को सरकारी सहायता मिल सकती है।
4. समाधान: "ASTRA" डेटाबेस
लेखकों ने एक जोखिम डेटाबेस (चीजें जो गलत हो सकती हैं, उनकी एक विशाल सूची) बनाया है। उन्होंने इन जोखिमों का केवल अनुमान नहीं लगाया; उन्होंने भारत के वास्तविक जीवन के उदाहरणों (जैसे शिक्षा ऐप्स और ऋण प्रणालियों) को देखा और इस सूची को ज़मीनी स्तर से बनाया।
उन्होंने जोखिमों को कुछ मुख्य श्रेणियों में व्यवस्थित किया है:
- पक्षपात और बहिष्कार (Bias & Exclusion): AI "पूर्वाग्रही" है।
- उदाहरण: एक AI ट्यूटर एक छात्र के सवालों का जवाब देने से इनकार कर देता है क्योंकि उसका लहजा (accent) "ग्रामीण" लगता है।
- विषाक्तता (Toxicity): AI "भद्दा/दुष्ट" है।
- उदाहरण: एक चैटबॉट नफरत भरे संदेश या बुलीइंग (bullying) संदेश उत्पन्न करना शुरू कर देता है क्योंकि उसने इंटरनेट पर मौजूद बुरे डेटा से सीखा है।
- भ्रम (Hallucinations): AI "आत्मविश्वास से भरा लेकिन गलत" है।
- उदाहरण: एक बैंक बॉट एक फर्जी ऋण नियम गढ़ लेता है और ग्राहक को बताता है कि उसे वह पैसा चुकाना है जो वास्तव में उसका नहीं है।
- स्थितिजन्य जागरूकता (Situational Awareness): AI "वास्तविकता से दूर" है।
- उदाहरण: एक AI स्वास्थ्य ऐप बीमारी का निदान करने के लिए हाई-स्पीड वीडियो अपलोड करने के लिए कहता है, लेकिन उपयोगकर्ता बिना इंटरनेट वाले गाँव में है। ऐप विफल हो जाता है, और रोगी को कोई मदद नहीं मिल पाती।
- सुरक्षा (Security): AI "हैक करने योग्य" है।
- उदाहरण: स्कैमर फर्जी डेटा खिलाकर AI को फर्जी ऋण स्वीकृत करने के लिए बहला सकते हैं।
5. "कारण संबंधी" मानचित्र (Causal Map): कौन, कब और क्यों?
पत्र एक तरीका भी बनाता है जिससे यह पता लगाया जा सके कि गलती होने पर किसे जिम्मेदार ठहराया जाए। वे तीन प्रश्न पूछते हैं:
- यह कब हुआ? क्या यह तब हुआ जब AI का निर्माण किया जा रहा था (विकास/Development), जब इसे लॉन्च किया गया (परिनियोजन/Deployment), या जब लोगों ने इसका उपयोग किया (उपयोग/Usage)?
- कौन जिम्मेदार है? क्या यह स्वयं AI है (खराब कोड) या मानव उपयोगकर्ता (बुराई के लिए उपयोग करना)?
- क्या यह जानबूझकर किया गया था? क्या AI ने अनजाने में कुछ बुरा कहा, या इसे बुरा बनने के लिए ही डिज़ाइन किया गया था?
6. आगे क्या?
लेखक स्वीकार करते हैं कि यह केवल पहला ड्राफ्ट है। वे इसे एक "जीवित दस्तावेज़" (living document) कहते हैं।
- उपमा: इस पत्र को एक पेड़ के बीज के रूप में देखें। अभी, यह केवल एक छोटा सा बीज है। वे योजना बना रहे हैं कि इसे खेती, स्वास्थ्य सेवा और कानून से प्राप्त अधिक डेटा के साथ सींचें। वे चाहते हैं कि वैज्ञानिक ही नहीं, बल्कि आम लोग भी सिस्टम के बग (दोषों) को खोजने में मदद करें।
- लक्ष्य: एक ऐसी प्रणाली बनाना जहाँ भारत में AI सुरक्षित, निष्पक्ष हो और वास्तव में "अगले अरब" लोगों की मदद करे, न कि केवल अमीर लोगों को और अमीर बनाने या भ्रम पैदा करने का काम करे।
सारांश
ASTRA भारत के AI भविष्य के लिए एक चेतावनी लेबल और एक मरम्मत नियमावली है। यह कहता है: "केवल पश्चिम की नकल न करें। हमारी विशिष्ट समस्याओं को देखें—हमारी भाषाएँ, हमारी गरीबी, हमारा इतिहास। यदि हम ऐसा AI बनाते हैं जो भारत को समझता है, तो यह एक सुपरहीरो बन सकता है। यदि हम नहीं करते हैं, तो यह एक अनाड़ी विशालकाय जीव बन सकता है जो अपने ही पैरों से टकराकर उन लोगों को चोट पहुँचा सकता है जिन्हें बचाने के लिए उसे बनाया गया है।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।