LLMs in the Real World: Evaluating "AI" in Emergency Contexts

यहाँ शोध पत्र "LLMs in the Real World: Evaluating 'AI' in Emergency Contexts" का सरल, रोजमर्रा की भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।

बड़ी तस्वीर: जागने का आह्वान

कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) अनुसंधान की दुनिया बेहद जटिल, भविष्यवादी पुलों को डिजाइन करने वाले बुद्धिमान वास्तुकारों (architects) का एक समूह है। ये वास्तुकार जानते हैं कि स्टील कैसे बनता है, कमजोर बिंदु कहाँ हैं, और यदि तूफान आता है तो क्या होता है।

हालाँकि, यह शोध पत्र तर्क देता है कि ये वास्तुकार अपने ऊंचे टावरों में ही रह रहे हैं, जबकि वे लोग जो वास्तव में इन पुलों को बनाते और उन पर चलाते हैं (नगर अधिकारी, पुलिस, आपातकालीन सेवाएँ), उन्हें एक ब्रोशर बेचा जा रहा है जिसमें लिखा है, "यह पुल जादुई है! यह सबके लिए काम करता है!"

लेखिकाएँ, सारा कोर्ट, लारा डाउनिंग और मिचा एलस्नर, शोधकर्ताओं से आग्रह कर रही हैं कि वे अपने टावर से नीचे उतरें और जनता से बात करें। वे चाहते हैं कि "हाइप" (बढ़ा-चढ़ाकर कही गई बातें) को रोका जाए और वास्तविक जोखिमों को समझाया जाए, इससे पहले कि किसी को चोट लगे।

केस स्टडी: "जादुई" 911 ट्रांसलेटर

अपने तर्क को सिद्ध करने के लिए, लेखिकाओं ने अमेरिका के एक शहर में एक वास्तविक स्थिति को देखा। उस शहर ने एक नई Text-to-911 सेवा शुरू की।

• वादा: शहर ने विज्ञापन दिया कि आप 55 अलग-अलग भाषाओं में 911 को टेक्स्ट कर सकते हैं। विचार यह था कि यदि आप अंग्रेजी नहीं बोल सकते, तो आप अपनी मातृभाषा में टेक्स्ट कर सकते हैं, और एक कंप्यूटर तुरंत इसे डिस्पैचर के लिए अनुवादित कर देगा।
• वास्तविकता: शोधकर्ता इस परीक्षण के लिए 911 केंद्र में गए। उन्होंने पाया कि यह सिस्टम एक मैजिक 8-बॉल (magic 8-ball) की तरह था जो केवल धूप वाले दिनों में काम करता है।

यहाँ क्या गलत हुआ:

1. "एक ही आकार सबके लिए" (One Size Fits All) का जाल: सिस्टम ने दावा किया कि यह "अरबी" (Arabic) का समर्थन करता है। लेकिन अरबी की कई बोलियाँ हैं। सिस्टम केवल मॉडर्न स्टैंडर्ड अरबी (औपचारिक भाषा जो समाचारों और किताबों में उपयोग की जाती है) को समझता था। यदि किसी व्यक्ति ने स्थानीय बोली या स्लैंग का उपयोग किया, तो कंप्यूटर भ्रमित हो गया। यह एक ऐसी डिक्शनरी खरीदने जैसा है जिसमें केवल 1800 के दशक के शब्द हैं और फिर उससे पिज्जा ऑर्डर करने की कोशिश करना।
2. स्क्रिप्ट की समस्या: सिस्टम ने दावा किया कि वह "नेपाली" का समर्थन करता है। लेकिन जिस नेपाली संस्करण को सिस्टम समझता था, वह एक विशिष्ट लिपि (देवनागरी) में लिखी गई थी। हालाँकि, उस क्षेत्र के कई शरणार्थी नेपाली को लैटिन वर्णमाला (अंग्रेजी अक्षरों की तरह) का उपयोग करके लिखते हैं क्योंकि उनके फोन पर विशेष कीबोर्ड नहीं होता। सिस्टम उनके टेक्स्ट को बिल्कुल नहीं पढ़ सका।
3. "ब्लैक बॉक्स" का रहस्य: 911 केंद्र के कर्मचारियों को नहीं पता था कि सॉफ्टवेयर कैसे काम करता है। उनके पास कोई मैनुअल नहीं था, उन्हें त्रुटि दर (error rates) का पता नहीं था, और उन्हें यह भी नहीं पता था कि कौन सी भाषाएँ वास्तव में सुरक्षित रूप से उपयोग की जा सकती हैं। वे बिना डैशबोर्ड और बिना ब्रेक वाली कार चला रहे थे, इस उम्मीद में कि इंजन काम करता रहेगा।

पाँच बड़े मिथक (गलत धारणाएं)

शोध पत्र AI के बारे में लोगों द्वारा खुद को बताए जाने वाले पाँच सामान्य झूठों की पहचान करता है:

1. "AI" एक जादुई शब्द है: लोग सोचते हैं कि "AI" एक ही चीज़ है। लेखिका कहती हैं कि यह सभी वाहनों को "कार" कहने जैसा है। एक साइकिल, एक सेमी-ट्रक और एक रॉकेट शिप सभी वाहन हैं, लेकिन वे बहुत अलग तरह से काम करते हैं। आप एक घर ढोने के लिए साइकिल का उपयोग नहीं कर सकते।
2. सुपरह्यूमन दिमाग: हम सोचते हैं कि AI इंसानों से अधिक स्मार्ट है। वास्तव में, यह एक ऐसे तोते की तरह है जिसने पूरा इंटरनेट पढ़ लिया है। वह तथ्यों को दोहरा सकता है, लेकिन वह उन्हें समझता नहीं है। यदि आप आपातकाल में उससे कोई कठिन प्रश्न पूछते हैं, तो वह आत्मविश्वास के साथ गलत बात कह सकता है।
3. भाषा आसान है: लोग सोचते हैं कि अनुवाद केवल शब्द-दर-शब्द बदलना है। लेकिन भाषा खाना पकाने की तरह है। आप केवल "नमक" को "चीनी" से बदलकर यह उम्मीद नहीं कर सकते कि केक का स्वाद वैसा ही रहेगा। संदर्भ, लहजा और संस्कृति मायने रखते हैं। एक मशीन अक्सर संदेश का "स्वाद" खो देती है।
4. नंबर झूठ नहीं बोलते: कंपनियाँ अपने उत्पादों को बेचने के लिए उच्च स्कोर (जैसे 95% सटीकता) दिखाती हैं। लेकिन लेखिका कहती हैं कि ये स्कोर एक शांत कक्षा में दी गई परीक्षा की तरह हैं। वास्तविक दुनिया में, शोर, तनाव और टाइपिंग की गलतियों के साथ, स्कोर गिर जाता है। एक उच्च स्कोर का मतलब यह नहीं है कि सिस्टम तब विफल नहीं होगा जब इसकी सबसे अधिक आवश्यकता होगी।
5. तकनीक सब कुछ ठीक कर देती है: इसे "सॉल्यूशनिज्म" (Solutionism) कहा जाता है। यह विश्वास है कि यदि आपके पास कोई समस्या है, तो आपको बस उसे ठीक करने के लिए एक हाई-टेक ऐप की आवश्यकता है। लेखिका तर्क देती हैं कि कभी-कभी, सबसे अच्छा समाधान एक इंसान होता है। पैसे बचाने के लिए एक पेशेवर मानव दुभाषिया (interpreter) को एक सस्ते, त्रुटिपूर्ण रोबोट से बदलना अस्पताल के बिलों को बचाने के लिए एक सर्जन को रोबोट वैक्यूम क्लीनर से बदलने जैसा है।

गायब कड़ी: "जवाबदेही का अंतर" (The Accountability Gap)

शोध पत्र विश्वास की एक टूटी हुई श्रृंखला का वर्णन करता है।

• शोधकर्ता जोखिमों को जानते हैं लेकिन जनता से बात नहीं कर रहे हैं।
• विक्रेता जोखिमों को समझाए बिना तकनीक बेच रहे हैं।
• खरीदार (जैसे 911 केंद्र) इसे इसलिए खरीद रहे हैं क्योंकि वे मदद करना चाहते हैं, लेकिन उनके पास यह जांचने की विशेषज्ञता नहीं है कि क्या यह सुरक्षित है।

यह एक लेमोनेड स्टैंड की तरह है जहाँ मालिक "100% शुद्ध रस" बेचता है, लेकिन खरीदार को पता नहीं है कि मालिक उसमें नल का पानी और चीनी मिला रहा है। खरीदार साइन बोर्ड पर भरोसा करता है, लेकिन वह बीमार पड़ जाता है।

समाधान: हमें क्या करना चाहिए?

लेखिकाएँ इस समस्या को ठीक करने के लिए "सर्वोत्तम प्रथाएं" (Best Practices) प्रदान करती हैं:

• AI को दवा की तरह मानें: जिस तरह आप बिना साइड इफेक्ट्स की सूची वाला लेबल देखे कोई नई दवा नहीं लेंगे, उसी तरह आपको आपात स्थिति के लिए बिना "मॉडल कार्ड" (Model Card) के AI का उपयोग नहीं करना चाहिए। इस कार्ड में स्पष्ट रूप से लिखा होना चाहिए: "यह स्पेनिश के लिए अच्छा काम करता है, लेकिन अरबी बोलियों के लिए विफल हो जाता है। मानवीय बैकअप के बिना जीवन-मृत्यु की स्थितियों के लिए इसका उपयोग न करें।"
• मानवीय बैकअप प्राप्त करें: यदि आप एक रोबोट अनुवादक का उपयोग करते हैं, तो आपके पास एक इंसान तैयार होना चाहिए जो रोबोट के भ्रमित होने पर हस्तक्षेप कर सके।
• ईमानदार रहें: 911 को टेक्स्ट करने वाले व्यक्ति को बताएं, "हे, एक कंप्यूटर इसका अनुवाद कर रहा है। यदि यह गलत दिखता है, तो कृपया हमें कॉल करें।"
• शोधकर्ताओं को बोलना चाहिए: जिन वैज्ञानिकों ने तकनीक बनाई है, उन्हें लैब में छिपना बंद करना चाहिए और तकनीक खरीदने वाले लोगों को इसके खतरों के बारे में बताना चाहिए।

मुख्य निष्कर्ष (The Bottom Line)

शोध पत्र निष्कर्ष निकालता है कि जब जीवन दांव पर लगा हो (जैसे 911 कॉल में), तो हम "ठीक-ठाक" तकनीक पर भरोसा नहीं कर सकते। यदि अनुवाद गलत होता है, तो किसी को चोट लग सकती है या मृत्यु भी हो सकती है।

लेखिकाएँ यह नहीं कह रही हैं कि "AI का उपयोग न करें।" वे कह रही हैं, "AI का अंधाधुंध उपयोग न करें।" हमें धीमा होने, ब्रेक की जाँच करने और यह सुनिश्चित करने की आवश्यकता है कि तकनीक वास्तव में सुरक्षित है, इससे पहले कि हम इसे अपनी आपातकालीन सेवाओं को चलाने दें। जब तक हम ऐसा नहीं करते, हम लोगों के जीवन के साथ जुआ खेल रहे हैं।