When AI Fails: Hallucination Exposure, Verification, and Critical AI Literacy
314 उत्तरदाताओं के सर्वेक्षण डेटा का उपयोग करते हुए, यह अध्ययन प्रकट करता है कि जबकि अधिकांश उपयोगकर्ताओं ने एआई (AI) मतिभ्रम (hallucinations) का अनुभव किया है, बहुत कम लोग इस अवधारणा को समझते हैं, फिर भी जो लोग विफलताओं का अनुभव करते हैं वे सूचना को सत्यापित करने की अधिक संभावना रखते हैं, जिससे लेखक 'क्रिटिकल एआई लिटरेसी' (Critical AI Literacy) को एक ऐसे ज्ञानमीमांसीय अनुकूलन (epistemic adaptation) के रूप में परिभाषित करते हैं जो केवल तकनीकी प्रवाह के बजाय आलोचनात्मक दूरी और सत्यापन को प्राथमिकता देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, हम मशीनों से उत्तर माँगने के आदी हो गए हैं। जब हम कंप्यूटर प्रोग्राम में कोई प्रश्न टाइप करते हैं, तो हमें अक्सर एक ऐसा जवाब मिलता है जो मानवीय बातचीत की सहजता के साथ बहता है, जिसमें आत्मविश्वासपूर्ण लहजा और सटीक व्याकरण होता है। यह तकनीक, जिसे जनरेटिव आर्टिफिशियल इंटेलिजेंस (जेनेरेटिव एआई) के रूप में जाना जाता है, ने जानकारी खोजने, दस्तावेज़ लिखने और नई चीजें सीखने के हमारे तरीके को बदल दिया है। हालाँकि, इन मशीनों में एक अजीब दोष है: वे तथ्य गढ़ सकती हैं। वे ऐसी ऐतिहासिक घटना का वर्णन कर सकती हैं जो कभी हुई ही नहीं, या ऐसे वैज्ञानिक अध्ययन का हवाला दे सकती हैं जो अस्तित्व में ही नहीं है, और यह सब पूरी तरह से निश्चित स्वर में करती हैं। यह घटना, जिसे शोधकर्ता "हैलुसिनेशन" (hallucination) कहते हैं, उन लोगों के लिए एक अनूठी समस्या पैदा करती है जो सीखने या काम करने की कोशिश कर रहे हैं। एक पारंपरिक पुस्तक या समाचार लेख के विपरीत, जहाँ हम लेखक की योग्यता की जाँच कर सकते हैं या पाद-टिप्पणियों (footnotes) को देख सकते हैं, ये एआई सिस्टम यह देखने का कोई स्पष्ट तरीका नहीं देते कि उनकी जानकारी कहाँ से आई है। हमारे समय का केंद्रीय प्रश्न केवल यह नहीं है कि ये मशीनें गलतियाँ करती हैं या नहीं, बल्कि यह है कि जब लोग उन गलतियों को खोजते हैं तो वे कैसी प्रतिक्रिया देते हैं। क्या हम इस उपकरण का उपयोग करना बंद कर देते हैं, या हम इसे अलग तरह से उपयोग करना सीख जाते हैं?
पोलैंड और चीन के शोधकर्ताओं की एक टीम इस प्रतिक्रिया को समझने के लिए आगे बढ़ी। उन्होंने उन 314 लोगों का सर्वेक्षण किया जो इन एआई उपकरणों का उपयोग करते हैं, जिनमें विश्वविद्यालय के छात्रों से लेकर विभिन्न उद्योगों के पेशेवर तक शामिल थे। लक्ष्य यह देखना था कि क्या इन तकनीकों का पर्याप्त बार उपयोग करने से लोग इसकी खामियों के प्रति अधिक समझदार बनते हैं, या एक स्वस्थ संदेह विकसित करने के लिए कुछ और आवश्यक है। शोधकर्ता विशेष रूप से एक अवधारणा में रुचि रखते थे जिसे वे "क्रिटिकल एआई लिटरेसी" (Critical AI Literacy) कहते हैं। यह केवल यह जानने के बारे में नहीं है कि कमांड कैसे टाइप किया जाए या मशीन से कविता कैसे लिखवाई जाए। इसके बजाय, यह पहचानने की क्षमता है कि मशीन कब झूठ बोल रही है, यह समझने की क्षमता है कि एक आत्मविश्वासपूर्ण आवाज़ सच्चाई की गारंटी नहीं देती है, और यह जानने की क्षमता है कि कब आउटपुट पर भरोसा करना बंद करना है और इसे अन्य स्रोतों के विरुद्ध जाँचना शुरू करना है।
अध्ययन की शुरुआत प्रतिभागियों से यह पूछकर हुई कि क्या उन्होंने कभी एआई से मिली ऐसी जानकारी का सामना किया है जो गलत या मनगढ़ंत निकली हो। परिणामों ने दिखाया कि ऐसे अनुभव आम हैं। सर्वेक्षण में शामिल दस में से आठ से अधिक लोगों ने कहा कि उन्होंने कम से कम कभी न कभी इन प्रणालियों से गलत या मनगढ़ंत जानकारी देखी है। फिर भी, जब शोधकर्ताओं ने पूछा कि क्या इन लोगों में से कुछ लोग इस समस्या के विशिष्ट शब्द, "एआई हेलुसिनेशन" से परिचित थे, तो आधे से भी कम लोगों ने कहा कि वे इससे परिचित हैं। यह अंतर बताता है कि कई लोगों ने तकनीक की विफलता का अनुभव तो किया है, लेकिन उनके पास इसके लिए कोई नाम या इसके होने का पूर्ण समझ नहीं है। वे जानते हैं कि कुछ गलत है, लेकिन वे शायद यह नहीं समझ पाते कि यह मशीन के काम करने के तरीके की एक मौलिक सीमा है, न कि केवल एक दुर्लभ तकनीकी खराबी।
इसके बाद जो हुआ वह अध्ययन का सबसे खुलासा करने वाला हिस्सा था। जब लोगों को एहसास हुआ कि एआई ने उन्हें गलत जानकारी दी है, तो उन्होंने इस उपकरण को बस यूँ ही नहीं छोड़ दिया। इसके बजाय, उन्होंने इसका उपयोग करने का तरीका बदल लिया। उन अधिकांश लोगों ने, जिन्होंने त्रुटियाँ देखी थीं, एआई के उत्तरों की अन्य स्रोतों, जैसे कि पुस्तकों या विश्वसनीय वेबसाइटों के साथ जाँच करना शुरू कर दिया। कई लोगों ने एआई का उपयोग केवल एक सहायक या शुरुआती बिंदु के रूप में करना शुरू कर दिया, न कि किसी विषय पर अंतिम अधिकार के रूप में। कुछ लोगों ने तो मशीन को ऐसे विशिष्ट निर्देश देने भी सीख लिया जो चीजें बनाने की संभावना को कम करने के लिए डिज़ाइन किए गए थे। शोधकर्ताओं ने पाया कि यह अनुमान लगाने वाला सबसे मजबूत कारक कि कोई व्यक्ति एआई के काम की जाँच करेगा या नहीं, यह नहीं था कि वे उपकरण का कितनी बार उपयोग करते थे, और न ही यह कि वे इसका उपयोग कितने समय से कर रहे थे। एकमात्र चीज़ जिसने लोगों को अधिक सावधान बनाया, वह थी मशीन की विफलता का सीधा अनुभव।
यह निष्कर्ष एक सामान्य धारणा को चुनौती देता है कि केवल किसी तकनीक का विशेषज्ञ उपयोगकर्ता बनना आपको उसके बारे में एक आलोचनात्मक विचारक बना देता है। डेटा बताता है कि आप एक एआई प्रणाली को संचालित करने में बहुत कुशल हो सकते हैं और फिर भी उसके आउटपुट पर बहुत अधिक भरोसा कर सकते हैं, केवल इसलिए क्योंकि आपने अभी तक उसे आपसे झूठ बोलते हुए नहीं देखा है। त्रुटि का सामना करना ही व्यवहार में बदलाव लाता है। एक बार जब कोई व्यक्ति देख लेता है कि मशीन गलत हो सकती है, तो वह इसके आत्मविश्वासपूर्ण उत्तरों के साथ एक आवश्यक दूरी बनाए रखना शुरू कर देता है। वे सीखते हैं कि प्रवाह और आत्मविश्वास, सटीकता के समान नहीं हैं। अध्ययन इंगित करता है कि सत्यापन करने, निर्भरता को सीमित करने और स्रोत पर सवाल उठाने की यह प्रक्रिया ही आर्टिफिशियल इंटेलिजेंस के युग में वास्तविक साक्षरता का निर्माण करती है।
शोधकर्ताओं ने यह भी नोट किया कि व्यवहार में यह बदलाव इस तथ्य से जटिल हो जाता है कि ये मशीनें अक्सर रहस्यमयी होती हैं। उपयोगकर्ता एआई जिस आंतरिक तर्क या विशिष्ट स्रोतों से जानकारी ले रहा है, उन्हें देख नहीं सकते। पारदर्शिता की यह कमी किसी उत्तर की विश्वसनीयता का निर्णय लेने से पहले उसे परखना कठिन बना देती है। जब लोग महसूस करते हैं कि प्रणाली अपारदर्शी या समझने में असंभव है, तो वे इसकी गलतियों को एक गंभीर समस्या के रूप में देखने की अधिक संभावना रखते हैं। हालाँकि, अध्ययन स्पष्ट करता है कि इन जोखिमों के प्रबंधन की जिम्मेदारी पूरी तरह से व्यक्तिगत उपयोगकर्ता पर नहीं है। जबकि लोग जानकारी को सत्यापित करना और अपने विश्वास को समायोजित करना सीख सकते हैं, इन प्रणालियों के निर्माता और उन्हें तैनात करने वाले संस्थानों को भी तकनीक को अधिक पारदर्शी और विश्वसनीय बनाने के लिए काम करना चाहिए।
अंततः, शोध एक ऐसे उपयोगकर्ता आधार की तस्वीर पेश करता है जो अनुकूलित हो रहा है। लोग आर्टिफिशियल इंटेलिजेंस को अस्वीकार नहीं कर रहे हैं, और न ही वे इसे आँख मूंदकर स्वीकार कर रहे हैं। वे इसके साथ एक सशर्त संबंध विकसित कर रहे हैं, जहाँ उपकरण उपयोगी तो है लेकिन उसका अधिकार सीमित है। यह अनुकूलन एक ऐसा सीखना है जो तकनीकी कौशल से परे है। इसमें यह समझना शामिल है कि मशीन एक संभाव्यता इंजन (probabilistic engine) है जो सत्यापित तथ्यों को पुनः प्राप्त करने वाले डेटाबेस के बजाय वाक्य में अगले शब्द का अनुमान लगाती है। जैसे-जैसे ये उपकरण शिक्षा और दैनिक जीवन में अधिक एकीकृत होते जा रहे हैं, एक सम्मोहक कहानी और एक सत्यापित सत्य के बीच अंतर करने की क्षमता एक महत्वपूर्ण कौशल बन जाएगी। अध्ययन का निष्कर्ष है कि इन प्रणालियों का वास्तविक महारत हासिल करना यह जानने में नहीं है कि उन्हें कैसे काम कराया जाए, बल्कि यह जानने में है कि कब उन पर भरोसा करना बंद करना है और तथ्यों की स्वयं जाँच शुरू करनी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।