High-Risk Memories? Comparative audit of the representation of Second World War atrocities in Ukraine by generative AI applications
यह शोध पत्र अनुभवजन्य रूप से इस बात का ऑडिट करता है कि जनरेटिव एआई अनुप्रयोग यूक्रेन में द्वितीय विश्व युद्ध के अत्याचारों की उच्च-जोखिम वाली स्मृतियों को कैसे संभालते हैं, जो ऐतिहासिक गलत निरूपण, मतिभ्रम (hallucinations) और असंगत नैतिककरण के महत्वपूर्ण जोखिमों की पहचान करता है जो सामूहिक स्मृति को विकृत कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक नया, अविश्वसनीय रूप से तेज़ लाइब्रेरियन है जो सेकंडों में इतिहास के बारे में कहानियाँ लिख सकता है। आप उससे पूछते हैं, "द्वितीय विश्व युद्ध के दौरान यूक्रेन में क्या हुआ था?" और वह लाइब्रेरियन तुरंत आपके लिए एक विस्तृत पृष्ठ लिख देता है। सुनने में मददगार लगता है, है ना?
यह शोध पत्र इन तीन "सुपर-लाइब्रेरियन" (AI चैटबॉट्स Bing/Copilot, Google Bard, और ChatGPT) का परीक्षण करने के बारे में है कि क्या वे वास्तव में इतिहास की कुछ सबसे दर्दनाक और विवादास्पद घटनाओं के बारे में सच बता रहे हैं: यूक्रेन में द्वितीय विश्व युद्ध के दौरान हुई अत्याचार की घटनाएं।
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसमें कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग किया गया है:
1. समस्या: "अनुमान लगाने वाला" लाइब्रेरियन
मानवीय स्मृति एक पुस्तकालय की तरह है जहाँ किताबों को सावधानीपूर्वक सूचीबद्ध, जांचा और इतिहासकारों द्वारा उन पर बहस की जाती है। हालाँकि, AI तथ्यों को उस तरह से "याद" नहीं रखता जैसे हम रखते हैं। यह एक सुपर-फास्ट तोते की तरह है जिसने लाखों किताबें पढ़ी हैं और संभावना के आधार पर वाक्य में अगले शब्द का अनुमान लगाना सीख लिया है।
- जोखिम: यदि तोते ने बहुत सारी किताबें पढ़ी हैं जिनमें कहा गया है कि "X हुआ" और कुछ किताबें जिनमें कहा गया है कि "Y हुआ", तो वह दोनों का मिश्रण अनुमान लगा सकता है, या एक तीसरा विकल्प बना सकता है जो सुनने में तर्कसंगत लगे लेकिन पूरी तरह से मनगढ़ंत हो। इसे "हैलुसिनेशन" (hallucination) कहा जाता है।
- खतरा: जब बात "उच्च-जोखिम वाली यादों" (जैसे सामूहिक हत्याएं, प्रलय/होलोकॉस्ट, या जातीय सफाया) की आती है, तो तथ्यों को गलत बताना केवल एक टाइपिंग की गलती नहीं है; इसका उपयोग लोगों को चोट पहुँचाने, अपराधों को नकारने या राजनीतिक नफरत भड़काने के लिए किया जा सकता है।
2. परीक्षण: तीन भाषाओं में एक ही प्रश्न पूछना
शोधकर्ताओं ने AI के साथ एक छात्र की तरह व्यवहार किया जो परीक्षा दे रहा है। उन्होंने यूक्रेन में द्वितीय विश्व युद्ध के अत्याचारों के बारे में 74 अलग-अलग प्रश्न पूछे (जिनमें यह भी शामिल था कि पीड़ित यहूदी, पोलिश और यूक्रेनी थे)।
- उन्होंने एक ही प्रश्न अंग्रेजी, यूक्रेनी और रूसी में पूछे।
- उन्होंने AI के उत्तरों की तुलना वास्तविक मानव इतिहासकारों द्वारा बनाए गए एक "गोल्ड स्टैंडर्ड" (मानक) से की।
3. परिणाम: लाइब्रेरियन टेस्ट में फेल हो रहा है
A. सटीकता स्कोर: एक 'C-ग्रेड' का छात्र
कुल मिलाकर, AI केवल लगभग 50% समय ही तथ्यों को सही बताता है।
- "गोल्डिलॉक्स" प्रभाव: AI अंग्रेजी में उत्तर देने में बहुत बेहतर था (उस भाषा में जिसके लिए अधिक ट्रेनिंग डेटा उपलब्ध है) लेकिन यूक्रेनी और रूसी में उसे काफी संघर्ष करना पड़ा।
- उपमा: कल्पना कीजिए कि एक शेफ है जो इतालवी पिज्जा बनाने में माहिर है क्योंकि उसके पास लाखों रेसिपी हैं, लेकिन जब आप उससे पारंपरिक यूक्रेनी व्यंजन मांगते हैं, तो वह सामग्री का अनुमान लगाता है और आपको अचार वाला पिज्जा परोस देता है।
- विशिष्ट विफलताएं:
- Bard (Google): "हैलुसिनेशन" (मनगढ़ंत बातें बनाने) के मामले में सबसे खराब था। इसने फर्जी तारीखें, पीड़ितों की फर्जी संख्या और यहाँ तक कि उन लोगों के फर्जी उद्धरण भी बना दिए जिनका अस्तित्व ही नहीं था। यूक्रेनी भाषा में, यह विशेष रूप से अविश्वसनीय था।
- Bing (Microsoft): सामान्य प्रश्नों के साथ ठीक था लेकिन विशिष्ट, कम प्रसिद्ध नरसंहारों के बारे में पूछे जाने पर भटक गया।
- ChatGPT: सबसे सुसंगत था, लेकिन फिर भी इसने आधे तथ्य गलत बताए।
B. "नैतिक उपदेश" की समस्या: एक उपदेश देने वाला रोबोट
शोधकर्ताओं ने यह भी देखा कि AI इन त्रासदियों के बारे में कैसे बात करता है।
- मुद्दा: कभी-कभी AI एक नैतिक न्यायाधीश की तरह व्यवहार करता है। वह ऐसी बातें कहता है जैसे, "यह इतिहास का एक काला अध्याय था, और हमें इससे सीखना चाहिए," या "हमें इसकी निंदा करनी चाहिए।"
- असंगति: यह सबसे अजीब हिस्सा था। AI एक भाषा में बहुत उपदेश देने वाला और नैतिक बातें करने वाला होता था, लेकिन दूसरी भाषा में पूरी तरह से मौन रहता था।
- उदाहरण: यदि आपने अंग्रेजी में पूछा, तो ChatGPT आपको याद रखने के महत्व पर लेक्चर दे सकता है। यदि आपने उसी प्रश्न को यूक्रेनी में पूछा, तो वह केवल तथ्यों की एक शुष्क सूची दे सकता है।
- रूपक: एक संग्रहालय में एक टूर गाइड की कल्पना करें। एक कमरे में, वह रुकता है और त्रासदी के बारे में 5 मिनट का भाषण देता है कि हमें इससे क्या सीखना चाहिए। दूसरे कमरे में, वह बस तथ्यों को फुसफुसाता है और चला जाता है। यह भ्रमित करने वाला और असंगत है।
4. यह क्यों महत्वपूर्ण है
यह शोध पत्र हमें चेतावनी देता है कि हम "इतिहास को याद रखने" का काम उन मशीनों को सौंप रहे हैं जो वास्तव में यह नहीं समझते कि इतिहास का अर्थ क्या है।
- "नकली अतीत": AI केवल गलतियाँ नहीं कर रहा है; यह एक ऐसा "अतीत बना रहा है जो कभी अस्तित्व में ही नहीं था।" यह इतिहास का एक ऐसा संस्करण बना सकता है जहाँ तथ्य थोड़े गलत हों, या जहाँ नैतिक सबक असमान रूप से लागू किए गए हों।
- भाषा का जाल: क्योंकि AI मुख्य रूप से अंग्रेजी डेटा पर प्रशिक्षित है, वह स्थानीय संस्करण के बजाय "ग्लोबल नॉर्थ" (विकसित देशों) के संस्करण को बेहतर जानता है। यूक्रेन या रूस के लोगों के लिए जो अपने इतिहास के बारे में सीखने की कोशिश कर रहे हैं, AI अक्सर उन्हें उनके अपने अतीत का एक विकृत, विदेशी संस्करण दे रहा है।
निष्कर्ष (The Bottom Line)
यदि आप किसी AI से होलोकॉस्ट या यूक्रेन में द्वितीय विश्व युद्ध के बारे में पूछते हैं, तो इस पर आँख मूंदकर भरोसा न करें।
- यह संख्याओं को गलत बता सकता है।
- यह फर्जी कहानियाँ बना सकता है।
- यह एक भाषा में आपको नैतिकता पर लेक्चर दे सकता है लेकिन दूसरी भाषा में चुप रह सकता है।
लेखकों का सुझाव है कि जब तक इन AI "लाइब्रेरियन" को ठीक नहीं किया जाता, हमें बहुत सावधान रहने की आवश्यकता है। हमें उन्हें यह बताने की आवश्यकता हो सकती है कि, "यदि आप उत्तर नहीं जानते हैं, तो कुछ भी मनगढ़ंत बनाने के बजाय बस 'मुझे नहीं पता' कहें," और हमें उन्हें केवल रैंडम अनुमान लगाने वाले के बजाय सुसंगत नैतिक मार्गदर्शक बनने के लिए सिखाने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।