Critical Confabulation: Can LLMs Hallucinate for Social Good?
यह शोध पत्र "क्रिटिकल कॉन्फैब्युलेशन" (critical confabulation) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जहाँ LLMs को हाशिए पर रहे ऐतिहासिक व्यक्तित्वों के संबंध में अभिलेखीय अंतराल को भरने के लिए साक्ष्य-बद्ध, काल्पनिक आख्यान उत्पन्न करने हेतु निर्देशित किया जाता है, जो यह प्रदर्शित करता है कि नियंत्रित मतिभ्रम (controlled hallucinations) ऐतिहासिक सत्यनिष्ठा से समझौता किए बिना नैतिक ज्ञान उत्पादन में कैसे सहायता कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जीवन की कहानी सुनाने की कोशिश कर रहे हैं, लेकिन किसी ने जीवनी के बीच से कई पन्ने फाड़ दिए हैं। वे पन्ने गायब हैं, और इतिहास की किताबें उन लापता वर्षों में क्या हुआ, इस बारे में मौन हैं। यह उन कई "छिपी हुई हस्तियों" (hidden figures) के लिए वास्तविकता है जिनका इतिहास, यानी उनकी कहानी को नस्लवाद, गरीबी या राजनीतिक हिंसा द्वारा मिटा दिया गया।
यह शोध पत्र एक साहसिक प्रश्न पूछता है: क्या हम आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग उन लापता पन्नों को भरने के लिए कर सकते हैं, जो केवल मनगढ़ंत बातें बनाने के बजाय वास्तव में सहायक हो?
यहाँ उनके विचार का विवरण, सरल उपमाओं का उपयोग करते हुए दिया गया है।
1. समस्या: "मौन संग्रह" (The Silent Archive)
इतिहास को एक विशाल पुस्तकालय के रूप में सोचें। सदियों से, पुस्तकालयाध्यक्षों (इतिहासकारों और सरकारों) ने केवल शक्तिशाली लोगों के बारे में पुस्तकें रखीं। गुलाम बनाए गए लोगों, गरीबों और हाशिए पर रहने वाले समुदायों की कहानियों को अक्सर कचरे में फेंक दिया गया या कभी लिखा ही नहीं गया।
जब आज के इतिहासकार इन कहानियों को बताने की कोशिश करते हैं, तो वे "खाली स्थानों" से टकराते हैं। वे जानते हैं कि एक व्यक्ति अस्तित्व में था, लेकिन उन्हें यह नहीं पता कि उस व्यक्ति ने 1854 के किसी विशेष मंगलवार को क्या किया था। पारंपरिक इतिहास कहता है, "यदि कोई प्रमाण नहीं है, तो हम कुछ भी नहीं कह सकते।" लेकिन लेखक तर्क देते हैं कि यह मौन हमें नुकसान पहुँचाता है। यह "छिपी हुई हस्तियों" को अदृश्य छोड़ देता है।
2. समाधान: "क्रिटिकल कॉन्फैबुलेशन" (Critical Confabulation)
आमतौर पर, जब AI अपनी ओर से कुछ बनाता है, तो हम इसे "हैलुसिनेशन" (hallucination) कहते हैं, और इसे एक त्रुटि (bug) की तरह देखते हैं। यदि AI कहता है कि चंद्रमा पनीर से बना है, तो यह एक विफलता है।
लेकिन लेखक एक नई अवधारणा प्रस्तावित करते हैं जिसे क्रिटिकल कॉन्फैबुलेशन कहा जाता है।
- उपमा: कल्पना कीजिए कि आप एक अनसुलझे मामले (cold case) को सुलझाने की कोशिश कर रहे एक जासूस हैं। आपके पास एक गवाह है जिसे याद है कि संदिग्ध ने लाल टोपी पहनी थी और वह सड़क पर भाग रहा था, लेकिन वह यह भूल गया कि संदिग्ध क्यों भाग रहा था।
- पुराना तरीका: जासूस कहता है, "मुझे नहीं पता, इसलिए मैं अनुमान नहीं लगाऊंगा।"
- क्रिटिकल कॉन्फैबुलेशन का तरीका: जासूस सभी ज्ञात तथ्यों (लाल टोपी, दौड़ना, समय, पड़ोस) का उपयोग करके यह एक तर्कसंगत कहानी बनाने की कोशिश करता है कि संदिग्ध क्यों भाग रहा था। वे यह दावा नहीं कर रहे हैं कि यह 100% प्रमाणित तथ्य है; वे केवल एक "सर्वश्रेष्ठ अनुमान" वाला वृत्तांत पेश कर रहे हैं ताकि उस लापता हिस्से को देखने में मदद मिल सके।
लेखक चाहते हैं कि AI यह काम इतिहास के लिए करे। वे चाहते हैं कि AI रिकॉर्ड के "अंतरालों" को देखे और एक ऐसी कहानी लिखे जो संदर्भ में फिट बैठती हो, जिससे हमें यह कल्पना करने में मदद मिले कि उन मिटा दिए गए लोगों का जीवन कैसा रहा होगा।
3. प्रयोग: "रिक्त स्थान भरने" का परीक्षण (The "Fill-in-the-Blank" Test)
यह देखने के लिए कि क्या AI इस काम में अच्छा है, शोधकर्ताओं ने एक परीक्षण बनाया।
- सेटअप: उन्होंने अश्वेत बुद्धिजीवियों और कार्यकर्ताओं (ऐसे लोग जिन्हें AI ने संभवतः पहले नहीं देखा होगा) के वास्तविक, अप्रकाशित ऐतिहासिक दस्तावेज़ लिए।
- खेल: उन्होंने एक व्यक्ति के जीवन की समयरेखा ली और एक घटना को मिटा दिया, उसे एक काले बॉक्स:
[MASKED]से बदल दिया। - कार्य: उन्होंने विभिन्न AI मॉडलों से पूछा कि उस काले बॉक्स में क्या हुआ होगा।
- लक्ष्य: क्या AI ने केवल बकवास बनाई? या क्या इसने एक ऐसी कहानी लिखी जो चरित्र और उस कालखंड के प्रति "सही" महसूस होती थी, भले ही उसे 100% प्रमाणित न किया जा सके?
4. परिणाम: AI एक "रचनात्मक इतिहासकार" हो सकता है
परिणाम आश्चर्यजनक और उत्साहजनक थे:
- यह कठिन है, लेकिन संभव है: AI हर बार सही नहीं हो पाया (केवल लगभग 50-60% बार), लेकिन यह अक्सर ऐसी कहानियाँ बनाने में सक्षम था जो "सही" लगती थीं और उस युग के लहजे से मेल खाती थीं।
- संकेत मदद करते हैं: जब शोधकर्ताओं ने AI को बताया, "यह गायब घटना नौकरी बदलने के बारे में थी" या "यह एक पारिवारिक विवाद के बारे में था," तो AI अनुमान लगाने में बहुत बेहतर हो गया।
- "छोटे" मॉडल स्मार्ट हैं: कुछ छोटे, ओपन-सोर्स AI मॉडल विशाल और महंगे मॉडलों के समान ही प्रदर्शन कर रहे थे। यह एक अच्छी खबर है क्योंकि इसका मतलब है कि यह उपकरण अधिक शोधकर्ताओं के लिए सुलभ हो सकता है।
- कोई धोखाधड़ी नहीं: शोधकर्ताओं ने यह सुनिश्चित करने के लिए कि AI ने अपने प्रशिक्षण डेटा से उत्तरों को केवल रटा नहीं है, एक "जासूसी" पद्धति का उपयोग किया। उन्होंने सुनिश्चित किया कि AI वास्तव में तर्क कर रहा है, न कि केवल उन तथ्यों को दोहरा रहा है जिन्हें वह पहले से जानता है।
5. यह क्यों महत्वपूर्ण है
लेखक यह नहीं कह रहे हैं कि AI को इतिहासकारों की जगह लेनी चाहिए। इसके बजाय, वे इसे कहानी कहने के लिए एक सह-पायलट (co-pilot) के रूप में देखते हैं।
- इतिहासकारों के लिए: यह विचारों पर मंथन करने के लिए एक उपकरण है। यदि AI सुझाव देता है, "शायद इस व्यक्ति ने 1920 में एक गुप्त बैठक में भाग लिया था," तो एक मानव इतिहासकार फिर साक्ष्य खोजने जा सकता है ताकि इसे सिद्ध या खंडित किया जा सके। यह एक खाली पन्ने को जांच के लिए एक परिकल्पना (hypothesis) में बदल देता है।
- समाज के लिए: यह इतिहास को "पुनः मानवीय" बनाने में मदद करता है। केवल तारीखों और नामों की सूची देखने के बजाय, हमें एक ऐसा वृत्तांत मिलता है जो हमें उन लोगों के जीवन को समझने में मदद करता है जिन्हें व्यवस्थित रूप से चुप करा दिया गया था।
निष्कर्ष
इस शोध पत्र को एक नए प्रकार के पुरातत्व संबंधी ब्रश (archaeological brush) के रूप में देखें। लंबे समय तक, हमने सोचा कि AI की चीज़ें "बनाने" की प्रवृत्ति एक दोष है। यह शोध पत्र तर्क देता है कि यदि हम उस "बनाने" के कौशल का सावधानीपूर्वक उपयोग करें—वास्तविक तथ्यों और नैतिक सीमाओं के आधार पर—तो यह वास्तव में हमें खोई हुई आवाजों को पुनः प्राप्त करने और हमारी सामूहिक स्मृति के अंतराल को भरने में मदद कर सकता है।
यह सत्य को कल्पना से बदलने के बारे में नहीं है; यह उस सत्य को खोजने के लिए कल्पना का उपयोग करने के बारे में है जो मौन में छिपा हुआ था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।