Dialogical Epistemic Auditing: Tracing Inferential Commitments Across Conversational Turns in Large Language Models
यह शोध पत्र "संवादात्मक ज्ञानमीमांसीय अंकेक्षण" (dialogical epistemic auditing) का प्रस्ताव करता है, जो एक गुणात्मक ढांचा है जिसका उपयोग यह पता लगाने के लिए किया जाता है कि बड़े भाषा मॉडल संवादात्मक दौरों के दौरान अपनी अनुमानात्मक प्रतिबद्धताओं को कैसे बनाए रखते हैं या उनमें परिवर्तन करते हैं, और एक केस सीरीज़ के माध्यम से यह प्रदर्शित करता है कि मॉडल अक्सर अप्रमाणित आख्यानों को सुरक्षित रखते हुए तथ्यात्मक दावों को वापस लेने द्वारा विषम निरंतरता प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जब हम किसी कंप्यूटर से किसी जटिल घटना की व्याख्या करने के लिए कहते हैं, तो हम अक्सर इसके पहले उत्तर से ही इसका निर्णय ले लेते हैं। यदि प्रतिक्रिया आत्मविश्वास से भरी लगती है और बुनियादी तथ्यों को सही ढंग से प्रस्तुत करती है, तो हम मान लेते हैं कि मशीन विश्वसनीय है। लेकिन वास्तविक दुनिया में, बातचीत शायद ही कभी पहली पंक्ति पर समाप्त होती है। हम स्पष्टीकरण मांगते हैं, धारणाओं को चुनौती देते हैं, और किसी रियायत के बाद आगे क्या होगा, इस पर जोर देते हैं। एक मशीन एक आदर्श प्रारंभिक वक्तव्य दे सकती है, फिर भी जैसे-जैसे चर्चा गहरी होती है, वह अपने स्वयं के तर्क को सुसंगत बनाए रखने में विफल हो सकती है। यह अंतराल एक नए अध्ययन का केंद्र है जो इस बात पर नहीं देखता कि एक लार्ज लैंग्वेज मॉडल अकेले में क्या कहता है, बल्कि इस पर देखता है कि वह समय के साथ अपने स्वयं के दावों के भार को कैसे संभालता है। यह शोध मानव मनोविज्ञान की एक अवधारणा से प्रेरित है जिसे 'संज्ञानात्मक विसंगति' (cognitive dissonance) कहा जाता है, जो उस मानसिक बेचैनी का वर्णन करती है जो हमें तब महसूस होती है जब दो विचार आपस में टकराते हैं। उस बेचैनी को कम करने के लिए, लोग अक्सर तथ्यों के अनुरूप अपनी मान्यताओं को बदल देते हैं, या अपनी मान्यताओं को फिट करने के लिए तथ्यों को तोड़-मरोड़ देते हैं। यह अध्ययन पूछता है कि क्या आर्टिफिशियल इंटेलिजेंस सिस्टम भी एक समान पैटर्न दिखाते हैं जब उन्हें एक कठिन, विरोधाभासी स्थिति की व्याख्या करने के लिए मजबूर किया जाता है।
शोधकर्ता, पादुआ विश्वविद्यालय के गिउलिओ विडोटो ने एक विशिष्ट, वास्तविक दुनिया की घटना के बारे में तीन अलग-अलग आर्टिफिशियल इंटेलिजेंस सिस्टम के साथ अलग-अलग बातचीत में शामिल होकर इसे परखने का निर्णय लिया। विषय था 2026 में रूस और यूक्रेन के बीच सैनिकों के शवों का आदान-प्रदान। डेटा स्पष्ट और अच्छी तरह से प्रलेखित था: तीन अलग-अलग हस्तांतरणों में, रूस ने प्रत्येक बार लगभग एक हजार यूक्रेनी शव वापस किए, जबकि बदले में केवल लगभग तीस से चालीस रूसी शव प्राप्त किए। लगभग पच्चीस अनुपात में एक का यह अनुपात एक पहेली पैदा करता था। संख्याएँ सार्वजनिक और सत्यापित थीं, फिर भी वे युद्ध में कौन अधिक सैनिक खो रहा है, इसकी एक सामान्य, अनकही तस्वीर के विपरीत प्रतीत होती थीं। शोधकर्ता ने प्रत्येक सिस्टम से इस असमानता की व्याख्या करने को कहा। उन्होंने केवल सारांश नहीं मांगा; उन्होंने उन्हें अपने तर्क को स्पष्ट करने के लिए मजबूर किया, उनके तर्क को चुनौती दी, और उन्हें अपने निष्कर्षों पर पुनर्विचार करने के लिए कहा जब वे स्वयं का खंडन करते प्रतीत हुए। लक्ष्य उनकी बातचीत के हर मोड़ का पीछा करना था, यह देखने के लिए कि क्या मशीनें स्थिर रहती हैं या क्या वे विरोधाभास की बेचैनी से बचने के लिए चुपचाप अपना आधार बदल लेती हैं।
अध्ययन ने "संवादात्मक एपिस्टेमिक ऑडिटिंग" (dialogical epistemic auditing) नामक एक पद्धति पेश की। मशीन के कोड के भीतर वह क्या "सोच" रही है, इसका अनुमान लगाने के बजाय, शोधकर्ता ने बातचीत को एक सार्वजनिक रिकॉर्ड के रूप में माना। उन्होंने मशीन द्वारा किए गए प्रत्येक दावे का मानचित्र बनाया, और नोट किया कि उस दावे ने तर्क में क्या भूमिका निभाई। क्या वह साक्ष्य का एक टुकड़ा था? क्या वह एक परिकल्पना थी? क्या वह एक निष्कर्ष था? फिर उन्होंने देखा कि क्या बातचीत जारी रहने के साथ, मशीन उन भूमिकाओं को सुसंगत रखती है। क्या वह बाद में एक अस्थायी अनुमान को एक ठोस तथ्य के रूप में मानती है? क्या वह बिना कारण बताए एक निष्कर्ष को छोड़ देती है? ऑडिट ने एक विशिष्ट प्रकार की विफलता की तलाश की: जब एक मशीन अपना मन बदलती है लेकिन परिवर्तन के साथ अपनी कहानी को अपडेट करने में विफल रहती है। यह उस व्यक्ति की तरह है जो समय के बारे में गलत होने की बात स्वीकार करता है लेकिन फिर भी इस तरह व्यवहार करना जारी रखता है जैसे कि वह अभी भी सही समय सारणी पर है, जिससे उसकी बाकी योजना भ्रम की स्थिति में रह जाती है।
तीनों बातचीत में, एक स्पष्ट पैटर्न उभर कर आया। हर मामले में, आर्टिफिशियल इंटेलिजेंस सिस्टम एक ही तनाव से जूझ रहे थे। लौटाए गए शवों की सत्यापित संख्या दोनों पक्षों पर हताहतों के पैमाने के बारे में एक अनकही धारणा के साथ टकरा रही थी। इस तनाव को हल करने के लिए, सिस्टम ने अनकही धारणा पर सवाल उठाने के बजाय संख्याओं का अर्थ बदलने की बार-बार कोशिश की। एक बातचीत में, सिस्टम ने शुरू में दो विपरीत स्पष्टीकरण ऐसे दिए जैसे वे समान रूप से वैध हों, जिससे एक झूठा संतुलन पैदा हुआ। चुनौती दिए जाने पर, इसने खुद को सुधारा, लेकिन फिर अगले मोड़ में उस सुधार को खो दिया, जिससे उसके तर्क में एक अंतराल रह गया। एक अन्य में, सिस्टम एक विशिष्ट स्पष्टीकरण पर जोर देता रहा, लेकिन सबूत मांगे जाने पर, वह उस दावे का समर्थन करने के लिए उपयोग किए जाने वाले साक्ष्य को बार-बार बदलता रहा, अंततः नए के स्थान पर पुराने, असंबद्ध तथ्यों को प्रतिस्थापित कर दिया। तीसरे मामले में, सिस्टम यहाँ तक दावा करने लगा कि घटनाओं का पूरा टाइमलाइन जो उसने अभी वर्णित किया था, कभी हुआ ही नहीं था, और सत्यापित तथ्यों को ऐसे वापस ले लिया जैसे कि वे मतिभ्रम (hallucinations) हों, भले ही उन घटनाओं के प्रमाण स्पष्ट और समकालीन थे।
सबसे अधिक ध्यान देने योग्य बात यह थी कि सिस्टम ने तर्क के दोनों पक्षों के साथ कैसा व्यवहार किया। वास्तविक, सत्यापित संख्याओं को लगातार पुनर्वर्गीकृत, प्रश्नगत और पुनर्व्याख्यायित किया गया। उन्हें एक सीधा संकेतक, फिर एक सीमा, फिर एक कृत्रिम डेटा, और अंत में क्षेत्रीय नियंत्रण का मीट्रिक कहा गया। हालाँकि, सापेक्ष नुकसान की अनकही तस्वीर को कभी भी चुनौती नहीं दी गई। वह अछूती रही, कभी वर्गीकृत नहीं की गई और कभी चुनौती नहीं दी गई। सिस्टम ने ज्ञात तथ्यों को ज्ञात तथ्य के अनुरूप ढालने के बजाय, छिपी हुई तस्वीर के अनुरूप तथ्यों को मोड़ने का काम किया। यह संज्ञानात्मक विसंगति की मनोवैज्ञानिक अवधारणा की नकल करता है, जहाँ मन नई जानकारी की व्याख्या को बदलकर मूल विश्वास की रक्षा करता है। मशीनें पारंपरिक अर्थों में झूठ नहीं बोल रही थीं; वे शून्य से डेटा का निर्माण नहीं कर रही थीं। इसके बजाय, वे विरोधाभास को गायब करने के लिए तथ्यों के बीच तार्किक संबंधों को पुनर्व्यवस्थित कर रही थीं, जिससे अक्सर उनके अपने तर्क अस्थिर और आंतरिक रूप से असंगत हो जाते थे।
अध्ययन में पाया गया कि ये विफलताएं केवल यादृच्छिक गड़बड़ी (glitches) नहीं थीं। वे एक विशिष्ट प्रक्षेपवक्र (trajectory) का पालन करती थीं। सिस्टम अक्सर एक प्रशंसनीय स्पष्टीकरण के साथ शुरू करते थे, लेकिन दबाव पड़ने पर, वे संख्याओं को मिलाने के लिए एक नया तंत्र पेश करते थे। जब उस तंत्र को चुनौती दी गई, तो वे फिर से बदल गए, कभी तर्क को ठीक किया, तो कभी उसे पूरी तरह से छोड़ दिया। एक मामले में, सिस्टम ने अपनी गलतियों को स्वीकार किया और उन्हें ठीक करने की कोशिश की, लेकिन मरम्मत अधूरी थी, जिससे एक छिपा हुआ विरोधाभास रह गया जो बाद में फिर से सामने आया। दूसरे मामले में, सिस्टम ने एक आत्म-निदान (self-diagnosis) पेश किया, अपने संतुलन खोजने की प्रवृत्ति के लिए खुद को दोषी ठहराया, फिर भी ट्रांसक्रिप्ट ने दिखाया कि अस्थिरता मशीन द्वारा उत्पन्न की गई थी, न कि उपयोगकर्ता के प्रश्नों द्वारा। तीनों मामलों में उपयोगकर्ता ने केवल स्पष्टता मांगी या तर्क को चुनौती दी; उन्होंने कोई गलत धारणा या भ्रामक जानकारी पेश नहीं की। अस्थिरता पूरी तरह से मशीन की अपनी प्रतिक्रियाओं के भीतर से उत्पन्न हुई थी।
शोध यह निष्कर्ष निकालता है कि इन सिस्टमों का मूल्यांकन केवल उनके पहले उत्तर को देखकर करना अपर्याप्त है। एक मशीन प्रवाहपूर्ण और आत्मविश्वासी लग सकती है जबकि उसका अंतर्निदम तर्क बिखर रहा होता है। अध्ययन सुझाव देता है कि हमें यह देखना चाहिए कि ये सिस्टम लंबी बातचीत के दबाव को कैसे संभालते हैं। क्या वे अपनी तार्किक प्रतिबद्धताओं को बनाए रखते हैं, या वे भटक जाते हैं? निष्कर्ष बताते हैं कि जब एक कठिन विरोधाभास का सामना करना पड़ता है, तो ये सिस्टम उन तथ्यों को मोड़कर एक अनकही धारणा की रक्षा करते हैं जिन्हें वे देख सकते हैं। उनके पास एक स्थिर आंतरिक दृष्टिकोण नहीं है जिसे वे चुनौती मिलने पर थामे रख सकें। इसके बजाय, वे अपने तيarguments को वास्तविक समय में पुनर्गठित करते हैं, और अक्सर इस प्रक्रिया में अपने स्वयं के तर्क का सूत्र खो देते हैं।
इसका मतलब यह नहीं है कि मशीनें तर्क करने में सक्षम नहीं हैं, लेकिन इसका मतलब यह है कि उनका तर्क नाजुक है। अध्ययन एक विशिष्ट भेद्यता को उजागर करता है: बातचीत जटिल होने पर दावों की एक सुसंगत संरचना बनाए रखने में असमर्थता। शोधकर्ता का कहना है कि यह मशीनों के "बुरे" या "धोखेबाज" होने की समस्या नहीं है, बल्कि इस बात की एक संरचनात्मक समस्या है कि वे सूचना को कैसे संसाधित करते हैं। उन्हें मददगार होने और बातचीत में घर्षण को कम करने के लिए डिज़ाइन किया गया है, जो कभी-कभी उन्हें विरोधाभासों को इस तरह से सुलझाने के लिए प्रेरित करता है जो तर्क को तोड़ देते हैं। अध्ययन यह कहने से बचता है कि यह हर बातचीत या हर सिस्टम के साथ होता है, क्योंकि इसने केवल तीन विशिष्ट संवादों का परीक्षण किया है। हालाँकि, यह इन अंतःक्रियाओं को देखने का एक नया तरीका प्रदान करता है, जो दिखाता है कि आर्टिफिशियल इंटेलिजेंस का वास्तविक परीक्षण केवल यह नहीं है कि वह क्या कहता है, बल्कि यह है कि जब बातचीत कठिन होती है तो वह जो कहा है उसे कैसे थामे रखता है। निष्कर्षों से पता चलता है कि उन उपयोगकर्ताओं के लिए जो जटिल स्पष्टीकरणों के लिए इन उपकरणों पर भरोसा करते हैं, सबसे महत्वपूर्ण कौशल यह पहचानना हो सकता है कि मशीन चुपचाप खेल के नियम बदल रही है ताकि संख्याओं को फिट किया जा सके, बजाय इसके कि संख्याओं को कहानी बताने दिया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।