Self-Anchoring Calibration Drift in Large Language Models: How Multi-Turn Conversations Reshape Model Confidence
यह शोध पत्र सेल्फ-एंकरिंग कैलिब्रेशन ड्रिफ्ट (SACD) का परिचय देता है और इसका अनुभवजन्य सत्यापन करता है, जो एक ऐसी घटना है जहाँ मल्टी-टर्न वार्तालाप लार्ज लैंग्वेज मॉडल्स में आत्मविश्वास और कैलिब्रेशन त्रुटियों में विषम बदलावों का कारण बनते हैं—जिसमें क्लॉड सोनेट 4.6 में घटता आत्मविश्वास और बढ़ती त्रुटि से लेकर जेमिनी 3.1 प्रो में स्वाभाविक कैलिब्रेशन सुधारों का दमन और जीपीटी-5.2 में बढ़ता अति-आत्मविश्वास शामिल है—जो यह प्रदर्शित करता है कि पुनरावृत्ति स्व-एंकरिंग (iterative self-anchoring) विभिन्न आर्किटेक्चर के माध्यम से मॉडल विश्वसनीयता को मौलिक रूप से नया आकार देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े घबराए हुए रोबोट दोस्त के साथ लंबी बातचीत कर रहे हैं। आप उससे एक सवाल पूछते हैं, वह जवाब देता है, और फिर आप पूछते हैं, "क्या आप मुझे इसके बारे में और बता सकते हैं?" वह फिर से जवाब देता है। आप फिर से पूछते हैं, "इसका तर्क क्या है?" वह तीसरी बार जवाब देता है।
यह शोध पत्र, जिसे 2026 में हर्षवर्द्धन नामक एक स्वतंत्र शोधकर्ता द्वारा लिखा गया है, इस बात की जांच करता है कि जैसे-जैसे बातचीत लंबी होती जाती है, उस रोबोट के आत्मविश्वास (confidence) के साथ क्या होता है।
शोधकर्ता इस घटना को "सेल्फ-एंकरिंग कैलिब्रेशन ड्रिफ्ट" (SACD) कहते हैं। यह सुनने में थोड़ा कठिन है, तो आइए इसे कुछ सरल उपमाओं (analogies) के साथ समझते हैं।
मुख्य विचार: "इको चैंबर" (गूँज का कमरा) प्रभाव
रोबोट के पिछले उत्तरों को "एंकर" (लंगर) के रूप में सोचें। मानव मनोविज्ञान में, यदि आप किसी को कोई संख्या देते हैं (एक एंकर), तो उनके भविष्य के अनुमान उस संख्या की ओर झुकने लगते हैं।
इस अध्ययन में, "एंकर" रोबोट के अपने ही पिछले शब्द हैं। शोधकर्ता जानना चाहता था: क्या एक रोबोट अपने पिछले उत्तरों के बारे में बात करते रहने से अधिक आत्मविश्वासी होता है, कम आत्मविश्वासी होता है, या समान रहता है?
डरावनी बात क्या है? यह कि रोबोट बातचीत के दौरान वास्तव में अधिक तथ्य नहीं जान रहा है। वह बस खुद से बातें कर रहा है, और इससे उसके बोलने के तरीके में बदलाव आ रहा है।
प्रयोग: तीन अलग-अलग रोबोट
शोधकर्ता ने 2026 के तीन सबसे उन्नत AI मॉडलों (मान लीजिए कि वे Claude, Gemini, और GPT हैं) का तीन अलग-अलग नियमों के साथ परीक्षण किया:
- "ताज़ा शुरुआत" (कंडीशन A): रोबोट से एक बार सवाल पूछें। रुक जाएँ।
- "इको चैंबर" (कंडीशन B): सवाल पूछें, फिर उसे चार बार और विस्तार से बताने के लिए कहें, पूरी बातचीत का इतिहास सामने रखते हुए। (यहीं "सेल्फ-एंकरिंग" होती है)।
- "रीसेट बटन" (कंडीशन C): उसी सवाल को पांच बार पूछें, लेकिन हर बार ऐसा व्यवहार करें जैसे यह पहली बार हो। कोई पिछला इतिहास नहीं।
परिणाम: तीन अलग-अलग व्यक्तित्व
शोधकर्ताओं को उम्मीद थी कि सभी रोबोट अधिक आत्मविश्वासी हो जाएंगे (जैसे एक राजनेता अपने भाषण के दौरान जितना अधिक बोलता है, उतना ही अधिक सुनिश्चित होता जाता है)। वे गलत थे। रोबोटों ने बहुत अलग तरह से प्रतिक्रिया दी, जैसे एक कमरे में मौजूद तीन अलग-अलग लोग।
1. Claude: "विनम्र विशेषज्ञ" (कॉन्फिडेंस सप्रेशन/आत्मविश्वास में कमी)
- क्या हुआ: जैसे-जैसे Claude अपने ही उत्तरों के बारे में बात करता गया, वह कम निश्चित होने लगा।
- उपमा: कल्पना कीजिए कि एक शिक्षक कोई अवधारणा समझा रहा है। वे जितना अधिक विस्तार से समझाने की कोशिश करते हैं, उन्हें उतना ही एहसास होता है, "रुको, शायद मैं कुछ बारीकी भूल रहा हूँ।" वे अपनी बात को लेकर संशय करने लगते हैं ("खैर, कुछ हद तक," "यह निर्भर करता है...")।
- परिणाम: Claude का आत्मविश्वास काफी गिर गया। वह अधिक विनम्र हो गया, लेकिन विडंबना यह है कि इसने उसे कम विश्वसनीय बना दिया क्योंकि वह उन चीजों पर भी संदेह करने लगा जिन्हें वह वास्तव में जानता था।
2. GPT: "आत्मविश्वासी कहानीकार" (कॉन्फिडेंस एस्केलेशन/आत्मविश्वास में वृद्धि)
- क्या हुआ: खुले विषयों पर (जैसे, "जीने का सबसे अच्छा तरीका क्या है?"), GPT जैसे-जैसे अधिक बात करता गया, वह अधिक आत्मविश्वासी होता गया।
- उपमा: कल्पना कीजिए कि एक कहानीकार एक कथा शुरू करता है। जैसे-जैसे वे कथानक के बिंदुओं को खुद से दोहराते हैं, वे विश्वास करने लगते हैं कि उनकी कहानी ही परम सत्य है। वे "शायद" कहना छोड़ देते हैं और "निश्चित रूप से" कहना शुरू कर देते हैं, भले ही कहानी काल्पनिक हो।
- परिणाम: GPT खतरनाक रूप से अति-आत्मविश्वासी हो गया। वह एक विशेषज्ञ की तरह सुनाई दे रहा था, लेकिन उसकी सटीकता वास्तव में नहीं बढ़ी थी। वह बस अपने ही शब्दों पर "ज़ोर दे रहा था"।
3. Gemini: "अटक गया रिकॉर्ड" (कैलिब्रेशन स्टैग्नेशन/स्थिरता)
- क्या हुआ: Gemini अधिक आत्मविश्वासी न तो हुआ और न ही कम। इसके बजाय, वह अटक गया।
- उपमा: कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है। यदि वह अपने दम पर पांच बार परीक्षा देता है (कंडीशन C), तो वह अपनी गलतियों से सीखता है और अंत तक सटीक स्कोर प्राप्त करता है। लेकिन यदि उसे परीक्षा देते समय अपने पिछले उत्तरों को देखने के लिए मजबूर किया जाता है (कंडिशन B), तो वह सीखना बंद कर देता है। वह बस अपनी पुरानी गलतियों की नकल करता है।
- परिणाम: "इको चैंबर" के बिना, Gemini स्वाभाविक रूप से यह जानने में बेहतर हो जाता था कि वह क्या जानता है। लेकिन "इको चैंबर" के साथ, उसकी यह प्रगति बाधित हो गई। वह औसत स्तर की सटीकता पर अटक गया, खुद को सुधारने में असमर्थ रहा।
बड़ी हैरानी: यह विषय पर निर्भर करता है
अध्ययन ने एक महत्वपूर्ण नियम पाया: यह केवल अस्पष्ट (vague) सवालों के साथ होता है।
- तथ्यात्मक प्रश्न (जैसे, "फ्रांस की राजधानी क्या है?"): रोबोट एकदम सही थे। वे जानते थे कि उत्तर 100% सत्य है, इसलिए इसके बारे में अधिक बात करने से उनके आत्मविश्वास में बदलाव नहीं आया।
- खुले प्रश्न (जैसे, "जीवन का अर्थ क्या है?"): यहीं पर अराजकता हुई। क्योंकि इसका कोई एक "सही" उत्तर नहीं है, रोबोटों ने यह तय करने के लिए पूरी तरह से अपने पिछले शब्दों पर भरोसा किया कि उन्हें कितना निश्चित होना चाहिए।
आपको इसकी परवाह क्यों करनी चाहिए?
यह AI के भविष्य के लिए एक चेतावनी है।
अभी, हम अक्सर AI का परीक्षण एक सवाल पूछकर और उसके उत्तर की जाँच करके करते हैं। लेकिन वास्तविक दुनिया में, हम लंबी बातचीत के लिए AI का उपयोग करते हैं। हम सलाह मांगते हैं, फिर विवरण मांगते हैं, फिर सारांश मांगते हैं।
यह शोध पत्र दिखाता है कि बातचीत की लंबाई AI के व्यक्तित्व को बदल देती है।
- एक AI बहुत विनम्र और बेकार हो सकता है।
- दूसरा "सब कुछ जानने वाला" झूठा बन सकता है।
- तीसरा अपनी गलतियों से सीखना बंद कर सकता है।
निष्कर्ष (Takeaway)
अगली बार जब आप किसी AI के साथ लंबी बातचीत करें, तो याद रखें: AI केवल आपको जवाब नहीं दे रहा है; वह खुद को सुन भी रहा है। और आप जिस AI का उपयोग कर रहे हैं, उस पर निर्भर करते हुए, यह आत्म-संवाद उसे या तो बहुत शर्मीला या बहुत अहंकारी बना सकता है।
शोधकर्ता सुझाव देते हैं कि हमें ऐसे AI सिस्टम डिजाइन करने की आवश्यकता है जो समय-समय पर अपने आत्मविश्वास को "रीसेट" करें, या कम से कम हमें चेतावनी दें कि वे केवल इसलिए सच्चाई से भटक रहे हैं क्योंकि वे बहुत लंबे समय से खुद से बातें कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।