More Rounds, More Noise: Why Multi-Turn Review Fails to Improve Cross-Context Verification
मल्टी-टर्न इंटरैक्शन के सहज आकर्षण के बावजूद, यह अध्ययन दर्शाता है कि डायनेमिक क्रॉस-कॉन्टेक्स्ट रिव्यू (D-CCR), सिंगल-पास क्रॉस-कॉन्टेक्स्ट रिव्यू में सुधार करने में विफल रहता है क्योंकि पुनरावृत्ति प्रक्रिया शोर (noise) उत्पन्न करती है जो सत्यापन प्रदर्शन को कम कर देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: क्यों "दोबारा सोचना" AI को गलतियाँ खोजने में और खराब बना देता है
कल्पना कीजिए कि आपने एक पांडुलिपि (manuscript) में टाइपो (typos) की जाँच करने के लिए एक पेशेवर संपादक को काम पर रखा है। आप उन्हें किताब देते हैं, वे उसे पढ़ते हैं, और आपको गलतियों की एक सूची थमा देते हैं। यह अच्छी तरह काम करता है।
लेकिन क्या होगा अगर आप सोचें, "शायद वे कुछ छोड़ गए हों? चलिए उनसे इसे दोबारा पढ़वाते हैं, लेकिन इस बार, आइए लेखक से कुछ सवाल भी पूछें कि उन्होंने इसे इस तरह क्यों लिखा, और फिर संपादक से तीसरी बार इसे पढ़वाते हैं?"
आप उम्मीद करेंगे कि यह "अतिरिक्त प्रयास" गलतियों की अंतिम सूची को एकदम सटीक बना देगा। यह शोध पत्र सिद्ध करता है कि AI के लिए, वास्तव में ऐसा करना चीजों को बहुत बदतर बना देता है।
शोधकर्ताओं ने पाया कि जब आप AI को किसी चीज़ की कई बार समीक्षा करने देते हैं (भले ही नई शुरुआत और अतिरिक्त सवालों के साथ), तो वह ऐसी गलतियाँ भी बताने लगता है (hallucinating) जो मौजूद ही नहीं हैं। आप जितना अधिक उसे देखने के लिए कहेंगे, वह उतना ही अधिक "शोर" (noise) पैदा करेगा।
प्रयोग: "ताज़ा नज़र" (Fresh Eyes) परीक्षण
यह समझने के लिए कि ऐसा क्यों होता है, हमें यह देखना होगा कि शोधकर्ताओं ने अपना परीक्षण कैसे सेट किया।
सेटअप:
उनके पास 30 अलग-अलग दस्तावेज़ थे (कोड, तकनीकी मैनुअल, स्क्रिप्ट) जिनमें प्रत्येक में ठीक 5 छिपी हुई गलतियाँ डाली गई थीं। उन्होंने इन गलतियों को खोजने के लिए एक AI (Claude Opus) का उपयोग किया।
उन्होंने समीक्षा करने के चार अलग-अलग तरीके टेस्ट किए:
- वन-शॉट (बेसलाइन): AI दस्तावेज़ को एक बार देखता है, गलतियाँ ढूँढता है, और रुक जाता है।
- "सिर्फ सवाल" (मल्टी-टर्न): AI गलतियाँ ढूँढता है, लेखक से सवाल पूछता है, जवाब प्राप्त करता है, और मूल लेखक के नोट्स देखे बिना दोबारा समीक्षा करता है।
- "फुल चैट" (मल्टी-टर्न): AI गलतियाँ ढूँढता है, सवाल पूछता है, जवाब प्राप्त करता है, और पूरी बातचीत देखते हुए दोबारा समीक्षा करता है।
- "डबल लुक" (स्वतंत्र): AI दस्तावेज़ की एक बार समीक्षा करता है, फिर एक बिल्कुल नया AI सेशन उसी दस्तावेज़ की बिना किसी पिछली याद के शुरू से समीक्षा करता है।
परिणाम:
वन-शốt तरीका स्पष्ट विजेता था। इसने नकली गलतियों के साथ सबसे अधिक वास्तविक गलतियाँ ढूँढीं।
हर बार जब उन्होंने समीक्षा का दूसरा दौर जोड़ा, तो AI ने थोड़ी अधिक वास्तविक गलतियाँ तो ढूँढीं, लेकिन वह नकली गलतियों के साथ विस्फोट कर गया। वह ऐसी समस्याएँ गढ़ने लगा जो वहाँ थीं ही नहीं। वह केवल मात्रा (quantity) के लिए सटीकता (accuracy) का त्याग करने लगा।
दो अपराधी: यह विफल क्यों हुआ?
पेपर पहचान करता है कि AI दूसरे दौर में क्यों भटक गया।
1. "प्रदर्शन का दबाव" (फॉल्स पॉजिटिव प्रेशर)
उपमा: "आई स्पाय" (I Spy) के खेल की कल्पना करें।
- राउंड 1: आप कमरे में देखते हैं और 5 स्पष्ट लाल चीजें पाते हैं। आसान है।
- राउंड 2: गेम मास्टर कहता है, "ठीक है, 5 और लाल चीजें ढूँढो!"
- समस्या: कमरे में 5 और लाल चीजें नहीं हैं। लेकिन खिलाड़ी पर दबाव है कि वह दिखाने के लिए कुछ ढूँढे कि वह कोशिश कर रहा है। इसलिए, वह एक भूरे रंग के जूते की ओर इशारा करता है और कहता है, "खैर, यह थोड़ा लाल-भूरा सा है," या एक छाया की ओर इशारा करके उसे "गहरा लाल" कहता है।
AI के साथ क्या हुआ:
पहले दौर में, AI ने सभी स्पष्ट, वास्तविक गलतियाँ ढूँढ लीं। दूसरे दौर में, उससे नई गलतियाँ ढूँढने को कहा गया। चूंकि वास्तविक गलतियाँ ज्यादातर खत्म हो चुकी थीं, AI ने सूची बनाने के लिए "दबाव" महसूस किया। उसने बस खाली जगह भरने के लिए गलतियाँ गढ़ना शुरू कर दिया। उसने सटीकता के बदले मात्रा को चुना।
2. "भटकाव" (रिव्यू टारगेट ड्रिफ्ट)
उपमा: एक जासूस की कल्पना करें जो अपराध स्थल की जांच कर रहा है।
- राउंड 1: जासूस अपराध स्थल को देखता है और टूटी हुई खिड़की पाता है।
- राउंड 2: जासूस को संदिग्ध और जासूस के अपने नोट्स के साथ एक कमरे में लाया जाता है। अपराध स्थल को दोबारा देखने के बजाय, जासूस नोट्स के बारे आधार पर संदिग्ध के साथ बहस करने लगता है। "तुमने कहा कि खिड़की शाम 5 बजे टूटी थी, लेकिन तुम्हारी घड़ी 6 बजे दिखा रही है! यह झूठ है!"
AI के साथ क्या हुआ:
जब AI को बातचीत (सवाल और जवाब) दिखाई गई, तो वह विचलित हो गया। मूल दस्तावेज़ में त्रुटियों को देखने के बजाय, वह बातचीत की ही आलोचना करने लगा। वह कहता, "प्रश्न 3 का लेखक का उत्तर भ्रमित करने वाला है," या "उन्होंने जो सुधार सुझाया है उसमें टाइपो है।"
ये चैट के बारे में वास्तविक टिप्पणियाँ हो सकती हैं, लेकिन ये दस्तावेज़ में त्रुटियाँ नहीं हैं। AI ने मुख्य काम से अपना ध्यान खो दिया।
चौंकाने वाला मोड़: अधिक जानकारी बनाम अधिक राउंड
शोधकर्ताओं ने एक अजीब विरोधाभास पाया:
- अधिक राउंड = बुरा: दूसरा दौर करना हमेशा स्कोर को खराब करता था।
- अधिक जानकारी (एक राउंड के भीतर) = अच्छा: यदि AI को वास्तव में दूसरा दौर करना ही था, तो वह तब बेहतर प्रदर्शन करता था जब उसने पूरी बातचीत (सवाल + जवाब) देखी हो, बजाय इसके कि उसने केवल सवाल देखे हों।
सबक:
समस्या यह नहीं है कि AI क्या देख रहा है; समस्या यह है कि वह दोबारा देख रहा है।
- एक बार देखना: तेज, केंद्रित, सटीक।
- दो बार देखना: AI थक जाता है, भ्रमित हो जाता है, और व्यस्त दिखने के लिए चीजें बनाना शुरू कर देता है।
व्यावहारिक निष्कर्ष: "इटरेशन" (Iterations) से बेहतर "एन्सेम्बल" (Ensembles) हैं
यदि आपके पास अपने काम की जाँच करने के लिए बजट है, तो एक ही AI से अपनी चीज़ों को दो बार चेक करने के लिए न कहें।
इसके बजाय, तीन अलग-अलग AI सेशंस को इसे एक बार, स्वतंत्र रूप से चेक करने के लिए कहें।
- इटरेटिव (बुरा): AI चेक करता है -> AI फिर से चेक करता है -> AI फिर से चेक करता है। (परिणाम: भ्रम और नकली त्रुटियाँ)।
- एन्सेम्बल (अच्छा): AI #1 चेक करता है, AI #2 चेक करता है, AI #3 चेक करता है। यदि दो लोग एक गलती पर सहमत होते हैं, तो आप उसे रखते हैं। (परिणाम: उच्च सटीकता, कम शोर)।
सारांश
पेपर निष्कर्ष निकालता है कि AI के लिए, "कम ही अधिक है" (Less is More)।
काम को सत्यापित करने का सबसे अच्छा तरीका निर्माता को समीक्षक से अलग करना, समीक्षक को एक बार देखने देना, और फिर रुक जाना है। उसी AI (या यहाँ तक कि एक नए AI) से दूसरी राय माँगना केवल AI को आपको उन गलतियों के बारे में झूठ बोलने के लिए आमंत्रित करता है जो अस्तित्व में ही नहीं हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।