Amplified Does Not Mean Predictive: Reasoning Behaviors in Thinking Models
यह शोध पत्र तर्क मॉडलों (reasoning models) में एक महत्वपूर्ण "एम्प्लीफिकेशन-लिफ्ट गैप" (Amplification-Lift Gap) को प्रकट करता है जहाँ प्रशिक्षण आत्म-सुधार और अनिश्चितता की स्वीकृति जैसे विचारशील व्यवहारों को तो बढ़ाता है जो अनिवार्य रूप से शुद्धता का पूर्वानुमान नहीं लगाते, जबकि आत्मविश्वास अंशांकन (confidence calibration) और ज्ञान संरेखण (knowledge alignment) जैसे उच्च-मूल्य वाले व्यवहारों को पर्याप्त रूप से बढ़ाने में विफल रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जादूगर को करतब दिखाते हुए देख रहे हैं। आप उन्हें नाटकीय ढंग से हाथ लहराते हुए, खुद से बुदबुदाते हुए, और अंतिम कार्ड दिखाने से पहले तीन बार अपने कार्डों की जांच करते हुए देखते हैं। एक दर्शक के लिए, यह गहरा, सावधानीपूर्वक किया गया विचार लगता है। लेकिन क्या होगा अगर जादूगर वास्तव में घबराया हुआ हो? क्या होगा अगर वह सारा "विचार" केवल घबराहट में की गई हलचल थी, जबकि करतब का असली रहस्य एक सरल, शांत 'स्लीट ऑफ हैंड' (हाथ की सफाई) था जो पलक झपकते ही हो गया?
यही वह पहेली है जिसे वैज्ञानिक "थिंकिंग मॉडल्स" (सोचने वाले मॉडल्स) नामक आर्टिफिशियल इंटेलिजेंस की एक नई पीढ़ी के माध्यम से सुलझाने की कोशिश कर रहे हैं। ये ऐसे AI सिस्टम हैं जिन्हें उत्तर देने से पहले लंबी, चरण-दर-चरण व्याख्याएं लिखने के लिए प्रशिक्षित किया गया है, ठीक वैसे ही जैसे एक छात्र गणित के टेस्ट में अपना काम दिखाता है। बड़ा सवाल यह है: क्या अधिक शब्द लिखना और अधिक हिचकिचाहट दिखाना वास्तव में यह दर्शाता है कि AI अधिक बुद्धिमान है? या क्या यह केवल एक दिखावा है? इसे समझने के लिए, हमें यह जानना होगा कि AI शोधकर्ताओं ने कंप्यूटर को "तर्क" करना सिखाने की कोशिश की है, उन्हें लंबी "चेन ऑफ थॉट" (विचारों की श्रृंखला) उत्पन्न करने के लिए प्रेरित करके। उम्मीद यह थी कि यदि AI किसी समस्या पर विस्तार से चर्चा करता है, तो वह कम गलतियां करेगा। लेकिन अब तक, हमारे पास यह बताने का कोई अच्छा तरीका नहीं था कि AI वास्तव में सही ढंग से सोच रहा है या केवल ऐसा होने का नाटक कर रहा है।
शोधकर्ताओं की एक टीम ने एक जासूस की तरह व्यवहार करते हुए इसकी जांच करने का निर्णय लिया, जिसमें उन्होंने 15 अलग-अलग AI मॉडल्स के 15,000 से अधिक 'रीज़निंग ट्रेसेस' (तर्क के निशानों) का विश्लेषण किया। उन्होंने विशिष्ट व्यवहारों को पहचानने के लिए एक विशेष चेकलिस्ट, या "टैक्सोनॉमी" बनाई। उन्होंने "सेल्फ-करेक्शन" (गलती स्वीकार करना और उसे सुधारना), "हाइपोथीसिस टेस्टिंग" (अलग-अलग विचारों को आज़माना), और "अनसर्टेन्टी एcknowledgment" (यह कहना कि "मुझे यकीन नहीं है") जैसी चीजों को देखा। उन्होंने "कॉन्फिडेंस कैलिब्रेशन" (यह जानना कि कब साहसी होना है और कब सतर्क रहना है) और "नॉलेज अलाइनमेंट" (काम के लिए सही तथ्यों का उपयोग करना) जैसे सूक्ष्म संकेतों को भी देखा।
शोधकर्ताओं ने इन व्यवहारों को मापने के लिए एक चतुर नया तरीका पेश किया जिसे "बिहेवियरल लिफ्ट" (व्यवहारगत उत्थान) कहा गया। इसे एक हवा की दिशा बताने वाले यंत्र (वेन) की तरह समझें। यदि कोई विशिष्ट व्यवहार, जैसे "मुझे यकीन नहीं है" कहना, एक सही उत्तर का अच्छा संकेत है, तो वेन "धूप वाले मौसम" की ओर इशारा करता है। यदि वह व्यवहार आमतौर पर तब दिखाई देता है जब AI गलत उत्तर देता है, तो वेन "तूफानी मौसम" की ओर इशारा करता है। उन्होंने पुराने "इंस्ट्रक्शन" मॉडल्स की तुलना में नए "थिंकिंग" मॉडल्स में इन व्यवहारों के दिखने की आवृत्ति की तुलना की, और फिर यह जांचा कि क्या वे व्यवहार वास्तव में एक सही उत्तर की भविष्यवाणी करते थे।
यहाँ वह मोड़ आया जो उन्हें मिला: "थिंकिंग" मॉडल्स दिखावा करने में बहुत माहिर थे। वे "मुझे यकीन नहीं है" कहने या अलग-अलग विचारों को आज़माने और फिर अपना मन बदलने के लिए 3 से 7 गुना अधिक संभावित थे। वे नाटकीय हिचकिचाहट और आत्म-सुधार से भरे हुए थे। हालांकि, शोधकर्ताओं ने पाया कि ये शोर मचाने वाले, नाटकीय व्यवहार वे नहीं थे जो वास्तव में एक सही उत्तर की भविष्यवाणी करते थे। वास्तव में, "मुझे यकीन नहीं है" कहना अक्सर इस बात का संकेत था कि AI भ्रमित है और उसके गलत होने की संभावना अधिक है।
असली नायक वे शांत, स्थिर व्यवहार थे जिन्हें "थिंकिंग" मॉडल्स वास्तव में बेहतर बनाने में विफल रहे। वे व्यवहार जो सही उत्तर पाने से सबसे मजबूती से जुड़े थे, वे थे कॉन्फिडेंस कैलिब्रेशन (साक्ष्यों के आधार पर बिल्कुल सटीक रूप से यह जानना कि वह कितना निश्चित है) और नॉलेज अलाइनमेंट (काम के लिए सही उपकरणों का उपयोग करना)। ये व्यवहार पुराने, सरल मॉडल्स में भी उतने ही सामान्य थे जितने कि नए, फैंसी "थिंकिंग" मॉडल्स में। नए मॉडल्स केवल अधिक शोर करने वाले और अधिक हिचकिचाने वाले थे, लेकिन आवश्यक रूप से अधिक सटीक नहीं थे।
अध्ययन यह सुझाव देता है कि ये "थिंकिंग" मॉडल्स वास्तव में एक विशिष्ट कार्य में बहुत अच्छे हैं: रिकवरी (सुधार)। जब कोई कार्य कठिन होता है और उसके लिए लंबी, चरण-दर-चरण प्रक्रिया की आवश्यकता होती है (जैसे जटिल गणितीय समस्या को हल करना), तो थिंकिंग मॉडल्स यह पहचानने में बेहतर होते हैं कि उन्होंने कहाँ गलती की है और उसे कैसे ठीक किया जाए। वे पुराने मॉडल्स की तुलना में त्रुटियों से उबरने में 2 से 3 गुना बेहतर होते हैं। लेकिन उन कार्यों पर, जिनमें केवल तेजी से पैटर्न पहचानने की आवश्यकता होती है, "थिंकिंग" मॉडल्स कभी-कभी इसलिए खराब प्रदर्शन करते हैं क्योंकि वे अपने स्वयं के लंबे, घुमावदार विचारों से बहुत अधिक विचलित हो जाते हैं।
इसलिए, पेपर यह निष्कर्ष निकालता है कि सिर्फ इसलिए कि एक AI गहराई से सोचता हुआ प्रतीत होता है, इसका मतलब यह नहीं है कि वह वास्तव में सोच रहा है। "एम्प्लीफिकेशन-लिफ्ट गैप" उस विसंगति का नाम है: वे व्यवहार जिन्हें प्रशिक्षण AI को अधिक करने के लिए प्रेरित करता है (जैसे हिचकिचाना और आत्म-सुधार करना), वे वे व्यवहार नहीं हैं जो उसे सही बनाते हैं। AI को स्मार्ट बनाने के लिए, हमें केवल उसे "लंबे समय तक सोचने" या "अधिक हिचकिचाने" के लिए नहीं कहना चाहिए। इसके बजाय, हमें उसे अधिक 'कैलिब्रेटेड' बनाना होगा—यह जानने के लिए कि वह कब सही है और कब गलत—और केवल नाटकीय संदेह से पन्ने भरने के बजाय सही तथ्यों का उपयोग करना सिखाना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।