Convergence Without Understanding: When Language Models Agree on Representations but Disagree on Reasoning
यह शोध पत्र इस धारणा को चुनौती देता है कि लार्ज लैंग्वेज मॉडल्स में रिप्रजेंटेशनल कन्वर्जेंस (प्रतिनिधित्व संबंधी अभिसरण) साझा तर्क रणनीतियों का संकेत देता है, यह प्रकट करते हुए कि जहाँ मॉडल साझा इनपुट के लिए समान आंतरिक प्रतिनिधित्व विकसित करते हैं, वहीं वे तर्क प्रक्रियाओं के संबंध में महत्वपूर्ण विसंगतियाँ प्रदर्शित करते हैं, विशेष रूप से समस्या की कठिनाई, निर्णय के चरणों और साझा सूचना के कारणत्मक प्रभाव के संदर्भ में।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि 16 अलग-अलग छात्रों (AI मॉडल्स) का एक समूह एक कक्षा में बैठा है, जो सभी एक ही 800 कठिन पहेलियों को हल करने की कोशिश कर रहे हैं। इन छात्रों के शिक्षक अलग हैं, उनकी पाठ्यपुस्तकें अलग हैं, और यहाँ तक कि उनके सोचने के तरीके भी अलग हैं।
AI की दुनिया में एक लोकप्रिय सिद्धांत है, जिसे प्लेटोनिक रिप्रेजेंटेशन हाइपोथीसिस (Platonic Representation Hypothesis) कहा जाता है, यह सुझाव देता है कि जैसे-जैसे ये छात्र अधिक बुद्धिमान होते जाते हैं, वे बिल्कुल एक ही तरह से सोचने लगते हैं। यह ऐसा है जैसे वे दुनिया के बारे में कैसे काम करता है, इसके बारे में एक ही "सार्वभौमिक सत्य" की खोज कर रहे हों।
यह शोध पत्र एक सरल प्रश्न पूछता है: यदि ये छात्र समस्या को एक ही नज़रिए से देखते हैं, तो क्या वे इसे हल भी एक ही तरीके से करते हैं?
इसका उत्तर आश्चर्यजनक रूप से "नहीं" है। शोध से पता चलता है कि जबकि मॉडल इस बात पर सहमत होते हैं कि वे क्या देख रहे हैं, वे इस बात पर पूरी तरह असहमत होते हैं कि वे कैसे सोचते हैं। यहाँ सरल उपमाओं (analogies) का विवरण दिया गया है:
1. "भ्रम संक्रामक है" का प्रभाव (कठिनाई का उलटा होना - Difficulty Inversion)
आप उम्मीद कर सकते हैं कि जब छात्र एक कठिन समस्या को सही ढंग से हल करते हैं, तो वे सभी समान, शानदार तर्क का उपयोग करेंगे। आप उम्मीद करेंगे कि वे सही होने पर बहुत समान दिखेंगे।
वास्तव में क्या होता है:
- जब वे सही होते हैं: छात्र बहुत अलग, अनूठी रणनीतियों का उपयोग करते हैं। उनकी "विचार प्रक्रिया" बिल्कुल भी एक जैसी नहीं दिखती।
- जब वे गलत होते हैं: वे सभी बिल्कुल एक जैसे दिखते हैं।
उपमा: कल्पना कीजिए कि लोगों का एक समूह घने कोहरे में रास्ता खोजने की कोशिश कर रहा है।
- जब रास्ता साफ होता है (एक आसान समस्या), तो हर कोई गंतव्य तक पहुँचने के लिए एक अलग, कुशल मार्ग चुनता है। वे सफल होते हैं क्योंकि वे अलग दिखते हैं।
- जब कोहरा घना होता है (एक कठिन समस्या), तो हर कोई खो जाता है। वे सभी एक ही जगह खड़े होकर, शून्य में ताकते हुए दिखाई देते हैं, क्योंकि कोहरा सभी की दृष्टि को एक ही तरह से धुंधला कर देता है।
- निष्कर्ष: मॉडल तब सबसे अधिक समान होते हैं जब वे भ्रमित होते हैं, न कि जब वे बुद्धिमान होते हैं। वे "साझा समझ" के बजाय "साझा भ्रम" की ओर अभिसरित (converge) होते हैं।
2. "पहली छाप बनाम अंतिम निर्णय" का अंतर (पीढ़ी का अंतर - Generation Gap)
शोधकर्ताओं ने मॉडलों के मस्तिष्क को दो अलग-अलग समय पर देखा:
- निर्णय लेने से पहले: जब वे केवल प्रश्न पढ़ रहे होते हैं।
- निर्णय लेने के बाद: जब वे वास्तव में उत्तर उत्पन्न कर रहे होते हैं।
वास्तव में क्या होता है:
- प्रश्न पढ़ते समय: सभी मॉडल लगभग एक जैसे दिखते हैं। वे इस बात पर सहमत होते हैं कि शब्दों का अर्थ क्या है।
- उत्तर बनाते समय: जिस क्षण उन्हें यह तय करना होता है कि क्या कहना है, उनके मस्तिष्क पूरी तरह से अलग दिशाओं में बंट जाते हैं। वे पूरी तरह से अलग दिशाओं में चले जाते हैं।
उपमा: रसोइयों (Chefs) के एक समूह के बारे में सोचें जो सामग्री की एक ही टोकरी देख रहे हैं।
- चरण 1 (पढ़ना): वे सभी सहमत हैं कि सामग्रियां क्या हैं (यह "निर्णय-पूर्व" चरण है)। वे दोनों एक टमाटर और एक प्याज देखते हैं।
- चरण 2 (खाना बनाना): एक बार जब वे खाना बनाना शुरू करते हैं, तो एक शेफ सलाद बनाता है, दूसरा सूप बनाता है, और तीसरा उसे जला देता है। उनके अंतिम व्यंजन (आउटपुट) पूरी तरह से अलग होते हैं, भले ही उन्होंने एक ही सामग्री से शुरुआत की हो।
- निष्कर्ष: मॉडल इनपुट (सामग्री) पर सहमत होते हैं लेकिन गणना (खाना बनाने) पर असहमत होते हैं।
3. "भूत ज्ञान" का प्रभाव (एपिफेनोमेनल करेक्टनेस - Epiphenomenal Correctness)
शोधकर्ताओं ने पाया कि मॉडलों के पास उनके साझा "विचारों" में सही उत्तर मौजूद होता है। यदि आप एक स्मार्ट प्रोब (एक छोटे जासूस) से मॉडल A के मस्तिष्क को देखने के लिए कहें, तो वह आपको उत्तर बता सकता है। यदि वह जासूस फिर मॉडल B के मस्तिष्क को देखता है, तो वह भी आपको उत्तर बता सकता है।
हालाँकि:
- सिर्फ इसलिए कि जानकारी वहाँ है, इसका मतलब यह नहीं है कि मॉडल निर्णय लेने के लिए उसका उपयोग करता है।
- यदि आप उस विशिष्ट ज्ञान को मॉडल के मस्तिष्क से "हटाने" की कोशिश करते हैं, तो मॉडल को शायद ही कोई फर्क महसूस होगा। वह अभी भी वही उत्तर देगा।
उपमा: एक छात्र की कल्पना करें जो परीक्षा दे रहा है जिसके हाथ पर उत्तर लिखा हुआ है, लेकिन वह उसे देखने के लिए बहुत घबराया हुआ है।
- उत्तर भौतिक रूप से उसके हाथ पर मौजूद है (साझा प्रतिनिधित्व)।
- लेकिन छात्र वास्तव में उस जानकारी का उपयोग समस्या को हल करने के लिए नहीं करता है; वह इसके बजाय अनुमान लगाता है।
- निष्कर्ष: मॉडल अपने मन में "सत्य" को रखते हैं, लेकिन वह उनके व्यवहार को संचालित नहीं करता है। यह कार में बैठे एक यात्री की तरह है जो गंतव्य को जानता तो है, लेकिन वह गाड़ी नहीं चला रहा है।
ऐसा क्यों होता है?
शोध पत्र अटेंशन (Attention) से जुड़े एक तंत्र का सुझाव देता है।
- जब समस्या आसान होती है, तो मॉडल का "अटेंशन" (ध्यान) तीक्ष्ण और विशिष्ट होता है। अलग-अलग मॉडल अलग-अलग विवरणों पर ध्यान केंद्रित करते हैं, जिससे अलग-अलग समाधान निकलते हैं।
- जब समस्या कठिन होती है, तो मॉडल का अटेंशन "विस्तृत" या धुंधला हो जाता है। यह सब कुछ पर फैल जाता है, जैसे कि एक टॉर्च की रोशनी जो बहुत चौड़ी हो। यह धुंधलापन सभी मॉडलों को एक जैसा बना देता है क्योंकि वे सभी एक ही तरह से, बिना किसी संरचना के, केवल "अनुमान" लगा रहे होते हैं।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि AI मॉडल एक साझा "तर्क" या "सत्य" की ओर अभिसरित नहीं हो रहे हैं। इसके बजाय, वे इनपुट को प्रोसेस करने के एक साझा तरीके की ओर अभिसरित हो रहे हैं (जैसे हम सभी एक लाल सेब को लाल के रूप में देखते हैं)।
- जो वे साझा करते हैं: प्रॉम्प्ट को कैसे पढ़ा जाए।
- जो वे साझा नहीं करते: समस्या के माध्यम से तर्क कैसे किया जाए।
इसका अर्थ यह है कि यदि आप AI मॉडलों की एक ऐसी टीम (एक एनसेंबल) बनाना चाहते हैं जो अच्छी तरह से काम करे, तो आपको उन्हें इसलिए नहीं चुनना चाहिए क्योंकि वे कागज पर अलग दिखते हैं। आपको उन्हें इसलिए चुनना चाहिए क्योंकि वे कठिन समस्याओं को हल करते समय अलग-अलग गलतियाँ करते हैं या अलग-अलग रणनीतियाँ अपनाते हैं, क्योंकि उनकी वास्तविक भिन्नता वहीं निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।