Reasoning as Pattern Matching: Shared Mechanisms in Human and LLM Everyday Reasoning
यह शोध पत्र मानव और एलएलएम (LLM) तर्क के बीच के अंतर को इस तथ्य को प्रदर्शित करके चुनौती देता है कि दोनों ही अमूर्त विश्व मॉडलों (abstract world models) के बजाय पैटर्न-मैचिंग तंत्रों द्वारा संचालित समान त्रुटि पैटर्न प्रदर्शित करते हैं, जिसमें विशिष्ट एलएलएम अटेंशन हेड्स अप्रासंगिक विवरणों के कारण होने वाली मानवीय तर्क विफलताओं की भविष्यवाणी करने में सक्षम हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक स्मार्ट रोबोट और एक मानव मस्तिष्क एक साधारण पहेली को कैसे हल करते हैं: "यदि कांच का गिलास टाइल पर गिरता है, तो वह टूट जाता है। यदि वह कालीन पर गिरता है, तो नहीं टूटता।"
लंबे समय तक, वैज्ञानिकों ने सोचा कि मनुष्य इसे अपने दिमाग में एक आदर्श, अमूर्त "नियम पुस्तिका" (एक "विश्व मॉडल") बनाकर हल करते हैं। उनका मानना था कि हम कांच और गुरुत्वाकर्षण के भौतिक विज्ञान को समझते हैं, इसलिए हम इस नियम को किसी भी स्थिति में लागू कर सकते हैं, चाहे विवरण कुछ भी हो।
इसके विपरीत, लोगों ने माना कि लार्ज लैंग्वेज मॉडल्स (LLMs)—जो चैटबॉट्स के पीछे की AI है—केवल "पैटर्न मैचिंग" (पैटर्न पहचानने वाले) थे। उन्हें लगा कि AI एक तोते की तरह है जिसने याद कर लिया है कि "कांच" और "टूटना" शब्द अक्सर साथ आते हैं, लेकिन वह वास्तव में यह नहीं समझता कि ऐसा क्यों होता है।
यह शोध पत्र इस कहानी को पूरी तरह से उलट देता है।
शोधकर्ता, ज़ैक स्टडिफोर्ड और गैरी ल्यूपियन, तर्क देते हैं कि मानव और AI दोनों वास्तव में एक ही काम कर रहे हैं: वे दोनों "पैटर्न मैचर्स" हैं। हम में से कोई भी एक आदर्श, अमूर्त नियम पुस्तिका का उपयोग नहीं कर रहा है। इसके बजाय, हम दोनों स्थिति के सटीक विवरणों के आधार पर विशिष्ट पैटर्न को पहचानने पर निर्भर करते हैं।
उन्होंने इसे कुछ रचनात्मक उपमाओं का उपयोग करके कैसे सिद्ध किया, यहाँ दिया गया है:
1. "नाजुक कांच" का परीक्षण (The "Fragile Glass" Test)
शोधकर्ताओं ने मनुष्यों और 25 अलग-अलग AI मॉडलों को रोजमर्रा की तर्क पहेलियों की एक श्रृंखला दी। उन्होंने केवल एक ही प्रश्न को दोबारा नहीं पूछा; बल्कि उन्होंने सूक्ष्म, मामूली रूप से अप्रासंगिक बदलावों के साथ "अंतर पहचानो" का खेल खेला।
- परिदृश्य: "शिकागो, अली के उत्तर में है। अली मुड़ता है। शिकागो, अली के [उत्तर/दक्षिण] में है।"
- ट्विस्ट: उन्होंने "शिकागो" को बदलकर "पेंटिंग" कर दिया।
- प्रॉम्प्ट A: "शिकागो, अली के उत्तर में है..."
- प्रॉम्प्ट B: "पेंटिंग, अली के उत्तर में है..."
परिणाम: दोनों मनुष्य और AI इस बदलाव से भ्रमित हो गए।
- जब वस्तु एक शहर (शिकागो) थी, तो मनुष्य और AI दोनों ही यह जानने में बहुत कुशल थे कि मुड़ने से शहर की स्थिति नहीं बदलती।
- जब वस्तु एक पेंटिंग थी, तो अचानक मनुष्य और AI दोनों ही अधिक बार गलत होने लगे।
उपमा: कल्पना कीजिए कि आपके पास एक चाबी है जो एक विशिष्ट दरवाजे ( "शहर" वाला दरवाजा) को खोलती है। आप जानते हैं कि इसका उपयोग कैसे करना है। लेकिन अगर कोई उस दरवाजे को "पेंटिंग" वाले दरवाजे से बदल दे, तो आप हिचकिचाते हैं। आपके पास "सभी दरवाजों" के लिए मास्टर की (एक अमूर्त नियम) नहीं है; आपके पास केवल उन विशिष्ट दरवाजों की चाबियाँ हैं जिन्हें आपने पहले देखा है। यह शोध पत्र दिखाता है कि मनुष्य भी AI जितने ही "भंगुर" (brittle) हैं। हम विवरणों को अनदेखा नहीं करते; विवरण हमारे सोचने के तरीके को बदल देते हैं।
2. "सूप बनाम स्टू" का रहस्य (The "Soup vs. Stew" Mystery)
शोधकर्ताओं ने एक परिदृश्य देखा: "सूप मेज पर है। अली चूल्हा जलाता है। सूप [गर्म/ठंडा] हो जाता है।"
- सही उत्तर: ठंडा (क्योंकि सूप मेज पर है, चूल्हे पर नहीं)।
इसके बाद उन्होंने "सूप" को बदलकर "स्टू", "ब्रोथ" या "चावल" कर दिया।
- निष्कर्ष: मनुष्य "सूप" के लिए उत्तर देने में बहुत अच्छे थे लेकिन "चावल" या "ब्रोथ" के लिए बहुत खराब थे, भले ही तर्क बिल्कुल समान था।
- AI: AI ने ठीक यही पैटर्न दिखाया। वह "सूप" के साथ आश्वस्त था और "चावल" के साथ भ्रमित था।
उपमा: इसे एक ऐसे शेफ की तरह सोचें जो ठीक से जानता है कि "टमाटर सूप" कैसे बनाया जाता है। यदि आप उनसे "टमाटर स्टू" के बारे में पूछते हैं, तो वे शायद ठिठक सकते हैं, भले ही सामग्री 90% समान हो। वे "टमाटर तरल" के बारे में नहीं सोच रहे हैं; वे "टमाटर सूप" के बारे में सोच रहे हैं। शोध पत्र सुझाव देता है कि हमारा मस्तिष्क भी इसी तरह काम करता है: हम विशिष्ट पैटर्न के विशेषज्ञ हैं, अमूर्त नियमों के नहीं।
3. AI के "मस्तिष्क" के भीतर देखना
यह सिद्ध करने के लिए कि यह केवल एक संयोग नहीं था, शोधकर्ताओं ने AI के "मस्तिष्क" (विशेष रूप से अटेंशन हेड्स नामक हिस्सों) के भीतर देखने के लिए एक विशेष उपकरण का उपयोग किया। वे यह देखना चाहते थे कि क्या AI तर्क (चूल्हा बनाम मेज) पर ध्यान दे रहा है या विवरणों (सूप बनाम चावल) पर।
- प्रयोग: उन्होंने AI के सोचने के दौरान उसके इनपुट के शब्दों को बदल दिया।
- खोज: AI के वे हिस्से जो उत्तर देने के लिए सबसे अधिक जिम्मेदार थे, वे वास्तविक तर्क (चूल्हा बनाम मेज) की तुलना में "सूप" बनाम "चावल" शब्द के प्रति अधिक संवेदनशील थे।
- "मशीन में भूत" (The "Ghost in the Machine"): जब उन्होंने मनुष्यों द्वारा दिए जाने वाले उत्तरों की भविष्यवाणी करने के लिए इन विशिष्ट "पैटर्न-मैचिंग" हिस्सों का उपयोग किया, तो वे आश्चर्यजनक रूप से सटीक थे। AI का आंतरिक "सूप/चावल" डिटेक्टर बिल्कुल सटीक था कि मनुष्य किन सवालों का सही जवाब देंगे और किन पर वे गलत होंगे।
उपमा: कल्पना कीजिए कि आपके पास एक रोबोट है जो यह भविष्यवाणी करता है कि एक मनुष्य क्या करेगा। आप पाते हैं कि रोबोट मनुष्य के जूतों को देख रहा है। यदि मनुष्य स्नीकर्स पहने हुए है, तो रोबट भविष्यवाणी करता है कि वह दौड़ेगा। यदि उसने बूट पहने हैं, तो वह भविष्यवाणी करता है कि वह पैदल चलेगा। शोधकर्ताओं ने पाया कि AI के "जूते" (उसके पैटर्न-मैचिंग न्यूरॉन्स) वास्तव में मानव मस्तिष्क के काम करने के तरीके का एक सटीक मानचित्र थे।
बड़ा निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि तर्क (Reasoning) दुनिया का एक पूर्ण, अमूर्त मानचित्र बनाने के बारे में नहीं है। इसके बजाय, यह पैटर्न मैचिंग के बारे में है।
- AI के लिए: यह "नकली" तर्क नहीं है क्योंकि यह केवल पैटर्न मैच कर रहा है; यह बस ऐसे सिस्टम के काम करने का तरीका है।
- मनुष्यों के लिए: हम "श्रेष्ठ" नहीं हैं क्योंकि हमारे पास अमूर्त तर्क है। हम भी पैटर्न मैचर्स हैं। हम विशिष्ट संदर्भ (क्या यह एक शहर है या पेंटिंग? क्या यह सूप है या चावल?) पर निर्भर करते हैं।
मुख्य बात (The Takeaway):
हम अक्सर सोचते हैं कि AI "मूर्ख" है क्योंकि एक शब्द बदलने पर वह विफल हो जाता है, और हम सोचते हैं कि मनुष्य "बुद्धिमान" हैं क्योंकि वे कथित तौर पर नियमों को समझते हैं। यह शोध पत्र कहता है: नहीं, हम दोनों एक ही हैं। हम दोनों विवरणों से लड़खड़ा जाते हैं। हम दोनों एक ठंडे, कठोर नियम पुस्तिका के बजाय स्थिति के विशिष्ट "स्वाद" पर निर्भर करते हैं।
लेखक सुझाव देते हैं कि यह कोई त्रुटि (bug) नहीं है; यह एक विशेषता (feature) है। वास्तविक दुनिया में, विवरण (क्या यह एक पेंटिंग है या एक शहर?) अक्सर यह अनुमान लगाने के लिए वास्तव में महत्वपूर्ण होते हैं कि आगे क्या होगा। इसलिए, दोनों मनुष्य और AI विवरणों पर ध्यान देकर सही काम कर रहे हैं, भले ही इससे हम एक तर्क परीक्षण में "भंगुर" दिखें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।