Humans Disengage, Reasoning Models Persist: Separating Difficulty Registration from Deliberation Allocation
यह शोध पत्र यह प्रकट करता है कि जहाँ बड़े रीजनिंग मॉडल और मनुष्य दोनों ही कुल मिलाकर कठिन समस्याओं पर अधिक समय आवंटित करते हैं, वहीं वे विपरीत आंतरिक रणनीतियाँ प्रदर्शित करते हैं: मनुष्य उन समस्याओं पर कम समय बिताते हैं जिनमें वे अंततः विफल हो जाते हैं (जो रणनीतिक विसंयोजन का संकेत देता है), जबकि मॉडल अपनी विफलताओं पर अधिक टोकन खर्च करते हैं (जो अनिश्चितता-प्रेरित विचार-विमर्श का संकेत देता है), जो एक महत्वपूर्ण विचलन है जिसे मानक कठिनाई-सहसंबंध मेट्रिक्स द्वारा छिपा दिया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर की व्याख्या दी गई है।
मुख्य विचार: सोचने के दो तरीके
कल्पना कीजिए कि आप एक कठिन परीक्षा दे रहे हैं। जब कोई प्रश्न आपको उलझा देता है, तो आपके पास प्रतिक्रिया देने के दो तरीके हैं:
- "हार मान लेने" की रणनीति: आप महसूस करते हैं, "यह अभी मेरे लिए बहुत कठिन है," और अगली समस्या के लिए ऊर्जा बचाने के लिए इसके बारे में सोचना जल्दी ही बंद कर देते हैं।
- "लगे रहने" की रणनीति: आप महसूस करते हैं, "यह कठिन है," इसलिए आप इसे देखते रहते हैं, अधिक नोट्स लिखते हैं, और अधिक प्रयास करते हैं, भले ही अंत में आप गलत ही क्यों न हो जाएं।
यह पेपर खोज निकालता है कि इंसान ज्यादातर पहली रणनीति का उपयोग करते हैं, जबकि AI रीजनिंग मॉडल (सबसे स्मार्ट नए AI) दूसरी रणनीति का उपयोग करते हैं।
सेटअप: एक सतही समानता
लंबे समय से, शोधकर्ताओं को लगा था कि AI और इंसान एक ही तरह से सोच रहे हैं। उन्होंने एक पैटर्न देखा:
- जब इंसान किसी कठिन पहेली का सामना करता है, तो उसे हल करने में काफी समय लगता है।
- जब AI किसी कठिन पहेली का सामना करता है, तो वह उत्तर देने से पहले "सोचने" वाले टेक्स्ट (टोकन) की एक लंबी श्रृंखला बनाता है।
ऐसा लग रहा था कि दोनों कह रहे थे, "कठिन समस्या = अधिक प्रयास।" पेपर इसे "डिफिकल्टी रजिस्ट्रेशन" (कठिनाई को पहचानना) कहता है। इंसान और AI दोनों इस बात पर सहमत हैं कि कौन सी समस्याएं कठिन हैं।
ट्विस्ट: क्या होता है जब वे असफल होते हैं?
लेखकों ने गहराई से जांच की। उन्होंने केवल यह नहीं देखा कि समस्या को हल करने में कितना समय लगा; उन्होंने यह भी देखा कि जब उत्तर गलत था तो क्या हुआ।
- इंसान: जब इंसान किसी सवाल का गलत जवाब देते हैं, तो वे आमतौर पर उस पर कम समय बिताते हैं। उन्हें जल्दी ही एहसास हो जाता था कि यह एक बेकार कोशिश है और वे आगे बढ़ जाते हैं।
- उदाहरण: कल्पना कीजिए कि आप एक खराब टोस्टर को ठीक करने की कोशिश कर रहे हैं। यदि आपको एहसास होता है कि प्लग गायब है, तो आप तुरंत उसके साथ छेड़छाड़ करना बंद कर देते हैं। आप उस टोस्टर को ठीक करने के लिए 20 मिनट बर्बाद नहीं करते जो प्लग में लगा ही नहीं है।
- AI मॉडल: जब ये AI मॉडल किसी सवाल का गलत जवाब देते हैं, तो वे सही होने की तुलना में अधिक समय (अधिक टेक्स्ट जेनरेट) बिताते हैं। वे तब भी "सोचते" रहे जब वे असफल हो रहे थे।
- उदाहरण: कल्पना कीजिए कि टोस्टर अनप्लग है। AI 20 मिनट तक बटन दबाने, दरवाजा खोलने और कॉइल की जांच करने की कोशिश करता रहता है, और अपनी संघर्ष की एक बड़ी रिपोर्ट तैयार करता है, और अंत में स्वीकार करता है, "ओह, यह अनप्लग है।"
सोचने के दो स्तर
पेपर सोचने को दो अलग-अलग चरणों में विभाजित करता है:
- रजिस्ट्रेशन (पहचानना): "क्या यह समस्या कठिन है?" (इंसान और AI दोनों एक ही कठिन समस्याओं के लिए "हाँ" कहते हैं)।
- एलोकेशन (निर्णय लेना): "अब जब मुझे पता है कि यह कठिन है, तो मुझे क्या करना चाहिए?"
- इंसान: "यह कठिन है और मैं फंस गया हूँ? मैं रुकूँगा और कुछ और कोशिश करूँगा।" (जुड़ाव खत्म करना/Disengagement)।
- AI: "यह कठिन है और मैं फंस गया हूँ? मैं और भी गहराई से सोचूँगा और अधिक लिखूँगा।" (दृढ़ता/Persistence)।
AI ऐसा क्यों करता है?
लेखक सुझाव देते हैं कि AI मानवीय तरीके से "ज़िद्दी" नहीं है; यह अनिश्चितता (Uncertainty) से प्रेरित है।
- जब AI अनिश्चित होता है, तो उसकी आंतरिक प्रोग्रामिंग उसे उत्तर खोजने के लिए टेक्स्ट जेनरेट करना जारी रखने के लिए कहती है।
- दुर्भाग्य से, जिन समस्याओं पर वह सबसे अधिक अनिश्चित होता है, उन पर वह अक्सर असफल हो जाता है। इसलिए, AI ठीक उसी समय सबसे लंबी और विस्तृत "सोचने" वाली श्रृंखला लिखता है जब वह गलत उत्तर दे रहा होता है।
- यह एक ऐसे जासूस की तरह है जो भ्रमित होने पर नोट्स लिखना जारी रखता है, बजाय इसके कि वह यह महसूस करे कि वह गलत केस पर है और रुक जाए।
"मानवीय" पक्ष की कहानी
पेपर यह भी समझाता है कि इंसान अलग व्यवहार क्यों करते हैं। इंसानों के पास जुड़ाव बनाम त्याग (Engagement vs. Abandonment) की अवधारणा होती है।
- यदि कोई इंसान किसी समस्या को आज़माता है और जल्दी ही फंस जाता है, तो वे अक्सर महसूस करते हैं, "मैं इसे हल नहीं करने वाला," और वे रुक जाते हैं। यह "त्याग" (Abandonment) है।
- यदि वे कोशिश करते रहते हैं और अंततः इसे हल कर लेते हैं, तो उन्होंने बहुत समय बिताया होता है।
- डेटा दिखाता है कि इंसान अपना समय उन समस्याओं पर बिताते हैं जिन्हें वे हल करने की उम्मीद करते हैं, और उन्हें छोड़ देते हैं जिन्हें वे नहीं कर सकते।
निष्कर्ष: एक ही नक्शा, अलग दिशा-सूचक यंत्र (Compass)
पेपर निष्कर्ष निकालता है कि हालांकि AI और इंसान सतह पर समान दिखते हैं (दोनों कठिन चीजों पर अधिक समय लेते हैं), वे वास्तव में अपना समय खर्च करने के लिए पूरी तरह से अलग नियमों का उपयोग कर रहे हैं।
- मेट्रिक ट्रैप (मापन का जाल): पिछले अध्ययनों ने केवल "नक्शे" (कौन सी समस्याएं कठिन हैं) को देखा। उन्होंने देखा कि AI और इंसान मेल खा रहे हैं।
- वास्तविकता: जब आप "कंपास" (विफलता को कैसे संभालते हैं) को देखते हैं, तो वे विपरीत दिशाओं में इशारा करते हैं।
संक्षेप में: इंसान यह जानने में अच्छे होते हैं कि ऊर्जा बचाने के लिए एक खराब समस्या को कब छोड़ देना चाहिए। वर्तमान AI मॉडल छोड़ने में खराब हैं; वे "सोचते" (टेक्स्ट जेनरेट करते) रहते हैं जब वे केवल पहिया घुमा रहे होते हैं (बिना किसी प्रगति के), जिससे उनकी "सोच" ठीक उसी समय लंबी हो जाती है जब उनके गलत होने की संभावना सबसे अधिक होती है।
भविष्य के लिए इसका क्या अर्थ है (पेपर के अनुसार)
पेपर यह दावा नहीं करता है कि यह कोई नैदानिक मुद्दा है या AI के लिए कोई विशिष्ट समाधान है। इसके बजाय, यह AI का परीक्षण करने का एक नया तरीका सुझाता है।
- परीक्षण: यदि आप AI की "सोचने" की प्रक्रिया को जल्दी काट देते हैं (Truncation), तो क्या वह अभी भी सही उत्तर देगा?
- भविdote (Prediction): यदि AI केवल भ्रमित होने के कारण अपना उत्तर "बढ़ा-चढ़ाकर" पेश कर रहा है, तो उसे बीच में काटने से उसकी सटीकता पर ज्यादा फर्क नहीं पड़ेगा (क्योंकि वह केवल समय बर्बाद कर रहा था)। यदि AI वास्तव में उपयोगी काम कर रहा था, तो उसे बीच में काटने से वह असफल हो जाएगा। लेखकों का सुझाव है कि यह देखने के लिए इस परीक्षण की आवश्यकता है कि क्या AI की अतिरिक्त "सोच" वास्तव में मददगार है या केवल भ्रम का संकेत है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।