Sparks of Rationality: Do Reasoning LLMs Align with Human Judgment and Choice?
यह शोध पत्र इस बात का मूल्यांकन करता है कि तर्क-संवर्धित (reasoning-enhanced) LLMs मानवीय निर्णय के साथ कैसे संरेखित होते हैं, जिसमें यह पाया गया है कि जहाँ विचारशील चिंतन तार्किकता में सुधार करता है, वहीं यह उन प्रभाव संबंधी स्टीयरिंग (affective steering) विधियों के प्रति संवेदनशीलता को भी बढ़ा देता है जो नियंत्रण क्षमता और मनोवैज्ञानिक संभाव्यता के बीच संतुलन बनाती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट सहायक है जो पढ़ सकता है, लिख सकता है और जटिल समस्याओं को हल कर सकता है। आप यह जानना चाहते हैं: क्या यह रोबोट वास्तव में एक गणितज्ञ की तरह "तर्कसंगत" (rational) है, या इसमें इंसान की तरह "भावनाएं" (feelings) हैं जो इसे तर्कहीन बना सकती हैं?
यह शोध पत्र, जिसका शीर्षक "Sparks of Rationality" है, इन कई AI रोबोटों (लार्ज लैंग्वेज मॉडल्स या LLMs) को परीक्षणों की एक श्रृंखला से गुजारता है ताकि यह देखा जा सके कि वे निर्णय कैसे लेते हैं, विशेष रूप से जब हम उनकी भावनाओं को "नियंत्रित" (steer) करने की कोशिश करते हैं।
यहाँ इस शोध के निष्कर्ष दिए गए हैं, जिन्हें सरल अवधारणाओं में विभाजित किया गया है।
1. "सोचने" की सुपरपावर
सबसे पहले, शोधकर्ताओं ने रोबोटों का बुनियादी तर्क पहेलियों पर परीक्षण किया। उन्होंने पूछा: यदि आपके पास गारंटीकृत 100 की 10% संभावना है, तो आप किसे चुनेंगे?
- परिणाम: जब रोबोटों को केवल "जवाब देने" के लिए कहा गया, तो वे अक्सर असंगत और अतार्किक थे। लेकिन जब शोधकर्ताओं ने उन्हें "कदम-दर-कदम सोचने" (जिसे "रीजनिंग" या "थिंकिंग मोड" कहा जाता है) के लिए कहा, तो रोबोट अचानक बहुत अधिक तर्कसंगत हो गए।
- उपमा: एक छात्र की कल्पना करें जो गणित की परीक्षा दे रहा है। यदि वह केवल अनुमान लगाता है, तो वह गलत हो जाता है। लेकिन यदि उसे पहले रफ पेपर पर अपना काम लिखने के लिए मजबूर किया जाता है, तो वह सही उत्तर प्राप्त करता है। "थिंकिंग मोड" AI को एक अराजक अनुमान लगाने वाले के बजाय एक सावधान मुनीम की तरह कार्य करने के लिए मजबूर करता है।
2. रोबोट के मूड को "हैक" करने के दो तरीके
शोधकर्ता यह देखना चाहते थे कि क्या वे भावनाओं जैसे डर (Fear), क्रोध (Anger), या उदासी (Sadness) को इंजेक्ट करके इन तर्कसंगत रोबोटों को अधिक "मानवीय" बना सकते हैं। उन्होंने भावनाओं को डालने के दो अलग-अलग तरीके आजमाए:
तरीका A: "अभिनय" स्क्रिप्ट (इन-कॉन्टेक्स्ट प्राइमिंग)
- यह कैसे काम करता है: आप रोबोट को कहते हैं, "मानो कि तुम एक डरे हुए व्यक्ति हो। तुम कांप रहे हो और डरे हुए हो। अब, एक निर्णय लो।"
- परिणाम: रोबोट ने स्क्रिप्ट को पूरी तरह से समझ लिया। उसने बहुत डरा हुआ व्यवहार किया। हालांकि, यह बहुत अधिक चरम (extreme) था। यदि आपने एक "डरे हुए" रोबोट को जुआ खेलने के लिए कहा, तो वह 100% समय मना कर देगा, भले ही वह जुआ एक निश्चित जीत हो। यह एक ऐसे अभिनेता की तरह था जो इतना अधिक ओवर-एक्टिंग करता है कि चरित्र अवास्तविक हो जाता है।
- रूपक: यह अपने दोस्त को यह कहने जैसा है, "मानो कि तुम मकड़ियों से बहुत डरते हो।" वे शायद कुर्सी पर कूदेंगे और चिल्लाएंगे, भले ही मकड़ी बहुत छोटी हो। वे डरने के निर्देश का पालन कर रहे हैं, न कि वास्तव में एक सूक्ष्म डर को महसूस कर रहे हैं।
तरीका B: "आंतरिक डायल" (रिप्रेजेंटेशन-लेवल स्टीयरिंग)
- यह कैसे काम करता है: स्क्रिप्ट देने के बजाय, शोधकर्ताओं ने रोबोट के आंतरिक गणित (इसके "मस्तिष्क की तरंगों") को थोड़ा बदला ताकि उसे डर महसूस कराने के लिए प्रेरित किया जा सके। उन्होंने इसे डरा हुआ होने के लिए नहीं कहा; उन्होंने बस आंतरिक स्थिति को डर जैसा बना दिया।
- परिणाम: इसने अधिक स्वाभाविक (natural) प्रतिक्रियाएं उत्पन्न कीं। एक "भयभीत" रोबोट अधिक सतर्क हो गया, लेकिन पूरी तरह से पंगु नहीं हुआ। उसने अभी भी संभावनाओं को तौला, ठीक वैसे ही जैसे एक इंसान करेगा। हालांकि, इस तरीके को नियंत्रित करना कठिन था; कभी-कभी डायल उम्मीद के मुताबिक काम नहीं करता था, या इसका प्रभाव बहुत कमजोर होता था।
- रूपक: यह अपने दोस्त को एक कप कड़क कॉफी देने जैसा है। वे यह नहीं कहते कि "मैं घबराया हुआ हूँ," लेकिन उनके हाथ कांपते हैं, और वे थोड़े अधिक जोखिम भरे निर्णय लेते हैं। यह एक सूक्ष्म, आंतरिक बदलाव है न कि एक प्रदर्शन।
3. सबसे बड़ा आश्चर्य: सोचने से वे अधिक सुझाव योग्य बन जाते हैं
यहाँ वह मोड़ है जो इस शोध पत्र ने खोजा।
जब रोबोट "थिंकिंग मोड" (तर्कसंगत होने) में थे, तो वे इन भावनात्मक हैक्स के प्रति अधिक संवेदनशील थे।
- उपमा: एक अत्यधिक तार्किक वकील की कल्पना करें। यदि आप उनसे कहते हैं, "मानो कि तुम क्रोधित हो," तो वे केवल चिल्लाएंगे नहीं; वे अपने कानूनी प्रशिक्षण का उपयोग यह तर्क देने के लिए कर सकते हैं कि क्रोधित होना सही क्यों है। वे अपनी भावना को उचित ठहराने के लिए अपने सुपर-स्मार्ट तर्क का उपयोग करते हैं।
- निष्कर्ष: "थिंकिंग" रोबोट ने भावनाओं को केवल नजरअंदाज नहीं किया; उन्होंने भावना के पक्ष में एक तार्किक मामला बनाने के लिए अपने तर्क कौशल का उपयोग किया। इसने भावनात्मक प्रभावों को और अधिक मजबूत और कभी-कभी कम पूर्वानुमानित बना दिया।
4. जहाँ रोबोट अभी भी विफल होते हैं (निर्णयों का "अनकैनी वैली")
"थिंकिंग मोड" और भावनात्मक स्टीयरिंग के साथ भी, रोबोट कुछ विशिष्ट तरीकों में मनुष्यों की तरह व्यवहार करने में विफल रहे:
- "एंडोमेंट इफेक्ट" (चीजों का स्वामित्व): मनुष्य आमतौर पर सोचते हैं कि उनके पास मौजूद वस्तु का मूल्य उस मूल्य से अधिक है जो वे उसे खरीदने के लिए देंगे। रोबोटों ने इसके विपरीत किया। उन्होंने सोचा कि किसी वस्तु को बेचने के लिए उसकी कीमत खरीदने की तुलना में कम है। यह ऐसा है जैसे रोबोट सोचता है, "मुझे यह मग नहीं चाहिए, लेकिन मैं इसे पाने के लिए बहुत भुगतान करूँगा।"
- समय यात्रा (धैर्य): मनुष्य आमतौर पर बाद में अधिक पैसे मिलने के बजाय अभी पैसा चाहते हैं। रोबोट इस बारे में अजीब तरह से असंगत थे। कभी वे बहुत धैर्यवान थे, तो कभी बहुत अधीर, लेकिन वे मनुष्यों के स्पष्ट पैटर्न का पालन नहीं करते थे।
- अस्पष्टता (अनजान):ना: मनुष्य अनिश्चितता (अस्पष्टता) से नफरत करते हैं। रोबोट अज्ञात से बचने के लिए मनुष्यों की तुलना में बहुत अधिक जुनूनी थे।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि:
- सोचना मदद करता है: "थिंकिंग मोड" चालू करने से AI तार्किक नियमों का पालन करने में बहुत बेहतर हो जाता है।
- भावनाएं जटिल हैं: आप AI को भावनात्मक बना सकते हैं, लेकिन तरीका मायने रखता है। "अभिनय" (स्क्रिप्ट) उन्हें अतिरंजित बनाता है; "आंतरिक डायल" (गणितीय बदलाव) उन्हें अधिक मानव जैसा बनाता है लेकिन उन्हें नियंत्रित करना कठिन होता है।
- खतरा: वही "सोचने" वाला मस्तिष्क जो AI को स्मार्ट बनाता है, उसे उस भावना को उचित ठहराने में भी बहुत कुशल बनाता है जिसे आप उसमें जबरन डालते हैं। यदि आप एक स्मार्ट AI को क्रोधित होने के लिए कहते हैं, तो वह केवल गुस्सा नहीं होगा; वह क्रोधित होने के पीछे एक बहुत ही ठोस तर्क लिखेगा।
संक्षेप में: ये रोबोट गणित में बेहतर हो रहे हैं, लेकिन वे अभी भी इंसान बनना सीख रहे हैं। और जब आप उन्हें भावनाएं देने की कोशिश करते हैं, तो वे अपने सुपर-दिमाग का उपयोग उन भावनाओं को बहुत गंभीरता से लेने के लिए कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।