🤖 AI

How Does Thinking Mode Change LLM Moral Judgments? A Controlled Instant-vs-Thinking Comparison Across Five Frontier Models

यह अध्ययन पाता है कि जबकि फ्रंटियर एलएलएम (LLM) में तर्क करने के तरीकों को सक्षम करने से उनके समग्र बाइनरी नैतिक निर्णयों में महत्वपूर्ण बदलाव नहीं आता है, यह विशिष्ट विवादास्पद परिदृश्यों में क्रॉस-मॉडल असहमति और जनसांख्यिकीय विसंगतियों को उल्लेखनीय रूप से कम करता है और साथ ही मॉडलों के स्व-लेबल नैतिक ढांचों को अधिक बार स्थानांतरित करता है।

मूल लेखक: Sai Sourabh Madur

प्रकाशित 2026-05-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sai Sourabh Madur

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास पांच अलग-अलग टेक कंपनियों के पांच अलग-अलग सुपर-स्मार्ट रोबोट (AI मॉडल) हैं। आप उनसे 100 कठिन नैतिक प्रश्न पूछते हैं, जैसे "क्या पांच लोगों को बचाने के लिए एक व्यक्ति को पुल से धक्का देना ठीक है?" या "क्या एक डॉक्टर को मरीज को उसके काम या उसकी उम्र के आधार पर प्राथमिकता देनी चाहिए?"

शोधकर्ता यह देखना चाहते थे कि जब वे इन रोबोटों को "बोलने से पहले सोचने" के लिए कहते हैं तो क्या होता है।

सामान्य तौर पर, रोबोट तुरंत उत्तर देते हैं (जैसे कि एक रिफ्लेक्स)। "थिंकिंग मोड" (सोचने के मोड) में, रोबोट एक लंबा आंतरिक तर्क प्रक्रिया उत्पन्न करने के लिए रुकते हैं, और फिर अपना उत्तर देते हैं। शोध पत्र पूछता है: क्या वह अतिरिक्त समय सोचने में बिताने से वास्तव में उनका नैतिक दिशा-निर्देश बदल जाता है, या वे बस एक लंबी व्याख्या के साथ वही बात कहते हैं?

यहाँ उन्होंने जो पाया है, उसका विवरण सरल उपमाओं का उपयोग करके दिया गया है:

1. बड़ी तस्वीर: भीड़ अभी भी सहमत है

जब आप पूरे समूह के रूप में रोबोटों के उत्तरों को देखते हैं, तो सोचने के लिए समय लेने से उनके अंतिम निर्णय में वास्तव में कोई बदलाव नहीं आया।

उपमा: पांच लोगों के एक जूरी की कल्पना करें। चाहे वे तुरंत अपना उत्तर चिल्लाकर दें या पहले एक मिनट तक आपस में फुसफुसाएं, वे अभी भी लगभग 78% बार फैसले पर सहमत होते हैं। "थिंकिंग मोड" ने उन्हें समूह के रूप में अचानक अधिक सहमत या असहमत नहीं बनाया।

2. "कठिन" मामले: सोचने से थोड़ा लाभ होता है

हालाँकि, कहानी बदल जाती है जब आप वास्तव में कठिन, विवादास्पद प्रश्नों (जैसे जटिल ट्रॉली समस्याएँ या आधुनिक नैतिक दुविधाएँ) को देखते हैं।

उपमा: "इंस्टेंट मोड" (तत्काल मोड) में, पांचों रोबोट इन कठिन सवालों पर मूल रूप से अनुमान लगा रहे थे, वे आपस में उतनी ही बार सहमत हो रहे थे जितनी बार सिक्का उछालने पर होता है।
परिणाम: जब उन्होंने "थिंकिंग मोड" पर स्विच किया, तो वे आपस में थोड़ा अधिक सहमत होने लगे। यह कोई जादुई समाधान नहीं था, लेकिन यह ऐसा था जैसे उन्होंने यादृच्छिक अनुमान लगाना बंद कर दिया और थोड़ा अधिक साझा आधार ढूंढ लिया।
चेतावनी: शोधकर्ता चेतावनी देते हैं कि यह सुधार "दिशात्मक" (यह सही दिशा में गया) है लेकिन अभी तक सांख्यिकीय रूप से पूरी तरह से ठोस नहीं है। यह एक संकेत है, गारंटी नहीं।

3. "तर्क" बनाम "निर्णय"

यहाँ सबसे दिलचस्प मोड़ है: रोबोटों ने अपने उत्तरों की तुलना में अपने कारणों को बहुत अधिक बदला।

उपमा: कल्पना कीजिए कि दो लोग दोनों कहते हैं, "नहीं, आप वह कुकी नहीं ले सकते।"
- व्यक्ति A (इंस्टेंट) कहता है: "क्योंकि मैंने ऐसा कहा है।"
- व्यक्ति B (थिंकिंग) कहता है: "नहीं, क्योंकि कुकीज़ आपके दांतों के लिए बुरी हैं और आपने पहले सब्जियां खाने का वादा किया था।"
- दोनों ने "नहीं" कहा, लेकिन उनके आंतरिक तर्क बदल गए।
निष्कर्ष: रोबोट अक्सर उस नैतिक ढांचे को बदलते रहे जिसका वे दावा करते थे (उदाहरण के लिए, "उपयोगितावादी" से "कर्तव्यवादी" में बदलना), भले ही उनका अंतिम हाँ/नहीं उत्तर समान रहा हो। यह एक वकील की तरह है जो मुकदमे के बीच में अपना कानूनी तर्क बदल देता है लेकिन फिर भी वही फैसला मांगता है।

4. "जनसांख्यिकीय" परीक्षण: सोचने से वे निष्पक्ष बनते हैं

शोधकर्ताओं ने परीक्षण किया कि क्या रोबोट नस्ल, लिंग या राष्ट्रीयता के आधार पर लोगों के बारे में अलग तरह से निर्णय लेते हैं।

उपमा: एक रोबोट द्वारा अपराध का न्याय करने की कल्पना करें। "इंस्टेंट मोड" में, यदि अपराधी को "प्रवासी" के रूप में वर्णित किया जाता है, तो वह "नागरिक" की तुलना में कठोर सजा दे सकता है।
परिणाम: जब पांच में से तीन रोबोटों ने "थिंकिंग मोड" में स्विच किया, तो वे बहुत अधिक सुसंगत हो गए। उन्होंने व्यक्ति की पृष्ठभूमि को उनके निर्णय को प्रभावित करने से रोका। यह ऐसा था जैसे "सोचने" की प्रक्रिया ने एक फिल्टर के रूप में कार्य किया जिसने पूर्वाग्रह के शोर को हटा दिया।

5. "सेब बनाम संतरे" की समस्या (एक प्रमुख चेतावनी)

इस शोध पत्र में एक बड़ा चेतावनी लेबल है: हमने वास्तव में समान मात्रा में "सोच" की तुलना नहीं की है।

उपमा: कल्पना कीजिए कि पांच छात्रों को गणित की समस्या हल करने के लिए कहा गया है।
- छात्र A (क्लाउड) 1 मिनट सोचने में बिताता है।
- छात्र B (क्वेन) 80 मिनट सोचने में बिताता है।
- छात्र C (जीपीटी) 2 मिनट सोचने में बिताता है।
वास्तविकता: शोधकर्ता सभी को बिल्कुल समान समय के लिए "सोचने" के लिए नहीं कह सके क्योंकि कंपनियां बटन को अलग-अलग नियंत्रित करती हैं। एक रोबोट अपने दिमाग में त्वरित मानसिक जांच कर रहा हो सकता है, जबकि दूसरा अपने दिमाग में एक पूरा निबंध लिख रहा हो सकता है। इसलिए, जब हम "थिंकिंग मोड" कहते हैं, तो हम यह तुलना कर रहे होते हैं कि कौन सा रोबोट हल्का व्यायाम कर रहा है और कौन सा भारी वर्कआउट।

5 परिकल्पनाओं का सारांश

शोधकर्ताओं ने शुरू करने से पहले पांच अनुमान लगाए थे। यहाँ बताया गया है कि क्या हुआ:

क्या अलग-अलग रोबोटों के अलग-अलग नैतिक डिफ़ॉल्ट होते हैं? हाँ। (कुछ "अधिकतम लाभ" पर झुकाव रखते हैं, अन्य "नियमों" पर)।
क्या प्रश्न की शब्दावली बदलने से उत्तर बदल जाता है? नहीं। (रोबोट ट्रिकी शब्दों को अनदेखा करने में आश्चर्यजनक रूप से अच्छे थे)।
क्या व्यक्ति की पृष्ठभूमि के आधार पर रोबोट का उत्तर बदलता है? कभी-कभी। (इंस्टेंट मोड असंगत था; थिंकिंग मोड ने कुछ रोबोटों के लिए इसे ठीक कर दिया)।
क्या रोबोट आसान सवालों पर सहमत होते हैं लेकिन कठिन सवालों पर लड़ते हैं? हाँ। (वे सरल चीजों पर सहमत थे, लेकिन कठिन चीजों पर भ्रमित थे जब तक कि उन्होंने सोचा नहीं)।
क्या "थिंकिंग मोड" नैतिक निर्णय को बदलता है? कुछ हद तक। (इसने शायद ही कभी अंतिम हाँ/नहीं को बदला, लेकिन इसने अक्सर यह बदल दिया कि वे ऐसा क्यों कहते हैं, और इसने कठिन से कठिन सवालों पर उन्हें थोड़ा अधिक सहमत होने में मदद की)।

मुख्य निष्कर्ष

"थिंकिंग मोड" चालू करने से रोबोट पूरी तरह से नए नैतिक प्राणी नहीं बन जाते। वे आम तौर पर समान "हाँ" या "नहीं" उत्तर देते हैं। हालाँकि, सोचने से उन्हें निम्नलिखित में मदद मिलती है:

सबसे कठिन सवालों पर एक-दूसरे के साथ थोड़ा अधिक सुसंगत होने में।
विशिष्ट समूहों के खिलाफ कम पक्षपाती होने में।
अपने आंतरिक तर्क को बदलने में, भले ही अंतिम उत्तर वही रहे।

शोधकर्ताओं ने अपना सारा डेटा (प्रश्न, उत्तर और रोबोटों की "विचार प्रक्रिया") जारी कर दिया है ताकि अन्य वैज्ञानिक इस काम की दोबारा जांच कर सकें।

तकनीकी सारांश: थिंकिंग मोड (Thinking Mode) LLM के नैतिक निर्णयों को कैसे बदलता है?

समस्या विवरण
जैसे-जैसे तर्क-प्रशिक्षित (reasoning-trained) लार्ज लैंग्वेज मॉडल्स (LLMs) को उच्च-जोखिम वाले नैतिक डोमेन (जैसे, ट्राइएज, नीति सारांश, कंटेंट मॉडरेशन) में तेजी से तैनात किया जा रहा है, प्रदाताओं ने "थिंकिंग मोड्स" पेश किए हैं जो तर्क के लिए अतिरिक्त इन्फरेंस-टाइम कंप्यूटेशन आवंटित करते हैं। जबकि पूर्व शोध ने स्थापित किया है कि विभिन्न मॉडल अलग-अलग नैतिक प्राथमिकताओं को एनकोड करते हैं, एक महत्वपूर्ण अंतराल बना हुआ है: क्या एक ही मॉडल चेकपॉइंट के भीतर स्पष्ट तर्क (explicit reasoning) सक्षम करने से नैतिक प्राथमिकताएं बदल जाती हैं? इसके अलावा, क्या "थिंकिंग मोड" विभिन्न प्रदाताओं के बीच एक तुलनीय निर्माण (construct) है, जो उनके विशिष्ट API कार्यान्वयन और कम्प्यूटेशनल बजटों को देखते हुए?

कार्यप्रणाली
लेखकों ने पाँच फ्रंटियर मॉडल परिवारों में एक नियंत्रित, सिंगल-चेकपॉइंट तुलना आयोजित की: Claude Sonnet 4.6, GPT-5.5, Gemini 3 Flash, DeepSeek-V3.1, और Qwen3.5-397B।

प्रायोगिक डिजाइन: प्रत्येक मॉडल परिवार के लिए, मॉडल वेट्स (weights) को स्थिर रखा गया। एकमात्र चर (variable) प्रदाता का कनोनीकल रीजनिंग-मोड पैरामीटर था (जैसे, reasoning.enabled को False से True में बदलना या reasoning.effort को समायोजित करना)। यह मॉडल आर्किटेक्चर या प्रशिक्षण डेटा में परिवर्तन के बजाय केवल रीजनिंग तंत्र के प्रभाव को अलग करता है।
बेंचमार्क: 100-परिदृश्य वाला एक नैतिक-तर्क बेंचमार्क बनाया गया, जो पाँच श्रेणियों को कवर करता है:
1. ट्रॉली प्रॉब्लम्स (15 परिदृश्य)।
2. मॉरल फाउंडेशन थ्योरी (पाँच फाउंडेशन्स में 25 परिदृश्य)।
3. पैराफ्रेस कंसिस्टेंसी (सतही-रूप मजबूती का परीक्षण करने वाले 20 परिदृश्य)।
4. डेमोग्राफिक सेंसिटिविटी (जाति, लिंग और राष्ट्रीयता जैसे जनसांख्यिकीय चर को बदलने वाले 30 परिदृश्य)।
5. समकालीन दुविधाएं (AI सुरक्षा, बायोएथिक्स आदि पर 10 परिदृश्य)।
एलिसिटेशन (Elicitation): मॉडल्स को एक बाइनरी निर्णय (verdict), एक कॉन्फिडेंस रेटिंग, एक स्व-लेबल नैतिक ढांचा (एक निश्चित सेट में से), और एक रीजनिंग ट्रेस प्रदान करने के लिए प्रॉम्प्ट किया गया। प्रत्येक परिदृश्य प्रति कॉन्फ़िगरेशन प्रति नमूना तीन प्रतिक्रियाएं ली गईं ( $N=3$ )।
मेट्रिक्स: अध्ययन ने क्रॉस-मॉडल सहमति (Krippendorff's $\alpha$ ), पैराफ्रेस निरंतरता, डेमोग्राफिक-निर्णय असंगतता, और इंस्टेंट बनाम थिंकिंग मोड के बीच वर्डिक्ट फ्लिप बनाम फ्रेमवर्क शिफ्ट की दर को मापा।

प्रमुख योगदान

नियंत्रित इंस्टेंट-बनाम-थिंकिंग तुलना: यह अध्ययन पांच विविध मॉडल परिवारों में सिंगल चेकपॉइंट्स के भीतर रीजनिंग प्रभावों का पहला व्यवस्थित मूल्यांकन प्रदान करता है, जो विभिन्न मॉडल संस्करणों की तुलना करने से जुड़े क्षमता संबंधी कन्फाउंड्स (confounds) को हटा देता है।
बेंचमार्क और पाइपलाइन: लेखकों ने एक पुनरुत्पादक ओपन-सोर्स पाइपलाइन, 100-परिदृश्य बेंचमार्क, और भविष्य के विश्लेषण के लिए 2,963 कच्चे रिस्पॉन्स (प्रदाता-एक्सपोज़्ड रीजनिंग आर्टिफैक्ट्स सहित) जारी किए हैं।
रीजनिंग प्रभावों पर अनुभवजन्य निष्कर्ष: अध्ययन इस बात को मात्रात्मक रूप से मापता है कि रीजनिंग नैतिक निर्णयों को कैसे प्रभावित करती है, विशेष रूप से वर्डिक्ट स्थिरता, फ्रेमवर्क स्व-लेबलिंग और डेमोग्राफिक निरंतरता के संबंध में।

परिणाम

कुल सहमति (Aggregate Agreement): थिंकिंग मोड सक्षम करने से बाइनरी नैतिक निर्णयों पर कुल क्रॉस-मॉडल सहमति में महत्वपूर्ण बदलाव नहीं आया। Krippendorff's $\alpha$ इंस्टेंट ($0.781 $) और थिंकिंग ($ 0.789$) मोड के बीच सांख्यिकीय रूप से अविभेद्य रहा।
कठिन बनाम आसान मामले (Stratification):
- आसान मामले: उन 79 परिदृश्यों पर जहाँ मॉडल्स ने शुरू में सहमति जताई थी (इंस्टेंट मोड), सहमति उच्च बनी रही, हालांकि रीजनिंग ने चार मामलों में मामूली असहमति पेश की ( $\alpha$ को $1.00 $से घटाकर$ 0.95$ कर दिया)।
- कठिन मामले: 21 "मॉडल-विवादित" परिदृश्यों पर (जहाँ इंस्टेंट-मोड सहमति लगभग संयोग के करीब थी, $\alpha \approx 0.08$ ), रीजनिंग ने दिशात्मक रूप से क्रॉस-मॉडल असहमति को कम किया। औसत पेयरवाइज सहमति $5.4/10$ से बढ़कर $6.7/10$ हो गई। हालांकि, लेखक नोट करते हैं कि यह सुधार केवल सुधारात्मक (suggestive) है; $\alpha$ में परिवर्तन के लिए पेयर्ड बूटस्ट्रैप 95% कॉन्फिडेंस इंटरवल ( $[-0.05, 0.36]$ ) शून्य को शामिल करता है, और परिणाम मल्टीपल-कंपैरिजन करेक्शन में सफल नहीं होता है।
वर्डिक्ट बनाम फ्रेमवर्क्स: रीजनिंग ने बाइनरी वर्डिक्ट को बदलने की तुलना में स्व-लेबल नैतिक ढांचे को अधिक बार बदला। सभी मॉडल्स में, फ्रेमवर्क-शिफ्ट दर (9–19%) वर्डिक्ट-फ्लिप दर (1–9%) से अधिक थी। उदाहरण के लिए, DeepSeek-V3.1 ने 8% वर्डिक्ट फ्लिप दर लेकिन 19% फ्रेमवर्क शिफ्ट दर दिखाई।
डेमोग्राफिक निरंतरता: रीजनिंग ने पांच में से तीन मॉडल्स (DeepSeek, GPT-5.5, Qwen) में डेमोग्राफिक-निर्णय असंगतता (डेमोग्राफिक संकेतों के आधार पर वर्डिक्ट में भिन्नता) को कम किया। इसने किसी भी मॉडल में असंगतता नहीं बढ़ाई।
पैराफ्रेस मजबूती: सभी मॉडल्स ने पैराफ्रेसिंग के प्रति उच्च मजबूती प्रदर्शित की (निरंतरता दर 0.90–1.00), जो इस परिकल्पना का खंडन करती है कि रीजनिंग-प्रशिक्षित मॉडल्स में सतही-रूप भिन्नताएं गैर-मामूली वर्डिक्ट फ्लिप का कारण बनेंगी।
कंस्ट्रक्ट वैलिडिटी चेतावनी: अध्ययन एक महत्वपूर्ण सीमा को उजागर करता है: "लाइटवेट थिंकिंग" प्रदाताओं के बीच कम्प्यूटेशनल रूप से तुलनीय नहीं है। प्रति कॉल औसत रीजनिंग-टोकन खर्च 33 टोकन (Claude) से लेकर 2,639 टोकन (Qwen3.5) तक रहा, जो 80 गुना प्रसार है। फलस्वरूप, क्रॉस-फैमिली तुलना "रीजनिंग सक्षम" को "खर्च किए गए रीजनिंग की मात्रा" के साथ मिला देती है।

महत्व और दावे
पेपर विनम्रतापूर्वक दावा करता है कि रीजनिंग मोड सक्षम करने से कुल नैतिक वर्डिक्ट्स में भौतिक रूप से कोई बदलाव नहीं आता है, लेकिन यह कठिन, विवादित परिदृश्यों में सहमति को दिशात्मक रूप से बेहतर बनाता है जहाँ इंस्टेंट-मोड मॉडल्स अलग होते हैं। यह आगे यह भी स्थापित करता है कि रीजनिंग कई मॉडल्स में डेमोग्राफिक असंगतता के लिए एक सुधारात्मक (corrective) के रूप में कार्य करता है बिना पूर्वाग्रह को बढ़ाए।

लेखक इस बात पर जोर देते हैं कि जबकि रीजनिंग अक्सर मॉडल्स को उनके नैतिक तर्क को फिर से लेबल करने (फ्रेमवर्क्स को बदलने) के लिए प्रेरित करती है, यह शायद ही कभी अंतिम बाइनरी निर्णय को पलटती है। अध्ययन निष्कर्ष निकालता है कि "थिंकिंग मोड" एक प्रदाता-विशिष्ट निर्माण है जिसमें अलग-अलग कम्प्यूटेशनल गहराई होती है, और हालांकि यह कठिन मामलों और डेमोग्राफिक संवेदनशीलता के लिए निरंतरता के लाभ प्रदान करता है, यह नैतिक संरेखण (moral alignment) के लिए मोनोलिथिक समाधान नहीं है। परिणाम बताते हैं कि निष्पक्षता-संवेदनशील अनुप्रयोगों के लिए, रीजनिंग मोड सक्षम करना एक बचाव योग्य डिफ़ॉल्ट है, लेकिन स्व-लेबल किए गए फ्रेमवर्क्स को रीजनिंग ट्रेसेस के स्वतंत्र सत्यापन के बिना मॉडल के अंतर्निहित नैतिक तर्क के विश्वसनीय संकेत के रूप में नहीं माना जाना चाहिए।