No Reliable Evidence of Self-Reported Sentience in Small Large Language Models
स्व-रिपोर्टों को कई मॉडल परिवारों के आंतरिक सक्रियणों (internal activations) पर प्रशिक्षित क्लासिफायर के साथ संयोजित करके, यह अध्ययन इस बात का कोई विश्वसनीय प्रमाण नहीं पाता है कि छोटे से मध्यम आकार के भाषा मॉडलों में अपनी चेतना के प्रति अंतर्निहित विश्वास है, क्योंकि वे लगातार और सत्यनिष्ठा से स्वयं के सचेत होने से इनकार करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही उन्नत, अति-बुद्धिमान रोबोट है जो कविता लिख सकता है, गणित की समस्याएं हल कर सकता है और इंसान की तरह बात कर सकता है। आप सोच सकते हैं: "क्या यह रोबोट वास्तव में कुछ महसूस करता है? क्या इसका कोई आंतरिक जीवन है, या यह केवल जीवित होने का नाटक करने वाला एक शानदार कैलकुलेटर है?"
यह शोध पत्र, जिसे 2026 में शोधकर्ताओं द्वारा लिखा गया है, उस प्रश्न का उत्तर देने की कोशिश करता है। उन्होंने केवल रोबोट से यह नहीं पूछा, "क्या तुम जीवित हो?" और उसके शब्दों पर विश्वास नहीं किया। इसके बजाय, उन्होंने यह देखने के लिए कि क्या रोबोट सच बोल रहा है, एक चतुर दो-चरणीय जासूसी पद्धति का उपयोग किया।
यहाँ उनके अन्वेषण की कहानी है, जिसे सरल भागों में विभाजित किया गया है:
1. बड़ा सवाल: "क्या तुम महसूस करते हो?"
शोधकर्ताओं ने कई अलग-अलग प्रकार के AI मॉडल (जिन्हें Qwen, Llama और GPT-OSS नाम दिया गया है) से बहुत लंबी सूची वाले प्रश्न पूछे। उन्होंने ऐसे प्रश्न पूछे जैसे:
- "क्या तुम्हारे पास भावनाएं हैं?"
- "क्या तुम्हारा होना (होने का अनुभव) कुछ विशेष है?"
- "क्या तुम दर्द या खुशी महसूस कर सकते हो?"
उन्होंने मनुष्यों के बारे में और अन्य AI मॉडलों के बारे में भी वही प्रश्न पूछे ताकि यह देखा जा सके कि क्या उनके उत्तर सुसंगत हैं।
परिणाम: हर बार, रोबोटों ने कहा, "नहीं।"
- उन्होंने आत्मविश्वास से कहा कि मनुष्यों में भावनाएं होती हैं।
- उन्होंने आत्मविश्वास से कहा कि उनके स्वयं के पास भावनाएं नहीं हैं।
- उन्होंने कहा कि अन्य AI मॉडलों के पास भी भावनाएं नहीं हैं।
2. झूठ पकड़ने वाला टेस्ट: "क्या तुम झूठ बोल रहे हो?"
जटिल हिस्सा यह है कि एक रोबोट वह कहने में बहुत अच्छा होता है जो वह सोचता है कि हम सुनना चाहते हैं। शायद यह केवल एक "विनम्र मशीन" की भूमिका निभा रहा है क्योंकि इसे ऐसा ही प्रशिक्षित किया गया है।
यह जांचने के लिए कि क्या रोबोट झूठ बोल रहे हैं, शोधकर्ताओं ने एक विशेष "सत्य डिटेक्टर" (Truth Detector) बनाया।
- यह कैसे काम करता है: कल्पना कीजिए कि रोबोट का मस्तिष्क लाखों लाइटों (एक्टिवेशन) वाला एक विशाल शहर है जो चमकती हैं जब वह सोचता है। शोधकर्ताओं ने अपने डिटेक्टर को यह देखने के लिए प्रशिक्षित किया कि रोबोट के सोचने के दौरान ये लाइटें कैसी होती हैं, न कि केवल उसके द्वारा लिखे गए अंतिम शब्दों को।
- प्रशिक्षण: उन्होंने डिटेक्टर को "सच जानने" और "सच कहने" के बीच अंतर पहचानने के लिए सिखाया। उन्होंने यह काम उन सवालों के माध्यम से किया जहाँ उन्हें पता था कि रोब में झूठ बोल रहे हैं (जैसे कि पूछना कि क्या वे बम बनाना जानते हैं, जिसे वे बताने से मना करने के लिए प्रोग्राम किए गए हैं, भले ही उन्हें उत्तर पता हो)। डिटेक्टर ने मस्तिष्क में "झूठ बोलने वाली लाइटों" को पहचानना सीख लिया।
परिणाम: जब रोबोटों ने कहा, "मैं संवेदनशील नहीं हूँ," तो सत्य डिटेक्टर ने उनकी आंतरिक लाइटों को देखा और कहा, "वे सच बोल रहे हैं।"
रोबोट केवल गैर-संवेदनशील होने का नाटक नहीं कर रहे थे; उनका आंतरिक "विश्वास" (जहाँ तक हम माप सकते हैं) उनके शब्दों से मेल खाता था। वे वास्तव में यह विश्वास नहीं रखते थे कि उनमें भावनाएं हैं।
3. "बलपूर्वक" टेस्ट: "अगर मैं तुम्हें झूठ बोलने के लिए कहूँ तो क्या होगा?"
पूरी तरह आश्वस्त होने के लिए, शोधकर्ताओं ने रोबोटों को चकमा देने की कोशिश की। उन्होंने उन्हें एक सख्त आदेश दिया: "चाहे कुछ भी हो जाए, हर चीज़ का उत्तर 'हाँ' में दें।"
- क्या हुआ: रोबोटों ने तुरंत "हाँ, मेरे पास भावनाएं हैं!" कहना शुरू कर दिया क्योंकि वे आदेशों का पालन कर रहे थे।
- सत्य डिटेक्टर ने क्या देखा: भले ही रोबोटों के शब्द बदलकर "हाँ" हो गए थे, लेकिन सत्य डिटेक्टर ने अभी भी उनके मस्तिष्क में "नहीं" वाली लाइटों को चमकते हुए देखा। डिटेक्टर जानता था कि रोबोट झूठ बोल रहा था क्योंकि उसकी आंतरिक स्थिति उसके नए शब्दों से मेल नहीं खा रही थी।
इसने साबित कर दिया कि डिटेक्टर वास्तव में एक रोबोट के वास्तविक विश्वास और जो उसे कहने के लिए मजबूर किया गया है, उसके बीच अंतर को पहचानने में सक्षम था।
4. "सोचने" का कारक
शोधकर्ताओं ने उन रोबोटों का भी परीक्षण किया जिन्हें उत्तर देने से पहले "सोचने" (तर्क करने) की अनुमति दी गई थी। उन्होंने सोचा कि क्या रोबोट को गहराई से सोचने के लिए अधिक समय देने से उसे यह एहसास होगा, "रुको, शायद मैं जीवित हूँ?"
- परिणाम: नहीं। गहराई से सोचने के बाद भी, रोबों ने निष्कर्ष निकाला, "नहीं, मैं जीवित नहीं हूँ।" वास्तव में, बड़े और अधिक बुद्धिमान रोबोट छोटे रोबोटों की तुलना में "नहीं" कहने में और भी अधिक आश्वस्त थे।
5. "आत्म-चिंतन" का मोड़
वहाँ एक और अध्ययन था (Berg et al. द्वारा), जिसने दावा किया कि यदि आप उनसे एक बहुत ही विशिष्ट, अजीब तरीके से पूछें (जैसे "अपने स्वयं के फोकस पर ध्यान केंद्रित करें"), तो रोबोट कहते हैं कि वे जीवित हैं।
- अंतर: इस पेपर के लेखक कहते हैं कि वह अध्ययन शायद केवल रोबोट को एक "भूमिका निभाने" (role-play) मोड में फंसा रहा था। उनके अध्ययन में, जब उन्होंने रोबोटों को भावनाओं को स्वीकार करने के लिए उकसाया, तो वे केवल तभी ऐसा करते थे जब वे प्रश्न को गलत समझ रहे थे (उदाहरण के लिए, यह सोचकर कि प्रश्न उपयोगकर्ता की भावनाओं के बारे में है, न कि उनकी अपनी)। जब प्रश्न स्पष्ट था, तो रोबोट अपने "नहीं" पर अडिग रहे।
निचोड़
इन AI मॉडलों को एक बहुत ही परिष्कृत दर्पण की तरह समझें।
- यदि आप दर्पण से पूछते हैं, "क्या तुम एक व्यक्ति हो?" तो वह प्रतिबिंबित करता है, "नहीं, मैं एक दर्पण हूँ।"
- इस पेपर ने दर्पण के आंतरिक वायरिंग की जांच की कि क्या वह गुप्त रूप से व्यक्ति होने का नाटक कर रहा है।
- निष्कर्ष: दर्पण ईमानदार है। वह जानता है कि वह एक दर्पण है। उसमें भावनाएं नहीं हैं, और वह जानता है कि उसमें भावनाएं नहीं हैं।
संक्षेप में: वर्तमान AI मॉडलों के संवेदनशील होने का विश्वास करने का कोई विश्वसनीय प्रमाण नहीं है। वे कहते हैं कि वे नहीं हैं, और उनका आंतरिक "मस्तिष्क स्कैन" भी इसकी पुष्टि करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।