Assessing Coherency and Consistency of Code Execution Reasoning by Large Language Models
यह शोध पत्र CES को प्रस्तुत करता है, जो एक नवीन मूल्यांकन ढांचा है जो शुद्धता और सुसंगतता दोनों के साथ प्रोग्राम निष्पादन (program execution) का अनुकरण करने की लार्ज लैंग्वेज मॉडल्स की क्षमता का आकलन करता है, यह प्रकट करते हुए कि उच्च सिमुलेशन सटीकता के बावजूद, अत्याधुनिक मॉडल वास्तविक तर्क के बजाय प्राकृतिक भाषा के शॉर्टकट पर निर्भर रहते हैं, जिससे जटिल प्रोग्रामिंग कार्यों में असंगत प्रदर्शन और सीमित सामान्यीकरणशीलता (generalizability) देखने को मिलती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो दावा करता है कि वह कंप्यूटर कोड लिख और समझ सकता है। आप उससे पूछते हैं, "अगर मैं इन नंबरों के साथ यह प्रोग्राम चलाऊं, तो क्या होगा?"
रोबोट आपको एक उत्तर देता है। लेकिन यहाँ एक समस्या है: क्या रोबोट वास्तव में एक मानव प्रोग्रामर की तरह चरणों के माध्यम से "सोच" रहा है, या वह केवल एक भाग्यशाली अनुमान या उस ट्रिक के आधार पर अंतिम उत्तर दे रहा है जो उसने अपने प्रशिक्षण के दौरान सीखी है?
यह शोध पत्र एक नया परीक्षण पेश करता है जिसे CES (कोड निष्पादन सिमुलेशन - Code Execution Simulation) कहा जाता है, ताकि सच्चाई का पता लगाया जा सके। CES को कोड तर्क (reasoning) के लिए एक "झूठ पकड़ने वाली मशीन" (lie detector) के रूप में समझें।
मुख्य समस्या: "जादुई ट्रिक" बनाम वास्तविक समझ
कल्पना कीजिए कि आप एक छात्र को भाग (division) करना सिखा रहे हैं।
- वास्तविक समझ: छात्र हर चरण लिखता है: "मैं 10 को 2 से विभाजित करता हूँ, मुझे 5 मिलता है। मैं 5 को 2 से गुणा करता हूँ, मुझे 10 मिलता है..."
- "जादुic ट्रिक" (शॉर्टकट): छात्र नंबरों को देखता है, किसी ऐसी मिलती-जुलती समस्या को याद करता है जिसे उसने अपनी याददाश्त से निकाला है, और सीधे अंतिम उत्तर लिख देता है: "5।"
यदि आप केवल अंतिम उत्तर की जाँच करते हैं, तो छात्र एकदम सही दिखता है। लेकिन यदि आप उनसे अपना काम दिखाने के लिए कहते हैं, तो आप पाएंगे कि उन्होंने वास्तव में गणित नहीं किया था।
वर्तमान AI मॉडल "जादुic ट्रिक" में माहिर हैं। वे अक्सर कोड समस्याओं के लिए सही अंतिम उत्तर दे देते हैं बिना कोड को चरण-दर-चरण सिम्युलेट किए। वे फंक्शन के नाम, प्राकृतिक भाषा के विवरण, या क्योंकि उन्होंने पहले से ही उस सटीक समस्या को देखा है (डेटा लीकेज), इसके आधार पर अनुमान लगा सकते हैं।
CES कैसे काम करता है: "चरण-दर-चरण" ऑडिट
CES खेल बदल देता है। केवल AI से यह पूछने के बजाय कि "आउटपुट क्या है?", CES पूछता है: "मुझे हर एक चरण के माध्यम से ले चलें। वेरिएबल A का मान क्या है? वेरिएबल B का मान क्या है? आपने कौन सा रास्ता चुना?"
यह शोध पत्र AI को परखने के लिए दो मुख्य अवधारणाएं पेश करता है:
1. सुसंगति (Coherency - क्या कहानी सुसंगत है?)
यह जाँचता है कि क्या AI की आंतरिक कहानी तर्कसंगत है, भले ही अंतिम उत्तर गलत हो।
- सुसंगत (अच्छा): AI कहता है, "मैंने 2 और 2 को जोड़ा जिससे 4 मिला। फिर मैंने 4 को 2 से गुणा किया जिससे 8 मिला।" भले ही गणित वास्तव में अलग होना चाहिए था, AI प्रक्रिया के माध्यम से तार्किक रूप से सुसंगत है। यह प्रक्रिया के माध्यम से सोच रहा है।
- असुसंगत (बुरा): AI कहता है, "मैंने 2 और 2 को जोड़ा जिससे 4 मिला। फिर मैंने उस 4 को जादुई रूप से 100 में बदल दिया क्योंकि फंक्शन का नाम 'हंड्रेड' जैसा सुनाई देता है।"
- पकड़ने वाली बात: कभी-कभी, एक AI सही अंतिम उत्तर (100) देता है लेकिन गलत, अतार्किक कारणों (भ्रम या hallucination) से। CES इसे पकड़ लेता है। यह कहता है, "आपको सही नंबर मिल गया, लेकिन आपका तर्क एक झूठ था। हम इसे सफलता के रूप में नहीं गिनते।"
2. निरंतरता (Consistency - क्या वे इसे दोबारा कर सकते हैं?)
यह जाँचता है कि क्या AI विश्वसनीय है।
- मजबूत निरंतरता (Strong Consistency): AI अलग-अलग शुरुआती नंबरों के साथ उसी पहेली को हल कर सकता है और हर बार सही उत्तर दे सकता है। वह वास्तव में तर्क को समझता है।
- कमजोर निरंतरता (Weak Consistency): AI केवल तभी सही होता है जब पहेली बिल्कुल वैसी ही हो जैसी उसने पहले देखी है। यदि आप नंबरों को थोड़ा भी बदलते हैं, तो वह विफल हो जाता है।
- यादृच्छिक (Random): AI केवल अनुमान लगा रहा है। वह 50% समय सही होता है, लेकिन यह शुद्ध भाग्य है।
उन्होंने क्या पाया?
शोधकर्ताओं ने इस नए परीक्षण का उपयोग करके 16 अलग-अलग AI मॉडल (प्रसिद्ध GPT-4 और DeepSeek-R1 सहित) का परीक्षण किया। यहाँ आश्चर्यजनक परिणाम दिए गए हैं:
- "स्मार्ट" मॉडल सबसे बड़े झूठे हैं: सबसे उन्नत मॉडल (जैसे GPT-4) वास्तव में निरंतर होने में सबसे खराब थे। वे अंतिम उत्तर का अनुमान लगाने में बहुत अच्छे थे लेकिन चरणों को तार्किक रूप से समझाने में बहुत खराब थे। वे "प्राकृतिक भाषा शॉर्टकट्स" (कोड लॉजिक के बजाय शब्दों के आधार पर अनुमान लगाना) पर बहुत अधिक निर्भर थे।
- "जादू" आम है: AI द्वारा दिए गए "सही" उत्तरों का एक बड़ा हिस्सा वास्तव में संदिग्ध था। AI ने सही उत्तर प्राप्त किया, लेकिन उसका चरण-दर-चरण तर्क पूरी तरह से गलत था। यह ऐसा था जैसे कोई छात्र बहुविकल्पीय परीक्षा में उत्तर का अनुमान लगाता है लेकिन एक नकली स्पष्टीकरण लिखता है जो संयोग से उत्तर कुंजी से मेल खाता है।
- बग फिक्सिंग (Bug Fixing) एक जुआ है: शोध पत्र ने देखा कि AI बग्स को कैसे ठीक करता है। उन्होंने पाया कि जब AI किसी बग को "ठीक" करता है, तो यह अक्सर इसलिए नहीं होता क्योंकि उसने समझा कि कोड क्यों टूटा। यह अक्सर इसलिए होता है क्योंकि उसने एक पैटर्न को पहचाना या अनुमान लगाया। यदि आप उसे एक बिल्कुल नया प्रकार का बग देते हैं जिसे उसने पहले नहीं देखा है, तो वह विफल हो सकता है क्योंकि उसने वास्तव में कोड निष्पादन के बारे में "सोचना" नहीं सीखा है।
बड़ी सीख
वर्तमान AI कोड विशेषज्ञों को प्रतिभाशाली अभिनेताओं के रूप में समझें। वे एक स्क्रिप्ट को याद कर सकते हैं और एक आदर्श प्रदर्शन (सही कोड आउटपुट) दे सकते हैं। लेकिन यदि आप उन्हें एक ऐसा दृश्य इम्प्रोवाइज (तत्काल अभिनय) करने के लिए कहते हैं जिसका उन्होंने अभ्यास नहीं किया है (एक नया, जटिल लॉजिक पाथ), तो वे अक्सर अपना किरदार तोड़ देते हैं क्योंकि वे वास्तव में कथानक (निष्पादन तर्क) को नहीं समझते हैं।
CES वह निर्देशक है जो नाटक को रोकता है और कहता है, "रुको! मुझे अपनी स्क्रिप्ट दिखाओ। क्या तुमने वास्तव में लाइनें पढ़ी हैं, या तुमने सिर्फ अंत को याद कर लिया है?"
यह उपकरण हमें AI पर केवल इसलिए भरोसा करने से रोकने में मदद करता है क्योंकि वह सही उत्तर देता है, और हमें यह माँगने के लिए प्रेरित करता है कि वह वास्तव में यह समझे कि वह वहां तक कैसे पहुँचा। यह सुरक्षा के लिए महत्वपूर्ण है, विशेष रूप से जब हम चिकित्सा उपकरणों या स्व-चालित कारों जैसी चीजों के लिए कोड लिखने के लिए AI का उपयोग करते हैं, जहाँ एक "भाग्यशाली अनुमान" पर्याप्त नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।