Auditing Generative AI Error Patterns in Applied Differential Calculus: Evidence from ChatGPT and Gemini
यह वर्णनात्मक-मूल्यांकनकारी अध्ययन प्रयुक्त अवकल कलन (डिफरेंशियल कैलकुलस) में ChatGPT और Gemini के प्रदर्शन का ऑडिट करता है, जो यह प्रकट करता है कि यद्यपि दोनों मॉडल अलग-थलग प्रक्रियाओं को निष्पादित कर सकते हैं, वे कथात्मक स्थितियों को फलनों (फंक्शंस) में बदलने, सीमा संबंधी बाधाओं (बाउंड्री कंस्ट्रेंट्स) को संभालने और अंकगणितीय निरंतरता बनाए रखने में बार-बार विफल होते हैं, जिससे यह सुझाव मिलता है कि शिक्षा में उनके समाधानों का उपयोग बिना प्रश्न किए गए उत्तरों के बजाय आलोचनात्मक कलाकृतियों (क्रिटीक आर्टिफैक्ट्स) के रूप में किया जाना चाहिए।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने वास्तविक दुनिया की समस्याओं से जुड़ी कठिन गणितीय पहेलियों को हल करने के लिए दो बेहद बुद्धिमान, अत्यधिक बातूनी रोबोटों, ChatGPT और Gemini, को काम पर रखा है। आप उनसे पूछते हैं कि एक व्यवसाय के लिए अधिकतम पैसा कैसे बनाया जाए, एक कण कितनी तेजी से चल रहा है, या एक रॉकेट कितनी ऊंचाई तक उड़ेगा। आप उम्मीद करते हैं कि वे एकदम सटीक कैलकुलेटर होंगे, है ना?
खैर, शोधकर्ता पोलेमर एम. क्वार्टो द्वारा किए गए एक नए अध्ययन ने इन रोबोटों को परखने का फैसला किया। इसके निष्कर्ष कुछ इस तरह हैं जैसे आपको पता चले कि आपका पसंदीदा रोबोट शेफ सब्जियां काटने में तो माहिर है, लेकिन वह नमक डालना भूल जाता है, या इससे भी बुरा, वह सोचता है कि रेसिपी में नमक की जगह चीनी डालनी थी।
मुख्य खोज: "प्रवाहपूर्ण लेकिन त्रुटिपूर्ण" का जाल
अध्ययन में पाया गया कि हालांकि ये AI उपकरण यांत्रिक गणितीय चरणों को करने में बहुत अच्छे हैं—जैसे कि डेरिवेटिव (derivative) या इंटीग्रल (integral) निकालना—लेकिन वे अक्सर तब लड़खड़ा जाते हैं जब उन्हें एक कहानी को गणितीय समीकरण में अनुवादित करना होता है या शुरुआती स्थितियों (starting conditions) को याद रखना होता है।
इसे ऐसे समझें: यदि आप एक रोबोट को घर बनाने के लिए कहते हैं, तो वह ईंटें (गणितीय संचालन) पूरी तरह से बिछा सकता है। लेकिन अगर वह आपके ब्लूप्रिंट को गलत समझ लेता है और सोचता है कि आपने झोपड़ी के बजाय एक महल मांगा था (गणितीय मॉडल), तो ईंटें कितनी भी सफाई से क्यों न रखी गई हों, पूरा घर गलत होगा।
पेपर सुझाव देता है कि ये उपकरण विश्वसनीय "उत्तर कुंजी" (answer keys) नहीं हैं जिन्हें आप बस कॉपी कर सकें। इसके बजाय, इनका उपयोग गलतियां खोजने के लिए अभ्यास साथी के रूप में बेहतर तरीके से किया जा सकता है। शोधकर्ताओं का तर्क है कि इन उपकरणों के बारे में सबसे खतरनाक बात यह नहीं है कि वे गणित गलत करते हैं; बल्कि यह है कि वे गणित को गलत करते हैं जबकि वे पूरी तरह से आत्मविश्वासी और पेशेवर सुनाई देते हैं।
तीन बड़ी गलतियाँ
अध्ययन ने तीन विशिष्ट प्रकार की समस्याओं को देखा, और रोबोटों ने प्रत्येक में एक ही तरह की बाधाओं का सामना किया:
1. बिजनेस मिक्स-अप (सिमेंटिक-टू-अल्जेब्रिक ट्रांसलेशन)
कल्पना कीजिए कि एक स्टोर मालिक कहता है, "यदि मैं कीमत $10 कम करता हूँ, तो मैं 20 अधिक आइटम बेचता हूँ।"
- विशेषज्ञ का तरीका: इसका मतलब है कि कीमत कम होती है तो बिक्री बढ़ती है। गणितीय ढलान (slope) नकारात्मक है।
- AI का तरीका: ChatGPT और Gemini दोनों कभी-कभी इसे उल्टा कर देते हैं। उन्होंने एक ऐसा मॉडल बनाया जहाँ कीमत कम करने से बिक्री कम हो गई, या उन्होंने संबंध को पूरी तरह से उलट दिया।
- परिणाम: इसके बाद उन्होंने एक टूटे हुए मॉडल पर सटीक गणित किया। यह उस गंतव्य तक पहुँचने के सबसे तेज़ रास्ते की गणना करने जैसा है जिसका अस्तित्व ही नहीं है। पेपर नोट करता है कि बिजनेस समस्या में, AI ने एक "पॉजिटिव-स्लोप डिमांड रिलेशन" पेश किया, जो आर्थिक रूप से निरर्थक है (यह संकेत देता है कि कीमतें बढ़ने से बिक्री बढ़ती है, जो समस्या के विपरीत है)।
2. "घोस्ट" शुरुआती बिंदु (बाउंड्री-कंडीशन ट्रैकिंग)
भौतिकी (physics) में, यदि आप एक 140 फुट के टॉवर से गेंद गिराते हैं, तो आपको उस 140 फुट की ऊंचाई को याद रखना होगा।
- विशेषज्ञ का तरीका: आप उस "140" को पूरे समय अपने समीकरण में बनाए रखते हैं।
- AI का तरीका: ChatGPT अक्सर शुरुआती ऊंचाई को भूल जाता है या उसे शून्य पर सेट कर देता है। यह ऐसा है जैसे रोबोट ने गेंद को देखा, उसे गिरते हुए देखा, और तय किया, "ओह, यह ज़मीन से शुरू हुई होगी!" भले ही आपने उसे बताया था कि यह एक टॉवर से शुरू हुई थी।
- परिणाम: गेंद के ज़मीन पर टकराने के समय के लिए अंतिम उत्तर गलत था क्योंकि रोबोट उस समस्या को हल कर रहा था जो आपने पूछी थी, न कि असली समस्या को।
3. अंकगणितीय चूक (सत्यापन और संदर्भ)
कभी-कभी सेटअप ठीक होता था, लेकिन अंतिम गणना गलत हो जाती थी।
- AI का तरीका: Gemini रॉकेट समीकरण सेट करने में अच्छा था लेकिन अंतिम क्वाड्रेटिक फॉर्मूला (समय खोजने के लिए गणित) को हल करते समय लड़खड़ा गया। इसने कभी-कभी गुरुत्वाकर्षण के बारे में अजीब, अप्रासंगिक स्पष्टीकरण भी जोड़े जिनकी आवश्यकता नहीं थी।
- परिणाम: उत्तर प्रशंसनीय लग रहा था लेकिन संख्यात्मक रूप से अस्थिर था। पेपर इस बात पर प्रकाश डालता है कि ये उपकरण "प्रवाहपूर्ण लेकिन त्रुटिपूर्ण स्पष्टीकरण" दे सकते हैं, और अप्रासंगिक जानकारी डाल सकते हैं जो वास्तविक त्रुटि से ध्यान भटकाती है।
पेपर क्या कहता है कि आपको क्या नहीं करना चाहिए
शोधकर्ता इस बारे में बहुत स्पष्ट हैं कि क्या नहीं करना है। वे इन AI टूल्स को एक "अनकहे उत्तर स्रोत" के रूप में उपयोग करने के खिलाफ तर्क देते हैं।
- न करें केवल समाधान को कॉपी करना क्योंकि यह व्यवस्थित दिखता है और इसमें सभी सही सूत्र हैं।
- न मानें कि क्योंकि AI आत्मविश्वास से भरा हुआ लगता है, इसलिए वह सही है।
- न सोचें कि यदि अंतिम संख्या करीब दिखती है, तो पूरी प्रक्रिया वैध है।
पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि ये उपकरण कैलकुलस में मानव निर्णय को बदलने के लिए तैयार हैं। वास्तव में, अध्ययन सुझाव देता है कि बिना जांच किए उन पर भरोसा करना खतरनाक है क्योंकि त्रुटियां एक "पॉलिश की हुई" प्रस्तुति के भीतर छिपी होती हैं।
हम कितने आश्वस्त हैं?
लेखक इसे सभी AI पर "अंतिम निर्णय" कहने में सावधान हैं। वे स्वीकार करते हैं कि उनका अध्ययन विशिष्ट समस्याओं के एक छोटे समूह (बिजनेस, पार्टिकल मोशन और वर्टिकल मोशन) पर आधारित है जिसे 2026 की शुरुआत में हल किया गया था। वे सुझाव देते हैं कि ये त्रुटि पैटर्न इन विशिष्ट कार्यों में वास्तविक और अवलोकन योग्य हैं, लेकिन वे यह दावा नहीं करते कि उन्होंने AI द्वारा सामना किए जाने वाले हर संभावित गणितीय प्रश्न को मापा है।
उन्होंने पाया कि इन उपकरणों ने "आंशिक प्रक्रियात्मक सक्षमता" (वे चरणों को कर सकते हैं) दिखाई लेकिन मॉडलिंग और जांच में "कमजोर विश्वसनीयता" प्रदर्शित की। निष्कर्ष एक मजबूत सुझाव है कि हमें गणित सिखाने के तरीके को बदलने की आवश्यकता है: केवल "उत्तर प्राप्त करने" के बजाय, हमें उन्हें मैथ ऑडिटर (गणित लेखा परीक्षक) बनने के लिए सिखाना चाहिए।
नया गेम प्लान: जासूस बनें
तो, एक जिज्ञासु छात्र के लिए निष्कर्ष क्या है?
AI को एक जादुई भविष्यवक्ता की तरह न मानें। इसे एक ऐसे छात्र की तरह मानें जो लिखने में बहुत अच्छा है लेकिन सोचने में बुरा है।
- रणनीति: AI को एक समस्या हल करने के लिए कहें, फिर जासूस खेलें।
- मिशन: उस पहले चरण को खोजें जहाँ रोबोट गलत हुआ। क्या उसने कहानी को गलत समझा? क्या वह शुरुआती ऊंचाई भूल गया? क्या उसने अंकगणित में गड़बड़ी की?
- लक्ष्य: गलती को सुधारें और समझाएं कि AI क्यों गलत था।
पेपर सुझाव देता है कि यह "ऑडिट" दृष्टिकोण AI को एक चीट शीट से एक शक्तिशाली सीखने के उपकरण में बदल देता है। रोबोट की गलतियों को ढूंढकर, आप वास्तव में गणित को उस तुलना में बेहतर सीखते हैं यदि आपने इसे स्वयं हल किया होता।
संक्षेप में, रोबोट गणना का भारी काम करने में बहुत अच्छे हैं, लेकिन वे कहानी समझने में बहुत खराब हैं। आपको नक्शा पकड़ने वाला, दिशा-सूचक यंत्र (compass) की जांच करने वाला और यह सुनिश्चित करने वाला व्यक्ति होना चाहिए कि वे गलती से झोपड़ी के बजाय एक महल न बना दें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।