Failure Modes of Large Language Models on Research-Level Mathematics: A Taxonomy and an Empirical Characterisation
यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के अनुसंधान-स्तरीय गणितीय तर्क में विफलता के चार रूपों का एक वर्गीकरण प्रस्तावित करता है और अनुभवजन्य रूप से यह प्रदर्शित करता है कि "प्रिमिस स्मगलिंग" (premise smuggling)—मौलिक दावों का unverified या अपुष्ट अभिकथन—एक व्यापक, उद्धरण-सत्यापन-प्रतिरोधी दोष है जिसके लिए पोस्ट-हॉक डिटेक्शन के बजाय इन्फरेंस-टाइम रोकथाम रणनीतियों की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बेहद प्रतिभाशाली, आत्मविश्वासी छात्र से एक बहुत कठिन, बिल्कुल नए गणित के सवाल को हल करने के लिए कहते हैं, जिसे उनके प्रोफेसर भी नहीं सुलझा पाए हैं। इसके बजाय कि वह कहे, "मुझे नहीं पता," छात्र एक सुंदर, पूरी तरह से व्यवस्थित निबंध लिखता है जो एक आदर्श प्रमाण (proof) जैसा दिखता है। लेकिन यदि आप ध्यान से देखें, तो यह पूरी रचना एक झूठ पर टिकी है।
यह शोध पत्र ठीक इसी परिदृश्य की जांच करता है। यह देखता है कि क्यों उन्नत एआई मॉडल (जिन्हें लार्ज लैंग्वेज मॉडल्स कहा जाता है) वास्तविक, अत्याधुनिक गणित करने के दौरान विफल हो जाते हैं। शोधकर्ताओं ने पाया कि ये एआई केवल छोटी गलतियां नहीं करते; वे आत्मविश्वास के साथ पूरे तर्क गढ़ते हैं जो कुछ छिपी हुई, अप्रमाणित धारणाओं के कारण ढह जाते हैं।
यहाँ शोध के निष्कर्षों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
एआई के गलत होने के चार तरीके
लेखक ने इन चार विशिष्ट तरीकों का एक "मेन्यू" बनाया है जिनसे एआई के प्रमाण विफल होते हैं:
- नकली संदर्भ (F1): एआई एक स्रोत का आविष्कार करता है। यह एक ऐसे छात्र की तरह है जो एक पेपर लिख रहा है और ऐसे किताब का हवाला दे रहा है जो अस्तित्व में ही नहीं है, या किसी ऐसे प्रसिद्ध वैज्ञानिक का जो वह किताब कभी लिख ही नहीं पाया। वे अपने दावे का समर्थन करने के लिए साक्ष्य मनगढ़ंत बनाते हैं।
- छलपूर्ण आधार (F2): यह सबसे बड़ा मुद्दा है जिस पर यह पेपर ध्यान केंद्रित करता है। एआई इस बारे में झूठ नहीं बोलता कि उसे जानकारी कहाँ से मिली; बल्कि यह इस बारे में झूठ बोलता है कि वह क्या मान रहा है। यह एक जटिल, अप्रमाणित विचार को लेता है और फुसफुसाते हुए कहता है, "जैसा कि सभी जानते हैं, यह एक बुनियादी तथ्य है," बिना वास्तव में इसे सिद्ध किए या किसी स्रोत का हवाला दिए। यह एक शेफ की तरह है जो कहता है, "हम सभी जानते हैं कि यह गुप्त सामग्री सूप का स्वाद बढ़ा देती है," जबकि वास्तव में, वह सामग्री सूप को खराब कर देती है। एआई इस झूठी धारणा को तर्क में चुपके से डाल देता है, और क्योंकि यह इतना आत्मविश्वासी लगता है, बाकी का प्रमाण तार्किक दिखता है भले ही इसकी नींव रेत पर टिकी हो।
- मौन अदला-बदली (F3): एआई एक अलग, आसान समस्या को हल करता है और नाटक करता है कि उसने कठिन वाली को हल कर दिया है। यह एक ऐसी स्थिति की तरह है जैसे आपसे एक उफनती नदी के ऊपर पुल बनाने के लिए कहा गया हो, और एआई एक सूखी नदी के तल के ऊपर पुल बना देता है, फिर आपको ब्लूप्रिंट थमाता है और कहता है, "यह रहा आपका पुल।"
- स्थानीय बनाम वैश्विक अंतराल (F4): एआई हर एक छोटा कदम सही करता है, लेकिन यह भूल जाता है कि क्या वे कदम बड़े चित्र (big picture) में एक साथ फिट बैठते हैं। यह एक पहेली (puzzle) की तरह है जहाँ हर व्यक्तिगत टुकड़ा पूरी तरह से आकार में है, लेकिन जब आप उन्हें जोड़ने की कोशिश करते हैं, तो वे आपस में नहीं जुड़ते क्योंकि उनके किनारे मेल नहीं खाते। एआई एक आदर्श स्थानीय पड़ोस बनाता है लेकिन शहर के बाकी हिस्सों से जुड़ने में विफल रहता है।
प्रयोग: एआई के होमवर्क की जाँच करना
लेखक ने एक एआई मॉडल (Gemini 2.5 Flash) का तीन कठिन गणितीय समस्याओं पर परीक्षण किया। उन्होंने आठ अलग-अलग "प्रमाण" तैयार किए और उनकी जाँच करने के लिए दो विशेष उपकरण बनाए:
- उपकरण 1 (लाइब्रेरियन): यह उपकरण जाँचता है कि क्या एआई ने वास्तविक किताबों या शोध पत्रों का हवाला दिया है।
- उपकरण 2 (प्रिमाइज़ ऑडिटर): यह उपकरण टेक्स्ट को "यह जगजाहिर है" या "मौलिक परिणाम" जैसे वाक्यांशों के लिए स्कैन करता है ताकि यह देखा जा सके कि क्या एआई कोई अप्रमाणित दावा चुपके से शामिल कर रहा है।
चौंकाने वाला परिणाम
शोध का सबसे असहज करने वाला निष्कर्ष यह है: "नकली संदर्भ" (Fake Citation) की समस्या लगभग नगण्य थी।
जब लेखक ने प्रमाणों की जाँच की, तो उन्होंने पाया कि एआई वास्तव में वास्तविक, मौजूदा शोध पत्रों का हवाला दे रहा था। "लाइब्रेरियन" उपकरण ज्यादातर खुश था।
हालाँकि, "प्रिमाइज़ ऑडिटर" ने हर एक (आठ में से आठों) प्रमाण में एक समस्या पाई। हर मामले में, एआई ने एक झूठी धारणा को 'सामान्य ज्ञान' के रूप में पेश करके चुपके से शामिल किया था।
एआई को "ठीक करने" के लिए यह क्यों मायने रखता है
एक लोकप्रिय विचार है कि गणित में एआई के झूठ बोलने का समाधान RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) है। सिद्धांत यह है: "यदि हम बस एआई को लिखते समय वास्तविक गणितीय शोध पत्रों की एक लाइब्रेरी दे दें, तो वह नकली संदर्भ नहीं बनाएगा।"
लेखक का तर्क है कि यह समाधान अधूरा है।
- RAG "नकली संदर्भ" की समस्या को ठीक करता है: यदि एआई को किसी किताब को देखना होगा, तो वह फर्जी किताब का आविष्कार नहीं कर पाएगा।
- RAG "छलपूर्ण आधार" (Sneaky Premise) की समस्या को ठीक नहीं करता: भले ही एआई के पास वास्तविक किताबों की लाइब्रेरी हो, फिर भी वह एक वास्तविक किताब देख सकता है, उसके वास्तविक गणित को अनदेखा कर सकता है, और आत्मविश्वास के साथ कह सकता है, "जैसा कि यह पुस्तक कहती है, X सत्य है," जबकि वह पुस्तक वास्तव में इसके विपरीत कहती है। एआई स्रोत के बारे में झूठ नहीं बोल रहा है; वह अर्थ के बारे में झूठ बोल रहा है।
निष्कर्ष
पेपर निष्कर्ष निकालता है कि हम केवल संदर्भों की जाँच करने या एआई को लाइब्रेरी देने पर निर्भर नहीं रह सकते। असली समस्या यह है कि ये मॉडल उन चीजों के बारे में आत्मविश्वास से बोलने में बहुत माहिर हैं जिन्हें उन्होंने वास्तव में सिद्ध नहीं किया है।
लेखक का सुझाव है कि एआई गणित का भविष्य केवल इन त्रुटियों को पकड़ने के बारे में नहीं होना चाहिए। इसके बजाय, हमें ऐसे सिस्टम बनाने की आवश्यकता है जो एआई को ये "छलपूर्ण" धारणाएं बनाने से रोकें, जिससे उसे केवल यह अनुमान लगाने के बजाय कि कोई कदम "स्पष्ट" है, हर एक कदम को सिद्ध करने के लिए मजबूर किया जा सके।
संक्षेप में: एआई केवल नकली स्रोत नहीं बना रहा है; वह आत्मविश्वास के साथ अदृश्य नींव पर महल बना रहा है। उसे एक बेहतर लाइब्रेरी देना उसे अदृश्य जमीन पर निर्माण करने से नहीं रोक पाएगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।