SymDiag: Explainable Diagnosis for LLM Reasoning via Neuro-Symbolic Verification
SymDiag एक न्यूरो-सिम्बोलिक फ्रेमवर्क है जो चेन-ऑफ-थॉट (chains-of-thought) को सिम्बोलिक बाधाओं में अनुवादित करके अनफिथफुल (unfaithful) चरणों को स्थानीयकृत करने और सत्यापन योग्य साक्ष्य उत्पन्न करने के लिए LLM तर्क सत्यापन को संरचित विफलता निदान के रूप में पुनर्गठित करता है, जबकि वास्तविक तर्क दोषों और अनुवाद शोर के बीच अंतर करने के लिए एक सेल्फ-ऑडिटर (Self-Auditor) का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मेधावी छात्र को गणित की परीक्षा देते हुए देख रहे हैं। वे चरणों की एक लंबी, जटिल श्रृंखला लिखते हैं, और अंत में सही उत्तर पर गोला लगा देते हैं। एक साधारण पर्यवेक्षक के लिए, वह छात्र एक जीनियस है। लेकिन यदि आप करीब से देखें, तो आप देख सकते हैं कि उन्होंने तीसरे चरण में एक अंधाधुंध अनुमान लगाया था, पांचवें चरण में एक नियम भूल गए थे, और उन्हें सही उत्तर केवल इसलिए मिला क्योंकि दो गलतियों ने अनजाने में एक-दूसरे को रद्द कर दिया था। यह आधुनिक "सोचने वाली" मशीनों, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLLLMs) कहा जाता है, का छिपा हुआ खतरा है। ये एआई सिस्टम स्मार्ट दिखने और समस्याओं को हल करने में माहिर हैं, लेकिन कभी-कभी उनकी आंतरिक "विचार प्रक्रिया" खामियों से भरी होती है, भले ही अंतिम परिणाम एकदम सही दिखाई दे।
लंबे समय से, हम यह जांचने की कोशिश कर रहे हैं कि क्या ये एआई सही ढंग से सोच रहे हैं, केवल अंतिम उत्तर देखकर (जैसे एक शिक्षक टेस्ट ग्रेड करता है) या किसी अन्य एआई से काम को पढ़कर "थम्स अप" या "थम्स डाउन" देने के लिए कहकर। लेकिन ये तरीके एक नाव में रिसाव खोजने के लिए केवल फर्श के गीले होने की जांच करने जैसे हैं; वे आपको बताते हैं कि कुछ गलत है, लेकिन यह नहीं कि कहाँ या क्यों। वे एआई को तब नहीं पकड़ सकते जब वह तर्क की एक लंबी श्रृंखला के बीच में आत्मविश्वास के साथ गलत हो। हमें मशीन के मस्तिष्क के भीतर झांकने, तर्क के सटीक क्षण को पहचानने, और यह समझाने के लिए एक तरीके की आवश्यकता है कि वास्तव में क्या गलत हुआ ताकि वह इसे ठीक कर सके।
यहीं पर SymDiag नामक एक नई प्रणाली आती है। SymDiag को एक अत्यंत सख्त, अति-तार्किक जासूस के रूप में समझें जो केवल एआई की कहानी को पढ़ता ही नहीं है; बल्कि वह उस कहानी को एक कठोर, अटूट कोड (जैसे कि एक कंप्यूटर प्रोग्राम) में अनुवादित करता है ताकि यह देखा जा सके कि क्या तर्क वास्तव में टिकता है। यह पेपर एक ऐसी विधि पेश करता है जो एआई के अव्यवस्थित, प्राकृतिक भाषा वाले विचारों को एक औपचारिक "प्रतीकात्मक" (symbolic) संरचना में बदल देती है—जो कि एक अस्पष्ट डायरी प्रविष्टि को एक सटीक कानूनी अनुबंध में अनुवादित करने जैसा है। एक बार जब विचार इस सख्त प्रारूप में आ जाते हैं, तो सिस्टम यह देखने के लिए जाँचों की एक श्रृंखला चलाता है कि क्या चरण वास्तव में नियमों का पालन करते हैं।
SymDiag द्वारा उपयोग किया जाने वाला बड़ा नुस्खा एक "सेल्फ-ऑडिटर" (स्व-लेखा परीक्षक) है। कभी-कभी, एआई का तर्क ठीक होता है, लेकिन कोड में उसका अनुवाद अव्यवद्य होता है, जिससे वह गलती जैसा दिखने लगता है। सेल्फ-ऑडिटर एक डबल-चेकर के रूप में कार्य करता है: यह उसी विचार को दो अलग-अलग तरीकों से कोड में अनुवादित करता है। यदि दोनों संस्करण सहमत हैं, तो यह एक वास्तविक तर्क त्रुटि है। यदि वे असहमत हैं, तो यह केवल एक अनुवाद संबंधी गड़बड़ी थी। यह सिस्टम को एआई पर उन गलतियों के लिए दोष मढ़ने से बचाता है जो उसने वास्तव में नहीं की थीं।
एक बार जब SymDiag को वास्तविक त्रुटि मिल जाती है, तो यह केवल "गलत" नहीं कहता। यह ठोस सबूतों के साथ एक "डायग्नोस्टिक रिपोर्ट" तैयार करता है। यह कह सकता है, "चरण 4 गलत है क्योंकि यदि आप इस नंबर को आज़माते हैं, तो गणित टूट जाता है," या "आप यहाँ एक नियम भूल गए।" यह एक मैकेनिक की तरह है जो न केवल आपको बताता है कि कार शुरू नहीं हो रही है, बल्कि उस विशिष्ट स्पार्क प्लग की ओर इशारा करता है जो टूटा हुआ है और आपको दिखाता है कि वह क्यों विफल हुआ।
शोधकर्ताओं ने इसे विभिन्न पहेलियों पर परखा, जिनमें पेचीदा गणितीय समस्याएं, तार्किक पहेलियाँ और विज्ञान के प्रश्न शामिल थे। उन्होंने पाया कि SymDiag इन "नकली" सही उत्तरों को पकड़ने में पुराने तरीकों की तुलना में बहुत बेहतर है। जबकि अन्य सिस्टम एक गलती को छोड़ सकते हैं क्योंकि अंतिम उत्तर सही था, SymDiag तर्क के बीच के छिपे हुए दोषों को पकड़ लेता है। जब उन्होंने एआई को फिर से प्रयास करने में मदद करने के लिए SymDiag के विस्तृत फीडबैक का उपयोग किया, तो एआई चरण-दर-चरण अपने तर्क को ठीक करते हुए समस्याओं को हल करने में काफी बेहतर हो गया।
संक्षेप में, यह पेपर सुझाव देता है कि तर्क सत्यापन को एक "विफलता निदान" (failure diagnosis) समस्या के रूप में मानकर—यह पता लगाने और समझाने के लिए सख्त तर्क का उपयोग करके कि एआई वास्तव में कहाँ लड़खड़ाता है—हम बहुत अधिक भरोसेमंद और विश्वसनीय एआई बना सकते हैं। यह केवल सही उत्तर पाने के बारे में नहीं है; यह सुनिश्चित करने के बारे में है कि उस उत्तर तक पहुँचने का मार्ग ठोस, ईमानदार और सुधारात्मक हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।