DecomposeRL: Learning to Ask Useful, Informative, and Diverse Questions for Semi-Supervised, Traceable Claim Verification
DecomposeRL एक अर्ध-पर्यवेक्षित (semi-supervised), सुराग योग्य (traceable) क्लेम वेरिफिकेशन फ्रेमवर्क है जो एक डेटा-क्यूरेशन फनल और GRPO-आधारित सुदृढीकरण शिक्षण (reinforcement learning) का लाभ उठाकर एक संक्षिप्त 7B मॉडल को प्रशिक्षित करता है, जो बहुत बड़े बेसलाइन्स के समान प्रदर्शन प्राप्त करने के साथ-साथ व्याख्यात्मक तर्क ट्रेसेस (interpretable reasoning traces) भी उत्पन्न करता है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ DECOMPOSERL पेपर का सरल अवधारणाओं और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ी समस्या: "ब्लैक बॉक्स" बनाम "धीमा जासूस"
कल्पना कीजिए कि आप एक अजीब अफवाह की सच्चाई जाँचने की कोशिश कर रहे हैं, जैसे: "1984 के लेखक को नोबेल पुरस्कार मिला था।"
वर्तमान में, कंप्यूटर इसे हल करने के लिए दो तरीके अपनाते हैं:
- "ब्लैक बॉक्स" क्लासिफायर (The "Black Box" Classifier): यह एक सुपर-फास्ट सुरक्षा गार्ड की तरह है जो अफवाह को देखता है और तुरंत चिल्लाता है, "गलत!" यह तेज़ है और आमतौर पर सही होता है, लेकिन यदि आप पूछें, "क्यों?" तो वह बस कंधे उचका देता है। यह आपको कोई सबूत नहीं देता। उच्च-जोखिम वाली स्थितियों (जैसे चिकित्सा या राजनीति) में, आप बिना सबूत देखे किसी फैसले पर भरोसा नहीं कर सकते।
- "धीमा जासूस" (The "Slow Detective" - Decomposition): यह एक ऐसे जासूस की तरह है जो अफवाह को छोटे सवालों में तोड़ देता है: "1984 किसने लिखा?" -> "क्या उस व्यक्ति को नोबेल मिला?" वह हर कदम को लिखता है, ताकि आप सबूत देख सकें। हालाँकि, ये जासूस अक्सर धीमे होते हैं, गलतियाँ करते हैं, और बिना किसी इंसान के मार्गदर्शन के नए मामलों से सीखने में संघर्ष करते हैं।
DECOMPOSERL एक नया सिस्टम है जो इन दोनों का सबसे अच्छा मिश्रण बनने की कोशिश करता है: एक तेज़, सटीक जासूस जो हर उत्तर के लिए स्पष्ट, निरीक्षण योग्य साक्ष्य का एक रास्ता छोड़ता है।
यह कैसे काम करता है: "स्मार्ट प्रश्नकर्ता" (The "Smart Questioner")
सीधे उत्तर का अनुमान लगाने के बजाय, DECOMPOSERL एक मास्टर इंटररोगेटर (Master Interrogator) बनने के लिए प्रशिक्षित है। इसका काम सीधे दावे का उत्तर देना नहीं है; इसका काम सत्य का पता लगाने के लिए सही सवालों का सेट पूछना है।
इसे 20 Questions के खेल की तरह समझें, लेकिन यहाँ कंप्यूटर सत्य तक पहुँचने के सबसे कुशल रास्ते को खोजने के लिए खुद के खिलाफ खेल रहा है।
1. "रिवॉर्ड सिस्टम" (The "Reward System" - कोच)
इस AI को अच्छे सवाल पूछना सिखाने के लिए, शोधकर्ताओं ने केवल "अच्छा काम किया" या "बुरा काम किया" नहीं कहा। उन्होंने एक बहु-आयामी रिवॉर्ड सिस्टम बनाया (एक सख्त कोच की तरह जिसके पास चेकलिस्ट है)। AI को अंक तभी मिलते हैं जब उसके सवाल तीन विशिष्ट मानदंडों को पूरा करते हैं:
- उपयोगी (The "Useful" - गेम चेंजर): यदि आप इस सवाल को हटा दें, तो क्या अंतिम उत्तर बदल जाता है?
- उदाहरण: कल्पना कीजिए कि एक जूरी है। यदि एक जूरी सदस्य पूछता है, "क्या प्रतिवादी के पास लाल कार थी?" और फैसला वही रहता है, तो वह सवाल बेकार था। लेकिन यदि वे पूछते हैं, "क्या प्रतिवादी घटनास्थल पर मौजूद था?" और इससे फैसला बदल जाता है, तो वह सवाल उपयोगी था। DECOMPOSERL केवल उन्हीं सवालों को रखता है जो वास्तव में परिणाम को बदलते हैं।
- सूचनात्मक (The "Informative" - केवल तथ्यों का नियम): सवाल केवल दिए गए साक्ष्यों का उपयोग करके उत्तर योग्य होना चाहिए, और यह एक एकल, स्पष्ट तथ्य होना चाहिए।
- उदाहरण: "क्या यह दावा सच है?" पूछना एक बुरा सवाल है क्योंकि यह समस्या को ही दोहरा देता है। "किताब में कितने पन्ने हैं?" पूछना बुरा है यदि किताब की लंबाई मायने नहीं रखती। AI यह पूछना सीखता है जैसे, "किताब किसने लिखी?" जो कि एक विशिष्ट, ठोस तथ्य है।
- विविध (The "Diverse" - दोहराव न करने का नियम): सवाल एक-दूसरे के पूरक नहीं होने चाहिए (redundant नहीं होने चाहिए)।
- उदाहरण: यदि आप पूछते हैं "किताब किसने लिखी?" और फिर "किताब के लेखक कौन हैं?", तो आपने समय बर्बाद किया है। AI अलग-अलग सवाल पूछना सीखता है जो पहेली के विभिन्न हिस्सों को कवर करते हैं।
2. "डेटा फनल" (The "Data Funnel" - फ़िल्टर)
एक स्मार्ट AI को प्रशिक्षित करने के लिए आमतौर पर लाखों उदाहरणों की आवश्यकता होती है, जो महंगा और धीमा है। शोधकर्ताओं के पास एक चतुर तरकीब थी: डेटा फनल।
- उन्होंने इंटरनेट से 155,000 फैक्ट-चेकिंग उदाहरणों का एक विशाल ढेर लिया।
- उन्होंने उन्हें फिल्टरों की एक श्रृंखला (कॉफी फिल्टर की तरह) से गुजारा:
- फिल्टर 1: वे दावे हटा दिए जो बहुत छोटे या बहुत लंबे थे।
- फिल्टर 2: वे दावे हटा दिए जो बहुत आसान थे (जिन्हें एक साधारण AI भी हल कर सकता है) या बहुत अव्यवस्थित थे।
- फिल्टर 3: डुप्लिकेट्स को हटाया।
- परिणाम: उन्होंने उस विशाल ढेर को केवल 5,000 दावों के एक छोटे, उच्च-गुणवत्ता वाले "सार" में बदल दिया।
- उदाहरण: कल्पना कीजिए कि आप 155,000 रैंडम व्यंजनों को चखकर खाना बनाना सीखने की कोशिश कर रहे हैं, जिनमें से अधिकांश जले हुए या बेस्वाद हैं। इसके बजाय, DECOMPOSERL के रचनाकारों ने उन्हें 5,000 परफेक्ट, शेफ-क्वालिटी रेसिपी में फ़िल्टर कर दिया। AI ने इस छोटे, उच्च-गुणवत्ता वाले सेट से उस विशाल, बिखरे हुए ढेर की तुलना में बहुत तेज़ी से और बेहतर सीखा।
3. "सेमी-सुपरवाइज्ड" ट्रिक (बिना शिक्षक के सीखना)
आमतौर पर, AI को प्रशिक्षित करने के लिए आपको हर उत्तर के लिए मानव द्वारा ग्रेडिंग (Gold Labels) की आवश्यकता होती है। लेकिन इंसान धीमे और महंगे होते हैं।
DECOMPOSERL के पास एक विशेष मोड है जहाँ यह तब भी सीख सकता है जब 90% उत्तर अनग्रेडेड हों।
- कैसे? यह सेल्फ-कंसिस्टेंसी (Self-Consistency) नामक तकनीक का उपयोग करता है। AI एक ही दावे के लिए कई अलग-अलग "पाथ" (सवालों के सेट) बनाता है। यदि 8 में से 7 पाथ अंतिम फैसले पर सहमत होते हैं, तो AI मान लेता है कि वह फैसला सही है और उसे खुद को सिखाने के लिए एक "स्यूडो-लेबल" के रूप में उपयोग करता है।
- उदाहरण: कल्पना लीजिए कि एक छात्र बिना उत्तर कुंजी के परीक्षा दे रहा है। यदि छात्र एक ही समस्या को पांच अलग-अलग तरीकों से हल करता है और हर बार एक ही उत्तर प्राप्त करता है, तो उसे विश्वास हो जाता है कि वह सही है, भले ही शिक्षक ने उसे चेक न किया हो।
परिणाम: छोटा लेकिन शक्तिशाली
शोधकर्ताओं ने अपने 7-बिलियन पैरामीटर वाले मॉडल का परीक्षण बहुत बड़े मॉडलों (32 बिलियन पैरामीटर) और यहाँ तक कि GPT-4 जैसे शीर्ष स्तर के सिस्टम के खिलाफ किया।
- सटीकता (Accuracy): DECOMPOSERL ने अपने से 4 गुना बड़े मॉडलों के प्रदर्शन के बराबर प्रदर्शन किया।
- दक्षता (Efficiency): इसने यह केवल 5,000 चुनिते हुए दावों के छोटे डेटासेट का उपयोग करके हासिल किया।
- सेमी-सुपरवाइज्ड सफलता: यहाँ तक कि जब इसे केवल 10% लेबल किए गए डेटा (और 90% स्व-ग्रेड किए गए डेटा) के साथ प्रशिक्षित किया गया, तब भी इसने अपने आकार के सभी अन्य मॉडलों को पछाड़ दिया।
"ट्रेस" (The "Trace" - दस्तावेजी सबूत)
DECOMPOSERL की सबसे महत्वपूर्ण विशेषता यह है कि यह आपको केवल "True/False" उत्तर नहीं देता। यह एक ट्रेस (Trace) देता है।
- उदाहरण: यदि एक सामान्य AI जादूगर की तरह है जो टोपी से खरगोश निकालता है (आप परिणाम देखते हैं, लेकिन जादू नहीं), तो DECOMPOSERL एक ऐसा जादूगर है जो आपको खाली टोपी, खरगोश और ठीक उसी क्षण को दिखाता है जब उन्होंने खरगोश को अंदर रखा था, स्टेप-बाय-स्टेप।
- आउटपुट एक बातचीत जैसा दिखता है:
- प्रश्न: "1984 किसने लिखा?" -> उत्तर: "जॉर्ज ऑरवेल।"
- प्रश्न: "क्या जॉर्ज ऑरवेल को नोबेल पुरस्कार मिला?" -> उत्तर: "नहीं, दस्तावेज़ कहता है कि उन्हें नहीं मिला।"
- निर्णय (Verdict): REFUTED (दावा गलत है)।
यह मनुष्यों को काम का ऑडिट करने की अनुमति देता है। यदि AI कोई गलती करता है, तो आप "ट्रेस" को देख सकते हैं और देख सकते हैं कि किस प्रश्न या उत्तर ने त्रुटि की ओर ले जाने में भूमिका निभाई।
सारांश
DECOMPOSERL एक स्मार्ट, कुशल AI फैक्ट-चेकर है जो पहेली को हल करने के लिए सही सवाल पूछना सीखता है। यह एक "फिल्टर" का उपयोग करके एक छोटे, उच्च-गुणवत्ता वाले डेटासेट से सीखता है और एक "सेल्फ-चेक" सिस्टम का उपयोग करता है ताकि वह तब भी सीख सके जब उसके पास कोई शिक्षक न हो। परिणाम एक ऐसा सिस्टम है जो विशाल सुपर-कंप्यूटरों जितना सटीक है लेकिन अपने निष्कर्ष तक पहुँचने के लिए एक स्पष्ट, चरण-दर-चरण स्पष्टीकरण प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।