DeFacto: Counterfactual Thinking with Images for Enforcing Evidence-Grounded and Faithful Reasoning
यह शोध पत्र DeFacto को प्रस्तुत करता है, जो एक काउंटरफैक्टुअल रीजनिंग फ्रेमवर्क है जो एक विशेष डेटासेट उत्पन्न करने के लिए भाषा-निर्देशित पाइपलाइन का लाभ उठाता है और मल्टीमॉडल लैंग्वेज मॉडल्स में उत्तर की सटीकता और साक्ष्य-आधारित निरंतरता (evidence-grounded consistency) दोनों में महत्वपूर्ण सुधार करने के लिए बहुआयामी पुरस्कारों (multi-faceted rewards) के साथ GRPO-आधारित सुदृढीकरण लर्निंग (reinforcement learning) का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक ऐसी परीक्षा दे रहे हैं जहाँ आपको एक तस्वीर के बारे में सवालों के जवाब देने होते हैं। अधिकांश स्मार्ट कंप्यूटर प्रोग्राम (जिन्हें मल्टीमॉडल लार्ज लैंग्वेज मॉडल कहा जाता है) उन छात्रों की तरह हैं जो किताबों में पढ़ी गई बातों के आधार पर अनुमान लगाने में बहुत अच्छे होते हैं, लेकिन वे अक्सर अपने सामने मौजूद वास्तविक तस्वीर को अनदेखा कर देते हैं। वे आपको सही उत्तर दे सकते हैं, लेकिन गलत कारणों से, या वे पूरी तस्वीर के गलत हिस्से को देख सकते हैं।
यह शोध पत्र एक नई विधि पेश करता है जिसे DeFacto (जिसका अर्थ है "वास्तव में") कहा जाता है ताकि इसे ठीक किया जा सके। DeFacto को एक सख्त शिक्षक के रूप में समझें जो छात्र को उत्तर लिखने की अनुमति देने से पहले उसे यह साबित करने के लिए मजबूर करता है कि वह वास्तव में तस्वीर को देख रहा है।
यह कैसे काम करता है, यहाँ सरल उपमाओं के साथ समझाया गया है:
1. समस्या: "नकली विशेषज्ञ" (The "Fake Expert")
वर्तमान AI मॉडल अक्सर तीन विशिष्ट "चीटिंग" आदतों से ग्रस्त होते हैं:
- अंधा अनुमान (The Blind Guess): वे छवि के गलत हिस्से को देखते हैं और गलत उत्तर देते हैं।
- भाग्यशाली अनुमान (The Lucky Guess): वे छवि के गलत हिस्से को देखते हैं लेकिन किसी तरह सही उत्तर का अनुमान लगा लेते हैं (केवल भाग्य या टेक्स्ट को याद रखने के कारण)।
- ईमानदार गलती (The Honest Mistake): वे छवि के सही हिस्से को देखते हैं लेकिन फिर भी उत्तर गलत देते हैं क्योंकि वे कड़ियों को जोड़ नहीं पाते।
शोध का तर्क है कि केवल "स्मार्ट" होना ही काफी नहीं है; AI को वफादार (faithful) होना चाहिए, जिसका अर्थ है कि इसका उत्तर सीधे उस चीज़ से जुड़ा होना चाहिए जिसे वह वास्तव में देख रहा है।
2. समाधान: "लुप्त हिस्सा" खेल (The "Missing Piece" Game)
AI को चीटिंग करने से रोकने के लिए, शोधकर्ताओं ने एक विशेष प्रशिक्षण खेल बनाया जिसे काउंटरफैक्चुअल थिंकिंग (Counterfactual Thinking) कहा जाता है। कल्पना करें कि आप "Where's Waldo?" जैसा खेल खेल रहे हैं लेकिन एक ट्विस्ट के साथ:
- राउंड 1 (पॉजिटिव केस): आप AI को सुरागों के साथ पूरी तस्वीर दिखाते हैं। इसे सुरागों (जैसे लाल टोपी या कोई विशिष्ट संकेत) को खोजना होगा और प्रश्न का उत्तर देना होगा। यदि यह सही उत्तर देता है, तो इसे एक गोल्ड स्टार मिलता है।
- राउंड 2 (काउंटरफैक्चुअल केस): यही असली जादू है। शोधकर्ता उन सटीक सुरागों को (जिनकी AI को आवश्यकता है, जैसे लाल टोपी) लेते हैं और उन्हें एक ब्लैक बॉक्स (मास्किंग) के साथ ढक देते हैं। अब AI से वही प्रश्न पूछा जाता है।
- यदि AI फिर भी अनुमान लगाने की कोशिश करता है, तो उसे भारी दंड मिलता है।
- यदि AI कहता है, "मुझे नहीं पता, सुराग गायब है," तो उसे एक गोल्ड स्टार मिलता है।
- यह क्यों महत्वपूर्ण है: यह AI को सिखाता है कि यदि सबूत मौजूद नहीं है, तो उसे उत्तर देने का ढोंग नहीं करना चाहिए। यह उसे भ्रमित होने के बजाय अज्ञानता स्वीकार करना सिखाता है।
- राउंड 3 (रैंडम मास्किंग केस): शोधकर्ता तस्वीर के उन हिस्सों को ढक देते हैं जो महत्वपूर्ण नहीं हैं (जैसे आकाश या पृष्ठभूमि में एक पेड़)। AI को अभी भी सही उत्तर देना होगा। यह AI को यह सीखने से रोकता है कि "ब्लैक बॉक्स" का मतलब हमेशा "उत्तर न दें" होता है। यह उसे "गायब सबूत" और "अप्रासंगिक पृष्ठभूमि" के बीच अंतर करना सिखाता है।
3. प्रशिक्षण प्रक्रिया: "ग्रेड वाला होमवर्क" (The "Graded Homework")
शोधकर्ताओं ने केवल इन सवालों को हाथ से नहीं लिखा (क्योंकि इसमें बहुत समय लगता)। उन्होंने एक रोबोटिक पाइपलाइन बनाई जो:
- प्रश्न को पढ़ती है।
- स्वचालित रूप से छवि के महत्वपूर्ण हिस्सों को ढूंढती है (जैसे "शर्ट पर लिखा टेक्स्ट" या "पेड़ की पत्तियां")।
- इन "कवर-अप" (ढकने वाले) वर्ज़न वाली हजारों छवियां बनाती है।
उन्होंने AI को प्रशिक्षित करने के लिए एक विशाल डेटासेट बनाया जिसे DeFacto-100K (100,000 उदाहरण) कहा जाता है।
फिर, उन्होंने एक विशेष प्रशिक्षण पद्धति का उपयोग किया जिसे GRPO (ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन) कहा जाता है। इसे एक कोच के रूप में समझें जो AI को लगातार 4 बार खेल खेलते हुए देखता है। यदि AI अन्य तीन राउंड के औसत से बेहतर प्रदर्शन करता है, तो उसे इनाम मिलता है। यह AI को सुसंगत होने में मदद करता है: हमेशा सबूत खोजें, और यदि वह गायब हो जाए, तो कहें कि "मुझे नहीं पता।"
4. परिणाम: एक बेहतर छात्र
जब उन्होंने इस नए "DeFacto" AI का अन्य शीर्ष मॉडलों के विरुद्ध परीक्षण किया:
- इसने अधिक प्रश्नों के सही उत्तर दिए।
- इसे धोखा देना बहुत कठिन था। जब सबूत छिपा दिया गया था, तो DeFacto AI ने अन्य मॉडलों की तुलना में बहुत अधिक बार सही ढंग से "मुझे नहीं पता" कहा, जो केवल अनुमान लगा रहे थे।
- यह अधिक ईमानदार था। इसने अपने उत्तरों के लिए कारण बनाने के बजाय बनाना बंद कर दिया। यदि इसने अपने उत्तर को सही ठहराने के लिए छवि के किसी विशिष्ट भाग की ओर इशारा किया, तो उस भाग में वास्तव में प्रमाण मौजूद था।
सारांश
संक्षेप में, DeFacto एक प्रशिक्षण विधि है जो AI मॉडलों को ईमानदार जासूस बनना सिखाती है। केवल यह अनुमान लगाने के बजाय कि क्या सच हो सकता है, उन्हें प्रशिक्षित किया जाता है कि वे:
- विशिष्ट दृश्य साक्ष्य खोजें।
- यदि साक्ष्य गायब है, तो स्वीकार करें कि वे नहीं जानते।
- यदि साक्ष्य वहां है, तो उसका उपयोग अपने उत्तर को सिद्ध करने के लिए करें।
शोध का दावा है कि यह AI तर्क को अधिक विश्वसनीय और वास्तविकता में आधारित बनाता है, जिससे ऐसी कहानियाँ बनाने से रोका जा सके जो सुनने में अच्छी लगती हैं लेकिन सच नहीं होतीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।