← नवीनतम पेपर
🤖 machine learning

Fine-Tuning Masked Diffusion for Provable Self-Correction

यह शोध पत्र PRISM को प्रस्तुत करता है, जो एक हल्का और मॉडल-अज्ञेय (model-agnostic) तरीका है जो अनुमान (inference) के दौरान प्रति-टोकन गुणवत्ता स्कोर की गणना करके प्रीट्रेंड मास्क्ड डिफ्यूजन मॉडल्स के लिए प्रमाणिक स्व-सुधार (provable self-correction) सक्षम बनाता है, ताकि बिना किसी आर्किटेक्चरल परिवर्तन, सुदृढीकरण शिक्षण (reinforcement learning), या बाहरी सत्यापनकर्ताओं (external verifiers) के कम गुणवत्ता वाले टोकन का पता लगाया जा सके और उन्हें संशोधित किया जा सके।

मूल लेखक: Jaeyeon Kim, Seunggeun Kim, Taekyun Lee, David Z. Pan, Hyeji Kim, Sham Kakade, Sitan Chen

प्रकाशित 2026-05-26
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Jaeyeon Kim, Seunggeun Kim, Taekyun Lee, David Z. Pan, Hyeji Kim, Sham Kakade, Sitan Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक पहेली हल करने की कोशिश कर रहे हैं, जैसे कि सुडोकू या कोई कहानी लिखना, लेकिन आपको खाली स्थानों को एक-एक शब्द करके भरने के बजाय एक ही बार में पूरा भरना है। यह एक मास्क्ड डिफ्यूजन मॉडल (MDM) नामक AI के काम करने का तरीका है। यह एक पूरी तरह से खाली पन्ने (या खाली वर्गों के ग्रिड) से शुरू होता है और एक साथ हर स्थान पर क्या जाना चाहिए, इसका अनुमान लगाने की कोशिश करता है।

समस्या क्या है? क्योंकि यह एक ही बार में सब कुछ अनुमानित करता है, इसलिए यह कभी-कभी गलतियाँ कर देता है। यह कहीं "7" रख सकता है जहाँ "2" होना चाहिए था, या ऐसी वाक्य लिख सकता है जिसका व्याकरण संबंधी कोई अर्थ न हो। अतीत में, एक बार जब AI ने गलती कर दी, तो वह उसी के साथ फंस जाता था। वह पीछे मुड़कर यह नहीं कह सकता था, "रुको, यह सही नहीं लग रहा है," और उसे ठीक नहीं कर सकता था।

यह पेपर एक नई विधि पेश करता है जिसे PRISM (मास्क्स्ड डिफ्यूजन के इन्फरेंस-टाइम सेल्फ-करेक्शन के लिए प्लग-इन रिमास्किंग) कहा जाता है। PRISM को एक ऐसे AI के रूप में समझें जिसके पास काम करते समय दूसरी जोड़ी आँखें और उपयोग करने के लिए एक लाल पेन है।

यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. समस्या: "अंधा अनुमान"

कल्पना कीजिए कि आप एक क्रॉसवर्ड पहेली भर रहे हैं, लेकिन आपको अन्य शब्दों के संकेतों को देखे बिना एक ही क्षण में हर शब्द का अनुमान लगाना है। आप 3-अक्षरों वाले शब्द के लिए "CAT" का अनुमान लगा सकते हैं, लेकिन बाद में महसूस कर सकते हैं कि यह क्रॉसिंग शब्द "DOG" के साथ फिट नहीं बैठता है। मानक MDMs में, एक बार जब आपने "CAT" लिख दिया, तो वह वहीं रहता है। मॉडल यह नहीं जान पाता कि पूरे पहेली के संदर्भ में "CAT" एक अच्छा अनुमान था या नहीं।

2. समाधान: "गुणवत्ता स्कोर" (Quality Score)

PRISM AI को अपने द्वारा लिखे गए हर शब्द या संख्या को एक गुणवत्ता स्कोर देने के लिए सिखाता है।

  • उच्च स्कोर: "यह शब्द वाक्य के बाकी हिस्सों के साथ पूरी तरह से फिट बैठता है।"
  • कम स्कोर: "यह शब्द यहाँ अजीब लग रहा है। यह गलत हो सकता है।"
    पेपर का दावा है कि PRISM इन स्कोर को प्रमाणित रूप से सही ढंग से देने के लिए सीखता है। यह केवल अनुमान नहीं लगाता; यह गणितीय रूप से गणना करता है कि आसपास के शब्दों को देखते हुए किसी विशिष्ट शब्द के सही होने की कितनी संभावना है।

3. जादू का नुस्खा: "रिमास्किंग" (Remasking)

एक बार जब AI के पास अपने गुणवत्ता स्कोर आ जाते हैं, तो वह एक चतुर ट्रिक का उपयोग करता है जिसे रिमास्किंग कहा जाता है।

  • यदि किसी शब्द का स्कोर कम है (इसकी संभावना कम है कि वह सही है), तो AI उसे मिटा देता है (उस पर वापस एक "मास्क" लगा देता है)।
  • फिर, वह उस स्थान के लिए एक नया शब्द अनुमानित करने की कोशिश करता है।
  • यदि किसी शब्द का स्कोर अधिक है, तो वह उसे वैसे ही छोड़ देता है।
    यह जेनरेशन प्रक्रिया के दौरान होता है। AI केवल लिख नहीं रहा है; वह लिख रहा है, जाँच रहा है, मिटा रहा है और फिर से लिख रहा है। यह एक ऐसे लेखक की तरह है जो एक वाक्य टाइप करता है, महसूस करता है कि एक शब्द गलत है, उसे मिटाता है, और अगले वाक्य पर आगे बढ़ने से पहले एक बेहतर शब्द टाइप करता है।

4. यह क्यों विशेष है ("प्लग-एंड-प्ले" पहलू)

आमतौर पर, AI को अपनी गलतियों को सुधारने के लिए सिखाने के लिए, आपको पूरे मस्तिष्क को फिर से बनाना पड़ता है या काम की जाँच करने के लिए एक अलग, भारी-भरकम "क्रिटिक" मॉडल का उपयोग करना पड़ता है।

  • PRISM हल्का है: यह एक मौजूदा AI में एक छोटे "एडेप्टर" या प्लगइन जोड़ने जैसा है। आपको मूल AI को शुरुआत से फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
  • यह कुशल है: पेपर दिखाता है कि PRISM बहुत कम अतिरिक्त डेटा का उपयोग करके स्वयं को सुधारना सीख सकता है (उतना कम जितना मूल AI को प्रशिक्षित करने में लगा था)।
  • यह हर जगह काम करता है: लेखकों ने इसका परीक्षण इन पर किया:
    • सुडोकू: ग्रिड में गलत नंबरों को ठीक करना।
    • टेक्स्ट: बेहतर, अधिक स्वाभाविक वाक्य लिखना।
    • कोड: पायथन प्रोग्रामिंग त्रुटियों (जैसे गायब ब्रैकेट या गलत लॉजिक) को ठीक करना।

5. परिणाम

पेपर दिखाता है कि जब उन्होंने PRISM का उपयोग किया:

  • AI ने कम गलतियाँ कीं।
  • यह अपनी गलतियों को ठीक कर सका, जिससे कोडिंग और पहेलियों में बेहतर अंतिम परिणाम मिले।
  • यह बहुत अधिक अतिरिक्त कंप्यूटिंग पावर की आवश्यकता के बिना बहुत बड़े मॉडलों (जैसे 8-बिलियन-पैरामीटर कोडिंग असिस्टेंट) के साथ भी काम कर सका।

संक्षेप में

PRISM एक विशिष्ट प्रकार के AI के लिए एक सरल, स्मार्ट अपग्रेड है। यह AI को अपने काम को देखने, यह कहने की क्षमता देता है कि, "यह सही नहीं लग रहा है," गलती को मिटाने, और फिर से प्रयास करने की—और वह भी तब, जब वह अभी भी उत्तर जेनरेट कर रहा होता है। यह "वन-शॉट गेस" को "ड्राफ्ट-एंड-एडिट" प्रक्रिया में बदल देता है, जिससे AI पहेलियाँ सुलझाने, टेक्स्ट लिखने और कोडिंग करने में बहुत अधिक विश्वसनीय हो जाता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →