Poly-OPD: Heterogeneous Multi-Teacher On-Policy Distillation for Capability-Selectable Flow Models
पॉली-ओपीडी (Poly-OPD) एक हेट्रोजेनियस मल्टी-टीचर ऑन-पॉलिसी डिस्टिलेशन फ्रेमवर्क है जो पिक्सेल-लेवल री-एनकोडिंग और डीआईएनओवी२ (DINOv2) सुपरविजन के माध्यम से लेटेंट स्पेस को जोड़कर, इनकम्पैटिबल टेक्स्ट-टू-इमेज मॉडल्स की पूरक शक्तियों को एक एकल कॉम्पैक्ट फ्लो-मैचिंग स्टूडेंट में समेकित करता है, जबकि यह कंपोजिशनल इंस्ट्रक्शन फॉलोइंग और एस्थेटिक अलाइनमेंट दोनों में उत्कृष्ट प्रदर्शन प्राप्त करने के लिए ग्रेडिएंट-कम्पैटिबल एडैप्टर्स और एक गैप-अवेयर करिकुलम का उपयोग करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ कला मशीनों द्वारा बनाई जाती है जो अनुमान लगाने और सुधार करने से सीखती हैं, जिसे टेक्स्ट-टू-इमेज जनरेशन के रूप में जाना जाता है। इस डिजिटल आर्ट स्टूडियो में, "शिक्षक" विशाल, जटिल मॉडल हैं जो शब्दों को चित्रों में बदलते हैं। लेकिन यहाँ एक पेंच है: मानव विशेषज्ञों की तरह, इन मशीनों की भी अलग-अलग विशेषज्ञता होती है। कुछ शानदार और यथार्थवादी दृश्य बनाने वाले मास्टर पेंटर हैं, लेकिन वे "तीन बिल्लियाँ" या "बाईं ओर एक लाल गेंद" जैसे छोटे विवरणों को मिस कर सकते हैं। अन्य सख्त अकाउंटेंट की तरह हैं जो निर्देशों का पूरी तरह से पालन करते हैं, लेकिन उनके द्वारा बनाए गए चित्र थोड़े सपाट या अजीब दिख सकते हैं। बड़ी समस्या यह है कि ये विशेषज्ञ आंतरिक रूप से अलग-अलग "भाषाएँ" बोलते हैं; वे अपने चित्रों को बनाने के लिए अलग-अलग ब्लूप्रिंट और गणित का उपयोग करते हैं, इसलिए आप उनसे आसानी से नोट्स साझा करने या अपने दिमाग को मिलाने के लिए नहीं कह सकते। यदि आप एक ऐसा चित्र चाहते हैं जो सुंदर और पूरी तरह से सटीक दोनों हो, तो आपको आमतौर पर एक ही समय में दो विशाल, महंगे कंप्यूटर चलाने पड़ते हैं, जो धीमा और बर्बादी भरा है। वैज्ञानिक इन अलग-अलग विशेषज्ञों को एक ही छोटे, स्मार्ट मॉडल में मर्ज करने का तरीका खोजने की कोशिश कर रहे हैं जो बिना भ्रमित हुए दोनों काम कर सके।
यह शोध पत्र एक चतुर नई विधि पेश करता है जिसे Poly-OPD कहा जाता है, जो एक मास्टर ट्रांसलेटर और कोच की तरह कार्य करता है, और दो बहुत अलग AI शिक्षकों को सफलतापूर्वक एक एकल, कॉम्पैक्ट छात्र मॉडल में मर्ज करता है। शोधकर्ताओं ने एक "सुंदर" शिक्षक (FLUX.1-dev) और एक "सटीक" शिक्षक (Z-Image) को लिया और एक छोटे छात्र मॉडल (SD3.5 का 2.5 बिलियन पैरामीटर वाला संस्करण) को दोनों बनने का प्रशिक्षण दिया। जादू यह है कि छात्र को शिक्षकों के आंतरिक विचारों (जो आपस में असंगत भाषाओं में हैं) की नकल करने के लिए मजबूर करने के बजाय, सिस्टम छात्र को एक चित्र बनाने देता है, उस चित्र को एक सामान्य "पिक्सेल" भाषा में बदल देता है जिसे हर कोई समझता है, और फिर शिक्षक से उसे ठीक करने के लिए कहता है। शिक्षक केवल यह नहीं कहता कि "अच्छा काम किया"; वह वास्तव में गलतियों को सुधारने के लिए चित्र को फिर से बनाता है, और छात्र उस सुधार से सीखता है। यह सुनिश्चित करने के लिए कि छात्र एक साथ दो अलग-अलग शैलियों को सीखने की कोशिश में भ्रमित न हो, सिस्टम अपने मस्तिष्क में विशेष "स्विच करने योग्य" (switchable) भागों का उपयोग करता है। यह उन हिस्सों को साझा करता है जो सामान्य ध्यान (जैसे पूरे दृश्य को देखना) को संभालते हैं, लेकिन विशिष्ट कार्यों (जैसे गिनती या रंग भरना) के लिए अलग हिस्से रखता है। इसके अलावा, सिस्टम इस बारे में स्मार्ट है कि उसे क्या अभ्यास करना चाहिए: यह देखता है कि छात्र किन कौशलों में अभी भी कमजोर है और उन चीजों पर अधिक समय बिताता है जिन्हें छात्र पहले से जानता है, बजाय इसके कि उन चीजों पर समय बर्बाद करे जिन्हें वह पहले से जानता है।
इसके परिणाम काफी प्रभावशाली हैं। इस पद्धति का उपयोग करके, छोटे छात्र मॉडल ने न केवल औसत बनना सीखा; बल्कि वह विशिष्ट कार्यों के लिए अपने दोनों विशाल शिक्षकों से बेहतर बन गया। GenEval नामक एक परीक्षण पर, जो यह जांचता है कि क्या एक मॉडल "टेनिस रैकेट के दाईं ओर एक बिल्ली" जैसे जटिल निर्देशों का पालन करता है, छात्र का स्कोर 67.3 से बढ़कर 73.3 हो गया, जिसने 12-बिलियन-पैरामीटर वाले शिक्षक और 6-बिलियन-पैरामीटर वाले शिक्षक दोनों को पीछे छोड़ दिया। दृश्य सुंदरता और मानवीय पसंद (HPSv3) के परीक्षण पर, स्कोर 9.34 से बढ़कर 11.35 हो गया। शोध पत्र सुझाव देता है कि यह सफलता "ऑन-पॉलिसी" दृष्टिकोण से आती है, जहाँ छात्र शिक्षक द्वारा सुधारी गई अपनी गलतियों से सीखता है, न कि केवल शिक्षक के पूर्ण चित्रों को रटने से। शोधकर्ताओं ने पाया कि यदि उन्होंने छात्र को सीधे शिक्षक के आंतरिक डेटा से सीखने के लिए मजबूर करने की कोशिश की, तो वह विफल रहा क्योंकि "भाषाएँ" मेल नहीं खाती थीं। उन्होंने यह भी पाया कि यदि वे विशेष स्विच करने योग्य भागों का उपयोग नहीं करते, तो कौशल आपस में टकरा जाते और मॉडल बदतर हो जाता। अंततः, Poly-OPD दिखाता है कि आप एक एकल, छोटा, स्विच करने योग्य मॉडल बना सकते हैं जो एक सुंदर कलाकार और एक सटीक वास्तुकार के बीच स्विच कर सकता है, बिना दो विशाल कंप्यूटरों को चलाने की आवश्यकता के दोनों दुनियाओं के सर्वश्रेष्ठ गुणों को जोड़ सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।