MEPA: Multi-Scale Representation Alignment for Visual Autoregressive Modeling with Mixture of Experts
यह शोध पत्र MEPA को प्रस्तुत करता है, जो एक नवीन विजुअल ऑटोरेग्रेसिव मॉडलिंग फ्रेमवर्क है जो स्केल-अवेयर टोकन-रूटेड मिक्सचर ऑफ एक्सपर्ट्स आर्किटेक्चर और एक विशेष रूप से तैयार किए गए रेसिडुअल फीचर एग्रीगेशन स्कीम का उपयोग करता है ताकि मल्टी-स्केल रिप्रेजेंटेशन लर्निंग को डीकपल किया जा सके और अर्ली सिमेंटिक मॉडलिंग को बढ़ाया जा सके, जिससे ImageNet जैसे बेंचमार्क पर इमेज जनरेशन की गुणवत्ता और प्रशिक्षण दक्षता में महत्वपूर्ण सुधार होता है।