💬 NLP
Learning from Synthetic Data without Model Collapse in Iterative Instruction Tuning
यह शोध पत्र KITE को प्रस्तुत करता है, जो पुनरावृत्ति निर्देश ट्यूनिंग (iterative instruction tuning) के लिए एक दो-चरणीय ढांचा है, जो विफलता-निर्देशित डेटा जनरेशन (failure-guided data generation) और सीमा-जागरूक अनिश्चितता क्यूरेशन (boundary-aware uncertainty curation) के माध्यम से क्षमता के ध्रुवीकरण को संबोधित करके मॉडल कोलैप्स को रोकता है, जिससे सिंथेटिक-डेटा बेसलाइन की तुलना में स्थिर प्रदर्शन सुधार सुनिश्चित होता है।