Improving MLLM Training Efficiency via Stage-Aware Sparsity
यह शोध पत्र स्पार्स ट्रेनिंग स्कीम (STS) का प्रस्ताव करता है, जो एक स्टेज-अवेयर फ्रेमवर्क है जो कंप्यूटेशनल रेडंडेंसी के विभिन्न स्रोतों को संबोधित करने के लिए एलाइनमेंट के दौरान विजुअल टोकन्स को डायनामिक रूप से कंप्रेस करके और इंस्ट्रक्शन ट्यूनिंग के दौरान अनावश्यक लेयर्स को स्किप करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल ट्रेनिंग की दक्षता में सुधार करता है।