Eigenvectors of Experts are Training-free Non-collapsing Routers
यह शोध पत्र SSMoE प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) ढांचा है जो स्पार्स मिक्सचर ऑफ एक्सपर्ट्स (Sparse Mixture of Experts) मॉडलों में एक्सपर्ट कोलैप्स (expert collapse) की समस्या को प्रभावी ढंग से हल करने और विविध कार्यों में उनके प्रदर्शन को बढ़ाने के लिए सिंगुलर वैल्यू डिकंपोजिशन (Singular Value Decomposition) के माध्यम से एक्सपर्ट वेट मैट्रिसेस (expert weight matrices) के आइजनवेक्टर्स (eigenvectors) का लाभ उठाता है।