Sparse Autoencoders Reveal Structural and Family-level Features in BiRNA-BERT
यह शोध पत्र SPIRAL को प्रस्तुत करता है, जो एक स्पार्स ऑटोएन्कोडर फ्रेमवर्क है जो BiRNA-BERT RNA लैंग्वेज मॉडल के हिडन स्टेट्स को व्याख्या योग्य, न्यूक्लियोटाइड-अलाइन्ड फीचर्स में सफलतापूर्वक डिकोड करता है जो सेकेंडरी स्ट्रक्चर और RNA फैमिली टाइप्स का प्रतिनिधित्व करते हैं, जिससे बाइट-पेयर टोकनाइजेशन की चुनौतियों के बावजूद डाउनस्ट्रीम प्रेडिक्शन परफॉर्मेंस में वृद्धि होती है।