Dissecting Multimodal In-Context Learning: Modality Asymmetries and Circuit Dynamics in modern Transformers
यह शोधपत्र सिंथेटिक कार्यों पर नियंत्रित प्रयोगों के माध्यम से आधुनिक ट्रांसफॉर्मर में मल्टीमॉडल इन-कॉन्टेक्स्ट लर्निंग (ICL) के तंत्रों की जांच करता है, जिससे यह पता चलता है कि रोटरी पोजीशन एम्बेडिंग्स (Rotary Position Embeddings) ICL के लिए डेटा जटिलता की दहलीज को बढ़ा देते हैं, जबकि एक प्राथमिक मोडैलिटी की उच्च विविधता, परिष्कृत इंडक्शन-शैली के सर्किट्स के माध्यम से, एक माध्यमिक मोडैलिटी में आश्चर्यजनक रूप से कम जटिलता के साथ मल्टीमॉडल ICL को उभरने में सक्षम बनाती है।