X-Token: Projection-Guided Cross-Tokenizer Knowledge Distillation
تقترح الورقة البحثية X-Token، وهو إطار عمل لتقطير المعرفة عبر أجهزة الترميز (cross-tokenizer) بتوجيه من الإسقاط، يستخدم مصفوفات إسقاط متفرقة للتغلب على عدم توافق المفردات ومحدودية مطابقة الرموز في التقطير القائم على اللوجيت (logit-based distillation)، مما يمكن النماذج الطلابية من تعلم "المعرفة المظلمة" بفعالية من النماذج المعلمة ذات المفردات غير المتطابقة وتحقيق أداء رائد في هذا المجال.