Mixture-of-Expert Blocks Contain Strong Hallucination Detection Signals
تقدم هذه الورقة البحثية InnerExpert، وهي طريقة مبتكرة للكشف عن الهلوسة على مستوى الرمز (per-token) تستفيد من الإشارات الداخلية الفريدة لبنيات خليط الخبراء (MoE) — مثل إنتروبيا الموجه (router entropy) وعدم توافق الخبراء (expert disagreement) — لتحقيق أداء فائق عبر مجموعات بيانات متعددة مع تطلب تمريرة أمامية واحدة فقط.