Cross-Entropy Is Load-Bearing: A Pre-Registered Scope Test of the K-Way Energy Probe on Bidirectional Predictive Coding
تُظهر هذه الدراسة المسجلة مسبقاً أن أداء مسبار الطاقة متعدد المسارات (K-way energy probe) بالنسبة لـ "softmax" يعتمد بشكل كبير على تدريب الإنتروبيا المتقاطعة (cross-entropy training)، الذي يستحث معايير لوجيت (logit norms) أكبر بكثير وميزة ترتيب ثابتة المقياس، بدلاً من اعتماده على ديناميكيات الاستدلال ثنائي الاتجاه أو مقدار الحركة الكامنة.