Architecture Determines Observability in Transformers
تُثبت هذه الورقة أن قدرة نموذج المحوّل (transformer) على الحفاظ داخلياً على إشارات حول جودة قراراته الخاصة (القابلية للملاحظة) ليست خاصية عامة، بل هي سمة ناشئة تحددها خيارات معمارية ووصفات تدريب محددة، وغالباً ما تنهار في النماذج التي تحقق بخلاف ذلك خسارة منخفضة.