Polymorphism Is Rotation: Operational Mechanistic Interpretability from a Two-Layer Transformer to Pythia-70m
تُثبت هذه الورقة أن نماذج المحولات (transformers) المدربة بشكل مستقل تحسب دوالاً متطابقة باستخدام إحداثيات داخلية غير مفهومة متبادلاً ومرتبطة بدوران عشوائي منتظم، وهي ظاهرة تُسمى "تعدد الأشكال" (polymorphism) يمكن حلها عبر عملية مطابقة "بروكرستس" متعامدة واحدة لتمكين النقل المباشر لقواميس الميزات ومتجهات التوجيه دون الحاجة لإعادة التدريب.