Towards Understanding the Shape of Representations in Protein Language Models
تتقصى هذه الورقة البنية الهندسية لتمثيلات نماذج لغة البروتين باستخدام سرعة الجذر التربيعي وترشيحات الرسم البياني، كاشفةً أن النماذج تشفر السمات الهيكلية بشكل غير خطي عبر الطبقات مع بلوغ الدقة المثلى قبيل الطبقة الأخيرة، بينما تواجه صعوبة في الحفاظ على العلاقات السياقية بعيدة المدى.