Beyond Sequence Order: Syntax-Informed Positional Embeddings for Transformers
تقدم الورقة البحثية "التمثيلات الموضعية المستنيرة بالبنية النحوية" (SiPE)، وهي طريقة خفيفة الوزن تعمل على حقن معلومات الإعراب التبعي في مختلف عائلات التموضع الموضعي لنموذج المحول (Transformer) لتحسين الفهم النحوي والأداء اللغوي العام بشكل كبير دون زيادة تكاليف الاستدلال.