Jordan-RoPE: Non-Semisimple Relative Positional Encoding via Complex Jordan Blocks
تقدم هذه الورقة Jordan-RoPE، وهو ترميز موضعي نسبي غير بسيط (non-semisimple) يستفيد من كتل جوردان المعقدة لتوليد سمات تذبذبية-متعددة الحدود لنمذجة التفاعلات الطورية المعدلة بالمسافة، مما يظهر مزايا هيكلية ومكاسب أداء محددة على خطوط الأساس القياسية لـ RoPE وALiBi في سياقات معينة.