💻 computer science

URoPE: Universal Relative Position Embedding across Geometric Spaces

تقترح الورقة البحثية URoPE، وهو تضمين موضع نسبي عالمي خالٍ من المعلمات وواعٍ بالخصائص الجوهرية، يعمل على توسيع تضمين الموضع الدوار (RoPE) ليشمل فضاءات هندسية عشوائية عبر إسقاط أشعة الكاميرا ثلاثية الأبعاد على مستويات صور ثنائية الأبعاد، مما يعزز أداء المحولات عبر مهام متنوعة مثل تخليق المشاهد الجديدة، وكشف الأشياء ثلاثية الأبعاد، وتقدير العمق.

المؤلفون الأصليون: Yichen Xie, Depu Meng, Chensheng Peng, Yihan Hu, Quentin Herau, Masayoshi Tomizuka, Wei Zhan

نُشر 2026-04-22

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yichen Xie, Depu Meng, Chensheng Peng, Yihan Hu, Quentin Herau, Masayoshi Tomizuka, Wei Zhan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت فهم العالم، ليس فقط كصورة مسطحة، بل كمساحة ثلاثية الأبعاد يمكنه التحرك خلالها. أنت تعطي الروبوت مجموعة من الكاميرات (مثل العيون) تنظر إلى العالم من زوايا مختلفة.

المشكلة هي: كيف يعرف الروبوت أن "الشجرة" التي يراها في الكاميرا اليسرى هي نفسها الشجرة التي تراها الكاميرا اليمنى؟

في عالم الذكاء الاصطناعي (تحديداً "المحولات" أو Transformers)، يستخدم الروبوت ما يسمى بـ "تضمينات الموضع" (Position Embeddings) ليفهم أين توجد الأشياء. فكر في هذه التضمينات كأنها بطاقات أسماء صغيرة أو إحداثيات GPS مرفقة بكل جزء من الصورة.

الطريقة القديمة: مشكلة "الخريطة المسطحة"

كانت الطرق السابقة تشبه إعطاء كل شخص خريطة مسطحة لمدينته الخاصة.

إذا كنت أنت في نيويورك (الكاميرا أ) وأنا في لندن (الكاميرا ب)، فخرائطنا مختلفة تماماً.
حتى لو كنا ننظر إلى نفس المبنى، ففي خرائطنا المسطحة، نحن على بعد أميال من بعضنا البعض.
يصاب الذكاء الاصطناعي بالارتباك، ويفكر: "الشجرة في نيويورك بعيدة عن الشجرة في لندن"، رغم أنها في المساحة ثلاثية الأبعاد تقع بجانب بعضها البعض تماماً.

حاولت الحلول الموجودة معالجة ذلك إما عن طريق:

تعلم لغة جديدة: تعليم الذكاء الاصطناعي طريقة مخصصة ومعقدة للتحدث عن الفضاء ثلاثي الأبعاد (وهو أمر بطيء وصعب التدريب).
تخمين العمق: محاولة التنبؤ بدقة بمدى بعد كل بكسل قبل القيام بأي شيء آخر (وهذا غالباً ما يؤدي إلى أخطاء).

الطريقة الجديدة: URoPE (المترجم العالمي)

تقدم الورقة البحثية تقنية URoPE (تضمين الموضع النسبي العالمي). إليك التشبيه البسيط:

تخيل أنك وصديقك تقفان في حقل، وتنظران إلى جبل.

أنت تمثل الـ "Query" (الشخص الذي يطرح السؤال).
صديقك يمثل الـ "Key" (الشخص الذي يمتلك المعلومة).

الطرق القديمة كانت تقول ببساطة: "أنت عند الإحداثي (10، 10) وصديقك عند (20، 20)". هذا لا يساعدك على فهم الجبل.

تقوم URoPE بشيء ذكي:

خدعة "مؤشر الليزر": بدلاً من مجرد النظر إلى الصورة المسطحة، تتخيل URoPE شعاع ليزر ينطلق من كاميرا صديقك عبر الشجرة.
"مرتكزات العمق": بما أنها لا تعرف بالضبط مدى بعد الشجرة، فهي لا تخمن. بدلاً من ذلك، تضع "نقاط تفتيش" (مرتكزات) غير مرئية على مسافات مختلفة على طول شعاع الليزر هذا (مثلاً: على بُعد 1 متر، 5 أمتار، 10 أمتار).
"الإسقاط": تأخذ هذه النقاط وتُسقطها على عدسة كاميرتك. تسأل: "إذا كانت تلك الشجرة على بُعد متر واحد، فأين ستبدو في شاشتي؟ وماذا لو كانت على بُعد 10 أمتار؟".
المطابقة: الآن، تقارن رؤيتك برؤية صديقك باستخدام هذه النقاط المسقطة. وتدرك: "آه! النقطة على شاشتي التي تطابق 'نقطة تفتيش الـ 10 أمتار' على شاشة صديقي تقع بجوار الشجرة التي أنظر إليها تماماً!".

لماذا يعد هذا أمراً هاماً؟

1. إنها "خالية من المعاملات" (لا تحتاج لواجبات منزلية إضافية)
معظم نماذج الذكاء الاصطناعي تحتاج لتعلم ملايين الأرقام الإضافية لفهم الفضاء ثلاثي الأبعاد. أما URoPE فلا تحتاج لتعلم أي شيء جديد؛ فهي تستخدم رياضيات الهندسة (مثل كيفية عمل عدسة الكاميرا) لإجراء العملية الحسابية فورياً. الأمر يشبه استخدام المسطرة بدلاً من محاولة حفظ طول كل شيء في العالم.

2. إنها "واعية للخصائص الجوهرية" (تعرف العدسة)
تعرف URoPE ما إذا كانت كاميرتك مقربة (Zoom in) أو بعيدة (Zoom out)، أو إذا كانت العدسة واسعة الزاوية. وهي تعدل "مؤشرات الليزر" الخاصة بها تلقائياً. إذا غيرت إعدادات الكاميرا، ستظل URoPE تعمل بشكل مثالي.

3. تعمل في كل مكان
اختبرت الورقة البحثية هذا النظام على ثلاث مهام مختلفة تماماً، وفازت في كل مرة:

تخليق المشهد من منظور جديد (New View Synthesis): إنشاء صورة جديدة لغرفة من زاوية لم ترها الكاميرا من قبل. (فكر في: تحويل صورة ثنائية الأبعاد إلى فيديو ثلاثي الأبعاد).
اكتشاف الأجسام ثلاثية الأبعاد (3D Object Detection): العثور على السيارات والمشاة في مساحة ثلاثية الأبعاد باستخدام تغذيات كاميرا ثنائية الأبعاد (وهو أمر حيوي للسيارات ذاتية القيادة).
تقدير العمق (Depth Estimation): معرفة مدى بعد الأشياء باستخدام كاميرتين (الرؤية المجسمة/Stereo Vision).

سحر "تعدد الرؤوس" (Multi-Head Magic)

تذكر الورقة البحثية "انتباه تعدد الرؤوس المرتبط بالعمق" (Depth-Anchored Multi-head Attention). تخيل فريقاً من المحققين (الرؤوس):

المحقق (أ) يبحث فقط عن الأجسام التي تبعد متراً واحداً.
المحقق (ب) يبحث فقط عن الأجسام التي تبعد 5 أمتار.
المحقق (ج) يبحث فقط عن الأجسام التي تبعد 10 أمتار.

يعملون جميعاً معاً. حتى لو لم يكن الذكاء الاصطناعي متأكداً من المسافة الدقيقة للجسم، فإن الفريق يغطي جميع الاحتمالات. سيجد أحد المحققين دائماً المطابقة الصحيحة تقريباً، مما يجعل النظام بأكمله قوياً للغاية.

الخلا الخلاصة

URoPE تشبه إعطاء الذكاء الاصطناعي مترجماً عالمياً يفهم الهندسة دون الحاجة لتعليمه لغة جديدة. إنها تأخذ العلاقة الفوضوية والمربكة بين زوايا الكاميرا المختلفة وتحولها إلى نظام إحداثيات بسيط ومشترك.

إنها أسرع، وأكثر دقة، وتعمل بشكل أفضل من الطرق السابقة، سواء كان الذكاء الاصطناعي يحاول قيادة سيارة، أو بناء نموذج ثلاثي الأبعاد لمنزل، أو مجرد فهم مدى عمق غابة ما. إنها ترقية "جاهزة للتشغيل" تجعل الذكاء الاصطناعي يرى العالم ثلاثي الأبعاد بوضوح أكبر بكثير.

إليك ملخص تقني مفصل لورقة البحث بعنوان "URoPE: Universal Relative Position Embedding across Geometric Spaces" (تضمين الموضع النسبي الشامل عبر الفضاءات الهندسية).

1. بيان المشكلة

أصبحت نماذج "ترانسفورمر" (Transformers) هي البنية المهيمنة لمهام الرؤية الحاسوبية، بما في ذلك الإدراك متعدد الرؤى والتوليد. ومع ذلك، توجد عقبة حرجة في ترميز العلاقات المكانية بين الرموز (tokens) الناشئة من وجهات نظر مختلفة، أو أنظمة إحداثيات مختلفة، أو أنماط هندسية متنوعة (مثل الصور ثنائية الأبعاد مقابل النقاط ثلاثية الأبعاد).

محدودية الطرق الحالية:
- RoPE القياسي (Rotary Position Embedding): يعمل فقط ضمن فضاء إحداثيات مسطح واحد (تسلسلات أحادية البعد أو شبكات ثنائية الأبعاد). وهو يفشل في سيناريوهات تعدد الرؤى لأن البكسلات التي تكون قريبة في الفضاء ثلاثي الأبعاد قد تكون متباعدة في شبكات صورها ثنائية الأبعاد الخاصة بها.
- التضمينات القائمة على الأشعة (مثل Plücker): غالبًا ما تعامل الأشعة كتضمينات مطلقة أو تعتمد على أنظمة إحداثيات عالمية، مما يفتقر إلى خصائص الانحياز النسبي الضرورية لتعميم الانتباه (attention generalization).
- النهج الهجين: تعتمد الطرق الحديثة غالبًا على فصل الهندسة بين الكاميرات عن المواضع المكانية داخل الصورة الواحدة، أو تعتمد على عمليات ضرب مصفوفات معقدة لا تتوافق مع نوى الانتباه المحسنة مثل FlashAttention.
التحدي الجوهري: كيف يمكن نمذجة الموضع النسبي لرمز "مفتاح" (key) من رؤية ما بالنسبة لرمز "استعلام" (query) في رؤية أخرى دون الاعتماد على نظام إحداثيات عالمي ثابت أو تنبؤات عمق قابلة للتعلم، مع الحفاظ على التوافق مع آليات الانتباه القياسية.

2. المنهجية: URoPE

يقترح المؤلفون URoPE، وهو امتداد شامل لـ RoPE يستخدم الهندسة الإسقاطية للتعبير عن الارتباطات بين الرؤى مباشرة في مستوى صورة الاستعلام.

الآليات الرئيسية:

الأشعة الكاميرية كجسر:
بدلاً من إحداثيات الأشعة المجردة، يعامل URoPE كل بكسل في الصورة كشعاع كاميرا محدد بمركز الكاميرا ( $o_i$ ) واتجاهها ( $r_i$ ). هذا يربط بين إحداثيات الصورة ثنائية الأبعاد والفضاء ثلاثي الأبعاد.
الرفع المرتكز على العمق (Depth-Anchored Lifting):
بما أن العمق الحقيقي غير معروف أثناء عملية الانتباه، يقوم URoPE برفع كل بكسل "مفتاح" $(u, v)$ على طول شعاع الكاميرا الخاص به إلى مجموعة من مرتكزات العمق الثابتة $D = \{d_h\}$ . وهذا ينشئ مجموعة من النقاط ثلاثية الأبعاد:
$p_i^h(u, v) = o_i + d_h \cdot r_i(u, v)$
الإسقاط عبر الرؤى:
يتم إسقاط هذه النقاط ثلاثية الأبعاد المرفوعة في مستوى صورة كاميرا الاستعلام باستخدام التحويل النسبي للكاميرا والخصائص الداخلية لكاميرا الاستعلام. ينتج عن ذلك مجموعة من إحداثيات البكسل المسقطة $(u^h, v^h)$ في رؤية الاستعلام.
- النتيجة: يتم تمثيل الارتباط بين "مفتاح" في الرؤية $i$ و"استعلام" في الرؤية $j$ الآن كتمثيل موضع نسبي ثنائي الأبعاد داخل مستوى صورة الاستعلام.
الانتباه متعدد الرؤوس المرتكز على العمق:
- تعيين الرؤوس (Head Assignment): يتم تخصيص مرتكزات عمق ثابتة مختلفة لرؤوس الانتباه (أو مجموعات الرؤوس) المختلفة. يسمح هذا للنموذج بتغطية الارتباطات من المجال القريب إلى البعيد (خطوط إبيمبولار/epipolar lines) بشكل مشترك دون الحاجة لتعلم العمق.
- تطبيق RoPE: يتم تطبيق 2D RoPE القياسي بين موقع الاستعلام $(u', v')$ وموقع المفتاح المسقط $(u^h, v^h)$ داخل مستوى صورة الاستعلام.
- التوافق: من خلال العمل بالكامل عبر RoPE على الإحداثيات المسقطة، يظل URoPE خاليًا من المعلمات (parameter-free)، ومدركًا للخصائص الداخلية (intrinsics-aware)، ومتوافقًا تمامًا مع FlashAttention ونوى المعالجة المحسنة الأخرى.
التعامل مع التفاعل بين 2D و3D:
بالنسب للمهام التي تتضمن استعلامات ثلاثية الأبعاد (مثل اكتشاف الأجسام ثلاثية الأبعاد)، يتخطى الأسلوب عملية الإسقاط في مستوى الصورة ويقيس المواضع النسبية مباشرة في الفضاء ثلاثي الأبعاد بين الاستعلام ثلاثي الأبعاد والنقاط ثنائية الأبعاد المرفوعة.

3. المساهمات الرئيسية

ترميز هندسي شامل: يعد URoPE أول تضمين موضع نسبي يوحد الاستدلال بين الرؤى (2D $\to$ 2D) وبين الأبعاد (2D $\to$ 3D) ضمن إطار عمل واحد خالٍ من المعلمات.
تكامل الهندسة الإسقاطية: يستبدل تضمينات الأشعة المجردة بهندسة إسقاطية صريحة، مما يربط الارتباطات بين الرؤى في نظام إحداثيات ثنائي الأبعاد مشترك حيث يمكن تطبيق RoVE القياسي.
تصميم متعدد الرؤوس مستقل عن العمق: من خلال تخصيص مرتكزات عمق ثابتة لرؤوس الانتباه المختلفة، يحل العقدة المتأصلة في غموض العمق في هندسة إبيمبولار دون الحاجة إلى وحدات تعلم تنبؤ العمق.
الكفاءة والتوافق: لا يضيف الأسلوب أي عبء حسابي تقاربي ويعمل بسلاسة مع نوى الانتباه المحسنة لـ RoPE.
الثبات (Invariance): التشفير ثابت تجاه اختيار أنظمة الإحداثيات العالمية (ثابت لـ SE(3)) ومدرك للخصائص الداخلية للكاميرا.

4. النتائج التجريبية

تم تقييم URoPE كبديل "Plug-in" لتضمينات الموضع عبر ثلاث مهام متميزة:

توليد الرؤى الجديدة (2D $\to$ 2D):
- مجموعات البيانات: Objaverse و RealEstate10k.
- النماذج المرجعية (Baselines): Plücker Ray, 6D RoPE, P-RoPE, RayRoPE.
- النتائج: حقق URoPE أداءً هو الأفضل في فئته (على سبيل المثال، 26.02 PSNR على RealEstate10k مقابل 25.28 لـ P-RoPE)، مما أظهر قدرة فائقة على رندر التفاصيل الدقيقة والتعامل مع الخصائص الداخلية المتغيرة للكاميرا.
اكتشاف وتتبع الأجسام ثلاثية الأبعاد (2D $\to$ 3D):
- مجموعات البيانات: nuScenes.
- النماذج المرجعية: PETR و StreamPETR.
- النتائج: تحسن مستمر في مقاييس NDS (من 37.3 إلى 37.3+ لـ PETR؛ ومن 47.6 إلى 50.6 لـ StreamPETR) ومقاييس التتبع (AMOTA). نجح URoPE في رفع الميزات ثنائية الأبعاد إلى الفضاء ثلاثي الأبعاد، مما حسن اكتشاف الأجسام الصغيرة وتماسك المسار.
تقدير العمق الستيريوسكوبي (2D $\to$ 2D):
- مجموعات البيانات: RGBD, Scenes11, SUN3D.
- النماذج المرجعية: UniMatch مع P-RoPE.
- النتائج: تفوق URoPE باستمرار على النماذج المرجعية (على سبيل المثال، خطأ أقل في Abs Rel و RMSE)، مما أثبت تنوعه حتى في الإعدادات الستيريوسكوبية البسيطة.
المتانة والقابلية للتوسع:
- خارج التوزيع (Out-of-Distribution): حافظ URoPE على أداء قوي عند اختباره مع بؤر بؤرية مختلفة وعدد متغير من رؤى السياق، رغم التدريب بمعلمات ثابتة.
- التوسع (Scaling): استمرت مكاسب الأداء عند زيادة حجم النموذج بمقدار 50 ضعفًا، مما يشير إلى قابلية توسع قوية.
- الدراسة الاستقصائية (Ablation): وُجد أن تقسيم مرتكزات العمق حسب الرؤوس (head-wise) أفضل من التقسيم حسب القنوات (channel-wise). كما تفوقت المرتكزات الثابتة على وحدات العمق المتعلمة، مما يؤكد أن الأولويات الهندسية الصريحة أكثر فعالية من تعلم العمق من ميزات ضحلة.

5. الأهمية

يمثل URoPE تحولًا جذريًا في كيفية تعامل نماذج "ترانسفورمر" مع الاستدلال الهندسي. فمن خلال ربط تضمين الموضع النسبي بالهندسة الإسقاطية، فإنه يلغي الحاجة إلى تغييرات هيكلية خاصة بالمهمة أو أقنعة انتباه معقدة.

العمومية: يعمل كإضافة (plug-in) عالمية لأي مهمة رؤية تعتمد على "ترانسفورمر" تتضمن رؤى متعددة أو أنماطًا متعددة.
العملية: طبيعته الخالية من المعلمات وتوافقه مع النوى الفعالة يجعلانه جاهزًا للنشر الفوري في الأنظمة الإنتاجية.
التأثير المستقبلي: يضع معيارًا جديدًا للاستدلال الهندسي في نماذج الرؤية "ترانسفورمر"، مع إمكانية الامتداد إلى البيئات غير المعايرة ومهام إعادة البناء ثلاثية الأبعاد الأخرى.

باختصار، يحل URoPE الانفصال الجوهري بين شبكات الصور ثنائية الأبعاد وهندسة العالم ثلاثية الأبعاد عن طريق إسقاط الفرضيات ثلاثية الأبعاد مرة أخرى في مستوى الاستعلام ثنائي الأبعاد، مما يسمح لآليات الانتباه القياسية بـ "رؤية" البنية ثلاثية الأبعاد للمشهد.