Hausdorff Distance Matching with Adaptive Query Denoising for Rotated Detection Transformer
تقترح هذه الورقة البحثية "محول كشف دوار" (Rotated Detection Transformer) يعمل على تحسين كشف الأجسام الموجهة من خلال إدخال تكلفة قائمة على مسافة هاوسدورف (Hausdorff distance) لتحقيق مطابقة ثنائية التجزئة أكثر دقة، وطريقة تنويع استعلام تكيفية للتغلب على قيود التنويع الثابت، مما يحقق مكاسب كبيرة في الأداء عبر معايير قياسية متعددة.
المؤلفون الأصليون:Hakjin Lee, MinKi Song, Jamyoung Koo, Junghoon Seo
تخيل أنك تحاول تعليم روبوت التعرف على الأشياء في صورة جوية ضخمة وفوضوية لمدينة ما. بعض الأشياء، مثل السيارات، من السهل العثور عليها لأنها عادة ما تكون مستقيمة وذات شكل صندوقي. أما الأشياء الأخرى، مثل السفن في الميناء أو الطائرات على مدرج الطيران، فغالباً ما تكون مائلة بزوايا غريبة. وللعثور على هذه الأشياء، يجب على الروبوت رسم صندوق مائل حولها.
يقدم هذا العمل عقلاً جديداً للروبوت (يسمى RHINO) يجد هذه الأشياء المائلة بشكل أفضل بكثير من النماذج السابقة. وقد حدد المؤلفون سببين رئيسيين لجعل الروبوتات القديمة تعاني، وقاما بإصلاحهما عبر حيلتين ذكيتين.
المشكلة: "ارتباك المربع" و"المعلم المشوش"
1. "ارتباك المربع" (تصحيح مسافة هاوسدورف - Hausdorff Distance) تخيل لعبة حيث يجب عليك مطابقة سلسلة من الملصقات الحمراء (تخمينات الروبوت) مع ملصقات زرقاء (الأشياء الفعلية).
الطريقة القديمة: استخدم الروبوت القديم مسطرة بسيطة لقياس المسافة بين مركز الملصق الأحمر ومركز الملصق الأزرق. ولأن الأشياء المائلة يمكن أن تبدو كمربعات من زوايا معينة، فقد ارتبكت المسطرة. أحياناً كانت تقول: "مهلاً، هذا الملصق الأحمر بعيد، لكن لديه نفس زاوية الملصق الأز، لذا فهو إصابة ناجحة!" تسبب هذا في جعل الروبوت يرسم صندوقين لنفس الشيء: أحدهما جيد والآخر ضعيف بجودة منخفضة.
الطريقة الجديدة (RHINO): أدرك المؤلفون أنه بدلاً من النظر فقط إلى المركز، يجب عليهم مراع de شكل الصندوق بالكامل. لقد استخدموا أداة رياضية تسمى مسافة هاوسدورف (Hausdorff distance). تخيل هذا كقياس المسافة بين حواف الأشكال، وليس فقط بين مراكزها. الأمر يشبه التحقق مما إذا كانت زوايا الملصق الأحمر تطابق بالفعل زوايا الملصق الأز. منع هذا الروبوت من الارتباك بسبب الأشكال الشبيهة بالمربعات ومنع ظهور هذه الصناديق المكررة وغير المفيدة.
2. "المعلم المشوش" (إزالة الضجيج الاستعلامي التكيفي - Adaptive Query Denoising) لتعليم الروبوت بشكل أسرع، استخدمت الطريقة القديمة تقنية تسمى "إزالة الضجيج الاستعلامي" (Query Denoising). تخيل معلماً يحاول تعليم طالب من خلال إعطائه نسخة مشوهة وغير واضحة من الإجابة الصحيحة وطلب تنظيفها.
المشكلة: في بداية التدريب، يكون الروبوت سيئاً جداً، لذا تكون ملاحظات المعلم المشوهة مفيدة في الواقع. ولكن بمجرد أن يصبح الروبوت أكثر ذكاءً ويقدم توقعات مثالية، يستمر المعلم في إعطائه نفس الملاحظات المشوهة والمشوشة. يصاب الروبوت بالارتباك: "انتظر، أنا أعرف أن الإجابة مثالية، لكن المعلم يخبرني أن أقوم بإصلاح هذه النسخة المشوهة. هل يجب أن أتبع المعلم أم عقلي الخاص؟" أدى هذا في الواقع إلى إبطاء تعلم الروبوت في المراحل المتأخرة.
الطريقة الجديدة (RHINO): جعل المؤلفون المعلم تكيُّفياً. فقد أضافوا "مرشحاً" يتحقق من مستوى مهارة الروبوت الحالية.
إذا كان الروبوت مبتدئاً، يسمح المرشح بمرور الملاحظات المشوهة.
إذا كان الروبوت خبيراً وكانت توقعاته الخاصة بالفعل أفضل من الملاحظات المشوهة، فإن المرشح يرمي تلك الملاحظات. إنه يخبر الروبوت: "لم تعد بحاجة لإصلاح هذه الخردة؛ ثق بإجابتك المثالية". هذا يبقي عملية التدريب مركزة وفعالة.
النتائج
اختبر المؤلفون هذا الروبوت الجديد (RHINO) على عدة مجموعات بيانات شهيرة للصور الجوية (مثل DOTA و DIOR-R).
النتيجة: مقارنة بأفضل النماذج السابقة التي تستخدم نفس الأجهزة الأساسية (العمود الفقري ResNet-50)، حقق RHINO قيمًا أعلى بشكل ملحوظ. لقد حسّن الدقة بنحو 4 إلى 5 نقاط على مقيء تكون فيه القيم الأعلى أفضل.
المقارنة: لقد تفوق على نماذج رائدة أخرى، حتى تلك التي تستخدم عقولاً حاسوبية (أعمدة فقارية) أكثر قوة وتعقيداً.
باختصار
يقول هذا العمل: "لقد بنينا كاشفاً أفضل للأشياء المائلة عن طريق إصلاح شيئين:
غيرنا طريقة قياس الروبوت للمسافات حتى يتوقف عن رسم صناديق مكررة للأشياء الشبيهة بالمربعات.
جعلنا عملية التدريب أكثر ذكاءً بحيث تتوقف عن الاستماع إلى الأمثلة "المشوشة" بمجرد أن يتعلم الروبوت الإجابة الصحيحة بالفعل".
النتيجة هي نموذج يجد الأشياء المائلة (مثل السفن والطائرات) بدقة أكبر وبأخطاء أقل مما سبق.
ملخص تقني: مطابقة مسافة هاوسدورف مع إزالة ضجيج الاستعلام التكيفي لترانسفورمر الكشف المدار (Rotated Detection Transformer)
بيان المشكلة بينما حققت نماذج (DETR) معايير مرجعية جديدة في الكشف الأفقي عن الأجسام، إلا أن تطبيقها في الكشف عن الأجسام المدارة (باستخدام صناديق الإحاطة الموجهة) لا يزال يتخلف عن أجهزة الكشف الموجهة المتخصصة. حدد المؤلفون عقبتين رئيسيتين تعيقان أداء نماذج (DETer) المدارة:
مشكلة "التربيع" في المطابقة الثنائية: تعتمد المطابقة الثنائية القياسية في (DETR) على مسافة (L1) لتكاليف التحديد الموضعي. في الكشف المدار، تسبب هذه المعلمة عدم استمرارية عند الحدود ومشكلات "تربيع" حيث يخصص النموذج أجسام الحقيقة الأرضية (ground-truth) إلى تنبؤات تشترك في نفس الزاوية ولكنها متباعدة مكانياً أو ذات تقاطع منخفض فوق المساحة (IoU). يؤدي هذا إلى تنبؤات مكررة ذات ثقة منخفضة، مما يتعارض مع مبدأ (DETR) الجوهري القائم على المطابقة واحد لواحد.
محدودية إزالة الضجيج الساكنة للاستعلام: طرق إزالة ضجيج الاستعلام الموجودة (مثل DINO) تُدخل ضجيجاً في بيانات الحقيقة الأرضية لتسريع التدريب المبكر. ومع ذلك، بمجرد تحسن النموذج، قد تصبح تنبؤاته أكثر دقة من بيانات الحقيقة الأرضية المشوبة بالضجيج. إزالة الضجيج الساكنة تجبر النموذج على الاستمرار في التعلم من هذه الأهداف الأدنى، مما يعيق الأداء في مراحل التدريب اللاحقة.
المنهجية يقترح المؤلفون RHINO (ترانسفورمر الكشف المدار مع مطابقة مسافة هاوسدورف)، وهو نموذج أساسي مستند إلى (DINO) تم توسيعه بمكونين جديدين:
مسافة هاوسدورف للمطابقة الثنائية: لحل مشكلة التربيع، استبدل المؤلفون تكاليف مسافة (L1) القياسية بمسافة هاوسدورف.
الآلية: تحسب مسافة هاوسدورف المسافة القصوى بين مجموعات النقاط التي تحدد صناديق الإحاطة (تحديداً باستخدام نقاط الزوايا أو منتصفات الأضلاع).
الأثر: بخلاف (L1)، تأخذ مسافة هاوسدورف في الاعتبار محاذاة المحاور والتداخل المكاني للصناديق، بدلاً من التركيز المفرط على فروق الزوايا حتى بعد المعايرة. يضمن هذا مطابقة أجسام الحقيقة الأرضية بتنبؤات ذات اتساق هندسي أعلى، مما يقضي فعلياً على التنبؤات المكررة ذات الثقة المنخفضة.
التنفيذ: يوسع النموذج تمثيل الصندوق الرباعي الأبعاد (4D) إلى إحداثيات خماسية الأبعاد [x,y,w,h,θ] ويقوم بخرائط الزاوية θ من [0,180∘] إلى [0,1] لدمجها بسلاسة مع مكونات (DETR) الحالية مثل الصقل التكراري والانتباه المتغير (deformable attention).
إزالة ضجيج الاستعلام التكيفية: لمعالجة مشكلة التعلم من الأهداف المشوبة بالضجيج في مراحل التدريب اللاحقة، قدم المؤلفون آلية تصفية تكيفية.
الآلية: بدلاً من استخدام جميع استعلامات الضجيج الإيجابية بشكل أعمى للإشراف، تستخدم الطريقة المطابقة الثنائية بين مجموعة الاستعلامات المشوبة بالضجيج "المصقولة" وتنبؤات النموذج الحالية.
التصفية: يتم الاحتفاظ فقط بالاستعلامات المشوبة بالضجيج التي تمت مطابقتها بنجاح مع مصدر الحقيقة الأرضية الأصلي لها (أي تلك التي لم يتجاوزها النموذج بعد أو التي لا تزال تمثل أفضل مطابقة) لعملية خسارة إزالة الضجيج. أما الاستعلامات التي لم تعد تمثل المطابقة المثلى، فيتم تصفيتها أو معاملتها كخلفية.
النسخة المحسنة: تم اقتراح طريقة "إزالة ضجيج الاستعلام التكيفية المحسنة" (AQD*)، والتي تحتفظ بخسارة الانحدار (regression loss) للاستعلامات التي تمت تصفيتها لتعزيز صقل التحديد الموضعي، حتى عندما لا يتم اختيارها لهدف التصنيف الأساسي.
المساهمات الرئيسية
نموذج أساسي قوي: صمم المؤلفون نموذج (DETR) بسيطاً وقوياً للكشف المدار يدمج التحسينات الحديثة (الصقل التكراري، صناديق المرساة الديناميكية، إزالة الضجيج التباينية) دون الحاجة إلى وحدات معقدة مصممة يدوياً أو وظائف خسارة متخصصة تتجاوز التعديلات المقترحة.
تكاليف مسافة هاوسدورف: إن تقديم مسافة هاوسدورف كتكاليف للمطابقة ينجح في تقليل مشكلة التربيع والتنبؤات المكررة، مما يؤدي إلى تدريب أكثر استقراراً وأداء أعلى.
إزالة ضجيج الاستعلام التكيفية: يمنع اقتراح استراتيجية التصفية الديناميكية، التي تستبعد انتقائياً الاستعلامات المشوبة بالضجيج الضارة بمجرد تحسن دقة النموذج، النموذج من العودة إلى الأهداف المشوبة بالضجيج في مراحل التدريب اللاحقة.
النتائج التجريبية تم تقييم النموذج على أربع مجموعات بيانات قياسية للكشف المدار عن الأجسام: DOTA-v1.0، DOTA-v1.5، DOTA-v2.0، و DIOR-R تحت إعدادات التدريب والاختبار أحادية المقياس.
مكاسب الأداء: مقارنة بالنماذج ذات العمود الفقري (ResNet-50)، حقق (RHINO) تحسينات كبيرة:
DOTA-v2.0: +4.18 AP50.
DOTA-v1.5: +4.59 AP50.
DIOR-R: +4.99 AP50.
الحالة الراهنة (State-of-the-Art): حقق (RHINO) معايير مرجعية جديدة في جميع مجموعات البيانات المختبرة. على سبيل المثال، حقق (RHINO) مع عمود فقري (Swin-Tiny) نتيجة 79.42 AP50 على (DOTA-v1.0)، متفوقاً على كواشف (DETR) والتحكم القائم على الالتفاف (convolution-based) السابقة.
مقاييس الدقة: أظهر النموذج أيضاً أداءً فائقاً في (AP75) (وهو مقياس أكثر صرامة لدقة التوجيه)، مما يشير إلى أن مسافة هاوسدورف تحسن فعلياً من دقة الزاوية.
دراسات الاستئصال (Ablation Studies): أكدت التجارب أن استبدال (L1) بمسافة هاوسدورف يقلل من التنبؤات المكررة وأن إزالة الضجيج التكيفية تتفوق على إزالة الضجيج الساكنة ذات مستويات الضجيج الثابتة.
الأهمية يزعم العمل أن (RHINO) يثبت أن الكواشف القائمة على الاستعلام يمكن أن تضاهي أو تتجاوز أداء أجهزة الكشف الموجهة المتخصصة دون الاعتماد على تغييرات معمارية معقدة وخاصة بالمجال. ومن خلال معالجة عدم التطابق الجوهري في المطابقة الثنائية ومحدودية إزالة الضجيج الساكنة في سياق الأجسام المدارة، توفر الدراسة نموذجاً أساسياً قوياً يعتمد على (DINO) للأبحاث المستقبلية في الكشف المدار عن الأجسام. يؤكد العمل على إمكانية تكييف بنيات (DETR) العامة مع الكشف المدار من خلال الاختيار الدقيق للمعلمات واستراتيجيات التدريب التكيفية.