UNCOM: Zero-shot Context-Aware Command Understanding for Tabletop Scenarios
تقدم هذه الورقة UNCOM، وهو إطار عمل هجين جديد يعتمد على التعلم الصفري (zero-shot) يدمج الكلام والإيماءات وسياق المشهد لتمكين فهم الأوامر بشكل قوي وقابل للتفسير للروبوتات المكتبية في البيئات المنزلية المتنوعة دون الحاجة إلى تدريب خاص بالمهام.
المؤلفون الأصليون:Antonio Galiza Cerdeira Gonzalez, Paweł Gajewski, Bipin Indurkhya
تخيل أنك تحاول تعليم روبوت كيف يساعدك في مطبخك. في الماضي، ربما كان عليك برمجة الروبوت بقائمة محددة من العناصر التي يعرفها (مثل "كوب"، أو "ملعقة"، أو "تفاحة") وإخباره بدقة بكيفية التحرك. إذا طلبت منه تحريك "وعاء غريب الشكل" لم يره من قبل، فمن المرجح أنه سيصاب بالارتباك ويتوقف عن العمل.
تقدم ورقة بحثية نظام UNCOM، وهو طريقة جديدة تجعل فهم الروبوت للأوامر البشرية يشبه إلى حد كبير التحدث مع صديق متعاون. إليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:
فريق "المساعد الخارق"
بدلاً من وجود عقل واحد ضخم وجامد يحاول القيام بكل شيء في وقت واحد، يعمل UNCOM كـ فريق من المتخصصين يعملون معاً. فكر في الأمر كطاقم مطبخ صغير حيث لكل فرد وظيفة محددة:
الآذان (Whisper): هذا العضو من الفريق يستمع لما تقوله ويحول كلامك إلى نص. إنه يشبه كاتب نصوص سريع ودقيق للغاية.
المترجم (Phi-4): هذا الشخص يقرأ النص ويفهم المعنى. يقوم بتفكيك جملتك إلى ثلاثة أجزاء: ما هو الشيء (الجسم)؟ ما هو الإجراء (الفعل)؟ أين يذهب؟ (مثلاً: "خذ [الموزة]، [ضعها] في [المقلاة]").
العيون (GroundingDINO & DINOv2): هؤلاء هم خبراء الرؤية. ينظرون إلى الطاولة ويمكنهم التعرف على أي شيء تقريباً، حتى لو لم يروا ذلك الشيء المحدد من قبل. هم لا يحتاجون إلى قائمة عناصر مكتوبة مسبقاً؛ هم فقط "يعرفون" كيف تبدو الأشياء.
كاشف الإشارة (MediaPipe): هذا هو العضو الوحيد الذي يحتاج إلى تدريب محدد. فهو يراقب يديك ليرى ما إذا كنت تشير إلى شيء ما لتوضيح ما تقصده.
القاطع (Segment Anything): بمجرد أن يتفق الفريق على ما يجب التقاطه، يقوم هذا العضو برسم خط خارجي مثالي حول الشيء ليعرف الروبوت بالضبط أين هي حوافه.
سحر "التعلم الصفري" (Zero-Shot)
تؤكد الورقة البحثية أن UNCOM هو نظام "Zero-Shot". في اللغة اليومية، هذا يعني أن الروبوت لا يحتاج للذه-اب إلى "المدرسة" ليتعلم عن مطبخك الخاص أو موزة معينة خاصة بك.
الطريقة القديمة: كان عليك إظهار 1000 صورة للموز للروبوت قبل أن يتمكن من فهم كلمة "موزة".
طريقة UNCOM: يستخدم الروبوت "نماذجه التأسيسية" (معرفته العامة بالعالم) لفهم كلمة "موزة" فوراً، حتى لو لم يرَ موزتك هذه من قبل. إنه يعمل "بمجرد تشغيله" (Out of the box).
كيف يتعامل مع الارتباك
البشر تواصلهم غير دقيق. نحن نقول "ضع هذا الشيء هنا" بينما نشير بشكل غامض.
إصلاح الغموض: إذا قلت "ضع هذا هناك"، سينظر الروبوت إلى يدك. إذا كنت تشير إلى طبق معين، فسيمسك بالطبق. إذا كنت تشير إلى مساحة فارغة على الطاولة، فسيفهم أن تلك المساحة الفارغة هي الهدف.
صانع الخريطة: للعثور على المساحات الفارغة، ينشئ الروبوت خريطة ذهنية للطاولة (باستخدام ما يسمى مخطط "فورونوي" - Voronoi diagram، وهو يشبه تقسيم البيتزا إلى شرائح بناءً على من هو الأقرب إلى المركز). يجد الشريحة الفارغة ويقول: "آه، أنت تريدني أن أضع هذا هناك".
النتائج
اختبر الباحثون هذا النظام على روبوت يسمى TIAGo (الذي يشبه جذع إنسان على عجلات) في بيئة طاولة عمل.
أعطوه 159 أمراً مختلفاً يتضمن أشياء مثل تكديس الأطباق، أو نقل الفاكهة، أو سكب الحبوب.
نجح النظام في فهم وتنفيذ الإجراء الصحيح بنسبة 82.39% من المرات.
أين يتعثر
الورقة البحثية صريحة بشأن المواضع التي قد يخطئ فيها النظام، تماماً كما قد يفعل البشر:
الأيدي الضبابية: إذا حركت يدك بسرعة كبيرة أثناء الإشارة، فإن "كاشف الإشارة" يصاب بالارتباك ويفقد الإشارة.
مشكلات اللكنة: إذا كان الشخص الذي يتحدث لديه لكنة ثقيلة، فقد يخطئ "الآذان" (التعرف على الكلام) في كلمة "وعاء" (bowl) ويظنها "كرة" (ball)، مما يؤدي إلى خطأ مضحك.
الأشكال المعقدة: بينما يمكنه الإمساك بالأشياء البسيطة عبر إيجاد مركزها، فإنه يواجه صعوبة مع الأشكال الغريبة والمعقدة جداً.
الخلاصة
إن UNCOM هو جسر بين اللغة البشرية الطبيعية وأفعال الروبوت. هو لا يحاول أن يكون "صندوقاً أسود" يخمن ما يجب فعله؛ بل يقوم بتفكيك الأوامر إلى خطوات واضحة وقابلة للتفسير (الشيء + الفعل + الهدف). هذا يجعله شفافاً وسهل الإصلاح إذا حدث خطأ ما. لقد جعل الباحثون كود البرمجة والبيانات الخاصة بهم متاحة للعامة حتى يتمكن الآخرون من البناء على نهج "فريق المتخصصين" هذا لصنع روبوتات يمكنها حقاً مساعدتنا في منازلنا دون الحاجة إلى شهادة دكتوراه في البرمجة لإعدادها.
ملخص تقني: UNCOM – فهم الأوامر المعتمد على السياق بأسلوب التعلم الصفري للسيناريوهات فوق الطاولة
بيان المشكلة
تفتقر الروبوتات الخدمية المنزلية الحالية غالبًا إلى القدرة على التفاعل السلس وعام الأغراض مع المستخدمين غير الخبراء. بينما تؤدي الروبوتات التقليدية مهامًا فردية (مثل التنظيف بالمكنسة الكهربائية)، يتطلب التفاعل السلس بين الإنسان والروبوت (HRI) فهم التواصل البشري الغني متعدد الوسائط الذي يجمع بين الكلام الطبيعي والإشارات الإيمائية. تواجه الحلول الحالية عقبتين رئيسيتين:
النماذج المتكاملة (End-to-End) الضخمة: توفر بنيات (Vision-Language-Action - VLA) رسمًا مباشرًا من المدخلات إلى التحكم، لكنها تعاني من عبء حوسبي عالٍ، وصعوبة في اتخاذ القرار ("الصندوق الأسود")، والافتقار إلى القابلية للتفسير.
الأطر الرمزية المجزأة: رغم شفافيتها، إلا أنها تعتمد غالبًا على كواشف كائنات ذات مفردات مغلقة ورسوم بيانية دلالية مبرمجة يدويًا، مما يحد من قدرتها على التعميم للتعامل مع الكائنات المتنوعة وغير المنظمة الموجودة في البيئات المنزلية الواقعية.
علاً عن ذلك، تعاني الأنظمة التقليدية من الغموض في اللغة الطبيعية (مثل الإشارات الإشارية مثل "هذا" أو "ذاك") وتتطلب بيانات تدريب مكثفة خاصة بكل مهمة أو نماذج كائنات محددة مسبقًا.
المنهجية
تقدم الورقة البحثية UNCOM (فهم الأوامر - UNderstanding COMmands)، وهو إطار هجين مبتكر مصمم للتشغيل بأسلوب التعلم الصفري (Zero-shot) في سيناريوهات فوق الطاولة. يدمج UNCOM الكلام، والإيماءات، وسياق المشهد لاستخراج تعليمات هيكلية قابلة للتنفيذ دون الاعتماد على بيانات تدريب خاصة بالمهمة أو نماذج كائنات محددة مسبقًا.
بنية النظام
يستخدم النظام مسار معالجة مجزأ بلغة بايثون (Python)، مستفيدًا من نماذج التعلم العميق التأسيسية لمهام فرعية معقدة ونموذج متخصص واحد لكتشاف الإيماءات:
نسخ الصوت (Audio Transcription): يستخدم Whisper-large-v3-turbo للتعرف الآلي على الكلام (ASR).
فهم الأوامر: يستخدم Phi-4 (mini-instruct) لتحليل النص المنسوخ إلى عناصر دلالية مهيكلة: الكائن (Object)، الإجراء (Action)، والهدف (Target). كما يميز بين الكيانات الملموسة والإشارات الإشارية (مثل "هذا"، "ذاك").
اكتشاف الإيماءات: يستخدم MediaPipe Hand Landmarker لاكتشاف إيماءات التأشير. يحدد النظام متجه التأشير من القاعدة إلى طرف إصبع السبابة ويستخدم الإحداثي (z) لتحديد اليد النشطة.
اكتشاف الكائنات وتقسيمها:
GroundingDINO (tiny): كاشف مفتوح المفردات يُستخدم لتحديد الكائنات بالاسم أو لحل الغموض عند مطابقة عدة كائنات للوصف.
نموذج التقسيم الشامل (SAM): يُستخدم لتقسيم المناطق البكسلية الدقيقة للكائن المستهدف والموقع المستهدف.
DINOv2: يُستخدم لتقدير العمق واكتشاف الكائنات العام للمساعدة في فهم المشهد.
الاستدلال المكاني:
بالنسبة للأهداف النسبية (مثل "بجانب التفاحة")، يقوم النظام بتقسيم الطاولة، ويطبق مخطط فورونوي (Voronoi diagram) لتقسيم المساحة إلى خلايا، وإنشاء خريطة إشغال. ثم يختار الخلية غير المشغولة التي تتوافق مع الوصف المكاني.
بالنسبة للأهداف الإشارية (التأشير فقط)، يحاول النظام اكتشاف حاوية؛ وإذا لم يجد أي منها، يختار أقرب خلية فورونوي فارغة.
التنفيذ
المخرج هو تمثيل مهيكل (كائن-إجراء-هدف) مع تقسيمات على مستوى البكسل وإحداثيات ثلاثية الأبعاد. تُمرر هذه البيانات إلى نظام فرعي لتنفيذ المهام (تم استعراضها باستخدام MoveIt! على روبوتات TIAGo وTIAGo++) للقيام بعمليات الالتقاط والوضع. يقوم النظام بحساب وضعية (6DoF) للكائنات، مع اللجوء إلى تقدير المركز (centroid) للكائنات غير المعروفة، رغم ملاحظة بعض القيود مع الأشكال المعقدة.
المساهمات الرئيسية
بنية هجينة للتعلم الصفري (Zero-Shot): إطار عمل يجمع بين النماذج التأسيسية (Phi-4, GroundingDINO, DINOv2) ونموذج إيماءات متخصص (MediaPipe) لتفسير الأوامر متعددة الوسائط دون الحاجة لضبط دقيق (Fine-tuning) على مجموعات بيانات منزلية.
القابلية للتفسير والتجزئة: على عكس نماذج VLA المتكاملة، يقوم UNCOM بتحليل الأوامر صراحةً إلى تمثيلات مهيكلة، مما يعزز الشفافية ويسمح بالتكامل مع الأطر الروبوتية الرمزية.
حل الغموض القوي: يحل النظام الغموض بفعالية عبر دمج التعليمات اللفظية مع إيماءات التأشير والاستدلال المكاني (تقسيم فورونوي)، مما يدعم أساليب تأشير متنوعة وإشارات مرجعية مختلفة.
مجموعة بيانات مرجعية: أصدر المؤلفون مجموعة بيانات تحتوي على 159 فيديو عبر 22 سيناريو فوق الطاولة، تغطي تنوعات في الإشارات المرجعية للكائنات، المشتتات، الفوضى، وأنواع الأهداف (مطلقة مقابل نسبية).
النتائج
تم تقييم النظام على مجموعة بيانات من سيناريوهات التفاعل بين الإنسان والروبوت في العالم الحقيقي:
معدل النجاح: حقق UNCOM معدل نجاح بنسبة 82.39% (131 من أصل 159 حالة) في تحديد الكائن، والإجراء، والهدف المقصود من قبل المدرب البشري بشكل صحيح.
عرض الروبوت: تم نشر النظام بنجاح على روبوتات TIAGo وTIAGo++ لمهام الالتقاط والوضع عبر ستة سيناريوهات محددة، بما في ذلك التعامل مع المشتتات، الكائنات المتشابهة المتعددة، والإشارات المرجعية.
تحليل الخطأ: تم تحديد الاختناقات الأساسية في مكونات التعلم العميق الأساسية بدلاً من المنطق الإجرائي:
MediaPipe: حساس للغاية لضبابية الحركة (motion blur)، مما يؤدي إلى فقدان اكتشاف اليد. টি Whisper: أخطاء نسخ عرضية، خاصة مع المتحدثين بلغة إنجليزية غير أصلية (مثل الخلط بين "bowl" و"ball").
نماذج الرؤية: أظهرت نماذج GroundingDINO وSAM وDINOv2 أداءً قويًا، حيث كانت الأخطاء غالبًا قابلة للتصحيح عبر الإشارات السياقية.
الأهمية
تزعم الورقة أن UNCOM يثبت فعالية النهج الهجين للتعلم الصفري في التفاعل بين الإنسان والروبوت، مما يسد الفجوة بين مرونة النماذج التأسيسية وقابلية التفسير للأطر الرمزية. ومن خلال فصل فهم الأوامر عن التنفيذ، يسمح النظام بالتكيف عبر مختلف الهياكل الروبوتية والبيئات دون الحاجة لإعادة التدريب. ويؤكد المؤلفون أنه بينما يظل الأداء الحالي محدودًا بمدى قوة نماذج التعلم العميق الجاهزة، فإن البنية توفر أساسًا قابلاً للتوسع. ويركز العمل المستقبلي على تحسين متانة النماذج ضد الضجيج، وتوسيع دعم اللغات، ودمج إجراءات حل الغموض للسماح للروبوت بالحوار مع المستخدمين بغرض الاستيضاح.