X-OmniClaw Technical Report: A Unified Mobile Agent for Multimodal Understanding and Interaction
تقدم هذه الورقة البحثية X-OmniClaw، وهو وكيل متنقل موحد لنظام أندرويد يدمج الإدراك متعدد الوسائط، والذاكرة الشخصية، واستراتيجيات العمل الهجينة لتمكين التنفيذ الفعال والموثوق للمهام المعقدة من خلال تفاعلات بديهية.
المؤلفون الأصليون:Xiaoming Ren, Ru Zhen, Chao Li, Yang Song, Qiuxia Hou, Yanhao Zhang, Peng Liu, Qi Qi, Quanlong Zheng, Qi Wu, Zhenyi Liao, Binqiang Pan, Haobo Ji, Haonan Lu
تخيل أن هاتفك الذكي ليس مجرد أداة تمسكها، بل هو جسد رقمي يمكنه الرؤية، والسمع، والتذكر، والتصرف نيابة عنك. هذه هي الفكرة الجوهرية وراء X-OmniClaw، وهو "وكيل متنقل" (mobile agent) جديد ابتكره باحثو OPPO.
فكر في X-OmniClaw كـ مساعد رقمي شخصي فائق الذكاء يعيش مباشرة داخل هاتفك (وليس في السحابة)، مصمم للتعامل مع المهام المعقدة عبر الجمع بين ما يراه على شاشتك، وما يراه من خلال كاميرتك، وما تقوله له.
معظم المساعدات تنتظر منك كتابة أمر ما. أما X-OmniClaw فهو مختلف؛ إذ يمتلك بوابة موحدة تستمع إلى كل شيء في وقت واحد.
التشبيه: تخيل محققاً يمكنه النظر إلى مسرح الجريمة (شاشتك)، والاستماع إلى شاهد (صوتك)، والنظر من النافذة إلى العالم الحقيقي (كاميرتك) جميعاً في آن واحد.
كيف يعمل: هو لا يسمع فقط "ما هو السعر؟"، بل ينظر إلى الشيء الذي تشير إليه بكاميرتك، ويسمع سؤالك، ويفهم فوراً: "أوه، أنت تريد سعر هذه الزجاجة تحديداً على Taobao". إنه يربط بين العالم الحقيقي والعالم الرقمي قبل أن يبدأ العمل.
المساعدات القديمة تنسى كل شيء بمجرد إنهاء المكالمة. أما X-OmniClaw فيمتلك نظام ذاكرة ثنائي الأجزاء يحافظ على استمرارية سياقك.
التشبيه: فكر في الأمر كأنه طاولة عمل قصيرة المدى ومكتبة طويلة المدى.
طاولة العمل (الذاكرة العاملة): تحتفظ بما تفعله الآن. إذا كنت تقوم بتعبئة نموذج وتوقف التطبيق فجأة، سيتذكر المساعد بالضبط أين توقفت حتى لا تضطر للبدء من جديد.
المكتبة (الذاكرة طويلة المدى): تتعلم من ماضيك. إذا التقطت صوراً للببغاوات، فلن يقوم المساعد بمجرد تخزين الصورة؛ بل سينشئ "ملاحظة دلالية" تقول: "المستخدم يحب الببغاوات". لاحقاً، إذا طلبت فيديو عن الببغاوات، سيعرف فوراً أي الصور يجب أن يسحب دون الحاجة للبحث بين مئات الملفات.
الخصوصية أولاً: نظرًا لأن هذه الذاكرة تعيش على هاتفك (محلياً/Edge-native)، فإن صورك وبياناتك الخاصة لا يتعين إرسالها إلى خادم بعيد ليتم فهمها.
3. الأيدي: "العمل الشامل" (Omni Action)
هنا يحدث السحر. بدلاً من مجرد التحدث إليك، يقوم X-OmniClaw بالفعل من أجلك.
التشبيه: تخيل يداً روبوتية يمكنها النقر، والمسح (swipe)، والكتابة، لكنها أيضاً متعلمة ذكية.
الأيدي الهجينة: أحياناً تكون التطبيقات فوضوية (مليئة بالإعلانات أو التصميمات الغريبة). يستخدم X-OmniClaws "استراتيجية هجينة"؛ فهو يقرأ كود التطبيق (XML) ليعرف أين يُفترض أن تكون الأزرار، ولكن إذا كان الكود مربكاً، فإنه يستخدم "عيونه" (الإدراك البصري) لإيجاد الزر كما يفعل البشر تماماً.
خدعة "الاستنساخ": هذا هو الجزء الأكثر روعة. إذا قمت بالتنقل يدوياً عبر مسار معقد للوصول إلى صفحة تخفيضات محددة في تطبيق ما (مثل Meituan)، يمكنك أن تقول للمساعد: "راقب هذا". سيقوم بـ استنساخ سلوكك. في المرة القادمة التي تقول فيها: "اذهب إلى التخفيضات الخاطفة"، لن يكتفي بالبحث فحسب؛ بل سينتقل فوراً إلى تلك الصفحة بالضبط، متجاوزاً كل عمليات النقر والتمرير المملة. إنه يحول تنقلك اليدوي إلى "بطاقة مهارة" قابلة لإعادة الاستخدام.
لماذا يعد هذا أمراً مهماً؟
معظم المساعدات "الذكية" الحالية تعمل على خوادم بعيدة (السحابة). إنها تشبه طياراً يقود طائرة من برج مراقبة يبعد أميالاً؛ لا يمكنه الشعور بالاضطرابات الجوية أو الوصول إلى مستشعرات الطائرة مباشرة.
أما X-OmniClaw فهو محلي المنشأ (Edge-Native).
تشبيه السيارة: الهاتف الذكي هو السيارة. والسحابة هي مجرد محطة الوقود (توفر الوقود/القدرة على التفكير عند الحاجة). المحرك (الوكيل) موجود داخل السيارة.
ولأن المحرك داخل السيارة، يمكنه الاستجابة فوراً لحركة المرور (تغير شاشتك)، واستخدام مستشعرات السيارة الخاصة (الكاميرا/الميكروفون)، ولا يحتاج لانتظار إشارة من برج بعيد.
أمثلة واقعية من الورقة البحثية
مساعد الكاميرا: توجه كاميرتك نحو منتج وتسأل: "كم سعر هذا؟". يتعرف المساعد على المنتج، ويفتح تطبيق التسوق، ويجد السعر، ويقرأه لك.
فيديو بنقرة واحدة: تقول: "اصنع فيديو من صور الببغاوات الخاصة بي". يتذكر المساعد أي الصور تخص الببغاوات (من مكتبته)، ويفتح تطبيق تحرير الفيديو، ويختار تلك الصور تلقائياً لبدء إنشاء الفيديو.
البوابة الفورية: تريد الذهاب إلى صفحة تخفيضات معينة يصعب العثور عليها. تعلم المساعد المسار مرة واحدة. الآن، بمجرد قول "التخفيضات الخاطفة"، سينقلك إلى هناك فوراً.
الخلاصة
إن X-OmniClaw هو مخطط لمستقبل المساعد الشخصي من الجيل التالي الذي لا يكتفي بالدردشة معك، بل يدير هاتفك بنشاط، ويتعلم عاداتك، وينفذ مهاماً معقدة عبر الجمع بين ما يراه، ويسمعه، ويتذكره. إنه يهدف لجعل هاتفك يبدو أقل كأداة تشغلها، وأكثر كشريك يفهم حياتك.
ملخص تقني: X-OmniClaw
بيان المشكلة
يتجه تطور النماذج اللغوية الكبيرة (LLMs) نحو النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) القادرة على تنفيذ المهام بشكل مستقل. وبينما أظهرت الحلول الحالية مثل "Doubao Phone" جدوى هندسية للتنسيق عبر التطبيقات على نظام Android، إلا أنها تفتقر غالبًا إلى التحكم العميق للمنطق المحدد من قبل المستخدم والتخصيص. وفي المقابل، توفر أطر العمل مثل "OpenClaw" تنفيذًا قويًا وقابلاً للتوجيه، لكنها تظل متمحورة حول التنفيذ من جانب الحاسوب الشخصي (PC)، مما يفصلها عن السياقات الديناميكية والآنية المطلوبة للتفاعل مع الهاتف المحمول. علاوة على ذلك، تعتمد بنيات الوكلاء في الهواتف المحمولة الحالية بشكل أساسي على نماذج مركزية سحابية (مثل RedFinger وWuying)، حيث يعمل الوكلاء في بيئات افتراضية بعيدة. ويخلق هذا النهج انفصالاً عن الأجهزة المحلية الحقيقية للمستخدم (المستشعرات، الكاميرات، إعدادات النظام، والبيانات الخاصة)، بينما يفشل في معالجة الحاجة إلى حوكمة المستخدم النهائي وأطر التنفيذ القابلة للتخصيص.
المنهجية
يقدم X-OmniClaw وكيلًا محمولًا موحدًا يعتمد على الحافة (edge-native)، مصممًا خصيصًا لنظام Android. وخلافًا للنماذج المركزية السحابية، يقع جوهر منطقه بالكامل على جهاز المستخدم المحلي، مستخدمًا الهاتف الذكي كواجهة مستمرة لتدفقات البيانات متعددة الوسائط. تم بناء النظام بناءً على مكدس مترابط وثيق من ثلاث وحدات مصممة معًا: الإدراك الشامل (Omni Perception)، الذاكرة الشاملة (Omni Memory)، والإجراء الشامل (Omni Action).
1. الإدراك الشامل (مدخلات متعددة الوسائط موحدة)
تعمل هذه الوحدة كمستقبل حسي للنظام، حيث تدمج ثلاثة مجالات: حالات واجهة المستخدم على الشاشة، السياقات البصرية في العالم الحقيقي، ومدخلات الكلام.
المدخلات الموحدة: تقوم بدمج المحفزات المتنوعة (تفاعلات واجهة مستخدم المستخدم، أدوات النظام، مدخلات الميكروفون، المهام المجدولة، والبوابات البعيدة) في مسار واحد. وتستخدم AlarmManager الخاص بـ Android للحفاظ على مسارات الاستيقاظ للمهام المجدولة حتى في حالات استهلاك الطاقة المنخفضة.
الإدراك المتكامل: تستخدم مسار تدفق منفصل لالتقاط بث الكاميرا، وإسقاطات الشاشة، والنسخ النصي للكلام في الوقت الفعلي. كما تتضمن إلغاء صدى صوتي تكيفي (AEC) على الجهاز للتعامل مع التداخل الصوتي.
فهم النوايا المرتبط بالمشهد: يقوم نموذج رؤية-لغة (VLM) بتفسير المشهد البصري جنبًا إلى جنب مع استفسارات المستخدم، حيث يقوم بتوسيع المدخلات الخام إلى نوايا دلالية مهيكلة. إذا كان بالإمكان الإجابة على الاستعلام مباشرة من المشهد، فإنه يستجيب فورًا؛ وإلا، فإنه يفكك الطلب إلى تنسيق مهيكل لحلقة الوكيل (Agent Loop).
2. الذاكرة الشاملة (السياق التشغيلي وطويل الأمد)
تضمن هذه الوحدة استمرارية المهام والتخصيص من خلال توحيد الذاكرة العاملة قصيرة المدى مع المعرفة الشخصية طويلة الأمد.
الذاكرة العاملة: تحافظ على سياق تشغيلي متعدد الوسائط عبر عدة جولات وتبديلات بين التطبيقات، بما في ذلك لقطات الشاشة، والملاحظات الدلالية المضغوطة، وحالات التنفيذ. وهذا يسمح للوكيل باستئناف المهام دون فقدان السياق.
الذاكرة طويلة الأمد: تعمل على تقطير المعلومات متعددة الوسائط من البيانات الشخصية المحلية (مثل صور المعرض، ومسارات التفاعل) إلى آثار ذاكرة مستمرة وملفات تعريف المستخدم. ويتم تحويل هذه البيانات إلى سجلات دلالية مدمجة (مثل تحديد الأشياء والمشاهد في الصور) بدلاً من الصور الخام.
تنسيق المهارات والأدوات: يتم فصل إنتاج الذاكرة (المزامنة، التلخيص) عن استهلاكها (الاسترجاع، السؤال والجواب). وتسبق خطوة تصفية السلامة عملية كتابة الذاكرة لحجب المعلومات الحساسة، حيث يحتفظ المستخدمون بالتحكم الصريح في تمكين الذاكرة وحقن ملفات التعريف.
3. الإجراء الشامل (التأسيس والتنفيذ الهجين)
تنفذ هذه الوحدة المهام من خلال الجمع بين بيانات XML الهيكلية والإدراك البصري للتعامل مع تباين واجهات Android.
فهم واجهة المستخدم الهجين: يستخدم النظام استراتيجية ديناميكية تستفيد من إشارات XML عندما تكون موثوقة، ولكنها تعود إلى التأسيس البصري (عبر نماذج على الجهاز) والتعرف الضوئي على الحروف (OCR) عندما تكون الإشارات الهيكلية ضعيفة أو غامضة (مثل الواجهات المليئة بالإعلانات).
استنساخ السلوك وإعادة تشغيل المسار: بدلاً من التنفيذ لمرة واحدة، يسجل النظام تنقل المستخدم لإنشاء "مهارات" قابلة لإعادة الاستخدام.
الاستنساخ: يلتقط النظام النية الدلالية لمسار المستخدم (مثل "الانتقال إلى قالب فيديو محدد") بدلاً من النقرات الحرفية. ويستخرج معاملات deeplink و intent عبر فحص dumpsys لتجاوز إعادة تشغيل واجهة المستخدم غير الضرورية.
إعادة التشغيل: عند استدعاء مهارة ما، يحاول النظام الانتقال مباشرة إلى الحالة المستهدفة باستخدام الـ deeplink الملتقط أو الـ intent. وإذا فشل الدخول المباشر، فإنه يستخدم استراتيجية تراجع متعددة المستويات (مثل استعادة مكدس المهام) لاستعادة الصفحة.
المساهمات الرئيسية
بنية تعتمد على الحافة (Edge-Native): ينقل X-OmniClaw النموذج من الآلات الافتراضية المستضافة سحابيًا إلى التنفيذ على الجهاز، مما يتيح الوصول المباشر إلى المستشعرات المحلية، والبيانات الخاصة، وإعدادات النظام مع الحفاظ على الخصوصية.
إطار عمل موحد من الإدراك إلى الإجراء: يدمج حالة واجهة المستخدم، والرؤية في العالم الحقيقي، والصوت في حلقة واحدة متماسكة، متجاوزًا الأتمتة المعزولة القائمة على لقطات الشاشة.
استراتيجية التأسيس الهجين: من خلال الجمع بين XML الهيكلي والإدراك البصري، يحقق النظام تفاعلاً قويًا في البيئات المحمولة المعقدة والمزدحمة بصريًا حيث تفشل الطرق التقليدية.
تنفيذ المسار المستنسخ: يحول النظام تنقل المستخدم المعقد إلى مهارات عالية المستوى قابلة لإعادة الاستخدام عبر استنساخ السلوك واستخراج الـ deeplink، مما يتيح تنفيذ الوصول المباشر الدقيق ويقلل الاعتماد على عمليات إعادة التشغيل الهشة خطوة بخطوة.
النتائج والعروض التوضيحية
تقدم الورقة ثلاثة سيناريوهات توضيحية تثبت قدرات النظام:
مساعد التعاون في العالم الحقيقي (Real-world Copilot Assistant):
التنفيذ المدعوم بالكاميرا: يتعرف الوكيل على منتج عبر الكاميرا، ويستنتج نية التسوق، ويستخدم deeplink لفتح التطبيق المستهدف (مثل Taobao)، ثم يقوم بالتمرير واستخراج البيانات المهيكلة (الأسعار، التقييمات) عبر القراءة القائمة على VLM.
تنفيذ ScreenAvatar: يقوم رفيق عائم بتنفيذ مهام طويلة السلسلة ومتعددة الخطوات (مثل حل سلسلة من المشكلات) من خلال التفسير المستمر لحالات الشاشة الحية وتحديث استراتيجيات التنفيذ.
الخدمات الاستباقية الشخصية:
إنشاء فيديو بنقرة واحدة بناءً على الذاكرة: يقوم النظام بتنظيم الصور استباقيًا في الذاكرة الدلالية أثناء وقت الخمول. وعند تلقي أمر صوتي، يسترجع الأصول المتوافقة مع الموضوع ويستخدم deeplink للقفز مباشرة إلى تطبيق تحرير الفيديو (CapCut)، مع تحديد الصور بالجملة وإنشاء فيديو دون تصفح يدوي.
استنساخ السلوك وإعادة تشغيل المسار:
البوابة الفورية (Instant Portal): يسمح النظام للمستخدمين باستنساخ مسار تنقل معقد (مثل الوصول إلى صفحة عروض خاطفة محددة في Meituan) إلى مهارة. وتؤدي الاستعلامات اللاحقة إلى إطلاق مباشر عبر الـ deeplinks الملتقطة أو طرق استعادة التراجع، متجاوزة التنقل متعدد الصفحات.
الأهمية والادعاءات
يزعم المؤلفون أن X-OmniClaw يوفر مخططًا معماريًا عمليًا للجيل القادم من المساعدين الشخصيين الأصليين للهواتف المحمولة. وتكمن أهميته في:
سد الفجوة: يربط بين التنفيذ المعماري والاستقلالية الأصلية للهاتف المحمول، مما يسمح للوكلاء باستخدام سياق العالم الحقيقي للمهام الرقمية.
تعزيز الكفاءة والموثوقية: من خلال الاستفادة من استنساخ السلوك والتأسيس الهجين، يحسن النظام كفاءة التفاعل وموثوقية المهام في البيئات المتنوعة التي تركز على الهاتف المحمول.
الخصوصية والتحكم: التصميم المعتمد على الحافة يلغي الحاجة إلى الهويات السحابية ويبقي البيانات الخام محلية، مما يعالج المخاوف المتعلقة بالخصوصية وحوكمة المستخدم.
البحث المفتوح: يُجرى هذا المشروع لأغراض البحث الأكاديمي مع التزام بفتح جميع الأكواد والأصول المصدرية لتعزيز التنمية التي يقودها المجتمع.
تخلص الورقة إلى أنه بينما يعالج النظام الحالي قضايا التحكم والشفافية الموجودة في أطر العمل الحالية، فإن العمل المستقبلي سيركز على مسارات التنفيذ ذاتية التطور، والتطور الديناميكي للذاكرة (التلخيص الدلالي والنسيان الانتقائي)، والتآزر الأمثل بين الجهاز والسحابة.