COCORELI: Enforcing Execution Preconditions for Reliable Collaborative Instruction Following
تقدم الورقة البحثية COCORELI، وهي بنية معيارية تفرض موثوقية التنفيذ من خلال الربط الهيكلي بين اكتشاف المعلومات المفقودة ومنع الإجراء، مما يمنع الوكلاء المستقلين من تنفيذ المهام حتى يتم حل أوجه عدم التحديد من خلال استيضاح مستهدف.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تبني قلعة "ليجو" معقدة مع صديق لك. أنت تلعب دور المهندس المعماري، وصديقك يلعب دور البنّاء. أنت تعطي التعليمات مثل: "ضع مكعباً أحمر فوق المكعب الأزرق".
في العالم الحقيقي، قد تفترض أن صديقك يعرف أي مكعب أحمر تقصد، أو يعرف بالضبط ماذا تعني بكلمة "فوق". لكن في عالم الذكاء الاصطوتناعي الرقمي، إذا لم تحدد كل التفاصيل، فغالباً ما يحاول الذكاء الاصطناعي تخمين القطع المفقودة. قد يختار المكعب الخطأ أو يضعه في المكان الخطأ، ولأنه واثق جداً من تخمينه، قد يبني برجاً مائلاً. وبمجرد وقوع الخطأ، يصبح من الصعب إصلاحه.
تقدم هذه الورقة البحثية نظاماً جديداً يسمى COCORELI (وهو اختصار لـ: التعاون، وإعادة التشكيل، وتنفيذ التعليمات اللغوية) لحل هذه المشكلة.
المشكلة الجوهرية: فخ "التخمين"
أنظمة الذكاء الاصطناعي الحالية تشبه المتدربين المتحمسين للغاية. إذا طلبت منهم "حجز اجتماع"، ونسيت أن تذكر من ستدعو، فقد يقومون باختراع اسم من تلقاء أنفسهم أو اختيار شخص عشوائي من قائمة. هم يدركون أن المعلومات مفقودة، لكنهم لا يتوقفون؛ بل يملؤون الفراغ بتخمين ويمضون قدماً. هذا يؤدي إلى "الهلوسة" (اختلاق أشياء غير موجودة) والقيام بأفعال غير آمنة.
يرى المؤلفون أن مجرد اكتشاف قطعة مفقودة من المعلومات ليس كافياً. أنت بحاجة إلى نظام يمنع فيزيائياً تنفيذ الإجراء حتى يتم العثور على القطعة المفقودة.
الحل: تشبيه "قفل الأمان"
تخيل COCORELI كموقع بناء يحتوي على قفل أمان صارم.
- المخطط (التمثيل الهيكلي): بدلاً من مجرد قراءة كلماتك، يقوم COCORELI بترجمة تعليماتك إلى مخطط رقمي صارم (ملف JSON). كل جزء من المخطط له خانة محددة: اللون، الموقع، النوع.
- الخانة المفقودة: إذا قلت "ضع مكعباً"، فإن المخطط يحتوي على خانة لـ "اللون" وهي فارغة.
- قفل الأمان: في نظام COCORELI، تمتلك الآلة قفل أمان يقول: "إذا كانت أي خانة فارغة، فلا يمكن للآلة أن تتحرك." إنها ترفض البناء حرفياً.
- الاستيضاح: بدلاً من التخمين، يتوقف النظام فوراً ويسألك: "ما هو لون المكعب؟"
- التحرير: فقط بعد إجابتك وملء الخانة، يتحرر قفل الأمان، مما يسمح بتنفيذ الإجراء.
كيف يعمل في الواقع
اختبرت الورقة هذا النظام في لعبة بناء ثلاثية الأبعاد محكومة (تسمى ENVIRONMENT) حيث تكون الأخطاء دائمة. إذا وضعت مكعباً في مكان خاطئ، ينهار الهيكل، ولا يمكنك التراجع عن الخطأ.
قارنوا بين COCORELI وطرق أخرى شائعة للذكاء الاصطناعي:
- سلسلة الأفكام (Chain-of-Thought - CoT): مثل طالب ذكي يفكر بعمق ولكنه لا يزال يخمن الإجابة إذا لم يكن متأكداً.
- الأطر الوكيلة (Agentic Frameworks): مثل فريق من العمال يتحدثون مع بعضهم البعض، لكنهم لا يزالون يمضون قدماً إذا اعتقدوا أن لديهم معلومات كافية.
- COCORELI: مثل رئيس عمال صارم لن يسمح بوضع مكعب واحد حتى يتم تأكيد كل التفاصيل.
النتائج:
- عندما كانت التعليمات مثالية، أدى الجميع أداءً جيداً.
- عندما كانت التعليمات تفتقر إلى التفاصيل (غير محددة بدقة)، استمرت الأنظمة الأخرى في التخمين وبناء هياكل خاطئة.
- COCORELI لم يخمن أبداً. لقد توقف، وطلب التوضيح، ثم بنى الهيكل الصحيح بالضبط. لقد قضى تماماً على الأفعال "المهلوسة" في هذه الاختبارات.
"قوة النسخ واللصق" (التجريد)
تظهر الورقة أيضاً أن COCORELI يمكنه تعلم نمط ما وإعادة استخدامه.
- السيناريو: تقوم ببناء شكل "جمجمة" معقد باستخدام 62 قطعة.
- الطلب: لاحقاً، تقول "ابنِ لي جمجمة أخرى، ولكن اجعلها زرقاء وضعها هناك".
- النتيجة: لا يحتاج COCORELI منك سرد جميع الخطوات الـ 62 مرة أخرى. إنه يتذكر هيكل الجمجمة (المخطط) ويقوم فقط باستبدال اللون والموقع. بينما واجهت الأنظمة الأخرى صعوبة في تذكر النمط المعقد دون إعادة سرد كل خطوة على حدة.
الخلاصة
تدعي الورقة أنه لكي يكون الذكاء الاصطناعي موثوقاً حقاً عند العمل مع البشر، لا يمكننا الاعتماد فقط على جعل الذكاء الاصطناعي "أذكى" أو أفضل في التخمين. نحن بحاجة إلى تغيير بنية النظام (تصميم النظام) بحيث يكون من المستحيل على الذكاء الاصطناعي التصرف بناءً على معلومات غير كاملة.
يثبت COCORELI أنه من خلال التعامل مع المعلومات المفقودة كـ "علامة توقف" بدلاً من "تلميح للتخمين"، يمكننا بناء وكلاء آمنين، موثوقين، ومتعاونين حقاً. الأمر لا يتعلق بكون الذكاء الاصطناعي أذكى؛ بل يتعلق بكون النظام أكثر صرامة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.