Distilling Answer Set Programming Theories from Large Language Models
تبحث هذه الورقة في قدرة النماذج اللغوية الكبيرة على استخلاص نظريات برمجة مجموعات الإجابات (Answer Set Programming) كاملة وصحيحة بشكل مستقل لمهام الإجابة على الأسئلة البصرية ضمن حد زمني قدره ساعة واحدة، حيث أظهرت النماذج الرائدة مثل Claude Sonnet 4.6 وClaude Opus 4.7 وDeepSeek V4 Pro دقة تقارب المثالية في عدة معايير مرجعية، بينما أظهر GPT-5 تباينًا كبيرًا في الأداء وحساسية تجاه البيانات المرجعية.
المؤلفون الأصليون:Nelson Higuera Ruiz, Markus Hofmarcher, Claudiu Leoveanu-Condrei
تخيل عالماً تكون فيه الحواسيب بارعة للغاية في شيئين مختلفين تماماً. فمن ناحية، هي بمثابة حاسبات فائقة السرعة يمكنها اتباع قواعد صارمة لحل الألغاز المنطقية، لكنها سيئة جداً في فهم العالم الفوضوي والغامض من حولها. ومن ناحية أخرى، هي بمثابة رواة قصص مبدعين وعباقرة يمكنهم قراءة أي شيء تقريباً وكتابة الشعر، لكنهم غالباً ما يختلقون الحقائق أو يتوهون عندما يُطلب منهم اتباع مجموعة صارمة من التعليمات. يطلق العلماء على زواج هاتين المهارتين اسم الحوسبة "العصبية الرمزية" (neurosymbolic). الأمر يشبه محاولة بناء روبوت يمتلك خيال الشاعر ودقة عالم الرياضيات معاً. السؤال الكبير الذي يطرحه الباحثون هو: هل يمكننا تعليم حاسوب فائق الذكاء (نموذج لغوي كبير) أن يكتب كتاب قواعده الصارم الخاص من الصفر، بحيث يمكنه حل الألغاز المعقدة دون أن يضطر إنسان لكتابة كل قاعدة يدوياً؟ هذا أمر مهم لأن كتابة كتب القواعد هذه عملية بطيئة ومملة وصعبة الإتقان، ولكن إذا استطاع الحاسوب القيام بذلك، فقد نفتح طرقاً جديدة لتمكين الآلات من التفكير والاستنتاج حول العالم.
في هذه الورقة البحثية، حاول فريق من الباحثين معرفة ما إذا كان بإمكان نموذج لغوي كبير أن يعمل كمتدرب دؤوب، يتعلم كتابة "كتاب قواعد" كامل للعبة تشبه الألغاز تسمى "الإجابة عن الأسئلة البصرية" (VQA). تخيل أنك تعرض على الحاسوب صورة لمشهد وتطرح عليه سؤالاً: "هل القرص الأصفر على يسار الشخص؟". للإجابة على هذا، يحتاج الحاسوب إلى فهم الصورة، وتفكيك السؤال، ثم إجراء فحص منطقي. أعطى الباحثون الحاسوب ملفاً فارغاً ومجموعة من الأدوات، بما في ذلك "المحلل" (solver) - وهو بمثابة حكم صارم يتحقق مما إذا كانت القواعد منطقية أم لا. كانت مهمة الحاسوب هي قراءة بضع أمثلة تدريبية، ثم كتابة بعض القواعد، ثم طلب من الحكم التحقق منها، ورؤية أين أخفق، ثم إعادة كتابة القواعد. كان لديه ساعة واحدة للاستمرار في فعل ذلك حتى يصل إلى أفضل مستوى ممكن.
اختبر الباحثون ذلك على ثلاثة "مستويات للألغاز": CLEVR (أشكال بسيطة مولدة حاسوبياً)، وGQA (صور من العالم الحقيقي تحتوي على أجسام أكثر تعقيداً)، وCLEVRER (مقاطع فيديو قصيرة تتضمن علاقة السبب والنتيجة). جربوا ذلك باستخدام تسعة نماذج حاسوبية مختلفة، تراوحت من أحدث النماذج "الرائدة" وأكثرها قوة إلى نماذج أصغر وأقدم. جاءت النتائج مزيجاً من النجاح المذهل والفشل المفاجئ. فقد أصبح ثلاثة من أربعة نماذج من الفئة العليا أساتذة في اللعبة؛ ففي ألغاز CLEVR البسيطة، حققوا درجة مثالية بلغت 100%. وفي ألغاز GQA الأكثر صعوبة، سجلوا درجات تتراوح بين 92.8% و98.8%، وهو أداء يتفوق حتى على أفضل كتب القواعد التي كتبها البشر لهذا النوع من البيانات. أما في ألغاز الفيديو (CLEVRER)، فقد سجلوا ما بين 92.7% و95.3%.
ومع ذلك، لم ينجح كل نموذج. أحد أشهر النماذج، GPT-5، أدى بشكل رائع في الألغاز البسيطة (98.7%)، لكنه انهار في ألغاز الصور الواقعية، حيث انخفضت درجته إلى 41.8% فقط. وجد الباحثون أن هذا لم يكن بسبب عدم قدرة النموذج على التفكير المنطقي، بل لأن النموذج ببساطة لم يكتب عدداً كافياً من القواعد لتغطية جميع أنواع الأسئلة المختلفة. وعندما أعطى الباحثون النماذج "ورقة غش" (كتاب قواعد مرجعي من نوع لغز آخر) لمساعدتها، ظلت النماذج المتفوقة عند نفس المستوى تقريباً، لكن GPT-5 ساء أداؤه في الواقع، مما يشير إلى أن النظر في ورقة الغش ربما أدى لتشتيته أو استهلك ذاكرته. أما النماذج الأصغر والأقل قوة، فقد فشلت في الغالب في كتابة أي قواعد صالحة للعمل، وغالباً ما كانت تتعثر أو تكتب قواعد لا يستطيع الحكم فهمها.
تظهر الدراسة أنه مع الإعداد الصحيح، يمكن للحاسوب بالفعل أن يعلم نفسه كتابة كتاب قواعد منطقي كامل وعالي الجودة من الصفر، ليصل إلى أداء البشر أو حتى يتفوق عليهم في عدة اختبارات معيارية. لكن هذا أيضاً يشير إلى أن هذه القدرة ليست مضمونة؛ فهي تعتمد بشدة على النموذج المحدد المستخدم، وأحياناً، قد يؤدي إعطاء النموذج مزيداً من المعلومات (مثل كتاب مرجعي) إلى إرباكه. لقد نشر الباحثون جميع أكوادهم وكتب القواعد التي كتبتها الحواسيب، داعين الآخرين لمحاولة التحسن على هذا "التدريب العصبي الرمزي".
ملخص تقني: استخلاص نظريات برمجة مجموعات الإجابات من النماذج اللغوية الكبيرة
بيان المشكلة تعد كتابة نظريات برمجة مجموعات الإجابات (ASP) من الصفر مهمة شاقة تتطلب مئات القواعد لتغطية العمليات الخاصة بمهام الاستدلال غير البديهية. غالبًا ما تكون النظريات المكتوبة يدويًا خاصة بنطاق معين ولا تنتقل عبر مجموعات البيانات ذات المخططات (schemas) المختلفة. يبحث هذا البحث فيما إذا كان بإمكان نموذج لغوي كبير (LLM)، يعمل كوكيل مستقل مع وجود "محلل" (solver) في حلقة التكرار، أن يستخلص نظرية ASP كاملة وصحيحة من الصفر. الهدف هو تحديد ما إذا كان بإمكان النموذج اللغوي تأليف نظرية بشكل تكراري بالاعتماد فقط على ملف فارغ، ومطالبة (prompt) ثابتة، والوصول إلى أمثلة تدريبية، دون الحاجة إلى قوالب مقدمة من البشر أو أنماط قواعد جزئية.
المنهجية يقترح المؤلفون بروتوكول استخلاص غير مرتبط بمجموعة بيانات محددة، تم تطبيقه على مجال الإجابة على الأسئلة المرئية (VQA). يعمل النظام ضمن إطار عمل "عصبي رمزي" (neurosymbolic) حيث يعمل النموذج اللغوي كمؤلف لوحدة الاستدلال، بينما يوفر محلل ASP قياسي (clingo) محرك التنفيذ.
حامل الوكيل (The Agent Harness): يتم تضمين النموذج اللغوي في بيئة معزولة (Docker container) باستخدام واجهة سطر أوامر الوكيل OpenCode. يمتلك النموذج إمكانية الوصول إلى أدوات التلاعب بالملفات (read, edit, write, glob, grep) وواجهة bash مقيدة لتشغيل uv run solve (لتنفيذ محلل ASP على بيانات التدريب) و uv run lint (للتحقق من الصيغة البرمجية).
البروتوكول:
التهيئة: يبدأ الوكيل بملف نظرية فارغ ومطالبة نظام دنيا توجهه لإنتاج نظرية تستنتج ans(A) لأمثلة التدريب.
التكرار: يقرأ الوكيل بضعة أمثلة تدريبية، ويكتب نظرية أولية صالحة من حيث الصيغة، ويختبرها مقابل المحلل.
حلقة التغذية الراجعة: بناءً على مخرجات المحلل (أو غيابها)، يحدد الوكيل أوضاع الفشل، ويقوم بتعديل النظرية، ثم يكرر العملية.
الإنهاء: تستمر الحلقة حتى يعلن الوكيل ذاتيًا عن الاكتمال أو وصول الوقت إلى حد أقصى قدره ساعة واحدة.
التقييم: يتم تقييم النظرية النهائية بناءً على مجموعة بيانات تحقق (validation set) محجوزة. وحدة العمل هي النظرية بأكملها، التي تم تأليفها عبر دورات تعديل عديدة.
الإعداد التجريبي: تقيم الدراسة تسعة نماذج عبر ثلاث معاي better مرجعية لـ VQA:
CLEVR: مشاهد ثلاثية الأبعاد اصطناعية تركز على الاستدلال التركيبي.
GQA: صور من العالم الحقيقي مع مفردات واسعة من الكائنات والعلاقات.
CLEVRER: مقاطع فيديو قصيرة تتطلب استدلالًا زمنيًا، وسببيًا، وضدًا للواقع.
فئات النماذج: أربعة نماذج رائدة (Claude Sonnet 4.6, Claude Opus 4.7, GPT-5, DeepSeek V4 Pro)، نموذجان من الفئة المتوسطة، وثلاثة نماذج أصغر ذات أوزان مفتوحة.
الاستبعاد المرجعي (Reference Ablation): تختلف التجارب من حيث تضمين نظريات مرجعية مكتوبة يدويًا من مجموعات بيانات أخرى (0، 1، أو 2 مرجع) لاختبار قابلية الانتقال.
المساهمات الرئيسية
بروتوكول استخلاص موحد: وضع المؤلفون حامل وكيل، ومطالبة نظام، ومجموعة أدوات ثابتة ومتطابقة عبر جميع مجموعات البيانات والنماذج. هذا يعزل قدرة النموذج كمتغير أساسي، مما يلغي تأثير هندسة المطالبات كعامل مربك.
إثبات استخلاص النظرية: تقدم الدراسة دليلًا تجريبيًا على قدرة الوكلاء على استخلاص نظريات ASP كاملة من الصفر. حققت ثلاثة من أربعة نماذج رائدة أداءً يضاهي أو يتجاوز النظريات المرجعية المكتوبة يدويًا في معايير محددة.
تصنيف أوضاع الفشل: يصنف الورق الأخطاء المرصودة إلى أخطاء تحليل (parse errors)، وفشل في الربط (grounding failures)، و"لا توجد إجابة" (النظرية صامتة)، وأخطاء دلالية (semantic errors). كما يحلل كيفية تفاعل حجم النموذج والنظريات المرجعية مع أوضاع الفشل هذه.
النتائج
أداء النماذج الرائدة:
CLEVR: حققت ثلاثة نماذج رائدة (Sonnet, Opus, DeepSeek V4 Pro) دقة بنسبة 100%. ووصل GPT-5 إلى 98.7%.
GQA: سجلت نماذج Sonnet وOpus وDeepSeek V4 Pro نتائج تتراوح بين 92.8% و98.8%، متجاوزة سقف المرجع المكتوب يدويًا (77.5%). انخفض أداء GPT-5 بشكل كبير إلى 41.8%، ويرجع ذلك أساسًا إلى فشل "لا توجد إجابة" (فشلت النظرية في استنتاج إجابة لمعظم الأمثلة).
CLEVRER: حققت النماذج الثلاثة الناجحة من الفئة الرائدة نتائج تتراوح بين 92.7% و95.3%. وسجل GPT-5 نسبة 86.7%.
تأثير النظريات المرجعية:
بالنسبة لـ Sonnet وOpus وDeepSeek V4 Pro، كان إضافة النظريات المرجعية من مجموعات بيانات أخرى ذا تأثير ضئيل (ضمن نطاق ±3.4 نقطة مئوية).
بالنسبة لـ GPT-5، تسبب إضافة المراجع في تراجع مستمر في الدقة (انخفاضات تتراواح بين 3 إلى 19 نقطة مئوية). لاحظ المؤلفون أن GPT-5 يكتب نظريات أقصر بكثير عند إعطائه مراجع، مما يشير إلى أن المرجع يستهلك ميزانية السياق (context budget) اللازمة للتأليف.
حجم النموذج وأداء الفئات الفرعية:
النماذج التي تقل عن عتبة 27 مليار معلمة (مثل qwen3.5-9b, gpt-oss-20b) فشلت إلى حد كبير في إنتاج نظريات قابلة للتحليل أو توقفت قبل التأليف.
أدى نموذج DeepSeek V4 Flash (الفئة المتوسطة) أداءً جيدًا في CLEVR وGQA، لكن أداؤه تراجع في CLEVRER، خاصة مع وجود مراجع.
أظهرت النماذج الأصغر تباينًا عاليًا أوضاع فشل محددة مثل استدعاءات الأدوات المشوهة أو عدم القدرة على توليد صيغة clingo صالحة.
خصائص النظرية: أنتجت النماذج الرائدة الناجحة نظريات ذات أطوال متفاوتة (على سبيل المثال، كتب GPT-5 حوالي 65 قاعدة لـ GQA مقابل 343 لـ Opus)، ومع ذلك حقق كلاهما دقة عالية، مما يشير إلى أن عدد القواعد هو وظيفة لأسلوب التأليف وليس للتغطية.
الأهمية والادعاءات يزعم البحث أن الوكلاء العصبيين الرمزيين يمكنهم بنجاح استخلاص نظريات ASP كاملة وصحيحة من الصفر، مما يتحدى الاعتقاد بأن هذه النظريات يجب أن تُصاغ يدويًا. تسلط الدراسة الضوء على أنه بينما يمكن للنماذج الرائدة تحقيق نتائج تضاهي الحالة الراهنة (state-of-the-art) في مهام VQA التركيبية والواقعية، إلا أن الأداء ليس موحدًا عبر جميع النماذج رفيعة المستوى؛ إذ يشير فشل GPT-5 المحدد في GQA إلى أن حلقات الوكيل يمكن أن تكون "سلبية الصافي" (net-negative) لبعض النماذج في مهام معينة.
يخلص المؤلفون بتواضع إلى أنه بينما يعمل البروتوكول مع النماذج عالية القدرة، فإن "عتبة القدرة" ليست مجرد دالة لحجم المعلمات بل تتضمن كفاءات محددة في استخدام الأدوات وتوليد الصيغ البرمجية. ويشيرون إلى أن النظريات المستخلصة حاليًا هي نظريات ثابتة، ويقترحون عملاً مستقبليًا لدمجها في حلقات التدريب (مثل NS-CL)، وكذلك لتوليد أدوات تحليل الأسئلة تلقائيًا، بدلاً من الاعتماد على التعليقات التوضيحية للبرامج الوظيفية الموجودة. العمل لا يدعي حل مشكلة VQA من البداية إلى النهاية، بل يهدف إلى إثبات جدوى أتمتة مكون الاستدلال الرمزي في خطوط معالجة الأنظمة العصبية الرمزية.