🤖 machine learning

Concise and Logically Consistent Conformal Sets for Neuro-Symbolic Concept-Based Models

تقدم هذه الورقة COCOCO، وهو إطار تنبؤ تلازمي لاحق (post-hoc conformal prediction) يعمل على توليد مجموعات موجزة ومتسقة منطقياً ومضمونة التغطية بشكل مشترك للنماذج القائمة على المفاهيم العصبية الرمزية (Neuro-Symbolic Concept-Based Models) من خلال التوفيق بين تنبؤات المفاهيم والتسميات عبر خطوة مراجعة واحدة تجمع بين الاستنباط والاستدلال.

المؤلفون الأصليون: Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

نُشر 2026-05-19

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً آلياً ذكياً للغاية، يتكون من جزأين، مصمماً لحل الألغاز المعقدة. هذا الروبوت هو نموذج مفاهيمي عصبي-رمزي (NeSy-CBM).

إليك كيف يعمل:

"العين" (الشبكة العصبية): أولاً، ينظر الروبوت إلى صورة فوضوية (مثل صورة لشارع أو مسح طبي) ويحاول تحديد الأشياء عالية المستوى فيها. يقول: "أنا أرى سيارة، وكلباً، وشجرة". هذه هي المفاهيم الخاصة به.
"الدماغ" (المنطق الرمزي): بعد ذلك، يستخدم الرماوت مجموعة من القواعد الصارمة (مثل "السيارة لها عجلات" أو "إذا أضفت 7 و6، تحصل على 13"). ثم يقول: "بناءً على ما أراه، يجب أن تكون الإجابة هي 13".

المشكلة: الروبوت المفرط في الثقة
المشكلة هي أن هذا الروبوت غالباً ما يكون مفرط الثقة. حتى عندما يكون مخطئاً، فإنه يتحدث بيقين بنسبة 100%.

مثال: تخيل أن الروبوت نظر إلى صورة لكلب وحصان. وبسبب خلل في تدريبه، قرر بثقة أن الكلب هو في الواقع "قطة" وأن الحصان هو "بقرة". ثم استخدم قواعد المنطق الخاصة به ليستنتج أن الإجابة هي "حيوان مزرعة". لقد أصاب الإجابة النهائية بالصدفة، لكن منطقه كان معطلاً تماماً.
في المواقف عالية الخطورة (مثل التشخيص الطبي أو السيارات ذاتية القيادة)، نحتاج إلى معرفة متى يكون الروبوت غير متأكد حتى نتمكن من مراجعة عمله. ولكن في الوقت الحالي، لا يعرف الروبوت أنه يخمن؛ إنه يعتقد فقط أنه على صواب.

الحل: COCOCO
قدم المؤلفون طريقة جديدة تسمى COCOCO (وهي اختصار لـ Conformality، Consistency، Conciseness - أي المطابقة، والاتساق، والإيجاز). فكر في COCOCO كـ شبكة أمان وفاحص منطقي تضعها فوق رأس الروبوت.

بدلاً من إعطائك إجابة واحدة، تقدم لك COCOCO قائمة بالإجابات المحتملة (مجموعة التنبؤ). وهي تعدك: "أضمن أن الإجابة الحقيقية موجودة في هذه القائمة بنسبة يقين 90%".

لكن COCOCO تفعل شيئاً مميزاً لا تفعله شبكات الأمان الأخرى. فهي تضمن أمرين:

الاتساق (الفحص المنطقي): إنها تتأكد من أن قائمة الأشياء التي "رآها" الروبوت تتطابق مع قائمة الإجابات التي قدمها.
- تشبيه: إذا كانت قائمة الإجابات الخاصة بالروبوت تتضمن "13"، ولكن قائمة الأشياء التي رآها (7 و5) يمكنها فقط صنع "12"، فإن COCOCO تقول: "انتظر، هذا لا يستقيم!". تقوم بإزالة "13" من القائمة وتصلح قائمة الأشياء لتتطابق مع الحساب. إنها تجبر "عين" الروبوت و"دماغه" على الاتفاق مع بعضهما البعض.
الإيجاز (حد الحجم): إن شبكة الأمان التي تقول "الإجابة يمكن أن تكون أي شيء من 0 إلى 100" هي شبكة عديمة الفائدة. تحاول COCOCO إبقاء القائمة قصيرة قدر الإمكان مع البقاء آمنة. فهي تستبعد الخيارات المستحيلة لتكون القائمة قصيرة بما يكفي ليقرأها البشر.

كيف تعمل (خطوة "المراجعة")
تستخدم COCOCO حيلة ذكية تسمى خطوة المراجعة (Revision Step).

تبدأ بقائمة من الإجابات المحتملة من "دماغ" الروبوت.
تبدأ بقائمة من الأشياء المحتملة من "عين" الروبوت.
تسأل: "أي الأشياء يمكنها فعلياً صنع الإجابات الموجودة في القائمة الأولى؟" و"أي الإجابات يمكن صنعها فعلياً من الأشياء الموجودة في القائمة الثانية؟"
تقوم بمطابقة البيانات وتستبعد أي شيء لا يتناسب معها. تقوم بذلك مرة واحدة فقط، وهي طريقة مثبتة رياضياً بأنها الطريقة المثالية والأكثر كفاءة لتنظيف القوائم.

لماذا يهم هذا؟
اختبر الباحثون هذه الطريقة على 8 مجموعات بيانات مختلفة (بما في ذلك صور الأشعة السينية الطبية، ومراجعات المطاعم، ومسائل الرياضيات بالأرقام).

النتيجة: نجحت COCOCO في جعل تنبؤات الروبوت صادقة. فقد ضمنت أن "عين" الروبوت و"دماغه" يتفقان دائماً (الاتساق)، وحافظت على القائمة من الاحتمالات قصيرة بما يكفي لتكون مفيدة (الإيجاز)، وظلت تضمن أن الإجابة الحقيقية موجودة داخل القائمة (التغطية).
المقارنة: حاولت الطرق الأخرى إصلاح "الدماغ" فقط أو "العين" فقط، لكنها فشلت. فإما أنها أعطت قوائم طويلة جداً بحيث يصعب قراءتها، أو أن القوائم فيها لم تتطابق فيها الأشياء مع الإجابات. كانت COCOCO هي الوحيدة التي أصلحت كلا المشكلتين في وقت واحد.

باخت_صار
COCOCO هي أداة تأخذ ذكاءً اصطناعياً ذكياً ولكنه مفرط في الثقة، وتغلفه بشبكة أمان، وتجبره على مراجعة عمله. إنها تضمن أنه إذا قال الذكاء الاصطناعي "الإجابة هي X"، فإنه يعترف أيضاً بـ "لقد رأيت Y وZ اللذين يجعلان X ممكناً"، وتحافظ على قائمة الاحتمالات قصيرة بما يكفي لكي يثق بها البشر ويستخدموها.

ملخص تقني: مجموعات متسقة ومنطقية وموجزة للنماذج العصبية-الرمزية القائمة على المفاهيم

بيان المشكلة

تعمل النماذج العصبية-الرمزية القائمة على المفاهيم (NeSy-CBMs) على دمج الشبكات العصبية لاستخراج المفاهيم مع الاستدلال الرمزي للاستنتاج من المهام، بهدف إنتاج أنظمة ذكاء اصطناعي موثوقة للتطبيقات عالية المخاطر. ومع ذلك، تعاني هذه النماذج غالبًا من الثقة المفرطة وسوء المعايرة، مما يجعل من الصعب على أصحاب المصلحة تقييم موثوقية تنبؤاتها. علاوة على ذلك، حتى عند قياس عدم اليقين، فإن الاحتمالات الناتجة قد تكون غير بديهية للمستخدمين النهائيين.

تفشل النهج الحالية لتقدير عدم اليقين في نماذج NeSy-CBM في تلبية ثلاث رغبات أساسية في آن واحد:

الاتساق (Consistency): يجب أن تكون المفاهيم والتسميات المتوقعة متسقة منطقيًا مع المعرفة المسبقة التي حددها المستخدم ( $K$ ).
التغطية (Coverage): يجب أن توفر مجموعات التنبؤ ضمانات تغطية هامشية محدودة العينات وغير مرتبطة بالتوزيع لكل من المفاهيم والتسميات.
الإيجاز (Conciseness): يجب أن تكون مجموعات التنبؤ أصغر ما يمكن لتظل قابلة للتفسير ومفيدة تشغيليًا.

إن استراتيجيات التنبؤ المتسق (CP) "أحادية الجانب" الحالية (مثل تطبيق CP على التسميات فقط أو على المفاهيم فقط) أو طرق المراجعة غير المتماثلة تفشل في تلبية جميع هذه المعايير، مما يؤدي غالبًا إلى مجموعات تكون إما غير متسقة، أو تفتقر إلى ضمانات التغطية في أحد الجوانب، أو تكون كبيرة بشكل مفرط.

المنهجية: COCOCO

يقدم المؤلفون COCOCO (الذي يرمز لـ: COnformality, COnsistency, COnciseness)، وهو إطار عمل لاحق (post-hoc) مصمم لتحويل أي نموذج NeSy-CBM مدرب إلى متنبئ متسق يلبي المعايير الثلاثة.

الآلية الجوهرية

يعمل COCOCO في مرحلتين:

التسق (Conformalization) المشترك: يقوم ببناء مجموعة تنبؤ للمفاهيم ( $\Gamma_\beta(x)$ ) ومجموعة تنبؤ للتسميات ( $\Upsilon_\alpha(x)$ ) بشكل مستقل باستخدام تقنيات CP القياسية. بالنسبة للمفاهيم، فإنه يستفيد من الاستقلال الشرطي لمستخلصات المفاهيم لبناء مجموعة حاصل ضرب، أو يستخدم قيم e (e-values) لتجنب تصحيحات Bonferroni والتحكم في حجم المجموعة.
مراجعة الاستنتاج والاستنباط (Deduction-Abduction Revision): يطبق إطار العمل خطوة مراجعة واحدة مشتركة للتوفيق بين المجموعتين. تتضمن هذه الخطوة:
- الاستنتاج (Deduction): تصفية مجموعة التسميات للاحتفاظ فقط بالتسميات المستنتجة من مجموعة المفاهيم ( $\Upsilon_{rev} = \Upsilon_\alpha \cap g^\dagger(\Gamma_\beta)$ ).
- الاستنباط (Abduction): تصفية مجموعة المفاهيم للاحتفاظ فقط بالمفاهيم التي تستنتج تسمية واحدة على الأقل من مجموعة التسميات ( $\Gamma_{rev} = \Gamma_\beta \cap g^{-\dagger}(\Upsilon_\alpha)$ ).

الضمانات النظرية

النقطة الثابتة في خطوة واحدة: يثبت المؤلفون أن تطبيقًا واحدًا لعملية المراجعة المشتركة هذه كافٍ للوصول إلى نقطة ثابتة، مما يجعل التكرار غير ضروري ويضمن الكفاءة الحسابية.
المثالية (Optimality): الزوج الناتج $(\Gamma_{rev}, \Upsilon_{rev})$ هو أكبر مجموعة فرعية ممكنة من المجموعات الأصلية التي تحافظ على الاتساق المتبادل.
التغطية في ظل المعرفة الناقصة: يحافظ الإطار على ضمانات التغطية غير المرتبطة بالتوزيع. وفي حالات كون طبقة الاستدلال غير مثالية (على سبيل المثال، بسبب المعرفة غير المكتملة أو اختصارات الاستدلال)، تتدهور الحدود الدنيا للتغطية خطيًا بناءً على سلامة طبقة الاستدلال ( $\delta_{ab}$ و $\delta_{de}$ ).
ميزانيات الحجم المحددة من قبل المستخدم: من خلال دمج تنبؤات e المتسقة (باستخدام قيم e بدلاً من القيم المئوية)، يسمح COCOCO للمستخدمين بتحديد أحجام مجموعات قصوى (ميزانيات) مع اختيار مستويات عدم التغطية ( $\tilde{\alpha}, \tilde{\beta}$ ) بشكل تكيفي للحفاظ على ضمانات التغطية في التوقع. هذا النهج يتجنب تدهور الضمانات مع زيادة عدد المفاهيم.

المساهمات الرئيسية

صياغة الرغبات: يحدد البحث ويعرف الاتساق، والتغطية، والإيجاز كشروط ضرورية لطرق التنبؤ المتسق (Conformal) في NeSy.
إطار عمل COCOCO: إطار عمل لاحق مبتكر يقوم بعملية تسق مشترك للمفاهيم والتسميات ويوفق بينهما عبر خطوة استنتاج واستنباط واحدة.
البراهين النظرية:
- إثبات أن COCOCO يحقق جميع المعايير الثلاثة عن طريق البناء.
- إثبات أن خطوة المراجعة تصل إلى نقطة ثابتة في تكرار واحد.
- اشتقاق حدود التغطية التي تأخذ في الاعتبار المعرفة الناقصة واحتمالات الفشل المشتركة.
التحكم في الحجم: إظهار كيف تمكن قيم e المستخدمين من تحديد ميزانيات حجم معينة دون المساس بضمانات التغطية.
التقييم التجريبي المكثف: تقييم على 8 مجموعات بيانات (بما في ذلك التصوير الطبي، والنصوص، وتصنيف الصور) باستخدام اثنين من أحدث بنيات NeSy (DeepProbLog و Logic Tensor Networks).

النتائج التجريبية

تظهر التجارب على 8 مجموعات بيانات (CHX, CEB, RIV10, MN-Add variants, CIF10) أن COCOCO يتفوق على النماذج المرجعية الطبيعية والمنافس الأقوى (RPB):

الاتساق: يحقق COCOCO اتساقًا بنسبة 1.00 في المفاهيم والتسميات عبر جميع مجموعات البيانات. في المقابل، غالبًا ما تظهر المنافسات مثل RPB عدم اتساق ملحوظ في جانب المفاهيم (على سبيل المثال، ينخفض إلى 0.12 في مجموعة بيانات MN-EO).
الإيجاز: يقلل COCOCO بشكل كبير من أحجام مجموعات التنبؤ مقارنة بالنماذج المرجعية. على سبيل المثال، في مجموعة بيانات CEB، قلل حجم مجموعة المفاهيم من 75.06 (RPB) إلى 53.49، وفي MN-EO، قلل الحجم من 100.00 (RPB) إلى 12.13، مع الحفاظ على الاتساق الكامل.
التغطية: بينما يضحي COCOCO بقدر ضئيل من التغطية (عادةً أقل بـ 7-10 نقاط مئوية من RPB في جانب المفاهيم) لضمان الاتساق والإيجاز، فإنه يحافظ على تغطية عالية للتسميات (غالبًا $\ge 0.87$ ) وتغطية المفاهيم (غالبًا $\ge 0.83$ ) عند المستوى المستهدف 0.9.
المتانة: يعمل الأسلوب بمتانة حتى في ظل المعرفة غير المكتملة (RIV10) واختصارات الاستدلال (MN-EO)، حيث تتنبأ الحدود النظرية بشكل صحيح بتدهور التغطية.
وقت التشغيل: التكاليف الحسابية الإضافية لـ COCOCO متواضة (حوالي 1.2 إلى 1.6 ضعف وقت تشغيل النموذج المرجعي)، حيث تتطلب خطوة المراجعة تمريرًا واحدًا فقط من الحساب الاستنباطي والاستنتاجي.

الأهمية والادعاءات

يدعي البحث أن COCOCO هو أول طريقة تستغل المعرفة الرمزية في آن واحد لتقليص مجموعات التنبؤ المتسق وفرض اتساق التسمية والمفهوم مع الحفاظ على التغطية غير المرتبطة بالتوزيع.

يضع المؤلفون COCOCO كخطوة حاسمة نحو جعل نماذج NeSy-CBMs مناسبة لأنظمة دعم القرار في المجالات عالية المخاطر (مثل التشخيص الطبي)، حيث يتطلب أصحاب المصلحة ليس فقط تنبؤًا، بل مجموعة من البدائل المحتملة والمتسقة منطقيًا مع ضمانات إحصائية صارمة. يعالج إطار العمل طبيعة "الصندوق الأسود" لعدم اليقين في نماذج NeSy من خلال توفير مجموعات قابلة للتفسير تحترم القيود المجالية، مما يعزز الثقة والموثوقية دون الحاجة إلى إعادة تدريب النموذج العصبي-الرمزي الأساسي.