💻 computer science

Knowledge-Constrained Reasoner: Attempting to Enable LLMs to Parse Knowledge for Question Answering

تقدم هذه الورقة "المستنتج المقيد بالمعرفة" (Knowledge-Constrained Reasoner)، وهو نهج مبتكر يستخدم مرحلة محاذاة واحدة لترسيخ قدرات الاستنتاج الجوهرية داخل النماذج اللغوية الكبيرة، مما يضمن الاستخدام الصارم والصحيح للمعرفة الخارجية للإجابة على الأسئلة والربط بين موثوقية الأنظمة الخبيرة التقليدية ومرونة التعلم المستمر غير المعلمي.

المؤلفون الأصليون: Zhiqiang Gan

نُشر 2026-08-03

📖 7 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Zhiqiang Gan

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت ذكي وسريع للغاية كيفية حل لغز ما. لديك طريقتان رئيسيتان للقيام بذلك. الطريقة الأولى تشبه إعطاء الروبوت موسوعة ضخمة وثقيلة مكتوبة داخل دماغه؛ هكذا كانت تعمل "الأنظمة الخبيرة" في البداية: كانت صارمة للغاية وتتبع القواعد بدقة، لكنها كانت جامدة. إذا سألته عن شيء غير موجود في كتابه، يتجمد. وإذا أردت تحديث القواعد، كان عليك إعادة كتابة الكتاب بأكل، وهو أمر بطيء ومكلف.

الطريقة الثانية هي ما نستخدمه اليوم مع الذكاء الاصطناعي الحديث، مثل برامج الدردشة الآلية التي قد تتحدث إليها. هذه النماذج تشبه القراء الخارقين الذين ابتلعوا الإنترنت بأكمله؛ فهي مرنة، ومرحة، ورائعة في المحادثة. لكن لديها عيباً مخادعاً: فهي أحياناً تنسى الأشياء التي تعلمتها للتو، أو ترتبك عندما تعطيها قاعدة جديدة وتطلب منها اتباعها بصرامة. قد تخمن الإجابة بناءً على ما "تعتقد" أنه صحيح، بدلاً مما تقوله القاعدة الجديدة "فعلياً". وهذه مشكلة كبيرة إذا كنت بحاجة لأن يعمل الروبوت كطبيب، أو طيار، أو مفتش سلامة حيث يكون اتباع القاعدة الدقيقة مسألة حياة أو موت.

هذا يقودنا إلى فكرة جديدة تسمى "التوليد المعزز بالاسترجاع" (RAG). فكر في الأمر كأنك تعطي الروبوت بطاقة مكتبة؛ عندما تطرح سؤالاً، يقوم الروبوت بسرعة بجلب الصفحة ذات الصلة من المكتبة ويقرؤها قبل الإجابة. هذا أفضل من التخمين، لكن لا يزال يتعين على الروبوت أن يقرر "كيف" يقرأ تلك الصفحة. فأحياناً يتجاهل التفاصيل الدقيقة، أو يغفل عن خطوة ما، أو يحاول أن يكون ذكياً جداً فيخترع قاعدة ليست موجودة. السؤال الكبير الذي يسأله العلماء هو: هل يمكننا تعليم الرواية ألا تكتفي فقط بـ "قراءة" المكتبة، بل أن تصبح محققاً منطقياً بارعاً يتبع القواعد بدقة، في كل مرة، دون الحاجة إلى إعادة كتابة دماغها؟

المستنتج المقيد بالمعرفة: تعليم الذكاء الاصطناعي كيف يكون متبعاً للقواعد

في هذه الورقة البحثية، يحاول باحث يدعى "تشي كوانغ غان" الإجابة على ذلك السؤال من خلال بناء ما يسمى بـ "المستنتج المقيد بالمعرفة" (Knowledge-Constrained Reasoner). الهدف هو تحويل نموذج لغوي كبير (LLM) قياسي إلى محقق منطقي صارم يمكنه أخذ مجموعة جديدة من القواعد (مثل بروتوكول طبي جديد أو توجيه عسكري) واتباعها بحذافيرها، دون ارتباك أو اختلاق معلومات.

تقترح الورقة أنه بدلاً من محاولة حشو حقائق جديدة في ذاكرة الذكاء الاصطناعي (مما يجعله ينسى الأشياء القديمة)، يجب أن نعلم الذكاء الاصطناعي مجموعة من "المهارات العليا" أو "القوى الخارقة" في جلسة تدريب واحدة. فكر في الأمر كتدريب كلب؛ أنت لا تعلم الكلب كل أمر محدد لكل موقف محتمل في العالم، بل تعلمه "مفهوم" الاستماع، و"مفهوم" البحث عن مكافأة، و"مفهوم" الانتظار لإشارة ما. بمجرد أن يعرف الكلب هذه المفاهيم، يمكنك إعطاؤه أمراً جديداً، وسيفهم كيفية اتباعه حتى لو لم يسمع هذا الأمر المحدد من قبل.

القوى الخمس الخارقة

لجعل الذكاء الاصطناعي متبعاً جيداً للقواعد، قام الباحث بتدريبه على أربع "حركات" منطقية محددة (بالإضافة إلى حركة واحدة أخرى) باستخدام مجموعة بيانات تضم 1000 سيناريو وهمي تتضمن أطباء وجنود وعمال مصانع مزيفين. إليكم هذه الحركات مشروحة ببساال:

السياق الموقفي (فحص "هل هذا الأمر يخصني؟"):
قبل التصرف، يجب على الذكاء الاصطناعي التحقق مما إذا كانت القاعدة تنطبق بالفعل على الموقف الحالي.

التشبيه: تخيل حارس ملهى ليلي؛ إذا كانت القاعدة تقول "لا يُسمح بالأحذية"، ودخل شخص يرتدي جوارب فقط، فعلى الحارس أن يقرر: "هل تعتبر الجوارب أحذية؟"
ما وجده البحث: تم تدريب الذكاء الاصطناعي على التحقق مما إذا كان موقف المستخدم يطابق شروط القاعدة تماماً. لقد تعلم أن يقول "لا" إذا كانت القاعدة تتعلق بحوادث "شديدة" بينما حادثة المستخدم كانت "طفيفة"، مما يمنعه من تطبيق القاعدة الخاطئة. كما تعلم الاعتراف بعدم امتلاكه للإجابة، بدلاً من اختراع دواء وهمي للمريض.

الاستنتاج السببي الأمامي (سلسلة "إذا حدث هذا، فسيحدث ذاك"):
هذا هو المنطق الكلاسيكي: إذا حدث (أ)، فيجب أن يحدث (ب).

التشبيه: مثل تأثير أحجار الدومينو؛ إذا دفعت الدومينو الأول (المريض يعاني من حمى)، ستسقط القطعة التالية (إعطاء الدواء).
ما وجده البحث: تعلم الذكاء الاصطناعي النظر في الموقف، وإيجاد القاعدة المطابقة، والانتقال فوراً إلى الإجراء الصحيح.

التتبع السببي العكسي (عمل المحقق: "لماذا حدث هذا؟"):
أحياناً ترى النتيجة وتحتاج إلى معرفة السبب.

التشبية: تدخل غرفة وتجد مزهرية مكسورة على الأرض؛ عليك النظر في قواعد المنزل لتعرف: "من كان مسموحاً له بالتواجد هنا، وماذا كان يفعل؟"
ما وجده البحث: استطاع الذكاء الاصطناعي النظر في نتيجة ما (مثل "انقطاع الطاقة عن ذراع الروبوت") وتتبعها وصولاً إلى القاعدة التي تقول "إذا ارتفعت حرارة المفاعل، اقطع الطاقة". لقد نجح في استنتاج أن السبب هو ارتفاع الحرارة.

التركيب المنطقي (قائمة "افعل كل شيء"):
الحياة الواقعية فوضوية؛ فأحياناً يؤدي موقف واحد إلى تفعيل قواعد متعددة في آن واحد.

التشبيه: تخيل شخصية في لعبة فيديو، عندما تُصاب، يجب عليها "خفض الصحة" وَ "إسقاط عملة معدنية" معاً. إذا جعلت اللعبة الشخصية تسقط العملة فقط، فسيكون ذلك خطأً برمجياً.
ما وجده البحث: تعلم الذكﺎ الاصطناعي التعامل مع القواعد المعقدة حيث يتطلب الموقف الواحد تشخيصاً، وخطوة عزل، وتقريرًا للسلطات. لقد توقف عن تخطي الخطوات وبدأ في تنفيذ قائمة المهام كاملة.

التصفية (فلتر "الحقائق فقط"):
أحياناً تحتوي القاعدة على قائمة طويلة من الخطوات، لكنك تحتاج فقط إلى الخطوة الأولى.

التشبيه: تقول الوصفة "سخن الفرن، قطع البصل، اقلي اللحم المقدد، ثم قدم الطعام". إذا سألت "ماذا أفعل أولاً؟"، فلا ينبغي للذكاء الاصطناعي أن يسكب عليك الوصفة كاملة، بل يجب أن يقول "سخن الفرن".
ما وجده البحث: تعلم الذكاء الاصطناعي تجاهل الضجيج الزائد وتقديم الخطوة المحددة التي طلبتها فقط.

النتائج: هل نجح الأمر؟

اختبر الباحث هذا "المستنتج" الجديد مقابل الطريقة القياسية لاستخدام الذكاء الاصطناعي (مجرد طرح الأسئلة دون تدريب خاص).

الطريقة القياسية: عند مطالبته باتباع قواعد معقدة، أجاب الذكاء الاصطناعي العادي بنجاح في حوالي 75% من الحالات؛ حيث ارتبك غالباً، أو تخطى الخطوات، أو استسلم ببساطة.
الطريقة الجديدة: بعد جلسة التدريب الواحدة، أجاب "المستنتج المقيد بالمعرفة" بنجاح في حوالي 88% من الحالات.

تشير الورقة إلى أن هذا التحسن حقيقي وجوهري؛ فقد أصبح الذكاء الاصطناعي أفضل بكثير في الالتزام بالقواعد المعطاة له، حتى عندما كانت القواعد تتعلق بمواضيع وهمية مثل "آليات التيتان" أو "التمويل الخيالي".

ما لم يفعله (وأين تعثر)

من المهم ملاحظة ما لم تفعله هذه الورقة؛ فهي لم تثبت أن الذكاء الاصطناعي أصبح مثالياً الآن. تشير الورقة صراحةً إلى أن الذكاء الاصطناعي لا يزال يرتكب أخطاء في حوالي 12% من الحالات.

الارتباك: أحياناً يخلط الذكاء الاصطناعي بين "نتيجة" القاعدة وبين "الإجراء" الواجب اتخاذه. على سبيل المثال، إذا كانت القاعدة تقول "إذا اخترق الهكر النظام، فستنهار السوق"، وسأل المستخدم "ماذا يجب أن نفعل؟"، فقد يكتفي الذكاء الاصطناعي بالقول "ستنهار السوق" بدلاً من قول "يجب أن نغلق الأبواب".
فجوة الدقة: أحياناً يغفل الذكاء الاصطناعي عن التفاصيل الصغيرة، مثل الخلط بين مشكلة "طفيفة" ومشكلة "شديدة"، مما يؤدي به إلى استخدام خطة الطوارئ الخاطئة.

تجادل الورقة بأن الطريقة الحالية المتمثلة في مجرد إعطاء الذكاء الاصطناعي بعض الأمثلة (ما يسمى بـ "التلقين") ليست كافية لإصلاح هذه الأخطاء المنطقية العميقة. فالذكاء الاصطناعي يحتاج إلى "ضبط دقيق" (Fine-tuning)؛ أي أنه يحتاج لممارسة هذه الحركات المنطقية حتى تصبح عادة، بدلاً من مجرد التخمين بناءً على بعض التلميحات.

الصورة الكبيرة

الخلاصة الرئيسية من هذه الدراسة هي أنه قد نتمكن من بناء ذكاء اصطناعي يكون مرناً (مثل البشر) وموثوقاً (مثل برامج الكمبيوتر) من خلال تعليمه "كيف يفكر" بالقواعد، بدلاً من مجرد حفظ القواعد نفسها. وتقترح الورقة أنه إذا استطعنا تعليم الذكاء الاصطناعي كيفية "ربط" منطقه بمعلومات خارجية، فيمكنه تعلم أشياء جديدة فوراً دون نسيان الأشياء القديمة.

ومع ذلك، تشدد الورقة على أن هذا مجرد "محاولة أولية" و"أدلة تمهيدية". إنها خطوة واعدة نحو سد الفجوة بين العالم الصارم والآمن للأنظمة الخبيرة القديمة، والعالم المرن والمبدع للذكاء الاصطناعي الحديث. وهي تظهر أنه مع التدريب الصحيح، يمكن للذكاء الاصطناعي أن يصبح متبعاً أفضل للقواعد، لكنه لم يصل بعد إلى مرحم استبدال الخبراء البشريين في المواقف عالية الخطورة. إن الرحلة نحو ذكاء اصطناعي موثوق حقاً ولا ينسى لا تزال مستمرة، لكن هذا "المستنتج" يقدم خريطة طريق جديدة للمسار القادم.

ملخص تقني: المستنتج المقيد بالمعرفة (Knowledge-Constrained Reasoner)

بيان المشكلة

تتناول الورقة فجوة حرجة في تطور الذكاء الاصطناعي: سد الفجوة بين الصرامة الحتمية للأنظمة الخبيرة التقليدية والمرونة التكيفية للنماذج اللغوية الكبيرة (LLMs) الحديثة. وبينما قدمت الأنظمة الخبيرة التقليدية اتخاذ قرار قائم على القواعد وقابل للتحقق، إلا أنها عانت من بنى هشة وتكاليف صيانة باهظة. وفي المقابل، توفر النماذج اللغوية الكبيرة الحديثة مرونة لغوية، لكنها تعاني من النسيان الكارثي (catastrophic forgetting) أثناء التعلم المستمر البارامتري المستمر.

وعلى الرغم من أن التوليد المعزز بالاسترجاع (RAG) يخفف من مشكلات حداثة المعرفة عبر حقن وثائق خارجية، إلا أنه يفشل في ضمان قدرة النموذج اللغوي الكبير على التحليل، والربط بالأصل، وتنفيذ المنطق المعقد المضمن داخل ذلك السياق المسترجع. إن تقنية RAG تفصل بين الاسترجاع والاستنتاج، مما يؤدي غالباً إلى "الإفراط في الاستقراء"، أو الهلوسة، أو الفشل في تطبيق قواعد منطقية متعددة الخطوات. وقد اقترحت نماذج التعلم المستمر غير البارامترية الحديثة (مثل CoG-MeM وNPMCL) بناء "قدرات ميتا" (meta-abilities) داخل نواة نموذج لغوي كبير مجمدة عبر مرحلة محاذاة واحدة، ولكن الخطوة النهائية الحاسمة — وهي ضمان الاستخدام الصارم والصحيح للمعرفة أثناء الاستنتاج — لا تزال غير مستكشفة بشكل كافٍ.

المنهجية

يقترح المؤلف المستنتج المقيد بالمعرفة (Knowledge-Constrained Reasoner)، وهو نهج مصمم لترسيخ قدرات الاستنتاج الأساسية داخل النموذج اللغوي الكبير من خلال مرحلة محاذاة واحدة (الضبط الدقيق الخاضع للإشراف - SFT)، لتجنب التحديثات البارامترية المستمرة. تحول هذه المنهجية النموذج اللغوي الكبير إلى محلل معرفة نشط قادر على تنفيذ منطق بمستوى الخبراء على بيانات خارجية ديناميكية.

الأوليات المنطقية الجوهرية

يقوم النظام بتنظيم خمس عمليات منطقية رئيسية في مسار استنتاج النموذج:

السياق الموقفي (Situational Contextualization): يقيم النموذج مدى التطابق بين استفسارات المستخدم والمعرفة المسترجعة عبر محورين:
- محاذاة الحالة (State Alignment): التحقق مما إذا كانت المتغيرات الموقفية تطابق مقدمات القواعد.
- محاذاة القصد (Intent Alignment): التحقق مما إذا كان الحل المطلوب يتوافق مع القاعدة المقدمة.
- الآلية: يتم تدريب النموذج على التمييز بين المطابقة المباشرة للكلمات المفتاحية، والتكافؤ الدلالي/العددي (مثل "35 مليمول/لتر" مقابل "يتجاوز 33")، وعدم التطابق بين القصد والمعرفة (مما يؤدي إلى الامتناع الآمن بدلاً من الهلوسة).
الاستنتاج السببي الأمامي (Forward Causal Deduction): استنتاج النتائج ( $Q$ ) من المقدمات الملحوظة ( $P$ ) بناءً على قواعد شرطية ( $P \to Q$ ).
التتبع السببي العكسي (Backward Causal Tracing): استنتاج المحفزات أو الشروط المسبقة الأساسية ( $P$ ) من النتائج الملحوظة ( $Q$ ).
التركيب المنطقي (Logical Composition): العمل كمحلل استنتاجي شامل لتقييم المنطق الشرطي المعقد (مثل التخيير، أو الإجراءات متعددة البنود) وتجميع كافة عناصر الإجراء ذات الصل الصلة دون إغفال.
عملية التصفية (Filtering Operation): عزل خطوات أو قيود محددة من سير عمل متعدد المراحل لمعالجة مقاصد مستخدم معينة (مثل استخراج "الخطوة الأولى" فقط من بروتوكول ما) لمنع الحمل المعرفي الزائد.

التدريب والتقييم

بناء مجموعة البيانات: تم بناء مجموعة بيانات للضبط الدقيق (SFT) مكونة من 1,000 حالة تم توليدها عبر أربعة مجالات وهمية (الرعاية الصحية، النقل، المجال العسكري، والمجال الصناعي) لمنع الإفراط في الملاءمة الواقعية. تغطي البيانات 25 نمطاً منطقياً متميزاً تجمع بين معاملات مثل العطف، والتخيير، والنفي، وتجاوز الأولويات.
تنسيق التدريب: تستخدم مجموعة البيانات مخطط محادثة متعدد الأدوار مع مسارات استنتاج صريحة لـ سلسلة الأفكـات (Chain-of-Thought - CoT) (حقل think) تسبق الإجابة النهائية (content). هذا يجبر النموذج على ربط المنطق بمعرفات معرفية محددة وتحليل الشروط الهرمية قبل توليد الاستجابة.
التقييم: تم إنشاء مجموعة اختبار مكونة من 525 حالة، تشمل:
- التوسع عبر المجالات: اختبار "الصفر محاولة" (Zero-shot) على مجالين محجوزين (التعليم، والتمويل الخيالي).
- المنطق خارج التوزيع (OOD): 10 أنماط منطقية جديدة ذات عمق هيكلي وتعقيد متزايد لم تكن موجودة في مجموعة التدريب.

النتائج الرئيسية

الأداء: حقق النموذج الذي خضع للضبط الدقيق الخاضع للإشراف (SFT) دقة إجمالية بلغت ~88% في مجموعة اختبار التقييم.
المقارنة مع الخطوط المرجعية: حققت النماذج المرجعية في حالات "الصفر محاولة" و"القليل من الأمثلة" (Zero-shot and few-shot) باستخدام نفس بنية Qwen3-8B دقة بلغت ~75% فقط. ومن الجدير بالذكر أن التلقين بـ "القليل من الأمثلة" لم يقدم أي تحسن جوهري عن "الصفر محاولة"، مما يشير إلى أن قيود التلقين الناعمة غير كافية لفرض هياكل منطقية صارمة متعددة الخطوات.
تحليل الأخطاء: أظهرت النماذج المرجعية أنماط فشل محددة قضى عليها نهج SFT:
- انهيار الاستنتاج (Inference Collapse): حلقات تكرارية لانهائية للرموز (tokens) في التفرعات المعقدة.
- عدم الاستجابة الصامت (Silent Non-Response): الفشل في ربط المدخلات المجردة بالمقدمات.
- الحذف الهيكلي (Structural Omission): فقدان الإجراءات المساعدة في سيناريوهات تعدد المحفزات.
- فشل السياق (Contextualization Failure): عدم القدرة على مطابقة الروابط متعددة المتغيرات.
- عجز التصفية (Filtering Deficit): الفشل في الالتزام بقيود "الإجراء الواحد".
القيود المتبقية: عُزي معدل الخطأ بنسبة 12% في نموذج SFT إلى "الخلط بين النتيجة والإجراء" (الخلط بين النتائج والإجراءات) و"الاستبدال الخاطئ للمقدمات" (عدم الدقة في المطابقة الدلالية لمعدلات الشدة)، مما يشير إلى الحاجة إلى عينات تدريب دلالية أكثر تنوعاً.

الأهمية والادعاءات

تضع الورقة "المستنتج المقيد بالمعرفة" كـ تحقيق أولي و محاولة أولية للربط بين موثوقية الأنظمة الخبيرة التقليدية ومرونة التعلم المستمر غير البارامتري.

التكيف غير البارامتري: تقدم الدراسة أدلة تجريبية مبكرة على إمكانية محاذاة نموذج لغوي كبير ليعمل كمحرك استنتاج مرن يقوم بتحليل هياكل المعرفة الديناميكية آنياً. وبمجرد ترسيخ العمليات المنطقية، يمكن للنموذج التكيف مع المعرفة الخارجية الجديدة دون تحديث أوزانه البارامترية، مما يتجنب النسيان الكارثي.
التحقق من صحة NPMCL: يعد هذا العمل بمثابة إثبات لصحة إطار عمل التعلم المستمر غير البارامتري (NPMCL) المقترح في الأدبيات السابقة. فهو يثبت أن مرحلة تدريب واحدة لـ "قدرات الميتا" يمكن أن تنجح في ربط العمليات المنطقية بالبيانات الخارجية، مما يسمح بالتكيف المستقر مع البيئات سريعة التغير.
نطاق متواضع: يحدد المؤلف هذا العمل صراحة كخطوة استكشافية نحو تمكين النماذج اللغوية الكبيرة من "تحليل المعرفة الخارجية بشكل أفضل"، مقدماً أدلة مبكرة بدلاً من حل نهائي. وتوضح الورقة أنه بينما يعد محاذاة الهيكل القواعدي فعالاً، فإن التمييزات الدلالية الدقيقة (مثل معدلات الشدة) تظل تحدياً يتطلب مزيداً من صقل مجموعة البيانات.