💻 computer science

Grounded Continuation: A Linear-Time Runtime Verifier for LLM Conversations

تقدم هذه الورقة البحثية "الاستمرارية المرتكزة" (Grounded Continuation)، وهو متحقق من صحة وقت التشغيل يعمل في زمن خطي، يقوم ببناء رسم بياني صريح للتبعية باستخدام المنطق الرمزي وعمليات التحديث المصنفة بواسطة النماذج اللغوية الكبيرة للكشف عن الادعاءات غير المدعومة وسحبها في المحادثات الطويلة، وبذلك يتفوق على النماذج المرجعية القائمة على الاسترجاع في الدقة مع توفير ضمانات سلامة رسمية.

المؤلفون الأصليون: Qisong He, Yi Dong, Xiaowei Huang

نُشر 2026-05-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Qisong He, Yi Dong, Xiaowei Huang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تجلس في اجتماع طويل ومعقد مع زميل (الذكاء الاصطناعي) ذكي جداً، ولكنه ينسى بعض التفاصيل أحياناً. تناقشان مشكلة ما، وتقترح حلاً، ثم تدرك لاحقاً أن فكرتك الأولى كانت خاطئة، فتصحح السجل قائلًا: "في الواقع، كانت تلك الفكرة الأولى معيبة؛ لنحاول هذا المنظور الجديد".

المشكلة التي تعالجها هذه الورقة البحثية هي أن الذكاء الاصطناعي، بينما يبدو واثقاً ولبقاً للغاية، غالباً ما ينسى أنك قد تخلّيت بالفعل عن الفكرة الأولى. قد يقترح خطة تعتمد على تلك الفكرة القديمة المهجورة، مما يخلق "هلوسة" تبدو منطقية ولكنها غير مستندة إلى واقع محادثتكم.

يطلق المؤلفون على هذه المشكلة اسم "الاستمرارية المرتكزة" (Grounded Continuation). ولإصلاح ذلك، قاموا ببناء "مُحقِّق وقت التشغيل" (Runtime Verifier).

إليك كيف يعمل ذلك، باستخدام تشبيهات بسيطة:

1. "خريطة التبعية" (السبورة البيضاء)

بدلاً من مجرد قراءة المحادثة ككتاب من البداية إلى النهاية في كل مرة يتحدث فيها الذكاء الاصطناعي، يقوم هذا النظام بالاحتفاظ بـ "خريطة تبعية" (Dependency Map) حية ومنظمة (مثل مخطط انسيابي ديناميكي أو سبورة بيضاء).

الطريقة القديمة: إذا سألت: "لماذا نفعل (س)؟"، يتعين على الذكاء الاصطناعي مسح تاريخ الدردشة بالكامل للعثور على الإجابة. إذا كانت الدردشة بطول 1000 صفحة، فسيكون هذا بطيئاً وعرضة لفقدان التفاصيل.
الطريقة الجديدة: يحافظ النظام على خريطة تقول: "القرار (س) يعتمد على الدليل (ص)، والذي يعتمد بدوره على الملاحظة (ع)."
السحر: عندما يقترح الذكاء الاصطناعي خطوة جديدة، لا يقوم المُحقِّق بقراءة الدردشة بأكملها، بل يتتبع الخطوط في هذه الخريطة فقط. إذا أدت الخطوط إلى طريق مسدود (لأن الدليل قد تم سحبه سابقاً)، فسيقوم النظام فوراً بتمييز اقتراح الذكاء الاصطناعي على أنه "غير مرتكز" (Ungrounded).

2. "الخطوات الثمان" (قواعد اللعبة)

لبناء هذه الخريطة، يتعامل النظام مع المحادثة كأنها لعبة لها قواعد محددة. في كل مرة يتحدث فيها شخص ما، يقوم "مفسر" (ذكاء اصطناعي أصغر) بتصنيف الجملة إلى واحدة من 8 حركات محددة، مثل:

الملاحظة (Observe): "أرى ضوءاً أحمر." (إضافة حقيقة).
الفرضية (Hypothesize): "رب perhaps الضوء معطل." (وضع تخمين).
التقويض (Undermine): "انتظر، الضوء أخضر في الواقع، وليس أحمر." (الهجوم على تخمين سابق).
الحسم (Resolve): "حسناً، نحن متفقون على أن الضوء أخضر." (تثبيت قرار).

من خلال تحويل اللغة البشرية الفوضوية إلى هذه "الحركات" الواضحة، يمكن للنظام تتبع أي الأفكار لا تزال صالحة وأيها تم إخراجها من اللعبة.

3. "تموج التراجع" (تأثير الدومينو)

هذه هي القوة الخارقة للنظام. تخيل أنك أسقطت أول قطعة دومينو في صف (سحب فرضية ما).

بدون المُحقِّق: قد يستمر الذكاء الاصطناعي في إقامة قطع الدومينو الأخرى في الصف، غير مدرك أن القطعة الأولى قد سقطت.
مع المُحقِّق: في اللحظة التي يتم فيها سحب فرضية ما، يعرف النظام فوراً وبدقة أي الاستنتاções (قطع الدومينو الأخرى) فقدت دعمها. يقوم بتمييزها فوراً. يحدث هذا في أجزاء من المليون من الثانية، حتى في المحادثات الطويلة جداً.

4. النتائج: كشف النصائح "المزيفة"

اختبر المؤلفون هذا النظام في عدة سيناريوهات:

اختبار "الفرضية البالية": أنشأوا سيناريو طُلب فيه من ذكاء اصطناعي تقديم نصيحة بناءً على حقيقة ثبت خطؤها قبل 10 خطوات.
- الذكاء الاصطناعي القياسي: غالباً ما قدم النصيحة رغم ذلك، بصوت واثق ولكنه خاطئ.
- المُحقِّق: كشف ذلك بنسبة 100%. قال: "لا يمكنني دعم هذا الاستنتاج لأن الأساس قد أُزيل".
اختبار "الذاكرة الطويلة": في اختبارات المعايير القياسية للمحادثات الطويلة، كان أداء المُحقِّق مساوياً أو أفضل من الأنظمة التي تحاول البحث في تاريخ الدردشة بالكامل للعثور على الإجابات.

الخلاصة

تدعي الورقة البحثية أنه من خلال بناء خريطة هيكلية للمحادثة (من قال ماذا، وما الذي يدعم ماذا، وما الذي تم استرداده)، يمكننا إنشاء "حاجز حماية" للذكاء الاصطناعي. يضمن هذا الحاجز أن الجملة التالية للذكاء الاصطناعي مرتبطة فعلياً بحقيقة المحادثة، مما يمنعه من الدفاع بثقة عن أفكار قررت المجموعة بالفعل التخلص منها.

هذا لا يجعل الذكاء الاصطناعي "أذكى" من حيث المعرفة؛ بل يجعله أكثر صدقاً بشأن ما يعرفه وما نسيه.

ملخص تقني: الاستمرار المرتكز: مُتحقِّق وقت التشغيل في زمن خطي لمحادثات النماذج اللغوية الكبيرة

بيان المشكلة

غالبًا ما تُنتج النماذج اللغوية الكبيرة (LLMs) المنتشرة في المحادثات متعددة الأدوار استمرارات تكون سلسة محليًا ومعقولة براغماتيًا، ولكنها غير مرتكزة في تاريخ المحادثة الراسخ. هذه المخرجات قد تستند إلى مقدمات أو ملاحظات أو فرضيات تخلت عنها المحادثة بالفعل أو عدلتها. هذه "فجوة الارتكاز" شديدة من الناحية التجريبية: تشير الدراسات إلى أن النماذج اللغوية الكبيرة تفشل في تعديل الافتراضات غير الصحيحة حتى عندما تتعارض معها الأدوار اللاحقة، مما يؤدي إلى انخفاض كبير في الأداء في الإعدادات متعددة الأدوار مقارنة بالتفاعلات أحادية الدور. علاوة على ذلك، يتم استغلال هذه الفجوة بنشاط في هجمات التلاعب بالسياق، حيث تنتج الوكلاء استمرارات متسقة محليًا ولكنها منفصلة عن الالتزامات السابقة، مما قد يؤدي إلى اتخاذ إجراءات غير مصرح بها.

تعالج الحلول الحالية، مثل التوليد المعزز بالاسترجاع (RAG)، الارتكاز الخارجي (تتبع الادعاءات إلى الوثائق المستشهد بها) لكنها تفشل في الارتكاز التفاعلي (تتبع الادعاءات إلى التزامات المحادثة المتطورة ذاتها). عادة ما تتبع أنظمة ذاكرة المحادثة ما قيل، لكنها تفتقر إلى خريطة التبعية الهيكلية التي تربط التصريحات بالاستنتاجات المستمدة منها.

المنهجية

يقترح المؤلفون مُتحقِّق وقت تشغيل يحافظ على رسم بياني للتبعية صريح لتتبع أصل الادعاءات طوال المحادثة. يعمل النظام عبر بنية هجينة تتكون من مُفسِّر لغوي (LLM Interpreter) ومحرك رمزي (Symbolic Engine).

1. الأساس الرسمي

يُبنى المُتحقِّق على أربعة نماذج رسمية:

المنطق الإبستيمي الديناميكي (DEL): ينمذج ما يعرفه، ويعتقده، ويدركه الوكلاء.
الاستدلال الاستنباطي (Abductive Reasoning): يولد فرضيات لتفسير الملاحظات المفاجئة.
منطق الوعي (Awareness Logic): يتتبع توسع مجموعات الوعي لدى الوكلاء.
أطر الحجاج (Argumentation Frameworks): ينمذج الهجمات والدعم بين الحجج (نمط Dung).

تتحد هذه العناصر في بنية تبعية $D_t = (M_t, AF_t, Cmt_t, Dep_t)$ ، حيث:

$M_t$ : نموذج المعقولية الإبستيمية (حالات المعرفة/الاعتقاد).
$AF_t$ : إطار الحجاج (الحجج وعلاقات الهجوم).
$Cmt_t$ : الالتزامات العامة للوكلاء.
$Dep_t$ : خريطة تربط الحجج بالقضايا التي تدعمها.

2. تصنيف العمليات الثماني

يصنف المُفسِّر اللغوي كل عبارة إلى واحدة من ثماني عمليات تحديث، والتي يطبقها المحرك الرمزي لتحديث بنية التبعية:

الملاحظة (OBSERVE): إعلان عام صلب (إضافة حقائق).
الفرضية (HYPOTHESIZE): ترقية ليكسيكوغرافية ناعمة (تقديم فرضيات تفسيرية).
الدعم (SUPPORT): زيادة معقولية ادعاء بناءً على أدلة.
التقويض (UNDERMINE): تقليل معقولية ادعاء (على سبيل المثال، عبر أدلة متناقضة).
المراجعة (REVISE): تراجع صلب أو إضافة حافة هجوم (التخلي عن ادعاء).
توسيع الوعي (EXPAND-AWARENESS): إضافة قضايا جديدة إلى مجموعات الوعي لدى الوكلاء.
الحسم (RESOLVE): التزام توافقي أو سلطوي باستنتاج ما.
التساؤل (QUESTION): وضع علامة على ملاحظة غير مفسرة كمسألة استنباطية.

3. التحقق والتراجع

فحص الاستمرار المرتكز: للتحقق مما إذا كان الاستمرار المرشح $c$ مرتكزًا، يتحقق النظام مما إذا كان هناك حجة $\alpha_c$ في إطار الحجاج الحالي بحيث يكون $claim(\alpha_c) = \phi_c$ (القضية التي يؤكدها $c$ ). يختزل هذا إلى سير في الرسم البياني (graph walk) على خريطة التبعية.
التراجع الانتقائي: إذا تم التراجع عن مقدمة $p$ ، يقوم النظام بحساب $Affected(p) $، وهي مجموعة الاستنتاجات التي تفقد ارتكازها. يتم حساب ذلك عبر عبور خريطة التبعية لإيجاد جميع الحجج$ \alpha $حيث$ p \in Dep(\alpha)$.
التعقيد: عملية التحقق من كل دور ونشر التراجع هي خطية في حجم تمثيل المحرك ($O(|Args| + |Att|)$)، مما يتجنب النمو الخطي مع طول المحادثة الذي يميز طرق إعادة عرض التاريخ.

المساهمات الرئيسية

مُتحقِّق وقت التشغيل للارتكاز التفاعلي: نظام يتحقق، عند كل دور، مما إذا كان الاستمرار المرشح يتتبع الالتزامات السابقة عبر بنية تبعية يتم الحفاظ عليها، ويعمل في زمن خطي لحجم حالة المحرك.
ركيزة رسمية قابلة للتركيب: إطار عمل موحد يجمع بين DEL، والحجاج، ومنطق الوعي مع ضمان السلامة (soundness guarantee) للتراجع الانتقائي (الخاصية 2.1). يضمن النظام أنه عند التراجع عن مقدمة، فإن مجموعة الاستنتاجات المتأثرة تكون خالية من التعارض ومحددة بدقة.
تفكيك السلامة والصدق (Soundness–Faithfulness Decomposition): يفصل المؤلفون المشكلة إلى تحقق هيكلي سليم (منطق المحرك، وهو صحيح برهانياً) وصدق الاستخراج (قدرة النموذج اللغوي على تصنيف العمليات واستخراج التبعيات بشكل صحيح). يسمح هذا بقياس دقيق لأماكن حدوث الإخفاقات.
التحقق التجريبي: تم تقييم النظام في سيناريوهات محكومة متعددة الوكلاء وفي اختبارات مرجعية خارجية، مما أظهر قدرته على اكتشاف المقدمات القديمة والامتناع عن الهلوسة حيث تفشل النماذج المرجعية.

النتائج

السيناريوهات المحكومة (المرحلة 2 و3)

اكتشاف المقدمات القديمة: في مجموعة فرعية مكونة من 15 عنصرًا من حالات "المقدمات القديمة" (حيث يعتمد ادعاء على مقدمة تم التراجع عنها سابقًا)، حقق المُتحقِّق دقة 100%، مقارنة بـ 93.3% للنموذج اللغوي الأساسي فقط. حدد المُتحقِّق بشكل صحيح أن التوصية التي تعتمد على فرضية مهجورة كانت غير مرتكزة، بينما اعتبرها النموذج الأساسي معقولة.
زمن تأخير التراجع: في النظام المقيد (حيث يتم تقاعد الفرضيات المحسومة/المهجورة)، يستقر زمن تأخير المُتحقِّق مع زيادة طول المحادثة، بينما ينمو نموًا خطيًا في نماذج إعادة عرض التاريخ. عند 2,000 دور، كان المُتحقِّق أسرع بـ 84 مرة من إعادة قراءة النص الكامل.

الاختبارات المرجعية الخارجية

LongMemEval-KU (Oracle): في 78 عنصرًا يختبر تحديثات المعرفة مع الاستبدال، وصل المُتحقِّق (مع المحتوى والاسترجاع) إلى دقة 89.7%، متفوقًا على النموذج اللغوي الأساسي (88.5%) ونموذج RAG الخاص بالنص الكامل (87.2%). تركزت الانتصارات في الحالات التي هلوس فيها النموذج الأساسي بشأن عناصر لا توجد لها معلومات داعمة، بينما امتنع المُتحقِّق بشكل صحيح.
LoCoMo: في 60 عنصر استعلام رسمي، كان المُتحقِّق منافسًا لنماذج الاسترجاع المعزز، بما يتوافق مع تركيزه على الارتكاز التفاعلي بدلاً من مجرد استدعاء الكيانات والعلاقات.

المتانة والاستخراج

دقة التصنيف: باستخدام مطالبات "التعريفات" و"تعزيز الحالة"، حقق المُفسِّر اللغوي درجات F1 عالية (على سبيل المثال، 0.91 لنموذج Claude Sonnet 4 في المرحلة 2).
تحليل الاختناق: يكمن القصور الرئيسي في صدق الاستخراج (قدرة النموذج اللغوي على ربط اللغة الطبيعية بالعمليات الرسمية بشكل صحيح)، وليس في التحقق الهيكلي نفسه. وتحديدًا، تطلب استرداد حواف التبعية عبر الفرضيات (مثل عندما تستوعب فرضية جديدة فرضية قديمة) إصلاحًا خاصًا للمخطط في عملية RESOLVE لم يكن ممكناً عبر هندسة المطالبات وحدها.

الأهمية والادعاءات

يزعم البحث تقديم أول آلية وقت تشغيل تربط استمرار الوكيل هيكليًا بتاريخ تفاعله الفعلي، مما يعالج ثغرة حرجة في الوكلاء المنشورين.

الأمن: يوفر دفاعًا ضد هجمات التلاعب بالسياق من خلال ضمان أن الإجراءات لا تُتخذ إلا إذا كانت مدعومة برسم التبعية الحالي.
الموثوقية: يتيح الامتناع الصحيح. عندما يفتقر الاستمرار إلى الدعم، يحدد النظام أنه "غير مرتكز" بدلاً من اختلاق تبرير يبدو معقولًا.
الكفاءة: من خلال الحفاظ على رسم بياني للتبعية الرمزية، يحقق تحققًا وتراجعًا في زمن خطي، مما يجعله قابلاً للتوسع للمحادثات طويلة الأمد حيث تكون إعادة قراءة التاريخ مكلفة حاسوبيًا.
الضمانات الرسمية: يوفر النظام ضمانًا خاليًا من التعارض للتراجع الانتقائي، مما يضمن بقاء حالة المحادثة متسقة منطقيًا بعد سحب المقدمات.

يظل المؤلفون متواضعين، مشيرين إلى أن فعالية النظام مرتبطة بقدرة النموذج اللغوي على استخراج الهيكل الرسمي بصدق من اللغة الطبيعية، وأن التنفيذ الحالي يركز على الارتكاز التفاعلي بدلاً من الاسترجاع المعرفي الخارجي (رغم إمكانية توسيع الإطار ليشمل ذلك).