CAVEAT: Reliability-aware active verification under correlated errors for multi-agent LLM reasoning
تقدم الورقة البحثية CAVEAT، وهو إطار عمل لتخصيص الموارد لاستدلال النماذج اللغوية الكبيرة متعددة الوكلاء، والذي يعمل على نمذجة الأخطاء المترابطة بين الوكلاء والمحقِّقين لبناء رسم بياني لتبعية الادعاءات واختيار خطوات التحقق بشكل جشع، مما يؤدي إلى تحسين الدقة والمعايرة بشكل كبير مع تقليل التكاليف الحسابية مقارنة بالطرق الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي سريع التطور، تحولت النماذج اللغوية الكبيرة من مجرد مولدات نصوص بسيطة إلى محركات استدلال متطورة. يمكن لهذه الأنظمة الآن تفكيك المشكلات المعقدة، واستشارة أدوات خارجية، وتنسيق عدة وكلاء رقميين لحل مهام كانت تتطلب في السابق خبرة بشرية. ولجعل هذه الأنظمة أكثر موثوقية، يعتمد الباحثون غالبًا على استراتيجية تسمى "التكرار" (redundancy): وهي جعل عدة وكلاء يحلون المشكلة نفسها ثم يقارنون إجاباتهم. وإذا اتفق الوكلاء، يفترض النظام أن الإجابة صحيحة. وغالبًا ما يقترن هذا النهج بمرحلة تحقق، حيث تقوم مجموعة ثانية من الوكلاء أو الأدوات بفحص الخطوات الوسيطة للاستدلال لاكتشاف الأخطاء قبل اتخاذ القرار النهائي. والأمل الكامن وراء ذلك هو أنه إذا ارتكب أحد الوكلاء خطأً، فإن وكيلًا آخر سيكتشفه، وإذا ارتكب المدقق خطأً، فإن مدققًا آخر سيصححه. ومع ذلك، فإن شبكة الأمان هذه برمتها ترتكز على افتراض هش: وهو أن هؤلاء الوكلاء والمدققين المختلفين يرتكبون أخطاءهم بشكل مستقل عن بعضهم البعض.
إن هذا الافتراض بات من الصعب الدفاع عنه بشكل متزايد في العالم الحقيقي. فمعظم أنظمة الذكاء الاصطناعي الحديثة مبنية باستخدام عدد قليل من عائلات النماذج، والتي تشترك في نفس بيانات التدريب، ونفس البنية الأساسية، ونفس وصفات التدريب. وبسبب هذا الإرث المشترك، فإنها تميل إلى ارتكاب نفس الأخطاء بنفس الطرق. فعندما تتفق مجموعة من الوكلاء من نفس العائلة على حقيقة خاطئة، فإن ذلك ليس علامة على الإجماع، بل هو علامة على "هلوسة مشتركة". وإذا تعامل نظام التحقق مع هذه الأخطاء المتطابقة والمترابطة كأدلة مستقلة، فقد يصبح واثقًا بشكل خطير في إجابة خاطئة. يقوم النظام فعليًا بعدّ الخطأ نفسه عدة مرات، مما يؤدي إلى تضخيم يقينه حتى يقتنع بالباطل. وتخلق هذه الظاهرة نقطة عمياء حيث تنتهي الأدوات المصممة لضمان السلامة في تعزيز الأخطاء بدلاً من تصحيحها.
لقد عالج فريق من الباحثين هذه الثغرة الحرجة بإطار عمل جديد يسمى CAVEAT، وهو اختصار لـ "التخصيص الواعي للارتباط في التحقق" (Correlation-Aware Verification Allocation). فبدلاً من افتراض أن كل وكيل ومدقق هو مراقب مستقل، يقوم هذا النظام بنمذجة حقيقة أنهم غالبًا ما يكونون مرتبطين وعرضة لنفس الإخفاقات. وقد عامل الباحثون عملية التحقق كمسألة إدارة موارد؛ حيث أدركوا أنه في عالم يكون فيه فحص كل خطوة من خطوات سلسلة الاستدلال أمرًا مكلفًا للغاية، يجب تحديد أي الادعاءات المحددة يجب فحصها، وأي مدقق يجب استخدامه لكل فحص، ومتى يجب التوقف عن الفحص. والهدف هو إنفاق ميزانية محدودة من الموارد الحسابية بالطريقة الأكثر فعالية، لضمان أن تكون الإجابة النهائية موثوقة بقدر ما تسمح به الميزانية.
جوهر نظام CAVEAT هو خريطة لعملية الاستدلال. فعندما يحل عدة وكلاء مشكلة ما، يقوم النظام بتفكيك مخرجاتهم إلى ادعاءات فردية وربطها معًا في رسم بياني للتبعية. توضح هذه الخريطة أي الحقائق تدعم أي استنتاجات. بعض الادعاءات تشبه جذور الشجرة؛ إذا كانت خاطئة، ينهار الإجابة بأكملها. وأخرى تشبه الأوراق؛ إذا كانت خاطئة، يكون تأثيرها ضئيلاً. يقوم النظام بتعيين وزن لكل ادعاء بناءً على مدى اعتماد الإجابة النهائية عليه. ثم يستخدم نموذجًا إحصائيًا لتقدير موثوقية كل مدقق متاح، مع الأخذ في الاعتبار أن المدققين من نفس العائلة من المرجح أن يرتكبوا نفس "الهفوة" أو الخطأ. وهذا يسمح للنظام بحساب القيمة الحقيقية لسؤال مدقق معين للتحقق من ادعاء معين. فإذا طُلب من مدقق من عائلة سبق لها التحدث للتحقق من ادعاء ما، فإن النظام يعرف أن الإجابة الجديدة ستكون على الأرجح مجرد تكرار للإجابة القديمة، مما لا يقدم معلومات جديدة تذكر. وبدلاً من ذلك، يوجه الميزانية نحو عائلة مختلفة من المدققين أو أداة متخصصة، مثل برنامج يمكنه تشغيل الأكواد أو محرك بحث يمكنه العثور على الحقائق.
في سلسلة من الاختبارات عبر ستة معايير مختلفة، تتراوح بين التحقق من الحقائق والإجابة على الأسئلة متعددة الخطوات إلى الاستدلال الرياضي المعقد، قارن الباحثون هذا النهج الجديد بالأساليب الحالية. ووجدوا أن تجاهل الارتباط بين الوكلاء والمدققين أدى إلى مبالغة كبيرة في تقدير الثقة. فالأنظمة التي افترضت الاستقلالية كانت غالبًا مخطئة بـثقة، حيث سجلت مستويات عالية من اليقين لإجابات غير صحيحة. وفي المقابل، نجح نظام CAVEAT في تحديد متى يكون الإجماع في الواقع مجرد خطأ مشترك. ومن خلال توجيه ميزانية التحقق بعناية نحو الفحوصات الأكثر إفادة، حقق النظام نفس مستوى دقة النظام الذي يفحص كل ادعاء مع كل مدقق، ولكنه فعل ذلك باستخدام حوالي خمس الموارد الحسابية فقط. وفي المتوسط، حسن الدقة بمقدار 3.1 نقطة مئوية عن أفضل الأساليب الحالية المتساوية في الميزانية.
ولكن الأهم من ذلك، أن النظام عالج مشكلة الثقة الزائفة. ففي الاختبارات، أنتجت الأساليب التقليدية إجابات خاطئة بثقة عالية في نحو 20% من الحالات. أما نظام CAVEAT فقد خفض هذا المعدل إلى 7.2% فقط، مما يعني أنه كان أقل عرضة للتأكيد بثقة على باطل. كما جعل درجات الثقة في النظام أكثر دقة، بحيث عندما يقول النظام إنه متأكد بنسبة 90%، فإنه يكون صحيحًا بنسبة 90% من الوقت. وقد أثبت الباحثون أن هذا النهج يعمل حتى عندما يكون جميع الوكلاء من نفس العائلة أو عندما تتفق أغلبية الوكلاء على إجابة خاطئة. فمن خلال إدراك الطبيعة المشتركة للأخطاء، يعرف النظام كيف يبحث عن منظور خارجي بدلاً من مطالبة نفس المجموعة بالتصويت مرة أخرى.
كشفت الدراسة أيضًا أن طريقة تخصيص التحقق تهم بقدر أهمية مقدار المال المنفق عليه. فمجرد فحص الادعاءات التي يبدو أن الوكلاء أقل تأكدًا منها، أو فحصها بترتيب عشوائي، كان أقل فعالية بكثير من النهج المستهدف الذي يستخدمه CAVEAT. فقد تعلم النظام إعطاء الأولوية للادعاءات التي، إذا كانت خاطئة، ستسبب أكبر قدر من الضرر للإجابة النهائية، واستخدام أرخص وأكثر الأدوات تنوعًا للتحقق منها. فعلى سبيل المثال، في المسائل الرياضية، يستخدم منفذ أكواد سريع ورخيص للتحقق من خطوات الحساب، مما يوفر نماذج اللغة الأكثر تكلفة وبطئًا لخطوات الاستدلال المنطقي. هذا التخصيص الاستراتيجي سمح للنظام بالتوقف عن الفحص مبكرًا بمجرد التأكد الكافي من الإجابة، مما وفر الموارد دون التضحية بالدقة.
وخلص الباحثون إلى أن مستقبل الاستدلال الموثوق للذكاء الاصطناعي يعتمد على الإقرار بأن أدواتنا ليست مستقلة. فتمامًا كما قد يتشارك مجموعة من الناس الذين نشأوا في بلدة واحدة في نفس المفاهيم الخاطئة، فإن مجموعة من نماذج الذكاء الاصطناعي المدربة على نفس البيانات ستتشارك في نفس نقاط الضعف. ومن خلال بناء أنظمة تفهم هذه الروابط وتخصص مواردها وفقًا لذلك، يمكننا إنشاء ذكاء اصطناعي ليس فقط أكثر ذكاءً، بل أيضًا أكثر صدقًا بشأن ما يعرفه وما لا يعرفه. ويشير العمل إلى أن الطريق نحو ذكاء اصطناعي أكثر موثوقية لا يكمن ببساطة في إضافة المزيد من الوكلاء، بل في فهم العلاقات بينهم واستخدام هذا الفهم للتحقق من الحقيقة بكفاءة أكبر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.