Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)
تقترح هذه الورقة بنية تحقق هجينة عصبية-رمزية تجمع بين الاستدلال المنطقي الصوري والتحليل الدلالي العصبي للكشف بفعالية عن الهلوسة وضمان الموثوقية في المحتوى الذي تولده النماذج اللغوية الكبيرة للمجالات عالية المخاطر والحساسة للبيانات، كما تم التحقق من ذلك من خلال انخفاض بنسبة 30% في وقت إنشاء التقارير ومعدلات كشف عالية في نظام تقييم أجهزة طبية في العالم الحقيقي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مساعداً عبقرياً ولكنه شارد الذهن أحياناً (ذكاء اصطناعي)، وهو بارع في كتابة التقارب لكنه يختلق الحقائق أحياناً أو ينسى تفاصيل مهمة. الآن، تخيل أن هذا المساعد يعمل في وظيفة عالية المخاطر، مثل فحص سلامة الأجهزة الطبية أو كتابة الوثائق القانونية. إذا ارتكب خطأً، فقد يكلف أموالاً طائلة، أو يخالف القانون، أو يتسبب في إيذاء شخص ما.
تقدم هذه الورقة نظام "إشراف" جديداً صُمم لاكتشاف هذه الأخطاء قبل إرسال التقرير على الإطلاق. ويسمي المؤلفون هذا النظام "التحقق العصبي الرمزي" (Neuro-Symbolic Verification). وإليك كيفية عمله، مقسماً إلى مفاهيم وأمثلة بسيطة:
المشكلة الجوهرية: المساعد "شارد الذهن"
النماذج اللغوية الكبيرة (LLMs) تشبه الكتاب الموهوبين الذين يمكنهم التحدث عن أي شيء. ومع ذلك، فإنهم أحياناً "يهلوسون"؛ أي يذكرون بثقة أشياءً كاذبة أو مختلقة. في الدردشة العادية، يكون هذا الأمر مزعجاً، ولكن في المجالات الطبية أو القانونية، يصبح الأمر خطيراً. أيضاً، لا تستطيع هذه الشركات إرسال بياناتها الخاصة إلى السحابة (مثل خوادم جوجل أو مايكروسوفت) بسبب قوانين الخصوصية الصارمة؛ فهي بحاجة لإبقاء كل شيء على أجهزتها الخاصة.
الحل: مشرف ذو رأسين
بدلاً من الاعتماد على الذكاء الاصطفي للتحقق من عمله بنفسه (وهو أمر يشبه طلب تصحيح ورقة اختبار من الطالب نفسه)، بنى المؤلفون نظاماً يتكون من "عقلين" متميزين يعملان معاً:
- "عقل المنطق" (الرمزي - Symbolic): هذا الجزء يشبه المحاسب الصارم أو مدقق القواعد. هو يتعامل مع الحقائق الصلبة: التواريخ، الأرقام التسلسلية، والمتطلبات المحددة. يستخدم المنطق الصوري (قواعد تشبه الرياضيات) ليقول: "نعم، هذا الرقم التسلسلي موجود"، أو "لا، لقد نسيت تضمين التاريخ". إنه متيقن بنسبة 100% ولا يخمن أبداً.
- "عقل الحدس" (العصبي - Neural): هذا الجزء يشبه المحرر المتمرس الذي يقرأ لفهم المعنى. هو ينظر إلى الجمل ليرى ما إذا كانت منطقية في سياقها. يستخدم "التشابه الدلالي" (طريقة لقياس مدى تقارب الأفكار في المعنى) لاكتشاف الحالات التي يكتب فيها الذكاء الاصطناي شيئاً يبدو صحيحاً ولكنه في الواقع كذبة.
كيف يعملان معاً: "أرض المصنع"
تم بناء النظام مثل مصنع عالي التنظيم باستخدام طريقة تسمى "نموذج الفاعل" (Actor Model). تخيل أرضية مصنع حيث يقوم عمال مختلفون (فاعلون) بالتعامل مع مهام مختلفة.
- إذا تعثر أحد العمال (على سبيل المثال، العامل الذي يفحص "المعنى" لجملة ما) أو توقف عن العمل، فإن العمال الآخرين (الذين يفحصون "الأرقام التسلسلية") يستمرون في العمل. لا ينهار الجميع معاً.
- يسمح هذا الإعداد للنظام بالعمل على أجهزة الكمبيوتر المحلية (للحفاظ على خصوصية البيانات) مع القدرة في الوقت ذاته على التعامل مع المهام المعقدة والمتوازية بسرعة.
الاختبار الواقعي: HAIMEDA
اختبر المؤلفون هذا النظام في سيناريو واقعي يسمى HAIMEDA، والذي يساعد الخبراء في كتابة تقارير حول الأجهزة الطبية التالفة.
- قبل الكتابة: يقوم "عقل المنطق" بفحص المدخلات. إذا نسي الخبير رفع صورة للجهاز المعطل، يوقف النظام الذكاء الاصطناعي عن الكتابة ويقول: "انتظر، أنت بحاجة إلى هذه الصورة أولاً".
- بعد الكتابة: يقوم الذكاء الاصطناعي بإنشاء مسودة. يقرأ "عقل الحدس" المسودة ليرى ما إذا كانت القصة تتوافق مع الحقائق. بينما يتحقق "عقل المنطق" مما إذا كانت أرقام تعريف الأجهزة صحيحة.
- التغذية الراجعة: إذا اخترع الذكباء الاصطناعي تفصيلاً ما، يقوم النظام بتمييزه ويطلب من الخبير البشري إصلاحه.
النتائج
تزعم الورقة أن هذا النظام حقق نتائج جيدة جداً:
- كشف الأكاذيب: نجح النظام في كشف أكثر من 83% من الحقائق المختلقة المتعلقة بعناصر محددة (مثل الأرقام التسلسلية) و 72% من القصص المختلقة (مثل الأوصاف المزيفة للتلف).
- السرعة: ساعد الخبراء في كتابة التقارير بشكل أسرع بنسبة 30% لأن الذكاء الاصطناي قام بالعمل الشاق المتمثل في صياغة المسودات، بينما قام النظام باكتشاف الأخطاء قبل أن يضطر الإنسان للعثور عليها.
- الخصوصية: بما أن كل شيء تم تشغيله على جهاز الكمبيوتر الخاص بهم، لم يتم إرسال أي بيانات حساسة للمرضى أو للشركة إلى الإنترنت.
الخلاصة
تجادل الورقة بأنه لا يمكنك مجرد الثقة في أن الذكاء الاصطناعي سيكون مثالياً في الوظائف الجادة. بد instead، أنت بحاجة إلى نظام هجين: جزء يتحقق من الرياضيات والقواعد الصارمة، وجزء آخر يتحقق من المعنى والسياق. ومن خلال الجمع بين هذين، تحصل على شبكة أمان أقوى بكثير من أي منهما بمفرده، مما يسمح باستخدام الذكاء الاصطناعي بأمان في المجالات التي لا مجال فيها للخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.