Policy-as-logic for robust reasoning over rules
تقدم هذه الورقة نهجاً رمزياً هجيناً يجمع بين النماذج اللغوية لاستخراج الحقائق ومحلل مجموعات الإجابات (answer set solver) للاستدلال المنطقي لضمان التزام استجابات الذكاء الاصطناعي بالسياسات المكتوبة، محققةً دقةً وقابلية تفسير ومتانة فائقة مع تقليل استهلاك الرموز (tokens) بشكل كبير مقارنة بالطرق الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت موهوب للغاية، ولكنه مشتت الذهن قليلاً، كيف يتبع كتاب قواعد. هذا الروبوت هو نموذج لغوي كبير (LLM)، وهو نوع من الذكاء الاصطناعي البارع في فهم القصص، والنكات، والمحادثات البشرية. يمكنه قراءة رواية من ألف صفحة وإخبارك بدقة بما تشعر به الشخصيات. ومع ذلك، عندما تطلب منه القيام بعمليات حسابية صارمة أو اتباع مجموعة ثابتة من قواعد "إذا-إذن" — مثل حساب الضرائب أو تحديد ما إذا كانت الحقيبة ثقيلة جداً — قد يرتبك أحياناً. قد يتشتت بكلمة مضحكة، أو إذا غيرت ترتيب القواعد، فقد يعطيك إجابة مختلفة تماماً. هذه مشكلة في الوظائف الواقعية مثل شركات الطيران، أو مكاتب الضرائب، أو المستشفيات، حيث يجب أن تكون القرارات مثالية، وعادلة، ومتسقة، بغض النظر عن كيفية طرح السؤال.
لإصلاح ذلك، يمزج العلماء بين نوعين مختلفين من التفكير. أحدهما هو "العقل الإبداعي" للذكاء الاصطناعي، وهو بارع في قراءة اللغة البشرية الفوضوية. والآخر هو "العقل المنطقي"، وهو برنامج حاسوبي صارم يعمل كآلة حاسبة دقيقة للغاية أو كقاضٍ لا يمل ولا يتأثر بالعواطف. السؤال الكبير الذي يطرحه الباحثون هو: هل يمكننا ترك الذكاء الاصطناعي الإبداعي يقرأ القواعد والأسئلة الفوضوية، ثم نسلم عملية اتخاذ القرار الفعلي إلى العقل المنطقي الصارم؟ يستكشف هذا البحث هذه الفكرة تحديداً، باختبار ما إذا كان تقسيم العمل بين قارئ مبدع وآلة منطقية صارمة يجعل صانع القرار أكثر ذكاءً وموثوقية.
نهج "المترجم والقاضي"
يقترح الباحثون وراء هذه الورقة، راهول نير، باستيان ليبكا، وإليزابيث دالي، طريقة جديدة ذكية للتعامل مع سياسات القواعد، والتي يسمونها السياسة كمنطق (Policy-as-Logic). فكر في الأمر كفريق مكون من شخصين: المترجم والقاضي.
في الطريقة القديمة (التي يسمونها "السياسة كأمر توجيهي" أو Policy-as-Prompt)، كنت تقوم فقط بصب كتاب القواعد بالكامل وسؤال المستخدم داخل عقل الذكاء الاصطناعي دفعة واحدة وتأمل أن يكتشف الأمر. الأمر يشبه طلب حل مسألة رياضية معقدة من طالب بارع ولكنه مشتت الذهن بينما يقرأ رواية في الوقت نفسه. أحياناً يصيبون الهدف، ولكن إذا تغيرت صياغة السؤال قليلاً، فقد يرتبكون ويعطون إجابة خاطئة.
طريقة "السياسة كمنطق" الجديدة تقسم العمل:
- المترجم (الذكاء الاصطناعي): أولاً، يقرأ الذكاء الاصطناعي سؤال المستخدم بلغته الطبيعية الفوضوية (مثل "لدي حقيبة واحدة بوزن 20 كجم وأسافر على الدرجة السياحية"). هو لا يحاول حل المشكلة بعد. بدلاً من ذلك، يعمل كمترجم، حيث يحول تلك الجملة إلى قائمة مرتبة ومنظمة من الحقائق، مثل ملف JSON. إنه يستخلص الأرقام والفئات المهمة، متجاهلاً الحشو الزائد.
- القاضي (محرك الحل المنطقي): بمجرد استخراج الحقائق، يتم تسليمها إلى محرك منطقي صارم (تحديداً "محلل مجموعات الإجابات" - Answer Set Solver). هذا المحرك لا يهتم بالمشاعر أو التلاعب بالألفاظ؛ هو فقط ينظر إلى الحقائق الصلبة والقواعد المكتوبة. يقوم بإجراء عملية حسابية لمعرفة ما إذا كانت القواعد تسمح بالإجراء.
- الحكم: يخرج المحرك المنطقي نتيجة واضحة بـ "نعم" أو "لا"، والتي يتم ترجمتها بعد ذلك إلى إجابة صديقة للبشر.
ماذا وجدوا: فوز "المتانة"
اختبر الفريق هذه الطريقة في أربعة سيناريوهات مختلفة من الواقع: رسوم أمتعة شركات الطيران، حسابات ضريبة الدخل، قواعد رواتب لاعبي الـ NBA، وإدارة محتوى الموارد البشرية (تحديد ما إذا كان موقف العمل آمناً).
كانت النتائج فوزاً ساحقاً لفريق "المترجم والقاضي"، خاصة في عالم الحقائق الصلبة.
- الدقة: في مجالي الطيران والضرائب، حيث تعتمد القواعد على أرقام صلبة (مثل الوزن والمال)، كانت طريقتهم الجديدة شبه مثالية، حيث سجلت دقة تتراوح بين 0.94 و1.00. في المقابل، عانت الطريقة القديمة (التي تعتمد على "السياسة كأمر توجيهي" - أي سؤال الذكاء الاصطناعي مباشرة) من صعوبات، حيث سجلت غالباً أقل من 0.40. حتى أصغر نموذج ذكاء اصطناعي اختبروه قفز من دقة 0.01 إلى 0.61 عند استخدام هذا المسار الجديد.
- المتانة (اختبار الضغط): هذا هو الجزء الأكثر إثارة. حاول الباحثون خداع الأنظمة عبر تغيير الأسئلة بطرق سخيفة — جعلها تبدو مرحة، أو محبطة، أو إضافة تفاصيل مشتتة. انهارت طرق الذكاء الاصطناعي القديمة؛ حيث انخفضت دقتها إلى 0.00 في أسئلة الضروس عندما تغيرت الصياغة. لكن طريقة "السياسة كمنطق" ظلت قوية، وحافظت على دقتها العالية لأن المحلل المنطقي لا يتشتت بالأسلوب. الأمر يشبه القاضي الذي يتجاهل ما إذا كان المحامي يصرخ أو يهمس، وينظر فقط إلى الأدلة.
- الكفاءة: كانت الطريقة الجديدة أيضاً أقل تكلفة في التشغيل. نظرًا لأن الذككاء الاصطناعي كان عليه فقط قراءة "مخطط" صغير (قالب لما يجب البحث عنه) بدلاً من قراءة كتاب القواعد كاملاً في كل مرة، فقد استخدم حوالي 10 مرات أقل من الرموز (Tokens) (وحدات النص التي يعالجها الذكاء الاصطناعي). على سبيل المثال، في أسئلة الطيران، استخدمت الطريقة القديمة أكثر من 11,000 رمز، بينما استخدمت الطريقة الجديدة 1,175 رمزاً فقط.
العقبة: عندما تصبح القواعد "فضفاضة"
ومع ذلك، وجدت الورقة أيضاً حداً لهذه القوة الخارقة. فعندما اختبروا الطريقة في إدارة محتوى الموارد البشرية، حيث تكون القواعد ذات طبيعة تقديرية (مثل "هل هذه الرسالة ضارة؟")، لم تقدم الطريقة الجديدة ميزة كبيرة. في هذه الحالات، تعتمد القواعد على الاعتقاد البشري والتفسير بدلاً من الرياضيات الصارمة. وبما أن الذكاء الاصطناعي لا يزال يتعين عليه اتخاذ القرار الأولي لاستخراج الحقائق، وبما أن المحلل المنطقي لا يمكنه حقاً "التفكير" في المشاعر بشكل أفضل من الذكاء الاصطناعي، فقد كان أداء الطريقتين متقارباً (حوالي 0.93 إلى 0.96 دقة).
يشير المؤلفون إلى أن هذا يثبت وجهة نظرهم: السياسة كمنطق هي أداة رائعة للقواعد الموضوعية القائمة على المعرفة (مثل الرياضيات والفيزياء)، لكنها لا تعالج سحرياً المشكلات التي تكون فيها القواعد نفسها غامضة أو تعتمد على الرأي البشري.
الخلاصة
تشير هذه الورقة إلى أنه بالنسبة لأكثر القرارات الحساسة القائمة على القواعد في عالمنا، لا ينبغي لنا الاعتماد فقط على ذكاء اصطناعي واحد للقيام بكل شيء. بدلاً من ذلك، يجب أن نترك للذكاء الاصطناعي دور المترجم الذي يفهم لغتنا الفوضوية، ثم نسلم زمام الأمور إلى آلة منطقية صارمة لاتخاذ القرار النهائي. هذا المزيج يجعل القرارات أكثر دقة، وأصعب في الخداع، وأرخص بكثير في التشغيل، طالما أن القواعد المتبعة واضحة وموضوعية. إنه تذكير بأنه في بعض الأحيان، أذكى شيء يمكن للذكاء الاصطناዊ فعله هو معرفة متى يتوقف عن التخمين ويبدأ في الحساب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.