Knowledge Graph Representations for LLM-Based Policy Compliance Reasoning
تقدم هذه الورقة إطار عمل وكيلِيّاً يقوم ببناء رسوم بيانية للمعرفة من وثائق سياسات الذكاء الاصطناًعي لتعزيز الاستدلال القائم على النماذج اللغوية الكبيرة والتحقق من الامتثال، مما يثبت أن تعزيز الرسوم البيانية للمعرفة يحسن الأداء عبر مهام استدلالية متنوعة، وأن المخططات التي تكتشفها النماذج اللغوية الكبيرة يمكن أن تضاهي أو تتجاوز الأنطولوجيات الرسمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول حل لغز ضخم ومربك، حيث القطع عبارة عن قواعد مكتوبة بثلاث لغات مختلفة (قانون الذكاء الاصطنا�الاصطناعي للاتحاد الأوروبي، وإرشادات NIST، ومعايير OWASP). لديك مساعد ذكي جداً (نموذج لغوي كبير، أو LLM) قد قرأ الكثير من الكتب، لكنه لم يحفظ هذه الكتب التنظيمية المحددة بشكل مثالي. إذا سألت المساعد سؤالاً، فقد يخمن الإجابة بناءً على ما "يعتقد" أنه يعرفه، لكنه قد يخطئ في التفاصيل أو يختلق معلومات (يهلوس).
تقدم هذه الورقة البحثية طريقة جديدة لمساعدة ذلك المساعد الذكي. فبدلاً من مجرد الطلب من المساعد أن يتذكر، قام الباحثون ببناء خزانة ملفات رقمية (رسم بياني معرفي - Knowledge Graph) مخصصة لقواعد الذكاء الاصطناعي هذه.
إليك كيف يعمل هذا النظام، مقسماً إلى خطوات بسيطة:
١. فريق "المسح والفرز" (البناء)
أولاً، يأخذ النظام الوثائق السياساتية الطويلة والمملة ويقسمها إلى أجز {chunks} صغيرة يمكن إدارتها. ثم يستخدم وكيل ذكاء اصطناعي (AI agent) لقراءة كل جزء واستخراج "الحقائق" المهمة (مثل المخاطر المحددة، أو القواعد، أو الالتزامات) والروابط بينها.
فكر في الأمر كأنه أمين مكتبة يقرأ كتاب قواعد مكوناً من ٥٠٠ صفحة وينشئ مجموعة من البطاقات الفهرسية.
- الأمين "الصارم" (مخطط AIRO): يتبع هذا الأمين قائمة فئات محددة مسبقاً وصارمة للغاية (مثل "خطر"، "تهديد"، "نتيجة"). وهو يجبر كل حقيقة على الدخول في هذه الصناديق المحددة.
- الأمين "المبدع" (المخطط المفتوح): لا يستخدم هذا الأمين قائمة معدة مسبقاً. بدلاً من ذلك، ينظر إلى النص ويقوم بإنشاء تسميات وصفية خاصة به (مثل "خطر تسميم البيانات" أو "قاعدة الشفافية") التي تناسب المحتوى بشكل أفضل.
٢. "المحقق" (الاسترجاع)
عندما تطرح سؤالاً (على سبيل المثال: "هل ينتهك هذا الكود قانون الذكاء الاصطناعي للاتحاد الأوروبي؟")، لا يكتفي النظام بسؤال المساعد للتخمين. بل يعمل مثل المحقق:
- المسار المباشر: بالنسبة للأسئلة البسيطة (مثل "ما هو نظام الذكاء الاصطناعي عالي المخاطر؟")، يجد المحقق البطاقة الفهرسية الدقيقة بسرعة ويقرأ الاقتباس.
- مسار الوكيل: بالنسبة للأسئلة المعقدة (مثل "كيف تعمل قواعد الاتحاد الأوروبي وقواعد NIST معاً؟")، يتجول المحقق عبر خزانة الملفات، متتبعاً الروابط بين البطاقات لجمع كل الأدلة اللازمة لبناء إجابة كاملة.
٣. "القاضي" (التقييم)
اختبر الباحثون هذا النظام باستخدام خمسة نماذج مختلفة من الذكاء الاصطناعي (من النماذج القوية جداً إلى النماذج الأصغر والأرخص). وطرحوا عليهم ٤٢ نوعاً مختلفاً من الأسئلة، تتراوح من عمليات البحث البسيطة إلى الاستنتاج المعقد عبر القواعد.
وقارنوا بين ثلاثة سيناريوهات:
١. بدون مساعدة: يجيب الذكاء الاصطناعي من ذاكرته الخاصة.
٢. خزانة الملفات "الصارمة": يستخدم الذكاء الاصطناعي بطاقات الأمين "الصارم".
٣. خزانة الملفات "المبدعة": يستخدم الذكاء الاصطناعي بطاقات الأمين "المبدع".
ما وجدوه (النتائج)
- خزانة الملفات تساعد دائماً: أدى إضافة الرسم البياني المعرفي إلى تحسين الإجابات لكل نموذج ذكاء اصطناعي تم اختباره. أصبح الذكاء الاصطناعي أكثر دقة، والأهم من ذلك، أصبح بإمكانه تقديم اقتباسات دقيقة من القواعد لإثبات إجابته، بدلاً من مجرد التخمين.
- الأمين "المبدع" كان جيداً بشكل مفاجئ: قد تعتقد أن القائمة الصارمة والمعدة مسبقاً (الأنطولوجيا الرسمية) ستكون أفضل. ومع ذلك، فإن الأمين "المبدع"، الذي وضع تسمياته الخاصة أثناء العمل، كان يؤدي بشكل جيد تماماً، وأحياناً بشكل أفضل من الصارم. وهذا يشير إلى أن السماح للذكاء الاصطناعي بوصف الأشထ بكلماته الخاصة يمكن أن يكون أكثر فعالية من إجباره على الدخول في صناديق جامدة.
- الحجم مهم (بالنسبة للمحقق): عمل النظام بشكل رائع مع نماذج الذكاء الاصطناعي ذات "الدماغ الكبير". ومع ذلك، بالنسبة للنماذج الأصغر والأقل قوة، فإن "مسار الوكيل" (حيث يتجول المحقق عبر الرسم البياني) جعل الأمور أسوأ في الواقع. كان الأمر أشبه بإعطاء خريطة معقدة لطفل لا يعرف كيف يقرأ؛ فقد تاه في الطريق. بالنسبة للنماذج الأصغر، كان من الأفضل تزويدهم بالإجابة المباشرة دون خطوة التجول المعقدة.
الخلاصة الكبرى
تثبت هذه الورقة أنه إذا كنت تريد من الذكاء الاصطناعي اتباع قواعد سلامة معقدة، فلا ينبغي لك الاعتماد فقط على ذاكرته. أنت بحاجة إلى تزويده بخريطة مهيكلة وقابلة للبحث لتلك القواعد. ومن المثير للاهتمام، أنك لست بحاجة إلى خريطة مخططة بدقة؛ فالخريطة التي يبنيها الذكاء الاصطناعي بنفسه بناءً على النص تعمل بشكل جيد أيضاً. ومع ذلك، يجب عليك مطابقة تعقيد مهمة قراءة الخريطة مع ذكاء الذكاء الاصطناعي الذي يقوم بالقراءة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.