Verifiable Provenance for AI Judicial Decision Support Using Transparency Logs and Citation Entailment
تقدم الورقة البحثية VADP، وهي بنية قابلة للتدقيق لدعم اتخاذ القرار القضائي بالذكاء الاصطناعي تدمج التحكم في الوصول القائم على "الثقة الصفرية"، والاستدلال باللغة الطبيعية، وسجلات الشفافية لإنشاء عقود قابلة للتحقق تضمن حيازة الأدلة والقابلية للتفسير، مع إثبات تجريبي لمعدلات دفاع عالية ضد حقن الأوامر والتلاعب إلى جانب مكاسب أداء كبيرة ولكنها تعتمد على الولاية القضائية، مع الإقرار بالقيود المتعلقة بالتعميم عبر الولايات القضائية المختلفة وصحة التشفير غير المتحقق منها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم القانون عالي المخاطر، يعتمد قرار القاضي على أساس من الحقائق، والسوابق، والنصوص القانونية. وعندما تدخل الذكاء الاصطناعي هذا المضمار للمساعدة في البحث في القضايا أو صياغة الملخصات، تبرز مشكلة جديدة: كيف يمكن للإنسان أن يتأكد من أن الآلة تقول الحقيقة؟ فخلافاً للآلة الحاسبة التي تكتفي بمعالجة الأرقام، يمكن للذكاء الاصطناعي الحديث أحياناً أن يبتدع حقائق أو يستشهد بقوانين لا وجود لها، وهي ظاهرة تُعرف باسم "الهلوسة". وفي قاعة المحكمة، لا تُعد هذه الأخطاء مجرد هفوات؛ بل يمكنها أن تقوض العدالة. لذا، فإن التحدي لا يكمن فقط في بناء ذكاء اصطناعي أكثر ذكاءً، بل في بناء نظام يترك أثراً واضحاً وغير قابل للتغيير لكل دليل يدعم كل ادعاء يقدمه، مما يسمح للإنسان بالتحقق بدقة من مصدر المعلومة وما إذا كان مسموحاً باستخدامها.
لقد اقترح الباحثان أديتيا ماندلوي وأنوكاكيا ياداف نظاماً يسمى VADP، صُمم لحل هذه المشكلة عبر تغليف كل توصية قانونية ناتجة عن الذكاء الاصطناعي بـ "عقد تحقق" رقمي. تخيل هذا العقد كظرف مختوم لا يحتوي فقط على إجابة الذكاء الاصطناعي، بل أيضاً على الدليل لكيفية الوصول إلى تلك الإجابة. يعمل النظام أولاً من خلال التحقق مما إذا كان الشخص الذي يطرح السؤال يملك الحق في الاطلاع على المعلومات، تماماً مثل حارس أمن يتحقق من بطاقة تعريف. بعد ذلك، يقوم باسترجاع الوثائق القانونية ذات الصلة من قاعدة بيانات آمنة، ويستخدم ذكاءً اصطناعياً ثانياً متخصصاً للتحقق من أن الوثائق المسترجعة تدعم بالفعل الادعاءات التي قدمها الذكاء الاصطناعي الأول. وإذا كانت الوثائق لا تدعم تلك الادعاءات، يقوم النظام بالإبلاغ عن الخطأ فوراً. وأخيراً، يتم قفل العملية بأكملها — بدءاً من هوية المستخدم وصولاً إلى النص القانوني المحدد المستخدم — في سجل رقمي لا يمكن تغييره دون ترك أثر مرئي، تماماً كما يثبت الختم الشمعي على الرسالة أنها لم تُفتح.
اختبر الباحثون هذا النظام باستخدام معيار يتكون من 1,500 سؤال قانوني مستندة إلى قضايا حقيقية من المحكمة العليا الهندية. وأظهرت النتائج أن النظام كان فعالاً للغاية في إيجاد السوابق القانونية الصحيحة، حيث صنف الوثيقة الأكثر صلة في المرتبة الأولى في أكثر من 93% من الحالات. والأهم من ذلك، نجح النظام في رصد جميع الحالات تقريباً التي حاول فيها الذكاء الاصطناعي اختلاق استشهاد أو التناقض مع المصدر، حيث اعترض حوالي 94% من الادعاءات غير المدعومة و98% من التناقضات المباشرة. كما أثبت "الظرف" الرقمي أنه متين للغاية؛ ففي الاختبارات التي حاول فيها الباحثون التلاعب بالسجلات عبر تغيير بت واحد من البيانات أو تغيير الطابع الزمني، اكتشف النظام التغيير بنسبة 100%، مما أثبت أن السجل ظل سليماً.
ومع ذلك، يحرص الباحثون على التمييز بين ما يمكن لنظامهم إثباته وما لا يمكنه إثباته. فبينما يضمن النظام استرجاع الأدلة بشكل صحيح وعدم التلاعب بالسجل، فإنه لا يضمن أن الاستنتاج القانوني النهائي للذكاء الاصطناعي مثالي أو أن القاضي سيتفق مع النتيجة. يعمل النظام كمدقق صارم للعملية، وليس بديلاً عن الحكم البشري. وفي الواقع، وجدت الدراسة أنه في ظل الإعدادات الحالية، سيظل النظام يتطلب مراجعة بشرية من قبل القاضي لحوالي 68% من القضايا لضمان السلامة، مما يسمح بمرور الـ 32% المتبقية فقط دون تدخل. وتعد نسبة المراجعة البشرية العالية هذه مقصودة، بهدف إبقاء خطر تفويت خطأ حرج دون مستوى 5%.
كما استكشفت الدراسة مدى نجاح هذا النهج في الأنظمة القانونية المختلفة، مثل الولايات المتحدة أو أوروبا. فعند اختباره على مجموعات البيانات القانونية الأجنبية هذه دون إعادة تدريب محددة، انخفض أداء النظام بشكل كبير، حيث حدد السابقة الأعلى صلة في أقل من نصف الحالات. وهذا يشير إلى أنه بينما تعد تكنولوجيا التحقق من الأدلة عالمية، فإن الأدوات المحددة اللازمة لإيجاد القوانين الصحيحة يجب أن تُصمم لتناسب القانون الخاص بكل دولة. كما لاحظ الباحثون أن اختباراتهم الحالية أُجريت على جهاز كمبيوتر واحد، وبينما عمل النظام بشكل مثالي هناك، لم يتم اختباره بعد في بيئة متعددة المحاكم حيث يصل العديد من المستخدمين إلى النظام في وقت واحد من مواقع مختلفة.
في النهاية، يقدم هذا العمل طريقة جديدة للتفكير في الثقة تجاه الذكاء الاصطناعي. فبدلاً من مطالبة المحكمة بالوثوق بوعد مورد بأن برمجياته آمنة، يوفر VADP أثراً ملموساً وقابلاً للفحص لكل قرار. إنه ينقل العبء من الإيمان الأعمى إلى التحقق المستقل، مما يضمن أنه إذا تم استخدام استشهاد قانوني، فقد تم استرجاعه بالفعل من مصدر آمن، وإذا تم تعديل سجل ما، فإن التغيير سيكون واضحاً على الفور. ورغم أن النظام ليس منتجاً نهائياً جاهزاً لكل قاعة محكمة، إلا أنه يثبت أنه من الممكن بناء أدوات ذكاء اصطناعي ليست قوية فحسب، بل شفافة وخاضعة للمساءلة أيضاً، مما يمنح القضاة والمحامين الأدوات التي يحتاجونها للتحقق من الحقيقة قبل اتخاذ قرارات تغير مجرى الحياة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.