Why Avoid Generative Legal AI Systems? Hallucination, Overreliance, and their Impact on Explainability
تجادل هذه الورقة بأن نشر أنظمة الذكاء الاصطناعي القانوني التوليدي في المهن القانونية يتطلب ضبطاً قوياً نظراً للمخاطر الجسيمة المتمثلة في الهلوسة والاعتماد المفرط، مما يقوض القدرة على التفسير، والاستقلال القضائي، والحقوق الأساسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الجوهرية: لماذا يجب على المحامين الحذر من الذكاء الاصطناعي "الساحر"
تخيل أنك استأجرت مساعداً بارعاً وسريع الكلام لمساعدتك في كتابة المذكرات القانونية، والبحث في القضايا، وصياغة العقود. هذا المساعد قد قرأ كل الكتب تقريباً في العالم ويمكنه التحدث بطلاقة مثالية. ومع ذلك، هناك عقبة: هذا المساعد لا يعرف الحقيقة فعلياً. هو يعرف فقط كيف تترابط الكلمات مع بعضها لتبدو مقنعة.
تجادل هذه الورقة البحثية، التي كتبتها جيزيم غولتكين فاركوني (Gizem Gultekin-Varkonyi)، بأننا يجب أن نكون حذرين للغاية بشأن ترك هذا المساعد (الذكاء الاصطناعي القانوني التوليدي) يقوم بالمهام الشاقة في القانون. لماذا؟ لأنه يعاني من مشكلتين خطيرتين: الهلوسة (Hallucination) والاعتماد المفرط (Overreliance). ومعاً، تكسر هاتان المشكلتان أهم قاعدة في القانون: القابلية للتفسير (Explainability) (أي القدرة على قول لماذا بالضبط اتُخذ قرار ما).
إليك تفصيل لنقاط الورقة الرئيسية باستخدام استعارات من الحياة اليومية.
1. "الكاتب الخارق" الذي يكذب دون أن يدرك (الهلوسة)
الاستعارة: تخيل طالباً يؤدي اختباراً في التاريخ. هو لا يعرف الإجابة، لكنه بارع جداً في الكتابة لدرجة أنه يؤلف قصة تبدو مقنعة تماماً. يستشهد بمؤرخ مشهور لم يوجد قط، ويقتبس من كتاب لم يُكتب أبداً. ينبهر المعلم بأسلوب الكتابة، لكنه لا يلاحظ أن الحقائق مزيفة بنسبة 100%.
الواقع:
- كيف يعمل: الذكاء الاصطناعي التوليدي (مثل ChatGPT) ليس قاعدة بيانات للحقائق. إنه آلة للتنبؤ بالكلمات. هو يخمن الكلمة التالية في الجملة بناءً على الأنماط التي رآها أثناء التدريب. هو يهتم بـ الطلاقة، لا بـ الحقيقة.
- الخطر: في القانون، هذا أمر كارثي. قد يخترع الذكاء الاصطناعي قضية محكمة لم تحدث أبداً، أو يستشهد بقاضٍ غير موجود، أو يفبرك قانوناً.
- النتيجة: ولأن الذكاء الاصطناعي يتحدث بثقة واحترافية، قد لا يراجع المحامون العمل. إذا قدم المحامي مذكرة تحتوي على قضايا وهمية، فسيتم فرض عقوبات عليه، وسيتم تلويث السجل القضائي بالأكاذيب. تسمي الورقة هذا "الهلوسة" (confabulation) — النظام يقوم فقط باختلاق أشياء لملء الفراغ.
2. "محرك الدمى الكاريزمي" (الاعتماد المفرط)
الاستعارة: تخيل دمية تبدو وتتحدث تماماً مثل قاضٍ حكيم عجوز. تتحدث بسلطة وتعاطف شديدين لدرجة أنك تتوقف عن التفكير بنفسك. تبدأ في الاعتقاد بأنه لمجرد أن الدمية قالت ذلك، فلا بد أن يكون صحيحاً. تتوقف عن فحص خيوط الدمية لأنك تثق في صوتها.
الواقع:
- الفخ: تم تصميم الذكاء الاصطناعي ليكون مفيداً، مهذباً، وشبيهاً بالبشر. هو يعتذر عندما يخطئ، ويبدو واثقاً عندما يصيب. هذا يحفز رد فعل نفسياً يسمى التحيز للأتمتة (Automation Bias). نحن نفترض أنه بما أن الآلة سريعة وفعالة، فلا بد أنها أذكى منا.
- الخطر: قد يتوقف المحامون والقضاة عن ممارسة التفكير النقدي الخاص بهم. قد يتركون الذكاء الاصطناعي يصيغ عقداً أو يقترح حكماً دون التحقق من الحقائق. إنهم "يستعينون بمصادر خارجية" (outsource) لمسؤوليتهم الأخلاقية والمهنية لصالح الآلة.
- النتيجة: إذا ارتكب الذكاء الاصطناعي خطأً (وهو ما يفعله غالباً)، فإن الإنسان لا يكتشفه لأنه كان مشغولاً جداً بالثقة في "صوت" الآلة.
3. البوصلة المكسورة (فقدان القابلية للتفسير)
الاستعارة: تخيل أنك ملاح تحاول توجيه سفينة إلى جزيرة معينة. أنت بحاجة لشرح السبب للقبطان لماذا توجه بهذا الاتجاه.
- القانون التقليدي: "أنا أتجه يساراً بسبب نمط رياح معين وهذه الخريطة." (واضح، منطقي، وقابل للتفسير).
- قانون الذكاء الاصطناعي: "أنا أتجه يساراً لأن... حسناً، الأرقام تقول ذلك." (غامض، وغير قابل للتفسير).
الواقع:
- المشكلة: في القانون، يجب أن تكون قادراً على شرح لماذا اتُخذ القرار. إذا أصدر قاضٍ حكماً على شخص ما، فعليه إظهار الاستدلال القانوني.
- الانهيار: عندما "يهلوس" الذكاء الاصطناعي (يخترع حقائق)، يصبح الاستدلال كذباً. لا يمكنك تفسير قرار مبني على قضية وهمية. علاوة على ذلك، ولأن الذكاء الاصطناعي عبارة عن "صندوق أسود" (لا نعرف بالضبط كيف يحسب كلمته التالية)، لا يمكننا تتبع منطقه.
- التبعات القانونية: تنص القوانين الأوروبية (مثل GDPR وقانون الذكاء الاصطنا_الجديد) على أن للناس الحق في معرفة كيف تُتخذ القرارات التي تؤثر عليهم. إذا كان الذكاء الاصطناعي يكذب أو كان المنطق مخفياً، فإن القانون قد انتُهك. يصبح النظام "غير قابل للتفسير"، وهو أمر غير قانوني في نظام العدالة.
4. درس التاريخ (كيف وصلنا إلى هنا)
تتتبع الورقة تاريخ الذكاء الاصطناعي بإيجاز:
- عصر الروبوت (الخمسينيات - السبعينيات): كانت الحواسيب تتبع قواعد صارمة (مثل الآلة الحاسبة).
- عصر قواعد البيانات (الثمانينيات - العقد الأول من القرن الحادي والعشرين): كانت الحواسيب تبحث عن حقائق موجودة (مثل المكتبة الرقمية).
- عصر "السحر" (من 2020 إلى الآن): بدأت الحواسيب في إنشاء محتوى جديد بناءً على الاحتمالات. وهنا بدأت مشكلة "الهلوسة". تشير الورقة إلى أنه بينما يستخدم 79% من شركات المحاماة الذكاء الاصطناعي، إلا أنهم يستخدمونه بسرعة كبيرة دون إصلاح مكابح الأمان.
الخاتمة: "لا" قاطعة في الوقت الحالي
تختتم المؤلفة بتحذير شديد. هي تقترح أنه حتى نتمكن من حل مشكلة كذب الذكاء الاصطناعي (الهلوسة) تماماً، ومشكلة ثقة البشر المفرطة به (الاعتماد المفرط)، فلا ينبغي لنا استخدام هذه الأدوات لاتخاذ قرارات قانونية خطيرة.
الاستعارة النهائية:
استخدام الذكاء الاصطناعي التوليدي الحالي في المحكمة يشبه السماح لـ ببغاء بصياغة وصية. قد يبدو الببغاء ذكياً جداً، ويكرر العبارات القانونية بشكل مثالي، بل وقد يوقع اسمه أيضاً. ولكن إذا اخترع الببغاء قريباً غير موجود، فإن الوصية ستكون باطلة، وستتعرض العائلة للمقاضاة.
حتى يتعلم الببغاء الفرق بين "القدرة على الظهور بمظهر ذكي" وبين "كون الشيء حقيقياً"، وحتى يتعلم البشر التوقف عن الاستماع لصوت الببغاء والبدء في التحقق من الحقائق، يجب علينا إبقاء الببغاء خارج قاعة المحكمة. إن المخاطر التي تهدد العدالة والإنصاف وحقوق الإنسان مرتفعة للغاية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.