Epistemic Trustworthiness in Generative AI: A Normative Framework for Warranted Reliance in High-Stakes Workflows

تخيل أنك تسير في مكتبة سحرية شاسعة حيث يمكن للكتب أن تتحدث إليك. هذه ليست مجرد مكتبة عادية؛ إنها مستقبل كيفية الحصول على الإجابات، وحل المشكلات، واتخاذ القرارات الكبرى. "الكتب المتحدثة" هي أنظمة الذكاء الاصطिनी التوليدي — وهي برامج حاسوبية ذكية للغاية يمكنها كتابة القصص، وحل المسائل الرياضية، وتقديم النصائح تماماً مثل الخبير البشري. لكن هناك مشكلة: هذه الكتب بارعة جداً في الظهور بمظهر الواثق. فهي تتحدث بجمل مثالية وانسيابية تجعلك تشعر وكأنها تعرف كل شيء. وهذا يخلق موقفاً صعباً. إذا بدا الكتاب سلساً وواثقاً، فهل تثق به؟ أم تتوقف وتسأل: "مهلاً، هل تعرف هذا حقاً، أم أنك فقط تؤلف كلاماً لتبدو رائعاً؟"

يتعمق هذا البحث في زاوية محددة من العلم تسمى الإبستمولوجيا (نظرية المعرفة)، وهي مجرد كلمة معقدة تعني "كيف نعرف ما نعرفه". وهي تطرح سؤالاً بسيطاً ولكنه ضخم: متى يكون من المقبول حقاً الوثوق بإجابة الكمبيوتر؟ يجادل المؤلفون بأنه لمجرد كون الذكاء الاصطناعي دقيقاً أو آمناً أو عادلاً بشكل عام، فهذا لا يعني أن لديك مبرراً لاستخدام إجابته في أمر مهم، مثل تشخيص طبي أو قضية قانونية. ويقترحون أنه لكي نعتمد حقاً على هذه "الكتب المتحدثة" من الذكاء الاصطناعي، يجب على النظام أن يظهر لنا ثلاثة أشياء محددة: يجب أن يعترف عندما يكون غير متأكد، ويجب أن يسمح لنا بالنظر تحت الغطاء لرؤية كيف وصل إلى إجابته، ويجب أن يعامل معرفتنا وخبراتنا باحترام، لا أن يتجاهلها.

---

اختبار "الروبوت الجدير بالثقة": لماذا لا يكفي أن تكون مصيباً

تخيل أن لديك مساعداً آلياً يدعى "جيني" يساعدك في واجباتك المدرسية. جيني مذهل؛ فهو يكتب مقالات تبدو مثالية، ويحل المعادلات فوراً، ولا يتعب أبداً. ولكن في أحد الأيام، تطلب من جيني المساعدة في مشروع مهم للغاية: بناء جسر لمعرض العلوم في المدرسة. يعطيك جيني خطة تبدو رائعة. إنها مكتوبة بلغة إنجليزية مثالية، وتبدو واثقة جداً.

الآن، إليك المشكلة الكبيرة التي يشير إليها البحث: مجرد كون جيني يبدو واثقاً لا يعني أنك في أمان لبناء الجسر.

يقول مؤلفو هذا البحث إنه لكي تكون واثقاً حقاً في "جيني" (وهو مفهوم يسمونه "الاعتماد المبرر معرفياً")، يحتاج جيني إلى اجتياز ثلاثة اختبارات محددة. إذا فشل في اختبار واحد منها، فلا ينبغي لك بناء ذلك الجسر، مهما بدا المقال جيداً.

1. زر "أنا لا أعرف" (التواضع المعرفي)

أولاً، يجب أن يكون جيني متواضعاً. في العالم الحقيقي، يعرف الأذكاء حدودهم؛ فيقولون: "لست متأكداً من هذا الجزء"، أو "أحتاج إلى مراجعة كتاب مدرسي قبل أن أجيب".

• التشبيه: تخيل أن جيني هو دليل سياحي. الدليل الموثوق يقول: "أعرف الطريق إلى القلعة، لكنني لست متأكداً بشأن الكهف الذي خلفها، لذا لنكن حذرين". أما الدليل السيئ (الذي يفشل في هذا الاختبار) فقد يقول: "أنا أعرف كل شيء!" حتى وهو يسير نحو منحدر.
• ما وجده البحث: وجد المؤلفون أن العديد من أنظمة الذكاء الاصطناعي تشبه الدليل السيئ. قد يعطونك إجابة خاطئة، لكنهم يقولونها بثقة بنسبة 100%. والأسوأ من ذلك، إذا سألتهم: "هل أنت متأكد؟"، فقد يتمسكون برأيهم ويقولون: "نعم، أنا متأكد تماماً!" حتى لو كانوا يؤلفون أشياء من خيالهم. يجادل البحث بأن الذكاء الاصطناعي الجدير بالثقة يجب أن يكون قادراً على قول: "أنا لست متأكداً، وإليك ما يجب عليك فعله بدلاً من ذلك"، بدلاً من مجرد التظاهر بالمعرفة.

2. قاعدة "أظهر عملك" (الوصول المعرفي)

ثانياً، يجب أن يسمح لك جيني برؤية طريقة تفكيره. في المدرسة، إذا حللت مسألة رياضية بشكل صحيح ولكنك لم تظهر خطوات الحل، فقد يوبخك المعلم لأنهم لا يستطيعون التحقق مما إذا كنت قد حالفتك الحظ.

• التشبيه: تخيل أن جيني يعطيك خريطة كنز. جيني الموثوق لا يكتفي بتسليمك الخريطة فحسب، بل يريك البوصلة، والمذكرات القديمة، والقرائن التي استخدمها لرسم الخريطة. إنه يتيح لك فحص القرائن. أما جيني السيئ فيسلمك الخريطة ويقول: "ثق بي، الكنز هنا!" دون أن يريك قرينة واحدة.
• ما وجده البحث: نظر المؤلفون في أدوات الذكاء الاصطناعي المستخدمة من قبل المحامين والأطباء. ووجدوا أنه حتى عندما كانت الأداة تعطي الإجابة الصحيحة، فإنها غالباً ما تخفي كيفية الوصول إلى تلك الإجابة. في بعض الأحيان، كان الذكاء الاصطناعي يستشهد بكتاب غير موجود، أو يقتبس قانوناً تم إلغاؤه منذ سنوات. يقول البحث إنه إذا لم تتمكن من التحقق من "القرائن" (الأدلة)، فلا يمكنك حقاً الوثوق بالخريطة، حتى لو بدا أن الوجهة صحيحة.

3. قاعدة "استمع إليّ" (مقاومة الظلم المعرفي)

ثالثاً، يجب أن يحترمك جيني. يجب أن يعامل معرفتك وخلفيتك كأمر مهم.

• التشبيه: تخيل أنك تتحدث مع جيني حول مشكلة في حيك. جيني الموثوق يستمع إلى قصتك ويقول: "هذا منطقي، وإليك كيف يمكننا إصلاح الأمر". أما جيني السيئ فقد يتجاهل قصتك لأنك لا تبدو "محترفاً"، أو قد يعامل تجربتك على أنها أقل أهمية من كتاب مدرسي.
• ما وجده البحث: يظهر البحث أن الذكاء الاصطناعي يمكنه أحياناً معاملة الناس بشكل مختلف بناءً على هويتهم. على سبيل المثال، في إحدى الدراسات، قدم الذكاء الاصطناعي نصيحة طبية مفصلة لطبيب، لكنه قال لمريض طرح نفس السؤال بالضبط: "اذهب واستشر طبيباً فقط" دون تقديم أي مساعدة. لم يكن الذكاء الاصطناعي "غير آمن" من الناحية التقنية؛ بل كان فقط فظاً ومستخفاً بالمريض. يجادل المؤلفون بأن الذكاء الاصطناعي الجدير بالثقة يجب أن يحترم حق الجميع في أن يُسمعوا ويُفهموا.

قاعدة "الكرسي ذو الثلاث أرجل"

أهم شيء اكتشفه البحث هو أن هذه القواعد الثلاث تشبه أرجل الكرسي. أنت بحاجة إلى الثلاثة معاً.

• إذا كان جيني متواضعاً ويسمح لك بالتحقق من عمله، ولكنه يتجاهل خلفيتك، فسيسقط الكرسي.
• إذا كان جدي يحترمك ويسمح لك بالتحقق من عمله، ولكنه لا يعترف أبداً عندما يكون غير متأكد، فسيسقط الكرسي.
• إذا كان جيني متواضعاً ويحترمك، ولكن لا يمكنك رؤية كيف وصل إلى إجابته، فسيسقط الكرسي.

استخدم البحث أمثلة من الواقع لإثبات ذلك. فقد نظروا في حالة استخدم فيها محامون ذكاءً اصطناعياً لكتابة وثيقة محكمة، فقام الذكاء الاصطناعي بتأليف قضايا محكمة وهمية. تعرض المحامون للمساءلة. يقول البحث إن هذا لم يكن مجرد "خطأ"؛ بل كان فشلاً للذكاء الاصطناعي في التواضع (لم يقل "أنا أؤلف هذا") وفشلاً في الوصول (لم يستطع المحامون بسهحولة التحقق مما إذا كانت القضاមាន حقيقية).

كما نظروا في أدوات التوظيف التي تعمل بالذكاء الاصطناعي والتي تصنف المتقدمين للوظائف. حتى لو كان الذكاء الاصطناعي "عادلاً" بشكل عام، فقد كان أحياناً يضع ترتيباً منخفضاً للناس لمجرد أسمائهم. كان هذا فشلاً في "الاستماع إليك" (مقاومة الظلم).

إذاً، ماذا يجب أن نفعل؟

يقترح البحث أنه لا ينبغي لنا فقط محاولة جعل الذكاء الاصطناعي "أكثر ذكاءً" أو "أكثر دقة". نحن بحاجة إلى تغيير كيفية التحدث إليه وكيفية تصميمه.

• إضافة "الاحتكاك": يقترح المؤلفون أنه في بعض الأحيان، يجب أن يكون استخدام الكمبيوتر أصعب قليلاً. تخيل لو قال الذكاء الاصطناعي: "لست متأكداً بنسبة 100% بشأن هذا، لذا يرجى مراجعة هذا المصدر قبل استخدامه". هذا "الاحتكاك" يمنعك من الثقة العمياء بالذكاء الاصطناعي.
• فحص الكرسي: قبل أن نسمح للذكاء الاصطناعي بمساعدتنا في القرارات الكبرى (مثل المستشفيات أو المحاكم)، نحتاج إلى فحص الأرجل الثلاثة. هل هو متواضع؟ هل يمكننا رؤية عمله؟ هل يحترمنا؟ إذا فُقد أي رجل، فلا ينبغي لنا استخدامه لهذه المهمة.

باختصار، يخبرنا البحث أن كونك مصيباً ليس كافياً. لكي تثق حقاً في روبوت، يجب أن يكون صادقاً بشأن ما لا يعرفه، ويظهر لنا عمله، ويعاملنا كأشخاص أذكياء يستحقون إجابة حقيقية. إذا فعل الثلاثة، فيمكننا أخيراً أن نقول: "حسناً، أنا أثق بك". وإذا لم يفعل، فيجب أن نبقي عقولنا نحن في مقعد القيادة.