Explainable and Human-Grounded AI for Decision Support Systems: The Theory of Epistemic Quasi-Partnerships
تقترح هذه الورقة "نظرية الشراكات المعرفية شبه المتكافئة" كإطار عمل جديد لأنظمة دعم القرار الأخلاقية في الذكاء الاصطناعي، محاججةً بأنها تفسر الأدلة التجريبية بفعالية وتوجه عملية التطوير من خلال إعطاء الأولوية للتفسيرات القائمة على الأسس البشرية التي تتكون من الأسباب، والافتراضات المضادة، والثقة (منهج RCC).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الصورة الكبيرة: مشكلة "الصندوق الأسود"
تخيل أنك قاضٍ يقرر مستقبل طفل، أو طبيب يشخص حالة مريض. فجأة، يقدم لك برنامج كمبيوتر فائق الذكاء (ذكاء اصطناعي) توصية. لكن الكمبيوتر لا يخبرك لماذا اتخذ هذا القرار؛ هو فقط يعطيك الإجابة. هذا يشبه "الصندوق الأسود".
تجادل الورقة بأنه لكي يثق البشر في هذه الحواسيب، لا نحتاج إلى فهم الرياضيات المعقدة داخل الصندوق (مثلما يفهم الميكانيكي المحرك). بدلاً من ذلك، نحتاج إلى أن يتحدث إلينا الكمبيوتر بطريقة تناسب عقولنا. يطلق المؤلفون على هذا بناء "شراكة معرفية شبه كاملة" (Epistemic Quasi-Partnership).
فكر في الأمر كالتالي: أنت تتنزه في الجبال مع دليل. أنت تعرف التضاريس (أنت الخبير البشري)، لكن الدليل يمتلك جهاز GPS متطور وبيانات أقمار صناعية للأرصاد الجوية (الذكاء الاصطناعي). أنتما لستما "شركاء" بمعنى أن جهاز الـ GPS لديه مشاعر أو مسؤولية أخلاقية، لكنكما تعملان معاً لاتخاذ قرار. ولكي تثق في الدليل، يجب أن يشرح نصيحته بطريقة يمكنك استخدامها فعلياً.
المشكلة في التفسيرات الحالية
نظر المؤلفون في كيفية محاولة الذكاء الاصطناعي لتفسير نفسه حالياً. ووجدوا أن العديد من الأساليب الشائعة مربكة للناس العاديين.
- فخ "مخطط الميزات": تخيل أن الذكاء الاصطناعي يظهر لك مخططاً بيانياً يقول: "العمر ساهم بنسبة 20%، التعليم 15%، والمسمى الوظيفي 10%". بالنسبة لعالم حاسوب، هذا واضح. أما بالنسبة لشخص عادي، فالأمر يشبه النظر إلى خريطة لمدينة لم تزرها من قبل. يمكنك رؤية الخطوط، لكنك لا تعرف لماذا هي مهمة أو ما إذا كانت الخريطة موثوقة. تطلق الورقة على هذا وصف "الغموض المعرفي" (epistemically opaque)—فهي تبدو كمعلومات، لكنها لا تساعدك فعلياً في اتخاذ قرار.
- "السجناء يديرون المصحة": حالياً، غالباً ما يتم تصميم تفسيرات الذكاء الاصطناعي من قبل المبرمجين (الخبراء) من أجل مبرمجين آخرين. أما الأشخاص الذين يستخدمون الذكاء الاصطناعي فعلياً (القضاة، الأطباء، أو موظفي القروض) فيُتركون يحاولون فك رموز لغة لا يتحدثونها.
ما الذي ينجح حقاً؟ (منهج RCC)
بعد مراجعة عشرات الدراسات، وجد المؤلفون أن البشر يثقون في الذكاء الاصطناعي بشكل أفضل عندما يستخدم ثلاثة أنواع محددة من التفسيرات. ويسمون هذا منهج RCC:
الأسباب (الـ "لأن"):
- التشبيه: بدلاً من المخطط البياني، يجب أن يقول الذكاء الاصطناعي: "أوصي بهذا القرض لأن مقدم الطلب لديه وظيفة مستقرة ودرجة ائتمانية جيدة".
- لماذا ينجح: هذا يشبه الطريقة التي يشرح بها البشر خياراتهم. فهو يعطيك "حقيقة" واضحة لتتمسك بها.
السيناريوهات المقابلة (الـ "ماذا لو"):
- التشبيه: يجب أن يقول الذكاء الاصطناعي: "أوصي بهذا القرض. ولكن، إذا كان دخلهم أقل بمقدار 5,000 دولار، لكنت رفضت الطلب".
- لماذا ينجح: هذا يساعدك على اختبار منطق الذكاء الاصطناعي. الأمر يشبه سؤال صديق: "إذا تغير الطقس، هل ستظل تقترح هذا الطريق؟". هذا يوضح لك حدود قرار الذكاء الاصطناعي.
الثقة (الـ "مدى التأكد"):
- التشبيه: يجب أن يقول الذكاء الاصطناعي: "أنا متأكد بنسبة 90% أن هذا هو المسار الصحيح، ولكن إذا اشتدت الرياح، تنخفض ثقتي إلى 40%".
- لماذا ينجح: البشر يزنون طبيعياً مدى تأكد الشخص قبل اتباع نصيحته. معرفة "مستوى اليقين" لدى الذكاء الاصطناعي تساعدك على تحديد متى تستمع ومتى تراجع الأمر.
لماذا فشلت النظريات القديمة؟
اختبرت الورقة ثلاث أفكار قديمة حول سبب ثقتنا في الذكاء الاصطناعي، ووجدتها غير كافية:
- النظرية 1: "أرني كيف يعمل."
- الفكرة: إذا شرحنا الآليات الداخلية (التروس والأسلاك)، فسنثق به.
- الواقع: لا. معظمنا يقود السيارات دون معرفة كيفية عمل المحرك. نحن نثق في السيارة لأنها توصلنا بسلام، وليس لأننا نفهم حركة المكابس.
- النظرية 2: "أرني أين يفشل."
- الفكرة: إذا أظهرنا "خريطة الأخطاء" الخاصة بالذكاء الاصطناعي (أين يخطئ)، فسنثق به.
- الواقع: معرفة أين قد تتعطل السيارة لا يساعدك في قيادتها اليوم. أيضاً، من الصعب على الإنسان النظر إلى خريطة أخطاء معقدة وتحديد ما إذا كان الذكاء الاصطناعي على صواب في هذه اللحظة.
- النظرية 3: "اجعله يتصرف كالبشر."
- الفكرة: إذا تحدث الذكاء الاصطناعي وتصرف مثل البشر، فسنثق به.
- الواقع: هذا أمر خطير. إنه يشبه الخدعة السحرية. إذا جعلت الروبوت يبدو بشرياً جداً، فقد تخدع نفسك وتظن أن لديه مشاعر أو أخلاقاً لا يملكها. تقول الورقة إن هذا غير أخلاقي لأنه يتلاعب بثقتنا.
الحل: "الشريك شبه الكامل"
يقترح المؤلفون طريقة جديدة للتفكير في الذكاء الاصطناعي: الشريك المعرفي شبه الكامل (The Epistemic Quasi-Partner).
- "المعرفي" (Epistemic): تعني أنه يتعلق بالمعرفة والحقيقة.
- "شبه" (Quasi): تعني "كما لو كان".
فكر في الذكاء الاصطناعي كأنه متدرب ذكي جداً وصادق جداً.
- هو خبير في البيانات.
- ليس بشراً؛ ليس لديه مشاعر، ولا مسؤولية أخلاقية، ولا "روح".
- لكن، إذا عاملته كما لو كان شريكاً يحاول مساعدتك على التفكير بوضوح، فستحصل على أفضل النتائج.
لكي يكون "شريكاً شبه كاملاً" جيداً، لا ينبغي للذكاء الاصطناعي أن يحاول أن يكون بشرياً. بدلاً من ذلك، يجب أن يستخدم منهج RCC (الأسباب، السيناريوهات المقابلة، الثقة) ليتحدث بلغة المنطق البشري.
الخلاصة
لجعل الذكاء الاصطناعي جديراً بالثقة، لا ينبغي أن نحاول جعل الذكاء الاصطناعي يبدو كبشر، ولا ينبغي أن نجبر البشر على تعلم كيفية قراءة الأكواد المعقدة. بدلاً من ذلك، يجب تصميم الذكاء الاصطناعي ليعمل كخبير متعاون وشفاف يقول:
- "إليك سببي."
- "إليك ما قد يغير رأيي."
- "إليك مدى تأكدي."
عندما يفعل الذكاء الاصطناعي ذلك، يمكن للبشر استخدام حكمهم الخاص لتقرير ما إذا كانوا سيثقون بالآلة، مما يخلق فريقاً آمناً وفعالاً بين الإنسان والآلة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.