Addressing the Selection Problem in Explainable AI
تحدد هذه الورقة "مشكلة الاختيار" في الذكاء الاصطناستك القابل للتفسير، حيث يواجه المستخدمون صعوبة في اختيار تقنيات التفسير الفعالة بسبب الأبحاث المنعزلة، وتقترح أداة تنسيق للنماذج اللغوية الكبيرة متعددة الوكلاء لترجمة استفسارات المستخدمين تلقائياً إلى منهجية الذكاء الاصطناعي القابل للتفسير المناسبة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي سريع التطور، تملك إحباط صامت شعوراً لدى الأشخاص الذين يبنون هذه الأنظمة ويستخدمونها. وبينما تتعلم الآلات اتخاذ القرارات بشأن كل شيء، من التشخيصات الطبية إلى الموافقات على القروض، ظهر مجال يُعرف باسم "الذكاء الاصطناعي القابل للتفسير" لمساعدة البشر على فهم كيفية اتخاذ تلك القرارات. الهدف بسيط: تقديم سبب واضح لمخرجات الآلة، وتحويل "الصندوق الأسود" إلى شيء شفاف. ومع ذلك، فإن المشهد الحالي مزدحم بعشرات الطرق المختلفة لتوليد هذه الأسباب. فبعض الطرق تسلط الضง على الأجزاء التي نظرت إليها الحاسوب في صورة ما، بينما تظهر طرق أخرى كيف يمكن لتغيير طفيف في المدخلات أن يغير النتيجة، أو تقوم ببساطة باسترجاع أمثلة سابقة مماثلة لإظهار كيفية تصرف النظام عادةً. كل طريقة تجيب على نوع مختلف من الأسئلة حول منطق الآلة. والمشكلة هي أنه بينما بنى الباحثون مجموعة أدوات واسعة من طرق التفسير هذه، فإن الأشخاص الذين يحتاجون لاستخدامها غالباً ما يجدون أنفسهم واقفين أمام باب مغلق، غير متأكدين أي أداة يختارون أو كيف يطلبون النوع الصحيح من المساعدة.
لقد حدد فريق من الباحثين في جامعة كارنيجي ميلون هذا الارتباك ليس فقط كخطأ من جانب المستخدم، بل كخلل جوهري في كيفية تصميم هذه الأنظمة. وهم يسمونه "مشكلة الاختيار". ومن وجهة نظرهم، فإن الطريقة الحالية التي نتفاعل بها مع الذكاء الاصطناعي القابل للتفسير تجبر المستخدمين على ترجمة ارتباكهم الطبيعي إلى أمر تقني محدد قبل أن يتمكنوا من رؤية أي تفسير. تخيل شخصاً غير متأكد من سبب اتخاذ الآلة لقرار معين؛ قد يفكر: "أريد أن أعرف ماذا سيحدث إذا غيرت هذا التفصيل الواحد"، أو "أحتاج إلى رؤية مثال لحالة مماثلة". في الأنظمة الحالية، يجب على المستخدم أن يعرف أن الفكرة الأولى تتطلب نوعاً معيناً من التفسير يسمى "التفسير المقابل للواقع" (counterfactual)، وأن الثانية تتطلب "طريقة النموذج المثالي" (exemplar method). يجب عليه بعد ذلك العثور على الزر أو قائمة الخيارات الصحيحة لاختيار تلك التقنية المحددة. ويجادل الباحثون بأن توقع معرفة الشخص العادي للأسماء التقنية والقدرات لهذه الطرق التفسيرية المختلفة هو مطلب غير عادل وغير واقعي. ولأن المستخدمين لا يستطيعون مطابقة أسئلتهم مع الأداة التقنية الصحيحة بشكل موثوق، فإنهم ينتهي بهم الأمر غالباً بالحصول على تفسيرات لا تجيب بالفعل عما أرادوا معرفته، مما يؤدي إلى الارتباك أو الثقة الخاطئة في الآلة.
ولإثبات هذه النقطة، يقوم المؤلفون بتفكيك التفاعل إلى تسلسل منطقي. يبدأون بالإشارة إلى أن نموذج الذكاء الاصطناعي هو في الأساس دالة تأخذ مدخلاً وتنتج مخرجاً. والتفسير هو ببساطة عملية تأخذ نفس المدخل والنموذل لإنتاج سبب. ومن الأهمية بمكان أن عمليات التفسير المختلفة مصممة للإجابة على أسئلة هيكلية مختلفة. إن عدم اليقين لدى المستخدم في أي لحظة معينة هو حالة ذهنية محددة، وهي فجوة في فهمه يريد ملأها. ويظهر الباحثون أنه لأي فجوة محددة في الفهم، فإن مجموعة فرعية صغيرة فقط من طرق التفسير المتاحة ستكون مفيدة حقاً. ومع ذلك، في الأنظمة التي نستخدمها اليوم، يقع على عاتق المستخدم جسر الفجوة بين سؤاله باللغة الطبيعية والطريقة التقنية. فالنظام لا يسأل: "ما الذي تحاول فهمه؟" بل ينتظر المستخدم ليختار أداة. وبما أن معظم الناس لا يملكون التدريب التقني لمعرفة أي أداة تناسب أي سؤال، فإنهم غالباً ما يختارون الأداة الخاطئة. والنتيجة هي نظام يقدم إجابة، ولكن ليست الإجابة الصحيحة لاحتياج المستخدم المحدد.
يقترح البحث حلاً هيكلياً لإصلاح هذه الحلقة المكسورة: نظاماً يتولى عملية الترجمة نيابة عن المستخدم. فبدلاً من مطالبة المستخدم باختيار أداة، يسأل التصميم الجديد المستخدم ببساطة أن يتحدث أو يكتب سؤاله باللغة الإنجليزية العادية. ثم يستخدم النظام أداة برمجية متطورة، مبنية على النماذج اللغوية الكبيرة، للاستماع إلى عدم يقين المستخدم وتوجيهه تلقائياً إلى طريقة التفسير الصحيحة. هذا النهج ينقل عبء الترجمة من الإنسان إلى الآلة. فالنظام يقبل لغة المستخدم الطبيعية، ويكتشف نوع السؤال المطروح، ثم يختار تقنية التفسير المناسبة لتقديم الإجابة. وهذا يسمح بتفاعل أكثر سلاسة حيث لا يحتاج المستخدم لمعرفة المفردات التقنية للمجال. ويوضح الباحثون ذلك من خلال نموذج أولي مصمم للتصوير الطبي. في هذا المثال، يمكن للطبيب كتابة سؤال مثل: "لست متأكداً لماذا قام النظام بتحديد هذا الفحص"، وسيقوم النظام تلقائياً بتحديد أن الطبيب يحتاج إلى نوع معين من التفسير البصري، ثم يولد ذلك العرض المحدد دون أن يحتاج الطبيب أبداً لمعرفة اسم التقنية أو مكان العثور عليها.
ويحرص الباحثون على صياغة عملهم كأطروحة وتوصيف لمشكلة، وليس كأزمة تم حلها. فهم يقدمون فكرتهم كضرورة منطقية بناءً على القيود الحالية لواجهات المستخدم، مشيرين إلى أن فشل الذكاء الاصطناعي القابل للتفسير في اكتساب الثقة الواسعة يعود جزئياً إلى عدم التوافق في الواجهة. هم لا يدعون أنهم صنعوا منتجاً نهائياً مثالياً، بل مخططاً لكيفية بناء الأنظمة المستقبلية. ومن خلال نقل مهمة مطابقة الأسئلة بالأدوات من المستخدم إلى النظام، يجادلون بأنه يمكننا خلق علاقة أكثر فعالية وموثوقية بين البشر والذكاء الاصطناعي. ويشير العمل إلى أن الطريق إلى الأمام لا يكمن في بناء المزيد من أدوات التفسير، بل في بناء طرق أفضل للناس لطلبها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.