Who Are You Explaining To? A Multi-Agent System for Audience-Aware XAI Narratives
تقدم الورقة البحثية XstrAI، وهو إطار عمل متعدد الوكلاء يولد سرديات للذكاء الاصطناعي القابل للتفسير ومدركة للجمهور من خلال معاملة عزو الميزات كأدلة غير قابلة للتغيير وتوظيف وكلاء متخصصين للتخطيط والتحقيق والتحقق لضمان التواصل الأمين والمناسب لمختلف أصحاب المصلحة مثل المرضى والأطباء وعلماء البيانات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدخل غرفة حيث قام كمبيوتر فائق الذكاء للتو بإجراء تنبؤ بشأن مستقبلك، مثل ما إذا كنت قد تمرض أو مدى جودة أدائك في لعبة ما. هذا الكمبيوتر لا يكتفي بالتخمين فحسب؛ بل لديه دفتر ملاحظات سري مليء بالرياضيات التي تشرح "لماذا" قدم تخمينه هذا. هذا المجال من الدراسة يسمى "الذكاء الاصطناعي القابل للتفسير" (XAI). الفكرة هي أنه إذا اتخذ الكمبيوتر قرارًا، فيجب أن نتمكن من سؤال "لماذا؟" والحصول على إجابة حقيقية، وليس مجرد رقم سحري.
لكن الجزء الصعب هنا هو أن الـ "لما" في دفتر ملاحظات الكمبيوتر مكتوبة بلغة تقنية صارمة للغاية. الأمر يشبه وصفة مكتوبة بشفرة لا يستطيع قراءتها إلا رئيس طهاة ماهر. إذا عرضت نفس الوصفة على طفل جائع، ووالد مشغول، وعالم أغذية، فسيفهمونها جميعًا بشكل مختلف. يحتاج الطفل إلى قصة بسيطة حول "المكونات اللذيذة"، ويحتاج الوالد إلى معرفة ما إذا كانت آمنة وسريعة، ويحتاج العالم إلى معرفة النسب الكيميائية الدقيقة. إذا أعطيت الطفل رياضيات العالم المعقدة، فسوف يرتبك. وإذا أعطيت العالم قصة الطفل البسيطة، فسيظن أنك لا تأخذه على محمل الجد. السؤال الكبير الذي يتناوله هذا البحث هو: كيف نأخذ تلك الإجابة التقنية الصارمة الواحدة ونحولها إلى ثلاث قصص مختلفة ومثالية لثلاثة أشخاص مختلفين، دون تغيير الحقائق الفعلية؟
قام الباحثون وراء هذا البحث، فرانشيسكو موزيكو وفريقه، ببناء نظام جديد يسمى XstrAI لحل هذه المشكلة. لقد أدركوا أن مجرد سؤال روبوت دردشة ذكي (Chatbot) لـ "يشرح هذا لطفل" غالبًا ما يؤدي إلى أخطاء. فقد يقوم روبوت الدردشة بتأليف حقائق، أو خلط الأسباب بالنتائج، أو يبدو مقنعًا ولكنه في الواقع يكذب بشأن ما كان الكمبيوتر يفكر فيه حقًا. ولإصلاح ذلك، أنشأوا فريقًا من ثلاثة وكلاء ذكاء اصطناعي (فكر فيهم كطاقم متخصص صغير) يعملون معًا مثل خط إنتاج في مصنع.
أولاً، يأخذون رياضيات الكمبيوتر الخام ويقفلونها في بطاقة تعريف رقمية تسمى بطاقة الشرح (ExplanationCard). هذه البطاقة غير قابلة للتغيير؛ فهي تحمل الحقائق الحقيقية، مثل حقيبة الأدلة المختومة في قاعة المحكمة. مهما كان من يستمع، فإن الحقائق داخل هذه البطاقة لا تتغير أبدًا. ثم يتولى الوكلاء الثلاثة المهمة:
- المُؤطِّر (The Framer): هذا الوكيل هو المخطط. ينظر إلى بطاقة التعريف ويقرر: "حسنًا، إذا كنا نتحدث إلى طبيب، فنحن بحاجة إلى استخدام كلمات كبيرة والتركيز على الأرقام. أما إذا كنا نتحدث إلى مريض، فنحن بحاجة إلى أن نكون لطيفين ونركز على ما يمكنهم التحكم فيه". ثم يرسم مخططًا للقصة.
- الراوي (The Narrator): هذا الوكيل هو الكاتب. يأخذ المخطط وبطاقة التعريف ويكتب القصة الفعلية. ويتأكد من اتباع القواعد التي وضعها المُؤطِّر، بحيث يحصل الطبيب على تقرير تقني ويحصل المريض على رسالة ودودة.
- المراجع (The Reviewer): هذا الوكيل هو المحرر الصارم. يقرأ القصة ويتحقق منها مقابل بطاقة التعريف الأصلية. هل اخترع الكاتب حقيقة ما؟ هل قال شيئًا خاطئًا؟ إذا كانت القصة خاطئة، يرسلها المراجع إلى المُؤطِّر أو الراوي لإصلاحها. يمكنهم القيام بذلك عدة مرات حتى تصبح القصة مثالية.
اختبر الفريق هذا النظام على مشكلتين طبيتين من العالم الحقيقي: التنبؤ بمخاطر مرض السكري، ومخاطر الإصابة بسكتة دماغية. وقارنوا نظامهم الجديد "طاقم الوكلاء الثلاثة" بـ 11 طريقة أخرى للقيام بالأمر، بما في ذلك مجرد سؤال روبوت دردشة لكتابة قصة وطرق أخرى أبسط.
كانت النتائج واضحة تمامًا. عندما طلبوا من حكام مستقلين (سواء كانوا ذكاءً اصطناعيًا آخر أو بشرًا حقيقيين) قراءة القصص، كان نظام XstrAI أفضل بكثير في معرفة من يخاطب. القصص الموجهة للمرضى بدت وكأنها كُتبت للمرضى، والقصص الموجهة للأطباء بدت وكأنها كُتبت للأطباء. في الواقع، كان النظام جيدًا لدرجة أن الحكام تمكنوا من تخمين الشخص الذي تُوجه إليه القصة بنسبة 100% من الوقت، بينما أخطأت الطرق الأخرى في ذلك كثيرًا.
بالنسبة للمرضى، نجح النظام في تجنب المصطلحات الطبية المخيفة وركز على الأشياء التي يمكنهم تغييرها بالفعل، مثل وزنهم أو نظامهم الغذائي، بدلاً من الأشياء التي لا يمكنهم التحكم فيها، مثل عمرهم. أما بالنسبة للأطباء، فقد حافظ على جميع الأرقام الدقيقة والتفاصيل التقنية التي يحتاجونها. وعلى الرغم من أن النظام كان حريصًا جدًا على الالتزام بالحقائق، فقد تمكن من جعل القصص تبدو طبيعية وليست آلية.
يشير البحث إلى أن هذا "النهج الجماعي" هو طريقة أذكى للتعامل مع تفسيرات الذكاء الاصطناعي من مجرد ترك روبوت دردشة واحد يحاول القيام بكل شيء في وقت واحد. فمن خلال فصل التخطيط، والكتابة، والتدقيق، ضمنوا أن تكون القصص سهلة الفهم وصادقة تمامًا لما ورد في رياضيات الكمبيوتر الأصلية. وبينما كانت الدراسة ناجحة في اختبار محكوم، يشير المؤلفون إلى أن هناك حاجة لمزيد من الاختبارات مع مجموعات أكبر من البشر الحقيقيين لمعرفة مدى نجاح ذلك في العالم الحقيقي. ولكن في الوقت الحالي، يظهر XstrAI مسارًا واعدًا نحو جعل قرارات الذكاء الاصطناعي مفهومة للجميع، من مراهق فضولي إلى طبيب متمرس.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.