Virgil: Navigating Explainability for Transformer-based Language Models
تقدم الورقة البحثية "فيرجيل" (Virgil)، وهو نظام تفاعلي مصمم لمساعدة المستخدمين على التنقل والاكتشاف والمقارنة بين المنظومة المتجزئة بشكل متزايد لأدوات التفسير الخاصة بالنماذج اللغوية القائمة على المحولات (transformer-based language models) من خلال واجهة موحدة مدعومة بقاعدة معرفية منسقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العالم الحديث، أصبح الذكاء الاصطناعي شريكاً صامتاً في بعض أكثر قراراتنا حرجاً. فمن مساعدة الأطباء في تشخيص الأمراض إلى معاونة المحامين في مراجعة العقود، تُوكل هذه الأنظمة بشكل متزايد بمهام ذات نتائج عالية الأهمية. وفي قلب العديد من هذه الأنظمة تكمن برامج حاسوبية قوية تُعرف بالنماذج اللغوية القائمة على "المحولات" (transformer-based). هذه الأدوات بارعة للغاية في فهم وتوليد اللغة البشرية، ومع ذلك فهي تعمل مثل "صناديق سوداء" معقدة. فعندما يتخذ مثل هذا النموذج قراراً، غالباً ما يكون من الصائع رؤية أي الكلمات أو قطع المعلومات أدت بالضبط إلى تلك النتيجة. وهذا النقص في الوضوح يثير مخاوف جدية؛ فإذا كان النظام لا يستطيع شرح منطقه، فكيف يمكننا الوثوق به؟ وكيف يمكننا إصلاحه إذا ارتكب خطأً، أو ضمان عدم إخفائه للتحيزات؟ ومع انتقال هذه التقنيات من مختبرات الأبحاث إلى الاستخدام في العالم الحقيقي، تحولت القدرة على فهم آليات عملها الداخلية من مجرد ميزة "يُفضل وجودها" إلى ضرورة مطلقة.
ولمعالجة هذه الحاجة المتزايدة للوضوح، قام فريق من الباحثين ببناء أداة رقمية جديدة تسمى "فيرجيل" (Virgil). صُمم النظام لمساعدة الأشخاص على التنقل في المشهد المتغير والمتزايد لأساليب شرح كيفية تفكير هذه النماذج اللغوية. حالياً، هناك عشرات التقنيات المختلفة المتاحة للكشف عن كيفية وصول النموذج إلى قرار ما، تتراوح من التظليل البصري البسيط إلى التحليلات الرياضية المعقدة. ومع ذلك، بالنسبة للممارس أو الباحث، قد يكون العثور على الأداة المناسبة لمهمة محددة أمراً مربكاً. وغالباً ما تقدم الأدلة الموجودة نظرات عامة واسعة النطاق لكنها تخفق في تقديم نصائح عملية حول اختيار الأداة المناسبة لحالة معينة. وهنا يأتي دور "فيرجيل" لسد هذه الفجوة، حيث يعمل كدليل تفاعلي يساعد المستخدمين على اكتشاف ومقارنة وحتى اختبار أدوات الشرح هذه دون الحاجة إلى أن يكونوا خبراء في الرياضيات الأساسية الكامنة وراءها.
بنى الباحثون "فيرجيل" كتطبيق قائم على الويب يعمل مثل مكتبة متخصصة. وفي جوهره، توجد مجموعة منسقة بعناية من المعلومات حول ثلاثة وأربعين أداة شرح مختلفة. يتم وصف كل أداة في بطاقة مهيكلة توضح ما صُممت للقيام به، مثل تحليل تصنيف النصوص أو توليد النصوص، ونوع نماذج الحاسوب التي تعمل معها. كما يشير النظام أيضاً إلى ما إذا كانت الأداة تتطلب معرفة تقنية عميقة لاستخدامها أم أنها متاحة لغير الخبراء. وعندما يزور المستخدم الواجهة، يمكنه البحث عن أداة باستخدام فلاتر بسيطة، مثل اختيار نوع المهمة التي يعمل عليها أو مستوى وصوله إلى نموذج الحاسوب. وبدلاً من ذلك، يمكنه كتابة سؤال بلغة طبيعية، وسيقوم النظام بمطابقة طلبه مع الأدوات الأكثر ملاءمة بناءً على وصف مفصل لقدرات كل منها وحدودها.
بمجرد أن يجد النظام الأدوات ذات الصلة، فإنه يتيح للمستخدم استكشافها بعمق. تعرض الواجهة ملخصات واضحة لما تفعله كل أداة، مع تسليط الضوء على نقاط قوتها وضعفها. والأهم من ذلك، أن "فيرجيل" لا يكتفي بسرد المعلومات فحسب؛ بل يتيح للمستخدمين تشغيل الأدوات مباشرة. يمكن للمستخدم اختيار طريقة شرح محددة، وتزويدها بنص ما ونموذج حاسوبي مُدرب مسبقاً، ومشاهدة النظام وهو يولد شرحاً. هذه الميزة التفاعلية حاسمة لأنها تسمة للمستخدمين برؤية كيف تسلك الأدوات المختلفة في الممارسة العملية. فعلى سبيل المثال، استعرض الباحثون سيناريو كان فيه مستخدم يحاول فهم سبب تصنيف نموذج حاسوبي لمراجعة فيلم على أنها إيجابية. ومن خلال تشغيل أداة واحدة، رأى المستخدم أن الأهمية الممنوحة لكلمات معينة كانت غير مستقرة وغير متسقة. ومن خلال الانتقال إلى أداة أخرى داخل نفس الواجهة، استطاع المستخدم أن يرى فوراً شرحاً أكثر وضوحاً وموثوقية، حيث قام النظام بتظليل الكلمات المحددة التي دفعت الشعور الإيجابي.
كما يدعم النظام المقارنات جنباً إلى جنب، مما يسمح للمستخدمين بتشغيل طرق شرح متعددة على نفس المدخلات لرؤية كيف تختلف نتائجها. تساعد هذه الرؤية المقارنة المستخدمين على اتخاذ قرارات مدروسة بشأن الأداة الأنسب لاحتياجاتهم الخاصة. ولاختبار مدى نجاح النظام، طلب الباحثون من عشرة باحثين مجهولين تجربته. وكانت التعليقات مشجعة، حيث وجد ثمانون بالمائة من المشاركين أن النظام بديهي، وقال تسعون بالمائة منهم إنهم سيوصون به لزملائهم. ورغم أن الدراسة شملت مجموعة صغيرة، إلا أن النتائج تشير إلى أن "فيرجيل" نجح في جعل عالم "قابلية تفسير الذكاء الاصطناعي" المعقد أكثر سهولة ويسراً. ويخطط الباحثون لتوسيع النظام في المستقبل، بهدف جعله مورداً مركزياً لكل من الباحثين الأكاديميين والمتخصصين في الصناعة. ومن خلال تنظيم هذه الأدوات في منصة واحدة سهلة الاستخدام، يساعد "فيرجيل" في إزالة الغموض عن الذكاء الاصطناعي، مما يضمن أنه مع زيادة شيوع هذه الأنظمة القوية، تظل قراراتها قابلة للفهم والتدقيق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.