Interpreto: An Explainability Library for Transformers
تُعد Interpreto مكتبة مفتوحة المصدر بلغة بايثون توحد بين أساليب الإسناد والأساليب القائمة على المفاهيم لنماذج لغة HuggingFace، حيث تقدم مساراً مميزاً ومتكاملاً لتعلم المفاهيم والتفسير يربط بين الأبحاث الحديثة والأدوات العملية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك روبوتاً فائق الذكاء يقرأ آلاف الكتب ويكتب القصص أو يخمن مشاعرك. إنه بارع للغاية في عمله، لكنه أيضاً عبارة عن "صندوق أسود". أنت ترى المدخلات (النص الذي تعطيه إياه) والمخرجات (الإجابة التي يعطيها)، ولكن ليس لديك أدنى فكرة عن كيفية اتخاذه لتلك الإجابة. الأمر يشبه مشاهدة ساحر يُخرج أرنباً من قبعة، لكن لا يمكنك رؤية الخدعة.
INTERPRETO هو مجموعة أدوات جديدة مفتوحة المصدر مصممة لرفع الستار عن تلك القبعة. إنها مكتبة (مجموعة من الأدوات للمبرمجين) تساعدنا على التلصص داخل هذه الصناديق السوداء للنماذج الذكية لفهم عمليات التفكير الخاصة بها.
إليك كيف تعمل، مقسمة إلى "قوتين خارقتين" رئيسيتين:
1. قوة "التظليل" (النسب/Attributions)
التشبيه: تخيل أنك تقرأ رواية غموض، وتريد أن تعرف لماذا حلّ المحقق القضية. تمسك بقلم تظليل أصفر وتحدد الكلمات المحددة في النص التي أعطت المحقق الدليل.
- كيف يفعلها INTERPRETO: يستخدم طريقة تسمى النسب (Attribution). عندما يقوم الذكاء الاصطناعي بتوقع ما (مثل "هذه التغريدة غاضبة" أو "الكلمة التالية هي 'قطة'")، يعود INTERPRETO إلى الوراء ويظلل الكلمات المحددة في المدخلات التي كانت الأكثر أهمية.
- لماذا هي رائعة: إنه لا يخمن فحسب؛ بل يعطي درجة لكل كلمة. هل كانت كلمة "غاضب" هي التي دفعت توقع الغضب؟ أم كانت علامة التعجب؟ إنه يعمل لكل من القراءة (التصنيف) والكتابة (توليد النصوص).
2. قوة "المترجم" (المفاهيم/Concepts)
التشبيه: تخيل أن عقل الروبوت ليس مجرد قائمة من الكلمات، بل هو مكتبة ضخمة من الأفكار المجردة. ربما يوجد "درج" في العقل يحمل ملصق "الحزن"، وآخر "حقائق رياضية"، وآخر "مصطلحات رياضية". عندما يقرأ الروبوت جملة، فإنه يفتح هذه الأدراج ليرى ما بداخلها.
- كيف يفعلها INTERPRETO: هذه هي القوة القائمة على المفاهيم (Concept-Based). بدلاً من مجرد تظليل الكلمات، يحاول INTERPRETO العثور على هذه "الأدراج" المخفية (المفاهيم) داخل عقل الذكاء الاصطناعي.
- الخطوة 1: يقوم بفتح الذكاء الاصطناعي للنظر في الإشارات الكهربائية الخام (التنشيطات) بداخله.
- الخطوة 2: يجمع الإشارات المتشابهة معاً لإيجاد الأنماط (على سبيل المثال: "أوه، هذه المجموعة من الخلايا العصبية تعمل دائماً عندما يذكر النص 'المال'").
- الخطوة 3: يستخدم ذكاءً اصطناعياً ثانياً وأبسط لإعطاء هذه المجموعات اسماً يمكن للبشر فهمه (مثل "مصطلحات مالية" أو "ألم عاطفي").
- الخطوة 4: يخبرك بمدى مساهمة تلك "الأدراج" في الإجابة النهائية.
لماذا يعد هذا أمراً كبيراً؟
قبل INTERPRETO، إذا كنت تريد القيام بذلك، كان عليك أن تكون نجاراً ماهراً. كنت ستحتاج لشراء منشار (أداة واحدة)، ومطرقة (أداة أخرى)، وميزان (أداة ثالثة) من متاجر مختلفة، ثم تكتشف كيفية جعلها تعمل معاً. كان الأمر فوضوياً وصعباً.
INTERPRETO يشبه السكين السويسري.
- أداة واحدة، وظيفتان: إنه يتعامل مع كل من "المظلّل" (الكلمات) و"المترجم" (المفاهيم) في حزمة واحدة.
- يعمل مع الجميع: يتوافق بسلاسة مع أشهر نماذج الذكاء الاصطناعي (HuggingFace)، لذا لست بحاجة لتعلم لغة جديدة لاستخدامه.
- من البحث إلى الواقع: يأخذ الرياضيات المعقدة من المختبرات الجامعية ويحولها إلى كود بسيط يمكن لمطور عادي تشغيله ببضعة أسطر فقط.
سيناريو من العالم الحقيقي
تخيل أن بنكاً يستخدم ذكاءً اصطناعياً للموافقة على القروض. رفض الذكاء الاصطناعي قرضاً، لكن البنك لا يعرف السبب.
- بدون INTERPRETO: يعرف البنك فقط أن "الذكاء الاصطناعي قال لا". إنهم عالقون.
- مع INTERPRETO:
- المظلّل يظهر أن الذكاء الاصطناعي ركز بشدة على "نسبة الدين إلى الدخل" الخاصة بمقدم الطلب.
- المترجم يكشف أن لدى الذكاء الاصطناعي "مفهماً" مخفياً لـ "الصناعات عالية المخاطر" تعلمه من البيانات السابقة، وأن مقدم الطلب يعمل في إحدى تلك الصناعات.
- النتيجة: يمكن للبنك الآن إصلاح التحيز، وفهم المنطق، والثقة في النظام (أو إصلاحه إذا كان المنطق خاطئاً).
الخلاصة
INTERPRETO هو دليل المستخدم لعقل الذكاء الاصطناعي. إنه يحول العقل الغامض والمتوهض للنماذج اللغوية الكبيرة إلى شيء يمكننا رؤيته، وفهمه، وإصلاح أخطائه فعلياً. إنه يساعدنا على الانتقال من "الكمبيوتر قال ذلك" إلى "إليك بالضبط لماذا قال الكمبيوتر ذلك".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.