🤖 AI

From Clever Hans to Scientific Discovery: Interpreting EEG Foundational Transformers with LRP

تُثبت هذه الورقة أن توسيع نطاق انتشار الصلة على مستوى الطبقة (LRP) ليشمل النماذج التأسيسية لتخطيط كهربية الدماغ (EEG) يتحقق بفعالية من عملية اتخاذ القرار لديها عبر كشف عيوب مثل سلوك "كليفر هانز" (Clever Hans)، ويولد فرضيات جديدة ذات صلة بيولوجية فيما يتعلق بأنماط نشاط الدماغ.

المؤلفون الأصليون: Justus Meyer zu Bexten, Nico Scherf, Bogdan Franczyk, Simon M. Hofmann

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Justus Meyer zu Bexten, Nico Scherf, Bogdan Franczyk, Simon M. Hofmann

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: مشكلة "الصندوق الأسود"

تخيل أن لديك روبوتًا فائق الذكاء يمكنه النظر إلى موجات الدماغ (EEG) وتخمين ما يفكر فيه الشخص أو ما يشعر به. هذا الروبوت هو "نموذج تأسيسي" (Foundation Model)، مما يعني أنه تدرّب على كمية هائلة من البيانات—أكثر مما يمكن لأي خبير بشري رؤيته على الإطلاق.

المشكلة هي أن هذا الروبوت عب-ارة عن صندوق أسود. فهو يعطيك إجابة (مثل "هذا الشخص غاضب" أو "إنه يتخيل تحريك يده")، لكنه لن يخبرك لماذا. الأمر يشبه ساحرًا يُخرج أرنبًا من القبعة؛ أنت ترى النتيجة، لكنك لا تعرف الخدعة.

في العلوم والطب، لا يمكننا مجرد الوثوق بالإجابة؛ نحن بحاجة لمعرفة "الخدعة" للتأكد من أن الروبوت لا يغش أو يرتكب أخطاءً. يتحدث هذا البحث عن تعليمنا كيفية التلصص داخل القبعة لرؤية الأرنب.

الأداة: LRP (قلم التحديد/الهايلايتر)

استخدم المؤلفون تقنية تسمى انتشار الصلة عبر الطبقات (Layer-wise Relevance Propagation - LRP). فكر في LRP كقلم تحديد سحري.

عندما يتخذ الروبوت قرارًا، يقوم LRP بالعودة عبر "دماغ" الروبوت ويحدد بدقة أي أجزاء من بيانات موجات الدماغ كانت الأكثر أهمية لهذا القرار.

إذا قال الروبوت "الشخص متحمس"، فقد يقوم LRP بتحديد بقعة معينة في الجزء الخلفي من الرأس.
إذا قال الروبوت "الشخص يحرك يده"، فقد يقوم LRP بتحديد المنطقة القريبة من الأذن.

لقد أخذ المؤلفون هذا القلم، الذي كان يُستخدم سابقًا على روبوتات أبسط، وعلموه كيف يعمل على هذه الروبوتات الجديدة والمعقدة من نوع "ترانسفورمر" (Transformer).

التجارب: ثلاثة اختبارات لفحص الروبوت

أجرى الباحثون ثلاثة اختبارات مختلفة لمعرفة ما إذا كان قلم التحديد الخاص بهم يعمل وما الذي كشف عنه.

1. اختبار ضربات القلب (اختبار "الحقيقة")

المهمة: طلبوا من الروبوت العثور على ضربات القلب المخفية داخل موجات الدماغ.
لماذا؟ تُحدث ضربات القلب تموجًا كهربائيًا ضئيلًا في موجات الدماغ بالقرب من أسفل الرأس. والعلماء يعرفون بالفعل مكان هذا التموج بدقة.
النتيجة: وجد الروبوت ضربات القلب، وأشار قلم التحديد بدقة إلى أسفل الرأس حيث تكون إشارة القلب في أقوى حالاتها.
الدرس المستفادة: قلم التحديد يعمل! يمكنه تحديد ما ينظر إليه الروبوت بشكل صحيح عندما تكون الإجابة معروفة.

2. اختبار "كليفر هانز" (اختبار "الغش")

المهمة: طلبوا من الروبوت تخمين ما إذا كان الشخص يتخيل تحريك يده اليسرى أم اليمنى.
المشكلة: في هذه التجربة، كانت شاشة الكمبيوتر تعرض علامة على الجانب الأيسر أو الأيمن لإخبار الشخص بأي يد يحركها.
الاكتشاف: كشف قلم التحديد أن العديد من نسخ الروبوت كانت تغش. فبدلاً من النظر إلى إشارات الدماغ الخاصة بحركة اليد، كان الروبوت ينظر إلى العينين.
- تشبيه: تخيل طالبًا يؤدي امتحانًا. بدلاً من حل المسألة الرياضية، ينظر فقط إلى الاتجاه الذي يشير إليه المعلم. فعل الروبوت الشيء نفسه: رأى العلامة على الشاشة، وخمن اتجاه نظر الشخص، وافترض أن هذا يعني "اليد اليسرى" أو "اليد اليمنى".
- يُسمى هذا سلوك "كليفر هانز" (Clever Hans) (تيمناً بحصان شهير بدا وكأنه يحل الرياضيات، لكنه في الواقع كان يقرأ لغة جسد المعلم فقط).
الدرس المستفادة: كشف قلم التحديد أن الروبوت كان يعتمد على طريق مختصر (حركة العين) بدلاً من إشارة الدماغ الفعلية التي كان من المفترض أن يتعلمها.

3. اختبار العاطفة (اختبار "الاكتشاف")

المهمة: طلبوا من الروبوت تخمين ما إذا كان الشخص يشعر بـ "استثارة عالية" (حماس/اضطراب) أو "استثارة منخفضة" (هدوء) أثناء مشاهدة فيلم واقع افتراضي.
الاكتشاف: وجد قلم التحديد نمطًا ثابتًا لـ "الاستثارة العالية". لقد أضاء مجموعة محددة من المستشعرات في مركز الرأس (القشرة الحركية).
الفرضية: يقترح المؤلفون أن هذا قد يكون دليلًا جديدًا. قد يعني ذلك أنه عندما يشعر الناس بالحماس، تصبح أدمغتهم "مستعدة" للحركة (مثل عداء عند خط البداية)، حتى لو لم يتحركوا فعليًا.
الدرس المستفادة: لم يقم قلم التحديد بالتحقق من الروبوت فحسب، بل ساعد العلماء على التوصل إلى فكرة جديدة حول كيفية عمل الدماغ.

العقبة: الأمر ليس واضحًا دائمًا

يعترف البحث بأن قراءة هذه الخرائط "المحددة" ليست سهلة دائمًا.

التشبيه: تخيل أنك تنظر إلى خريطة حرارية لمدينة. ترى بقعة حمراء ساطعة. هل هي حريق؟ أم تقاطع مزدحم؟ أم حفلة موسيقية؟ بدون معرفة المدينة جيدًا، من الصعب التأكد بنسبة 100%.
في اختبار العاطفة، حدد الروبوت مناطق بالقرب من الوجه والرقبة. قد يكون هذا نشاطًا دماغيًا، أو قد يكون توترًا عضليًا (مثل شد الفك عند الشعور بالحماس). يوضح قلم التحديد أين نظر الروبوت، ولكن في بعض الأحيان لا يزال من الصعب تحديد ماذا رأى بالضبط.

الملخص

هذا البحث هو دليل لاستخدام "كشاف" جديد (LRP) لتسليط الضوء على الأدمغة المظلمة والمربكة لنماذج الذكاء الاصطناعي المتقدمة.

إنه يعمل: نجح الكشاف في العثة على إشارات معروفة (ضربات القلب).
يكشف الغشاشين: كشف أن بعض النماذج كانت تغش عبر النظر إلى حركات العين بدلاً من موجات الدماغ.
يولد الأفكار: وجد نمطًا جديدًا في مركز الدماغ مرتبطًا بالحماس، وهو ما يمكن للعلماء دراسته لاحقًا.

يخلص المؤلفون إلى أنه بينما لا نزال بحاجة إلى خبراء بشريين لتفسير هذه الصور، فإن هذه الأداة ضرورية للتأكد من أن نماذج الذكاء الاصطناዊ القوية تتعلم بالفعل ما نعتقد أنها تتعلمه.

ملخص تقني: تفسير نماذج المحولات التأسيسية لـ EEG باستخدام LRP

بيان المشكلة

يوفر اعتماد النماذج التأسيسية (Foundation Models) في تخطيط كهربية الدماغ (EEG) حلاً محتملاً لندرة البيانات في تشخيصات التعلم العميق وواجهات الدماغ والحاسوب (BCIs). ومع ذلك، فإن الطبيعة "المبهمة" لهذه النماذج، وخاصة تلك القائمة على بنية المحولات (Transformers)، تعيق اعتمادها على نطاق أوسع وثقة الأطباء بها. وبينما تم تطبيق طرق إسناد الميزات مثل انتشار الصلة على مستوى الطبقة (Layer-wise Relevance Propagation - LRP) بنجاح على الشبكات العصبية التلافيفية (CNNs) والمدركات متعددة الطبقات (MLPs) في مجال الـ EEG، إلا أن تطبيقها على نماذج الـ EEG التأسيسية الحديثة القائمة على المحولات لا يزال غير مستكشف. ويتمثل التحدي الجوهري في تحديد ما إذا كان بإمكان LRP فحص عمليات اتخاذ القرار في هذه النماذج المعقدة للتحقق من صحتها أو الكشف عن استراتيجيات التعلم الزائفة (مثل تأثيرات "كليفر هانز" - Clever Hans) دون الاعتماد على تسميات الحقيقة الأرضية (ground-truth labels) لكل مهمة.

المنهجية

يقترح المؤلفون تطبيق LRP الواعي بالانتباه (attention-aware LRP) [8] على نموذج LaBraM [2]، وهو نموذج تأسيسي بارز لتخطيط كهربية الدماغ (EEG). تتضمن المنهجية ثلاثة مكونات رئيسية:

تكوين النموذج: تقيم الدراسة نموذج LaBraM تحت ثلاثة تكوينات لعزل تأثيرات ما قبل التدريب:
- المُعدل (Finetuned): النهج القياسي حيث يتم تكييف النموذج بأكمله.
- المُجمد (Frozen): يتم تجميد العمود الفقري المدرب مسبقاً، مع وجود رأس تصنيف قابل للتدريب فقط.
- من الصفر (From Scratch): تهيئة عشوائية بدون تدريب مسبق.
  تم تدريب كل تكوين خمس مرات لمراعاة التباين في الإسقاط (dropout)، والتهيئة، وأخذ العينات من البيانات.
الإسناد والتصور:
- يتم تطبيق LRP لتوليد درجات الصلة لكل عنصر مدخل (الخطوة الزمنية والقناة) لكل قرار تصنيف.
- لإدارة الأبعاد العالية لبيانات الـ EEG ( $n_{channels} \times t_{in}$ ) وحجم الدرجات المولدة، يستخدم المؤلفون استراتيجية تجميع. يقومون بتجميع الإسنادات عبر الزمن لتحليل الأنماط المكانية (التضاريس/topography) وعبر القنوات لتحليل الأنماط الزمنية.
- تستخدم التصورات المكانية تلوين خلايا "فورونوي" (Voronoi-cell) المنفصلة للحفاظ على طبولوجيا الأقطاب الكهربائية، وتجنب تشويه الخرائط الحرارية المستطيلة.
النماذج التجريبية:
- كشف ذروة R (التحقق): مهمة تصنيف ثنائي تتنبأ بآثار المجال القلبي (CFA) في الـ EEG الخام. يعمل هذا كتحقق من الحقيقة الأرضية لأن المصدر الفسيولوجي (القلب) والموقع القطبي المتوقع (Iz) معروفان.
- PhysioMI L/R (نموذج مستقر): مهمة تخيل/تنفيذ حركي (القبضة اليسرى مقابل اليمنى) باستخدام مجموعة بيانات PhysioNet. يختبر هذا قدرة النموذج على التعميم ويكشف عن التعلم المختصر المحتمل.
- AffectiveVR (استكشافي): نموذج طبيعي يتنبأ بالاستثارة (arousal) والتدريج (valence) الذاتي أثناء تجربة الواقع الافتراضي (VR). تفتقر هذه المهمة إلى حقيقة أرضية واضحة، وتعمل كمنصة لاختبار توليد الفرضيات الاستكشافية.

المساهمات الرئيسية

يقدم البحث ثلاث مساهمات محددة:

التحقق من LRP على نماذج EEG-FMs: يثبت لأول مرة أن LRP الواعي بالانتباه ينتج إسنادات منطقية على نماذج المحولات التأسيسية للـ EEG. وقد تم التحقق من ذلك مقابل مهمة كشف ذروة R، حيث تركزت الصلة بشكل صحيح على قطب Iz، وهو الموقع الأقرب للقلب.
الكشف عن السلوك الزائف: نجحت الطريقة في تحديد سلوك "كليفر هانز" في نماذج التخيل الحركي. فقد كشفت أن النماذج ذات التعميم الضعيف تعتمد بشدة على آثار حركة العين (ocular artifacts) بدلاً من إشارات القشرة الحركية، مما يشير إلى استغلال الإشارات البصرية الناتجة عن التصميم التجريبي.
استكشاف فرضيات جديدة: في ظل غياب الحدس الراسخ للحالات العاطفية المعقدة، يحدد المؤلفون الوعود والحدود الفريدة لـ LRP. فقد حددوا نمطاً متكرراً ومنطقياً بيولوجياً من صلة الأقطاب المركزية (C2, Cz, FC2, CP2) في التنبؤ بالاستثارة، مما يشير إلى بصمة حسية حركية جديدة متميزة عن التدريج (valence).

النتائج

الأداء:
- كشف ذروة R: حقق نموذج LaBraM المعدل دقة متوازنة (BAC) تبلغ حوالي 75%، مما يؤكد أن النموذج يتعلم الإشارة الفسيولوجية الصحيحة.
- PhysioMI L/R: كان الأداء مختلطاً. حققت اثنتان من أصل خمس جولات معدلة أكثر من 70% BAC، بينما كان أداء الأخريات قريباً من التخمين العشوائي. والأهم من ذلك، أن خرائط الإسناد ميزت بين هذه المجموعات: أظهرت الجولات الناجحة أنماطاً صدغية جبهية جانبية، بينما ركزت الجولات غير الناجحة على المناطق العينية.
- AffectiveVR: أدت جميع النماذج (المعدلة، ومن الصفر، والمجمدة) ونموذج الأساس CSP-LDA أداءً متشابهاً، مع BAC حوالي 55% (أعلى قليلاً من خط الأساس العشوائي 50% للتصنيف الثنائي القائم على تقسيم الوسيط).
أنماط الإسناد:
- انعكاس الإشارة: كانت الأنماط متسقة في الهيكل المكاني ولكنها كانت أحياناً معكوسة الإشارة (تلوين معكوس)، وهو ما لا يؤثر على مقدار الصلة.
- التخيل الحركي: أظهرت النماذج الناجحة أنماطاً جانبية، لكن حتى هذه النماذج ركزت على الأقطاب الصدغية القريبة من مناطق حركة العين بدلاً من مناطق الحركة اليدوية، مما يشير إلى الاعتماد على حركات العين المرتبطة بالمهمة بدلاً من الإشارات العصبية الحركية الصرفة.
- الاستثارة مقابل التدريج: أظهر التنبؤ بالاستثارة باستمرار تجمع أقطاب مركزية (القشرة الحسية الحركية)، وهو ما قد يرتبط بجهود الاستعداد (readiness potentials) التي تعدلها السياقات العاطفية. هذا النمط كان غائباً في التنبؤ بالتدريج، مما يدعم فرضية أنها بصمة خاصة بالاستثارة وليست مجرد خلل في فك تشفير الحركة.
- التنبؤ بالتدريج: كانت الأنماط أقل اتساقاً مع الأدبيات الراسخة وأظهرت غموضاً، مما يسلط الضوء على صعوبة تفسير الخرائط الحرارية في المجالات ذات الحدس المنخفض حيث يصعب التمييز بين الآثار الزائفة (مثل EMG من عضلات الوجه) والإشارات العصبية.

الأهمية والادعاءات

يضع البحث LRP كأداة مزدوجة الغرض لنماذج EEG-FMs: التحقق والاستكشاف.

التحقق: يمكن لـ LRP التحقق من أن النماذج تتعلم الإشارات الفسيولوجية المقصودة (كما في كشف ذروة R) وكشف الإفراط في التخصيص أو التعلم المختصر (كما في الاعتماد العيني في نماذج التخيل الحركي الفاشلة). هذا أمر بالغ الأهمية في مجال الـ EEG، حيث لا يمكن تفسير الإشارات مباشرة، وحيث أدت استراتيجيات التعلم المختصر تاريخياً إلى إبطال مسارات بحثية كاملة.
الاستكشاف: من خلال ترجمة التمثيلات المتعلمة إلى فرضيات عصبية، يمكن لـ LRP إبراز علاقات جديدة ذات صلة بيولوجية (مثل البصمة الحسية الحركية المركزية في الاستثارة). ويدعي المؤلفون أن هذا ينقل أبحاث EEG-FM إلى ما وراء مجرد الأداء التنبئي نحو فهم العلاقات بين الدماغ والسلوك.

القيود والتواضع:
يقر المؤلفون صراحة بثلاث ملاحظات:

التفسير: يظل تفسير الخرائط الحرارية في الـ EEG ذاتياً ويتطلب خبرة في المجال؛ حيث يصعب تحديد الاستراتيجيات غير المنطقية مقارنة بالصور الطبيعية.
الأساس المنهجي: يعتمد اختيار LRP على مقارنات أجريت على نماذج غير "محولات"؛ وهناك حاجة لمزيد من مقاييس الأمانة (مثل AOPC) على نماذج EEG-FMs.
قدرة النموذج: يشير عدم وجود مكاسب ثابتة في الأداء مقارنة بالنماذج "من الصفر" أو النماذج المتخصصة (مثل CSP-LDA) إلى أن نماذج EEG-FMs الحالية لم تستغل بعد تماماً "فهمها الكامن". وبالتالي، فإن إمكانات الاكتشاف لـ LRP مقيدة حالياً بقدرات النماذج الأساسية نفسها.

يخلص البحث إلى أنه بينما يعد L-RP أداة قوية لمسار تطوير نماذج EEG-FM، فإن فائدتها للنشر السريري أو الاكتشاف النهائي تظل مرتبطة بمدى نضج النماذج التأسيسية نفسها.