Efficient Solutions for Mitigating Initialization Bias in Unsupervised Self-Adaptive Auditory Attention Decoding

ملخص تقني: حلول فعالة للتخفيف من تحيز التهيئة في فك تشفير الانتباه السمعي ذاتي التكيف غير الخاضع للإشراف

بيان المشكلة
يهدف فك تشفير الانتباه السمعي (AAD) إلى تحديد المتحدث الذي ينتبه إليه المستخدم في بيئة متعددة المتحدثين باستخدام إشارات تخطيط كهربائية الدماغ (EEG)، وهي قدرة بالغة الأهمية للأجهزة السمعية الموجهة عصبياً. تتطلب الأساليب الحالية المتطورة عادةً تدريباً خاضعاً للإشراف باستخدام تسميات (labels) حقيقية للمتحدث الذي يتم الانتباه إليه، مما يستلزم جلسات معايرة مرهقة لكل مستخدم وإعداد EEG. ولإزالة هذا الاعتماد، تم تطوير فك تشفير AAD ذاتي التكيف وغير خاضع للإشراف يعتمد على إعادة بناء المحفز. يتبع هذا النهج عملية تهيئة لفك التشفير بتسميات انتباه عشوائية ويقوم بتحسين النموذج بشكل تكراري باستخدام التسميات المتوقعة حديثاً.

ومع ذلك، تعاني عملية التكيف الذاتي غير الخاضعة للإشراف هذه من تحيز التهيئة (initialization bias). نظرًا لأن النموذج يتدرب ويختبر على نفس البيانات عبر التكرارات، فإنه يميل إلى تعزيز التوقعات الأولية (التي قد تكون خاطئة)، مما يتسبب في وقوع النظام في حالة دون المستوى الأمثل. وبينما عالج حل سابق من قبل Heintz وآخرون [8] ذلك من خلال تنفيذ التحقق المتقاطع "ترك واحد خارج المجموعة" (leave-one-out cross-validation) داخل كل تكرار، إلا أن هذا النهج يفرض تعقيداً حسابياً كبيراً يتناسب خطياً مع عدد قطع البيانات ($K$)، مما يجعله غير عملي للتطبيقات التي تتطلب وقتاً حقيقياً أو تكيفاً زمنياً.

المنهجية
يقترح البحث ثلاثة بدائل فعالة حسابياً تعتمد على تحليل الارتباط الكنسي (CCA) تعمل على التخفيف من تحيز التهيئة دون العبء الحسابي الثقيل للتحقق المتقاطع. تعمل هذه الأساليب على سيناريو مكون من متحدثين اثنين (قابل للتعميم لـ $N$ من المتحدثين) حيث تتم معالجة إشارات EEG ($X$) وميزات الكلام ($S_1, S_2$) في قطع.

1. نسخة المشفر المزدوج (Two-Encoder Version):
   على عكس نموذج المشفر الواحد الأساسي الذي يحسن فقط ميزات المتحدث المنتبه إليه ($S_a$)، يقدم هذا المتغير مشفراً ثانياً لميزات المتحدث غير المنتبه إليه ($S_u$). يشترك كلا المشفرين في فك تشفير EEG واحد ($W_x$). الهدف هو تعظيم الارتباط بين EEG وميزات كلا المتحدثين بشكل مشترك. الفرضية هي أنه من خلال إجبار فك التشفير على مراعاة الاستجابات لكلا المتحدثين، يصبح النموذج أقل عرضة لـ "الانجذاب" إلى الكلام الموسوم خطأً كمتحدث منتبه إليه، مما يزيد من المتانة تجاه أخطاء التسمية والقدرة على التعافي من الأخطاء الأولية.

2. النسخة الناعمة (Soft Version):
   بدلاً من إجراء تعيينات ثنائية قاسية (الانتباه للمتحدث 1 أو 2) لكل قطعة، يخصص هذا الأسلوب أوزانًا احتمالية ($p_{1k}, p_{2k}$) بناءً على عدم اليقين في التوقع. يتم حساب الإحصائيات المستخدمة لـ CCA ($R_{xa}$ و $R_{aa}$) باستخدام مجموع مرجح لميزات المتحدثين ($p_{1k}S_{1k} + p_{2k}S_{2k}$). يتم تقدير الاحتمالات باستخدام نهج غير خاضع للإشراف خاص بكل موضوع، والذي ينمذج توزيع الارتباطات الكنسية للمتحدثين المنتبه إليهم وغير المنتبه إليهم ككتلتين من التوزيع الطبيعي (Gaussian distributions). يوفر هذا حلاً وسطاً مبدئياً، حيث يحافظ على هيكل المشفر الواحد الأمثل مع دمج المعلومات من كلا المتحدثين بشكل تكيفي عندما يكون النموذج غير متيقن.

3. المشفر الواحد المهيأ بالجمع (Sum-Initialized Single-Encoder):
   يعالج هذا النهج التحيز في الخطوة الأولى تماماً. بدلاً من التهيئة بتسميات عشوائية، يتم تدريب النموذج في التكرار الأول باستخدام إشارة مركبة تتكون من مجموع ميزات كلا المتحدثين. وهذا يتوافق مع ضبط الاحتمالات الأولية لتكون $p_{1k} = p_{2k} = 0.5$. الفرضية هي أن هذا يوفر نقطة انطلاق غنية بالمعلومات تلتقط الاستجابات العصبية المشتركة لكلا المتحدثين، مما يمنع تحيز التسمية ذاتي الاستدامة الذي ينشأ عن التهيئة العشوائية التعسفية.

المساهمات الرئيسية

• الكفاءة الخوارزمية: يقدم البحث ثلاثة أساليب تحقق أداءً مقارباً لنموذج التحقق المتقاطع المرجعي [8] ولكن بتكاليف حسابية أقل بكثير وثابتة.
• القابلية للتوسع: على عكس طريقة التحقق المتقاطع، التي يتناسب وقتها الحسابي خطياً مع حجم مجموعة البيانات (تتطلب $K$ من عمليات تدريب النموذج في كل تكرار)، تتطلب الأساليب المقترحة تدريباً واحداً فقط للنموذج في كل تكرار.
• التخفيف من التحيز: نجحت المتغيرات المقترحة في كسر دورة تحيز التهيئة المتأصلة في عمليات AAD ذاتية التكيف القياسية، مما يسمح للنموذج بالتقارب نحو حلول ذات جودة أعلى دون الحاجة إلى التحقق المتقاطع المكلف داخل الحلقة الداخلية.

النتائج التجريبية
تم تقييم الأساليب على مجموعة بيانات عامة تحتوي على تسجيلات EEG بـ 64 قناة من 16 شخصاً ينتبهون إلى واحد من متحدثين متنافسين. تم قياس الأداء في كل من الإعدادات الاستنتاجية (transductive) (التنبؤ على بيانات التدريب) والاستقرائية (inductive) (التعميم على بيانات غير مرئية).

• الدقة:
  • تفوق أسلوب المشفر الواحد المهيأ بالجمع باستمرار على طريقة المشفر المزدوج، وكان فعالاً بشكل خاص مع بيانات التدريب المحدودة (5-15 دقيقة).
  • حققت النسخة الناعمة أداءً أقل في مجموعات البيانات الصغيرة، لكنها اقتربت من دقة متغير التحقق المتقاطع مع زيادة حجم مجموعة التدريب.
  • بشكل عام، أدى إزالة تحيز التهيئة إلى تحسينات أكثر وضوحاً في فك التشفير الاستنتاجي.
• التكلفة الحسابية:
  • وصل وقت وحدة المعالجة المركزية (CPU) لنموذج التحقق المتقاطع المرجعي إلى التناسب الخطي، حيث بلغ حوالي 30 ضعف تكلفة النموذج الأساسي لمجموعات التدريب التي تبلغ 45 دقيقة.
  • حافظت طرق المشفر المزدوج والنسخة الناعمة على وقت CPU طبيعي ثابت يبلغ حوالي 1.5× التكلفة الأساسية، بغض النظر عن حجم البيانات.
  • طابق أسلوب التهيئة بالجمع التكلفة الحسابية للنموذج الأساسي (1.0×).

الأهمية والادعاءات
يزعم المؤلفون أن هذه الحلول تجعل AAD ذاتي التكيف وغير الخاضع للإشراف قابلاً للتطبيق بشكل كبير في التطبيقات التي تتطلب وقتاً حقيقياً أو تكيفاً زمنياً [9]. ومن خلال إلغاء الحاجة إلى التحقق المتقاطع المكلف مع الحفاظ على المتانة ضد تحيز التهيئة، توفر الأساليب المقترحة مساراً عملياً لنشر الأجهزة السمعية الموجهة عصبياً دون عبء جلسات المعايرة المتكررة والموسومة. ويؤكد البحث أنه بالنسبة لمجموعات البيانات الأصغر، فإن نهج التهيئة بالجمع هو الأفضل أداءً مع حد أدنى من التكاليف الحسابية، بينما تصبح طريقة التسمية الناعمة تنافسية مع مجموعات البيانات الأكبر، مما يوفر بديلاً منخفض التكلفة للمعيار الذهبي المتمثل في التحقق المتقاطع.