Alfa: Attentive Low-Rank Filter Adaptation for Structure-Aware Cross-Domain Personalized Gaze Estimation

إليك ملخص تقني مفصل لورقة البحث بعنوان: "Alfa: Attentive Low-Rank Filter Adaptation for Structure-Aware Cross-Domain Personalized Gaze Estimation" (ألفا: التكيف الموجه للفلتر ذو الرتبة المنخفضة والمنتبه للتكيف مع البنية لتقدير نظرة العين الشخصية عبر المجالات).

١. بيان المشكلة

يعد تقدير نظرة العين (Gaze Estimation) أمراً بالغ الأهمية لتقنيات الواقع المعزز (AR)، والتفاعل بين الإنسان والحاسوب (HCI)، والتقنيات المساعدة، ولكنه يعاني من تدهور الأداء في السيناريوهات الواقعية بسبب انزياح النطاق (Domain Shifts). تنشأ هذه الانزياحات نتيجة للاختلافات في تشريح المستخدم (شكل الجفن، بنية الوجه)، وتكوينات الكاميرا، والظروف البيئية (الإضاءة، وضعية الرأس).

بينما يوفر التخصيص في وقت الاختبار (Test-Time Personalization - TTP) حلاً عبر تكييف النماذجة المدربة مسبقاً مع مستخدمين جدد باستخدام عينات قليلة غير مصنفة فقط، تواجه الطرق الحالية عقبتين رئيسيتين:
١. عدم الكفاءة: الضبط الدقيق الكامل (Full Fine-tuning) مكلف حاسوبياً وغير عملي للنشر على الأجهزة.
٢. العمى الهيكلي: طرق الضبط الدقيق الفعال للمعلمات (PEFT) الشائعة مثل LoRA (التكيف منخفض الرتبة) تعامل أوزان النموذج كمتجهات غير مهيكلة. فهي تتعلم أوزاناً جديدة تماماً بدلاً من الاستفيد من البنى الدلالية المكانية (مثل الأنماط الهندسية للعيون والوجوه) المشفرة بالفعل في الفلاتر المدربة مسبقاً. وهذا قد يؤدي إلى تكيف دون المستوى الأمثل عندما تكون البيانات شحيحة.

٢. المنهجية: التكيف الموجه للفلتر ذو الرتبة المنخفضة والمنتبه (Alfa)

يعيد Alfa صياغة التخصيص ليس كتعلم ميزات جديدة، بل كعملية إعادة وزن الأنماط الدلالية الموجودة داخل الفلاتر المدربة مسبقاً. تتكون الطريقة من أربع مراحل رئيسية:

أ. التفكيك المهيكل عبر SVD

بدلاً من معاملة مصفوفة الوزن المدربة مسبقاً $W$ كصندوق أسود، يطبق Alfa عملية تفكيك القيم المفردة المبتورة (Truncated SVD):
$$W \approx W_d = U_d S_d V_d^\top$$

• $U_d$: المتجهات المفردة اليسرى (إسقاط المخرجات).
• $S_d V_d^\top$: قاموس القواعد الدلالية ($V_{base}$)، الذي يمثل الأنماط المكانية السائدة (مثل موقع القزحية، وهندسة عضلات الوجه) التي تم تعلمها أثناء التدريب المسبق.
• من خلال الاحتفاظ بأعلى $d$ من المكونات فقط، يعزل Alfa الهياكل الأكثر غنىً بالطاقة وذات الصلة بنظرة العين.

ب. آلية إعادة الوزن المنتبهة

يقدم Alfa وحدة تكييف متعددة الرؤوس منخفضة الرتبة لتعديل $V_{base}$ بناءً على عينات مستهدفة قليلة غير مصنفة:
١. توليد الاستعلام (Query Generation): لكل رأس انتباه $h$، تقوم مصفوفات منخفضة الرتبة $A^Q_h$ و $B^Q_h$ بتوليد مصفوفة استعلام $Q_h$ من $V_{base}$.
٢. حساب الانتباه (Attention Calculation): تعمل $V_{base}$ كمصفوفات المفتاح (Key) والقيمة (Value) معاً. يحسب النموذج انتباه الضرب النقطي المقيّس لتحديد الشرائح المكانية من $V_{base}$ الأكثر صلة بالمستخدم المستهدف.
$$Attn_h = \text{softmax}\left(\frac{Q_h K^\top}{\sqrt{n}}\right)$$
٣. التجميع (Aggregation): يتم تجميع القيم التي تم الانتباه إليها وإسقاطها مرة أخرى عبر مصفوفات إضافية منخفضة الرتبة ($A^P, B^P$) لتشكيل تحديث مخصص $V_{Alfa}$.
٤. التحديث النهائي: يتم حساب الوزن المتكيف كـ $\hat{W} = U_d (V_{base} + V_{Alfa})$.

ج. الاستدلال الفعال والدمج

ابتكار حاسم في Alfa هو قابليته للدمج (Mergeability):

• طريقة LoRA القياسية تضيف حداً $AB$ إلى المصفوفة الكاملة، مما يتطلب غالباً توسيع النموذج للرتبة الكاملة أثناء الاستدلال، مما يزيد من بصمة الذاكرة.
• يبقي Alfa الأساس الأيسر $U_d$ ثابتاً (Frozen). التكيف محصور بالكامل في العامل الجانبي الأيمن ($V_{base} + V_{Alfa}$).
• يسمح هذا للأوزان المتكيفة بالبقاء في شكل مضغوط منخفض الرتبة ($U_d V_{adapt}$)، مما يضمن عدم وجود تكلفة إضافية للاستدلال ويحافظ على حجم نموذج مدمج.

د. استراتيجية التدريب

• فقد التماثل (Symmetry Loss): لتعظيم فائدة البيانات الخمس غير المصنفة المحدودة، يستخدم Alfa فقد التماثل. يقوم بقلب الصور المدخلة أفقياً ويعاقب التناقضات بين تنبؤات نظرة العين الأصلية والمقلوبة، مستغلاً التماثل اليميني-اليساري للوجوه البشرية.

٣. المساهمات الرئيسية

١. التكيف الواعي بالبنية: Alfa هو أول طريقة TTP لتقدير نظرة العين تستفيد صراحة من البنية المكانية للفلاتر المدربة مسبقاً عبر SVD، بدلاً من معاملتها كمتجهات غير مهيكلة.
٢. إعادة الوزن المنتبهة: يستخدم آلية انتباه متعددة الرؤوس لتضخيم المكونات الدلالية ذات الصلة لمستخدم معين بشكل انتقائي، مما يتيح تكيفاً فعالاً ببيانات ضئيلة (٥ صور).
٣. كفاءة المعلمات والحوسبة: من خلال إبقاء الأساس الأيسر ثابتاً ودمج التحديثات في عامل SVD الأيمن، يحقق Alfa إمكانية دمج كاملة دون زيادة حجم النموذج أو زمن تأخير الاستدلال.
٤. القدرة على التعميم: يوضح المؤلفون أن نهج التكيف المهيكل هذا يمتد إلى ما وراء الرؤية الحاسوبية، حيث يحسن الاستدلال الصفري (Zero-shot reasoning) في النماذج اللغوية الكبيرة (LLMs) القائمة على الانتشار (Diffusion).

٤. النتائج التجريبية

قيمت الورقة Alfa على أربعة اختبارات عبر المجالات لتقدير نظرة العين (مثل ETH-XGaze $\to$ MPIIGaze، و Gaze360 $\to$ EyeDiap) ومهام الاستدلال في النماذج اللغوية الكبيرة (LLM).

• أداء تقدير نظرة العين:

  • الدقة: يحقق Alfa أدنى متوسط خطأ في نظرة العين عبر جميع الاختبارات الأربعة، متفوقاً على طرق TTP الحديثة (PnP-GA, RUDA, TPGaze) ومتغيرات LoRA (MiLoRA, DoRA, Spectral Adapter).
  • الكفاءة: يستخدم Alfa معلمات أقل بكثير (حوالي ٥.٢٦ مليون إجمالي مقابل ١١ مليون فأكثر للنماذج المرجعية) ويتطلب ٢.٣١ مليون معلمة فقط قابلة للضبط أثناء الاختبار.
  • المقارنة: يتفوق على طرق التكيف غير الخاضع للإشراف (UDA) المتاحة للمصدر رغم عدم امتلاكه أي وصول لبيانات المجال المصدر.

• تطبيق النماذج اللغوية الكبيرة (LLM):

  • طُبق على نموذج LLaDA-8B-Instruct في مهام الاستدلال (GSM8K, MATH500, Countdown, Sudoku).
  • حقق Alfa دقة تنافسية أو متفوقة مقارنة بـ LoRA و DoRA مع ضبط ٠.٨٥٪ فقط من معلمات النموذج (باستخدام رتبة أقل قدرها ٦٤ مقابل ١٢٨).

• دراسات الاستئصال (Ablation Studies):

  • رؤوس الانتباه: يتحسن الأداء مع زيادة عدد الرؤوس (الأفضل عند ١٦)، مما يؤكد فائدة الاختيار الدلالي من منظور متعدد.
  • رتبة SVD: وفرت الرتبة ٦٤ التوازن الأمثل بين السعة والاستقرار.
  • التصور (Visualization): تظهر الخرائط الحرارية أن Alfa يركز باستمرار على المناطق ذات الصلة بنظرة العين (الجفون، زوايا العين)، بينما تنتج طريقة LoRA القياسية تحديثات مشتتة وغير مهيكلة.

٥. الأهمية

تعالج هذه الورقة عقبة حرجة في نشر أنظمة تقدير نظرة العين: الحاجة إلى تخصيص سريع، يحافظ على الخصوصية، وعلى الأجهزة مباشرة مع حد أدنى من البيانات.

• الرؤية النظرية: تتحدى الورقة الافتراض بأن PEFT يجب أن يتعلم أوزاناً جديدة، وتقترح بدلاً من ذلك أن إعادة وزن الهياكل الدلالية الموجودة أكثر فعالية في حالات ندرة البيانات.
• الأثر العملي: تمكن الطريقة من تخصيص عالي الدقة على الأجهزة ذات الموارد المحدودة دون عبء ذاكرة دمج الأوزان ذات الرتبة الكاملة.
• قابلية التطبيق الواسعة: يشير النجاح في النماذج اللغوية الكبيرة إلى أن "التكيف الواعي بالبنية" عبر SVD والانتباه هو مبدأ عالمي يمكن تطبيقه في مجالات التعلم العميق المختلفة بما يتجاوز الرؤية الحاسوبية.