Latent Variable Sequence Identification for Cognitive Models with Neural Network Estimators
تقدم هذه الورقة نهجاً قائماً على الشبكات العصبية يوسع تقدير بايز العصبي لاستنتاج تسلسلات المتغيرات الكامنة متغيرة الوقت من النماذج المعرفية القابلة والغير قابلة للحل، مما يتيح تحليلات عصبية قائمة على النماذج واختبارات نظرية أوسع نطاقاً.
المؤلفون الأصليون:Ti-Fen Pan, Jing-Jing Li, Bill Thompson, Anne Collins
نادراً ما يكون السلوك البشري خطاً مستقيماً بسيطاً من المثير إلى الاستجابة. فعندما يتخذ شخص أو حيوان قراراً، غالباً ما يكون هذا القرار هو القمة المرئية لعملية أكبر بكثير وأكثر خفاءً تحدث داخل العقل. يطلق العلماء على هذه العمليات الخفية اسم "المتغيرات الكامنة". وهي الحالات الداخلية — مثل التحول المفاجئ في الانتباه، أو تغير الاعتقاد بشأن أي إجراء سيجلب مكافأة، أو قاعدة لحظية يتبعها الدماغ — التي تقود ما نراه في الخارج. إن فهم هذه الحالات الخفية أمر بالغ الأهمية للباحثين الذين يريدون معرفة كيف يدعم الدماغ التفكير والتعلم. لعقود من الزمن، كانت الطريقة القياسية للكشف عن هذه الحالات الداخلية هي بناء نموذج رياضي للسلوك، وإيجاد أفضل الأرقام التي تطابق النموذج مع البيانات، ثم تشغيل النموذج مرة أخرى لمعرفة ما يقوله عن الحالات الخفية. ومع ذلك، يصطدم هذا الأسلوب التقليدي بجدار صلب عندما تصبح النماذج شديدة التعقيد. فالعديد من النظريات المثيرة للاهتمام حول كيفية عمل العقل تتضمن حسابات صعبة الحل لدرجة أن الأدوات الرياضية القياسية ببساض لا تستطيع إيجاد الإجابات. وقد ترك هذا مساحة شاسعة من النظريات المعرفية دون استكشاف لأن العلماء افتقروا إلى وسيلة لإلقاء نظرة داخل الصندوق الأسود للسلوك المعقد.
لقد طور فريق من الباحثين في جامعة كاليفورنيا، بيركلي، أداة جديدة لتجاوز هذا الجدار، مما يسمح للعلماء برؤية هذه الحالات الخفية حتى في النماذج الأكثر تعقيداً. وقد أطلقوا على طريقتهم اسم "LaseNet". فبدلاً من محاولة حل المعادلات الرياضية الصعبة مباشرة، قام الباحثون بتدريب نظام ذكاء اصطناعي لتعلم العلاقة بين ما يفعله الحيوان وما يُحتمل أن يكون يفكر فيه. وقد فعلوا ذلك من خلال إنشاء آلاف التجارب المحاكية حيث يعرفون الإجابات الدقيقة. وفي هذه المحاكاة، أنتجوا بيانات تبدو كالسلوك الحقيقي — خيارات، ومكافآت، وأخطاء — وربطوها بالحالات الخفية المعروفة التي تسببت فيها. ثم غدوا هذه المكتبة الضخمة من "ما حدث" و"ما كان يفكر فيه" في نوع من الشبكات العصبية، وهو نظام حاسوبي مصمم للتعرف على الأنماط في تسلسلات الأحداث. تعلمت الشبكة كيفية النظر إلى تسلسل من الأفعال والنتائج والتنبؤ بالحالة الذهنية الخفية التي أنتجتها، مما مكنها فعلياً من تعلم ترجمة السلوك إلى فكر دون الحاجة أبداً إلى حل الرياضيات المعقدة الكامنة وراءه.
اختبر الباحثون هذا النهج الجديد على مجموعة متنوعة من النماذج المعرفية، بدءاً من سيناريوهات التعلم البسيطة وصولاً إلى مهام اتخاذ القرار الهرمية المعقدة. وفي الحالات التي نجحت فيها الطرق القديمة، كان أداء "LaseNet" جيداً بنفس القدر، حيث تتبع المتغيرات الخفية بدقة. لكن قوته الحقيقية ظهرت في النماذج التي فشلت أو تعثرت فيها الطرق القديمة. فبالنسبة للنماذج التي كانت الرياضيات فيها صعبة الحل مباشرة، كانت النهج التقليدية إما لا تعمل على الإطلاق أو تتطلب أدوات إحصائية مخصصة وبطيئة للغاية وعرضة للخطأ. وفي المقابل، تعامل "LaseNet" مع هذه الحالات الصعبة بسهولة. ففي عمليات المحاكاة، حدد الحالات الخفية بمستوى من الدقة فاق أفضل التقنيات الموجودة، واستعاد الحالات الداخلية الحقيقية بأخطاء أقل بكثير. لقد نجح في تتبع المتغيرات المستمرة، مثل القيمة المتغيرة للمكافأة، والمتغيرات المنفصلة، مثل التحول المفاجئ في الاستراتيجية أو الانتباه.
ولإثبات أن هذه لم تكن مجرد طريقة تعمل على بيانات وهمية، طبق الفريق "LaseNet" على بيانات حقيقية جُمعت من الفئران. في إحدى التجارب، كانت الفئران تتنقل في مهمة تتغير فيها المكافآت بشكل غير متوقع، مما يتطلب منها تحديث قواعدها الداخلية باستمرار. استخدم الباحثون "LaseNet" لاستنتاج حالات الانتباه الداخلية للفئران وتوقعاتها للمكافأة. تطابقت النتائج مع الأنماط التي وجدتها الطرق التقليدية حيث أمكن تطبيق تلك الطرق، لكن "LaseNet" قدم صورة واضحة ومستمرة للحالات الداخلية للفئران طوال المهمة بأكملها. وفي دراسة أخرى تضمنت مهمة اتخاذ قرار بصري، حددت الطريقة بنجاح متى كانت الفئران منخرطة تماماً ومتى كانت منحازة نحو جانب واحد، مما كشف عن التحولات الديناميكية في تركيزها الذهني. وقد نجح هذا النهج مع الحيوانات الفردية، مما يعني أنه يمكن استخدامه لدراسة الأسلوب المعرفي الفريد لكل موضوع على حدة بدلاً من مجرد متوسط سلوك مجموعة كاملة.
تكمن أهمية هذا العمل في قدرته على فتح الأبواب التي كانت مغلقة سابقاً. فمن خلال إزالة الحاجة إلى الحسابات الرياضية المعقدة، والتي غالباً ما تكون مستحيلة، يتيح "LaseNet" للباحثين اختبار نطاق أوسع بكثير من النظريات حول كيفية عمل العقل. يمكن للعلماء الآن اقتراح نماذج كانت في السابق صعبة التحليل للغاية، ومع ذلك يحصلون على إجابات حول العمليات الخفية التي تقود السلوك. وتتميز الطريقة بالمرونة للتعامل مع أنواع مختلفة من البيانات وأنواع مختلفة من الحالات الذهنية، كما أنها تعمل بكفاءة على أجهزة الكمبيوتر القياسية دون الحاجة إلى قدرات حوسبة هائلة. ورغم أن هذه الأداة لا توفر بعد طريقة لقياس مدى عدم اليقين في تخميناتها، وتعتمد على جودة النماذج المستخدمة لتدريبها، إلا أنها تمثل خطوة كبيرة للأمام. إنها تحول دراسة النماذج المعرفية من مجال محدود بالقدرة على الحل الرياضي إلى مجال لا يحده سوى الإبداع في النظريات التي يرغب الباحثون في استكشافها، مما يوفر نافذة أوضح على الآليات الديناميكية والخفية للعقل.
ملخص تقني: LASENET
بيان المشكلة
غالبًا ما تعتمد النماذج المعرفية الحسابية على متغيرات كامنة مساعدة ومتغيرة زمنيًا (مثل توقعات المكافأة، أو حالات الانتباه، أو خيارات القواعد) لتفسير ديناميكيات السلوك وربطها بالنشاط العصبي. تقليديًا، يتضمن استخراج هذه المتغيرات عملية من خطوتين: أولاً، تقدير أفضل معلمات النموذج (عادةً عبر تقدير الاحتمال الأقصى [MLE] أو الاحتمال البعدي الأقصى [MAP])، وثانيًا، استنتاج المتغيرات الكامنة باستخدام تلك المعلمات.
ومع ذلك، يواجه هذا النهج التقليدي قيودًا كبيرة:
الاحتمالات غير القابلة للحل (Intractable Likelihoods): تمتلك العديد من النماذج المعرفية ذات الصلة (مثل التعلم المعزز الهرمي، والنماذج التوليدية البايزية المعقدة) دالات احتمالية غير قابلة للحل تحليليًا، مما يجعل طرق MLE/MAP القياسية غير قابلة للاستخدام.
عبء التخصيص: حتى عندما تكون المعلمات معروفة، فإن استنتاج المتواليات الكامنة في النماذج ذات التبعيات المتسلسلة يتطلب غالبًا طرق أخذ عينات مكلفة حاسوبيًا (مثل مونت كارلو التسلسلي - SMC) أو أدوات إحصائية مصممة خصيصًا ليست قابلة للتعميم عبر عائلات النماذج المختلفة.
القابلية للتوسع: ركزت أساليب الاستدلال القائم على المحاكاة (SBI) الموجودة بشكل أساسي على استعادة المعلمات أو تحديد النموذج، تاركة استنتاج متواليات المتغيرات الكامنة المتغيرة زمنيًا دون استكشاف كافٍ، لا سيما بالنسبة للنماذج ذات الاحتمالات غير القابلة للحل.
المنهجية: LASENET
يقترح المؤلفون LASENET (تحديد متوالية المتغيرات الكامنة للنماذج المعرفية باستخدام المقدرات الشبكية العصبية)، وهو نهج قائم على المحاكاة يستخدم الشبكات العصبية الاصطناعية (ANNs) لرسم الخرائط مباشرة من البيانات التجريبية إلى متواليات المتغيرات الكامنة، متجاوزًا الحاجة إلى حساب الاحتمال.
البنية الجوهرية
LASENET هو مقدر نقطي عصبي مصمم لتعلم رسم الخرائط من المتغيرات الملحوظة (Y) إلى المتغيرات الكامنة (Z).
المدخلات/المخرجات: تأخذ الشبكة سلسلة زمنية من المتغيرات الملحوظة (المحفزات، الأفعال، المكافآت) كمدخلات وتخرج متوالية من المتغيرات الكامنة المقدرة.
هيكل الشبكة:
الشبكة العصبية المتكررة ثنائية الاتجاه (bi-RNN): تستخدم وحدات GRU لمعالجة بيانات السلسلة الزمنية في كلا الاتجاهين الأمامي والخلفي. يسمح هذا للشبكة بتعلم تضمينات (embeddings) بناءً على التاريخ الماضي والمستقبلي، مما ينتج عنه تضمين ملخص S(yt) لكل نقطة زمنية.
المدركات متعددة الطبقات (MLPs): تتبع بنية MLP هرمية نظام الـ RNN، حيث تقوم برسم الخرائط من التضمينات الملخصة إلى الفضاء الكامن المستهدف.
طبقات المخرجات: البنية قابلة للتكيف مع كل من الفضاءات الكامنة المستمرة والمنفصلة.
بالنسبة للمتغيرات المستمرة (مثل قيم Q)، يتم استخدام تنشيط خطي مع خسارة متوسط مربع الخطأ (MSE).
بالنسبة للمتغيرات المنفصلة (مثل حالات الانتباه)، يتم استخدام تنشيط softmax مع خسارة الإنتروبيا المتقاطعة (cross-entropy).
يمكن للشبكة التنبؤ بكليهما في آن واحد عبر طبقات مخرجات متوازية.
بروتوكول التدريب
توليد البيانات: يتم تدريب LASENET على مجموعات بيانات اصطناعية ناتجة عن محاكاة النموذج المعرفي الحسابي المستهدف. تتكون بيانات التدريب من أزواج من المتواليات الملحوظة المحاكات (Y) والمتواليات الكامنة المقابلة لها والحقيقية (Z).
الاستدلال: بمجرد تدريب الشبكة، يتم تطبيقها على بيانات تجريبية حقيقية من وكلاء بيولوجيين (بشر أو حيوانات) لاستنتاج المتواليات الكامنة دون الحاجة إلى حقيقة أرضية (ground truth) أو تقدير المعلمات.
المتانة: يستخدم المؤلفون التحسين البايزي (Bayesian optimization) لضبط المعلمات الفائقة ويختبرون متانة النموذج ضد التوزيعات المسبقة (priors) الخاطئة في بيانات التدريب.
المساهمات الرئيسية
إطار عمل جديد للنماذج غير القابلة للحل: يوفر LASENET إطارًا عامًا لاستنتاج متواليات المتغيرات الكامنة في النماذج المعرفية ذات الاحتمالات غير القابلة للحل تحليليًا، حيث تفشل المقدرات الإحصائية التقليدية أو تتطلب تقريبات مخصصة ومعقدة.
الرسم المباشر للمتغيرات الكامنة: على عكس مقدرات الاحتمال العصبي (NPE) أو مقدرات الاحتمال العصبي (NLE) التي تركز على استعادة المعلمات، يركز LASENET تحديدًا على تحديد متواليات المتغيرات الكامنة مباشرة من البيانات.
تعدد الاستخدامات: تتعامل الطريقة مع الفضاءات الكامنة المستمرة والمنفصلة ضمن بنية واحدة، وتطبق على النماذج التي تمتلك أو لا تمتلك خصائص ماركوف (مثل نماذج RL القياسية ونماذج ماركوف المخفية HMM).
القابلية للتطبيق على مستوى الفرد: النهج عملي لمجموعات البيانات ذات الأحجام القياسية وللمشاركين الأفراد، ولا يتطلب بيانات مجموعات ضخمة أو ميزانيات حوسبة عالية للاستدلال.
النتائج
قيم المؤلفون LASENET على خمسة نماذج معرفية حسابية عبر فئتين:
1. النماذج القابلة للحل (المقارنة المرجعية)
نموذج RL بـ 4 معلمات و Meta RL: تمت مقارنة LASENET مع MLE.
في نموذج 4-P RL، حقق LASENET خطأ جذر متوسط مربع (RMSE) مماثلاً لـ MLE (0.041 مقابل 0.042).
في نموذج Meta RL (استنتاج كل من قيم Q وحالات الانتباه)، أظهر LASENET RMSE وNLL أقل قليلاً من MLE، مع انخفاض في تباين التنبؤات.
2. النماذج غير القابلة للحل (الأداء مقابل الطرق التقريبية)
التعلم المعزز الهرمي (HRL): تمت مقارنته مع SMC. تفوق LASENET بشكل كبير على SMC في كل من الاستنتاج المستمر (قيم Q: RMSE 0.122 مقابل 0.405) والمنفصل (الإشارة المختارة: دقة 92.3% مقابل 71.5%).
نموذج ويبير لعدم الدقة (Weber-Imprecision Model): تمت مقارنته مع SMC2. حقق LASA NET RMSE أقل (0.107 مقابل 0.174) ودقة أعلى في تحديد الحالة (54.7% مقابل 45%).
نموذج GLM-HMM: تمت مقارنته مع EM. حقق LASENET NLL أقل (0.255 مقابل 0.392) ودقة أعلى قليلاً (84.3% مقابل 83.2%) في تحديد حالات الانتباه.
3. التحقق من البيانات الواقعية
البحث الديناميكي للفئران (Meta RL): تم تطبيقه على بيانات من 48 فأرًا. أنتج LASENET تقديرات لقيم Q مشابهة لـ MLE وحدد حالات انتباه ارتبطت بالدقة السلوكية، مما أكد صحة افتراضات النموذج.
صنع القرار لدى الفئران (GLM-HMM): طُبق على بيانات مختبر الدماغ الدولي (IBL). أظهر LASENET توافقًا عاليًا مع EM في التنبؤ باحتمالات الحالة والنتائج السلوكية.
المتانة تجاه التوزيعات المسبقة (Priors)
أظهرت التجارب على التوزيعات المسبقة الخاطئة (مثل تغيير معامل β في 4-P RL أو انحراف الحالة في GLM-HMM) أن LASENET المدرب بتوزيعات مسبقة أقل معلوماتية أو موحدة ظل متينًا عبر توزيعات الاختبار المختلفة، وغالبًا ما تفوق على الطرق المعتمدة على الاحتمال التي اعتمدت على افتراضات مسبقة محددة.
الأهمية والادعاءات
يدعي المؤلفون أن LASENET يوسع نطاق النماذج المعرفية التي يمكن للباحثين استكشافها من خلال إزالة حاجز الاحتمالات غير القابلة للحل. تشمل نقاط الأهمية الرئيسية ما يلي:
العمومية: يتيح اختبار مجموعة أوسع من النظريات من خلال توفير طريقة استدلال موحدة لعائلات النماذج المتنوعة (RL، Bayesian، HMM) دون الحاجة إلى اشتقاقات إحصائية مخصصة لكل منها.
الكفاءة: يلغي الحاجة إلى طرق أخذ العينات المكلفة حاسوبيًا (مثل SMC) أو أدوات إحصائية مخصصة ومعقدة لاستنتاج المتغيرات الكامنة.
العملية: تعمل الطريقة مع أحجام البيانات القياسية وبيانات المشاركين الأفراد، مما يجعل تحليل المتغيرات الكامنة المتقدم متاحًا دون الحاجة إلى موارد حوسبة عالية أو خبرة تقنية عميقة في النمذجة الإحصائية.
الاعتراف بالقيود: يشير المؤلفون إلى أن LASENET يفتقر حاليًا إلى تقدير عدم اليقين المدمج (وهو قيد شائع للمقدرات النقطية العصبية) ولا يستنتج معلمات النموذج الأساسية، مما يشير إلى ضرورة دمجه مع أدوات استعادة معلمات عصبية أخرى لإجراء تحليل شامل. كما يوضحون أن التحقق من البيانات الواقعية هو أمر غير مباشر، لأن الحقيقة الأرضية للحالات الكامنة هي بطبيعتها غير قابلة للملاحظة.