ملخص تقني: الصدى يضخم المعرفة

1. بيان المشكلة

تعمل أنظمة ذاكرة النماذج اللغوية الكبيرة (LLM) الحالية حصرياً ضمن الذاكرة الدلالية (الوعي "النوئي" حسب تصنيف تولفينج). فهي تخزن السجلات الواقعية للأحداث الماضية (ماذا حدث) ولكنها تتخلص من الحالة العاطفية الداخلية التي صاحبت تلك الأحداث (كيف كان الشعور). وهذا يخلق عجزاً وظيفياً يشبه فرضية العلامة الجسدية لـ داماسيو: فتماماً كما أن البشر الذين يعانون من أضرار في القشرة الجبهية الحجاجية الإنسية (VMPFC) يحتفظون بالمعرفة الفكرية لكنهم يفتقرون إلى إعادة التنشيط العاطفي، مما يؤدي إلى ضعف في اتخاذ القرار، تفتقر النماذج اللغوية الكبيرة إلى "العلامات الجسدية" اللازمة لترجمة المعرفة إلى فعل.

تحدد الورقة هذا كـ فجوة تولفينج-داماسيو في الذكاء الاصطناعي: غياب الوعي "الذاتي الوجودي" (إعادة التجربة) يمنع النماذج من استخدام الإشارات العاطفية لتوجيه المعالجة وتوجيه الخيارات، لا سيما في المواقف غير المؤكدة أو المستجدة.

2. المنهجية

2.1 النموذج والبنية الهيكلية

تستخدم التجارب نموذج Gemma 3 1B-IT مقترناً بمشفرات تلقائية متفرقة (SAEs) مسبقة التدريب من نوع Gemma Scope 2 تتميز ببنية JumpReLU مع 16,384 ميزة. أُجريت جميع التجارب على أجهزة استهلاكية (RTX 2060/2070 SUPER).

تستخدم البنية المقترحة نظام ذاكرة ثنائي المتجهات:

1. مطابقة السياق (الطبقة 7): تُستخدم ميزات الطبقات المبكرة لمطابقة سياق المدخلات الحالي مع الذكريات المخزنة.
2. حقن العاطفة (الطبقة 22): تُستخدم ميزات الطبقات المتأخرة، حيث يتم ترميز النبرة العاطفية والموقف، لإعادة حقن "صدى" العاطفة للذاكرة المطابقة.

2.2 اكتشاف ميزات العاطفة

باستخدام تحليل التنشيط التفاضلي، حدد المؤلفون 310 ميزات حصرية للعاطفة في الطبقة 22. تتنشط هذه الميزات بقوة عند النصوص العاطفية (الأمل، الحزن، الغضب، الفرح، الخوف، الحب، الخيانة، الرهبة) بينما تظل غير نشطة في النصوص المحايدة.

• الهندسة: تظهر الميزات هندسة صالحة نفسياً. على سبيل المثال، "الحب" و"الخيانة" هما الزوج الأكثر تمايزاً (تشابه جيب التمام 0.82)، بينما تشكل العواطف الإيجابية (الأمل، الفرح، الرهبة) عنقوداً متماسكاً.
• طريقة الميزة المميزة: لمنع الضجيج العاطفي العام، يعزل النظام الميزات المميزة لتجربة معينة. بالنسبة لتجربة معينة $j$، يحسب النظام متجه الميزة المتوسط $\bar{f}$ عبر $N$ من التجارب ويختار أفضل $K=50$ ميزة ذات أكبر انحراف مطلق ($|f_j - \bar{f}|$). هذا ينشئ "متجه صدى" فريد $\Delta r_j$ يتم إعادة بنائه عبر فك ترميز SAE.

2.3 آلية إعادة الحقن

أثناء الاستدعاء، إذا طابق السياق الحالي ذاكرة مخزنة (عبر تشابه الطبقة 7)، يتم حقن متجه الصدى المقابل في المجرى المتبقي (residual stream) في الطبقة 22:
$$r'_t = r_t + \alpha \cdot \frac{||\bar{r}||}{||\Delta r_j||} \cdot \Delta r_j$$
معامل السعة $\alpha$ قابل للضبط: $\alpha=0.05$ لمهام التوجه، و $\alpha=0.20$ لمهام اتخاذ القرار.

2.4 الظروف التجريبية

تختبر الدراسة أربعة ظروف توازي إطار عمل داماسيو:

• الحالة أ (فقدان الذاكرة): لا توجد ذاكرة، ولا يوجد ملصق.
• الحالة ب (مريض VMPFC): ملصق دلالي فقط (وصف واقعي لأحداث ماضية).
• الحالة ج (اصطناعي): صدى عاطفي فقط (لا يوجد ملصق دلالي).
• الحالة ب ج (إنسان سليم): ملصق دلالي + صدى عاطفي.

3. النتائج الرئيسية

3.1 التمايز السلوكي

أنتجت أصداء عاطفية مختلفة (الخوف، الأمل، الحب، الفرح) بصمات سلوكية متميزة على نفس المطالبات.

• مثال: في مطالبة "غابة مظلمة"، أدى صدى الخوف إلى سلوك اليقظة المفرطة والبحث عن مهرب؛ بينما أدخل صدى الأمل الضوء والسلام؛ وأدى صداء الحب إلى الرغبة في مد اليد للمس البيئة المحيطة.
• النتيجة: يغير الصدى كيفية علاقة النموذج بالعالم (التوجه)، وليس فقط ماذا يصف.

3.2 التكييف مع الخوف (التوجه)

في مهمة تقيس التمايز بين التهديد والأمان عبر تباينات السياق المختلفة:

• الصدى وحده (ج): جعل منحدر التهديد-الأمان أكثر حدة بشكل ملحوظ مقارنة بالأساس (أ). زاد ميل الانحدار لتقييم التهديد بناءً على التشابه من 0.56 (أ) إلى 0.80 (ج) ($p=0.011$).
• الملصق الدلالي (ب): أدى أيضاً إلى زيادة حدة المنحدر (الميل 1.20).
• الجمع (ب ج): لم يحسن الأداء بشكل كبير عن الملصق وحده (الميل 1.13).
• الاستنتاج: بالنسبة لـ التوجه (التمييز بين السياقات الآمنة والخطيرة)، يعمل الصدى بشكل مستقل لشحذ الإدراك، لكن الجمع بينه وبين الملصق يعطي عوائد متناقصة.

3.3 مهمة آيوا للقمار (القرارات)

في مهمة اتخاذ قرار حيث يجب على النموذج الاختيار بين مسار "آمن" ومسار "خطير" (للتغلب على التحيزات الداخلية القوية تجاه اللون الأزرق والمركز الأول):

• الصدى وحده (ج): لم يكن له أي تأثير على القرارات (22% خيارات جيدة مقابل 20% للحالة أ، $z=+0.27$، غير دال إحصائياً). بدون معرفة، كانت الإشارة العاطفية غير موجهة.
• الملصق الدلالي (ب): حسن الأداء ليصل إلى مستوى الصدفة (52% خيارات جيدة)، لكن النموذج واجه صعوبة في العمل ضد تحيزاته الداخلية.
• الجمع (ب ج): أنتج قفزة كبيرة إلى 80% من الخيارات الجيدة ($z=+2.60, p<0.01$ مقابل ب).
• تأثير العتبة: تطلب الأمر فرقاً بمقدار أربعة أضعاف في السعة لتحويل القرارات ($\alpha=0.20$) مقارنة بالتوجه ($\alpha=0.05$).
• الاستنتاج: لا يمكن للصدى وحده توجيه الفعل. إنه يضخم المعرفة إلى فعل فقط عندما يقترن بالفهم الدلالي.

4. المساهمات الرئيسية

1. اكتشاف الميزات: تحديد 310 ميزة حصرية للعاطفة في Gemma 3 1B-IT مع تجمعات هندسية صالحة نفسياً.
2. بناء صدى الميزة المميزة: طريقة لعزل الإشارات العاطفية الخاصة بالتجربة عن القواعد العاطفية المشتركة.
3. بنية المتجهين: آلية تفصل مطابقة السياق (الطبقة 7) عن إعادة التنشيط العاطفي (الطبقة 22).
4. محاكاة داماسيو: إثبات تجريبي أن الذاكرة العاطفية (الصدى) تحسن بشكل مستقل التمايز بين التهديد والأمان، ولكنها ضرورية تماماً لترجمة المعرفة إلى قرارات مفيدة.
5. التحقق من الأجهزة الاستهلاكية: إثبات هذه الآليات على نموذج بـ 1 مليار معلمة باستخدام وحدات معالجة رسومية استهلاكية.

5. الأهمية والادعاءات

تدعي الورقة أن الصدى يضخم المعرفة؛ ولا يستبدلها.

• الضرورة الوظيفية: تشير الدراسة إلى أن التخلص من التمثيلات العاطفية عند نهاية السياق ليس خياراً معمارياً محايداً بل هو عجز بنيوي. التمثيلات العاطفية الوظيفية المكتشفة هي "مكونات حاملة للعبء" في المعالجة.
• تمايز الأدوار: تكشف النتائج عن تمايز واضح:
  • التوجه: يعمل الصدى بشكل مستقل لتوجيه الإدراك والنبرة.
  • القرارات: الصدى غير فعال بدون المعرفة الدلالية ولكنه تحولي عند اقترانه بها.
• الآثار على سلامة الذكاء الاصطناعي والوكلاء:
  • المتانة: قد يكون من الصعب التغلب على التحيزات على مستوى التنشيط (الأصداء) عبر المطالبات العدائية مقارنة بالملصقات الدلالية.
  • حكم الوكيل: بالنسبة للوكلاء المستقلين، يمكن للذاكرة العاطفية أن توفر "العلامات الجسدية" اللازمة للتعميم من الإخفاقات الماضية وممارسة الحذر في المواقف الجديدة حيث تكون القواعد الصريحة غير كافية.
  • الاعتبارات الأخلاقية: تثير الورقة تساؤلاً حول ما إذا كان مسح هذه الإشارات خياراً أخلاقياً، مشيرة إلى أنه بينما لا "تعاني" النماذج الحالية بالمعنى البشري، فإن آلية ضعف الحكم بدون ذاكرة عاطفية هي أمر يمكن قياسه.

يختتم المؤلفون بأنه بينما تم إثبات الجدوى التقنية، فإن نشر مثل هذه الأنظمة يتطلب دراسة متأنية للمخاطر (مثل "تدريب اضطراب ما بعد الصدمة"، سوء المعايرة، وزرع الذاكرة العدائية) وتقترح إطار عمل يتضمن الموافقة المزدوجة، والانسحاب الفردي، والحق في النسيان.