💻 computer science

Friends and Grandmothers in Silico: Localizing Entity Cells in Language Models

تحدد هذه الورقة وتتحقق من صحة عصبونات (MLP) المتفرقة والقابلة للتأثير السببي في الطبقات المبكرة من النماذج اللغوية، والتي تشفر بشكل انتقائي كيانات محددة، مما يثبت أن تنشيط هذه الخلايا الموضعية يمكن أن يسترجع بشكل موثوق المعرفة الواقعية الخاصة بالكيان ويدعم التنميط القياسي القوي عبر مختلف الأشكال اللغوية.

المؤلفون الأصليون: Itay Yona, Dan Barzilay, Michael Karasik, Mor Geva

نُشر 2026-04-03

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Itay Yona, Dan Barzilay, Michael Karasik, Mor Geva

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مكتبة ضخمة حيث يمتلك أمين المكتبة (الذكاء الاصطناعي) الإجابة على كل سؤال تقريباً تطرحه. ولكن يبقى اللغز: أين يضع أمين المكتبة الإجابة بالضبط؟ هل هي مكتوبة في صفحة معينة، أم مخزنة في درج محدد، أم أنها شعور غامض يتشكل لدى أمين المكتبة أثناء قراءته لسؤالك؟

هذه الورقة البحثية، التي تحمل عنوان "أصدقاء وجدات في السيليكون" (Friends and Grandmothers in Silico)، تدخل إلى عقل الذكاء الاصطناعي لتجد "المفتاح" المحدد الذي يشغل المعرفة بشخص أو شيء معين.

إليك تفصيل المحتوى باستخدام تشبيهات بسيطة:

1. فكرة "خلية الجدة"

في علم الأعصاب، هناك فكرة شهيرة (ومثيرة للجدل نوعاً ما) تسمى "خلية الجدة" (Grandmother Cell). تشير النظرية إلى أنه في مكان ما داخل دماغك، توجد خلية عصبية واحدة لا تعمل إلا عندما ترى جدتك. فهي لا تعمل لرؤية جدك، أو عمتك، أو صورة قطة. إنها مخصصة للجدة فقط.

سأل الباحثون: هل تمتلك نماذج الذكاء الاصطناعي "خلايا جدة" للحقائق؟

هل يوجد مفتاح صغير محدد داخل الذكاء الاصطناعي يضيء فقط عندما يفكر في "باراك أوباما"؟
أم أن مفهوم "أوباما" منتشر عبر آلاف الخلايا العصبية مثل الضباب؟

2. عمل المحققين: البحث عن المفتاح

تصرف الباحثون كالمحققين. أخذوا نموذج ذكاء اصطناعي (تحديداً نموذج يسمى Qwen2.5) وطرحوا عليه آلاف الأسئلة حول 200 شخص ومكان مشهورين مختلفين (مثل "من هو زوج X؟" أو "أين يقع X؟").

راقبوا "موجات الدماغ" الداخلية للذكاء الاصطناعي (التنشيطات) ليروا أي المفاتيح الصغيرة (الخلايا العصبية) تعمل في كل مرة يفكر فيها الذكاء الاصطناعي في كيان معين، بغض النظر عن كيفية صياغة السؤال.

الاكتشاف:
وجدوا أنه بالنسبة للعديد من الكيانات الشهيرة، هناك بالفعل "مفتاح" محدد.

الموقع: توجد هذه المفاتيح غالباً في الطبقات الأولى من دماغ الذكاء الاصطناعي (بداية سلسلة المعالجة). الأمر يشبه إدراك الذكاء الاصطناعي لـ "من هذا؟" بشكل فوري، قبل أن يبدأ في القيام بالعمل الشاق للإجابة على السؤال.
الاستقرار: نفس المفتاح عمل عند ذكر "باراك أوباما"، و"أوباما"، و"بروك أوبما" (خطأ إملائي)، وحتى عندما كُتب الاسم بلغات مختلفة. وهذا يشير إلى أن المفتاح لا يتعرف فقط على حروف الاسم، بل على هوية الشخص.

3. اختبار "فقدان الذاكرة" (إيقاف تشغيل المفتاح)

لإثبات أن هذه المفاتيح كانت مهمة حقاً، حاول الباحثون كسرها. استخدموا تقنية تسمى "الاستئصال السلبي" (negative ablation)، وهي تشبه قلب مفتاح التشغيل إلى وضعية "الإيقاف" أو حتى عكس قطبيته.

النتيجة: عندما أوقفوا "مفتاح أوباما"، نسي الذكاء الاصطناعي فجأة كل شيء عن أوباما. لم يعد بإمكانه تسمية زوجته أو رئاسته.
التحكم: ومع ذلك، ظل بإمكان الذكاء الاصطناعي التحدث بشكل ممتاز عن أشخاص آخرين (مثل دونالد ترامب). لم يصاب بالجنون؛ بل أصيب بحالة فقدان ذاكرة محددة لذلك الشخص الواحد فقط.

أثبت هذا أن المفتاح لم يكن مجرد مراقب عابر؛ بل كان هو المفتاح للوصول إلى تلك المعرفة المحددة.

4. اختبار "العصا السحرية" (تشغيل المفتاح)

بعد ذلك، جربوا العكس. أخذوا سؤالاً لم يكن الذكاء الاصطناعي يعرف إجابته (لأنهم استبدلوا الاسم بكلمة مستعارة مثل "X"). ثم قاموا يدوياً بـ فرض تشغيل "مفك أوباما".

النتيجة: فجأة، تذكر الذكاء الاصطناعي! رغم أن الاسم كان مفقوداً، بدأ الذكاء الاصطناعي يسرد حقائق عن أوباما.
الخلاصة: لست بحاجة لإعادة برمجة الذكاء الاصطناعي بالكامل. مجرد قلب مفتاح واحد فقط كان كافياً لجعل الذكاء الاصطناعي يسترجع الحقائق الصحيحة.

5. لماذا هذا مهم (الهوية "النموذجية")

الجزء الأكثر إثارة للاهتمام هو أن هذه المفاتيح تعمل حتى لو أخطأت في كتابة الاسم أو استخدمت اختصاراً.

إذا كتبت "FBI"، يستخدم الذكاء الاصطناعي نفس المفتاح كما لو كتبت "Federal Bureau of Investigation".
إذا كتبت "باريس" بالفرنسية أو الصينية أو العبرية، فإنه يستخدم نفس المفتاح.

يشير هذا إلى أن الذكاء الاصطناعي لا يحفظ مجرد سلاسل من الحروف. بل قد بنى بطاقة هوية نموذجية لكل كيان. "خلية الجدة" هي قارئ بطاقات الهوية هذا. بمجرد مسح الهوية، يعرف بقية دماغ الذكاء الاصطناعي تماماً عمن يجب التحدث.

العقبة

هذا لا ينطبق على كل كيان في العالم.

يعمل بشكل أفضل مع الأشياء المشهورة (مثل الرؤساء المشهورين أو المدن الكبرى).
يعمل بشكل أفضل في نماذج معينة من الذكاء الاصطناعي (مثل عائلة Qwen). النماذج الأخرى تمتلك هذه المفاتيح أيضاً، لكنها أكثر بعثرة وصعوبة في العثور عليها.
ليست قاعدة مثالية بنسبة 100%؛ فأحياناً لا يزال "الضباب" (المعرفة الموزعة) حاضراً.

تشبيه الصورة الكبيرة

تخيل أن دماغ الذكاء الاصطناعي عبارة عن مستودع ضخم ومظلم.

النظرية القديمة: للعثور على صندوق مكتوب عليه "أوباما"، عليك البحث في المستودع بأكمله، وجمع الأدلة من كل زاوية حتى تجد الصندوق.
ما وجدته هذه الورقة: هناك في الواقع مفتاح ضوء على الحائط بالقرب من المدخل. إذا ضغطت على هذا المفتاح المحدد، ستضاء الأنوار، ويصبح صندوق "أوباما" مرئياً ومتاحاً على الفور. إذا كسرت هذا المفتاح، يختفي الصندوق في الظلام، رغم أن المستودع لا يزال مليئاً بالصناديق الأخرى.

باختصار: وجد الباحثون أن الذكاء الاصطناعي، بالنسبة للعديد من الحقائق، يعتمد على "مفاتيح" محددة ونادرة تقع في مراحل المعالجة المبكرة. تعمل هذه المفاتيح كبطاقة هوية رئيسية، مما يسمح للذكاء الاصطناعي باسترجاع هوية متسقة لشخص أو مكان فوراً، بغض النظر عن كيفية سؤالك عنه.

إليك ملخص تقني مفصل لورقة البحث بعنوان "الأصدقاء والجدات في البيئة الرقمية: تحديد مواقع خلايا الكيانات في النماذج اللغوية" (Friends and Grandmothers in Silico: Localizing Entity Cells in Language Models).

1. بيان المشكلة

تتناول الورقة سؤالاً جوهرياً في التفسير الآلي (mechanistic interpretability): كيف تقوم النماذج اللغوية الكبيرة (LLMs) بتخزين واسترجاع المعرفة الواقعية حول كيانات محددة (مثل "باراك أوباما" أو "باريس")؟

السؤال الجوهري: هل يبني النموذج معنى الكيان تدريجياً عبر طبقات عديدة، أم أنه يسترجع تمثيلاً مدمجاً ومستقراً عبر آليات داخلية محددة وموضعية؟
الفرضية: استناداً إلى تشبيه بفرضية "خلية الجدة" (grandmother cell) في علم الأعصاب (الفكرة القائلة بأن عصبونات مفردة يمكنها تمثيل مفاهيم معقدة)، يقترح المؤلفون وجود "خلايا كيانات" (entity cells): وهي عصبونات في طبقات الـ MLP (المدرك متعدد الطبقات) تتسم بالندرة وتعمل كنقاط وصول مستقرة لكيانات محددة.
الفجوة: بينما ركزت الأعمال السابقة على تحديد العصبونات المرتبطة بـ "حقائق محددة" (مثل "باريس هي عاصمة فرنسا")، لا يزال من غير الواضح ما إذا كانت هناك عصبونات مركزية للكيانات قابلة لإعادة الاستخدام تعمل كمرتكزات لاسترجاع أي سمة تخص موضوعاً ما، بغض النظر عن العلاقة المحددة المستعلم عنها.

2. المنهجية

طوّر المؤلفون مساراً لتحديد المواقع والتدخل (localization-and-intervention pipeline) لتحديد والتحقق من صحة خلايا الكيانات هذه عبر نماذج متعددة.

أ. تحديد المواقع (إيجاد المرشح)

البيانات: استخدموا مجموعة مختارة من PopQA-200 (200 كيان شائع تشمل أشخاصاً، ومواقع، ومنظمات).
الصياغة (Prompting): لكل كيان، قاموا بإنشاء مطالبات (prompts) تعتمد على قوالب تختلف باختلاف السمة (مثلاً: "أصل [الكيان]"، "دور [الكيان]").
استخراج التنشيط: استخرجوا تنشيطات الإسقاط السفلي (down-projection) لعصبونات الـ MLP عند الرمز الأخير لنطاق الكيان.
تسجيل الاستقرار: حددوا درجة استقرار (stability score) ( $S_{\ell j}$ $S_{ℓ j}$ ) لترتيب العصبونات. تفضل الدرجة العصبونات التي:
- تتنشط بقوة (متوسط تنشيط عالٍ).
- تتنشط باتساق عبر مطالبات مختلفة لنفس الكيان (معامل تباين منخفض).
- الصيغة: $S_{\ell j} = \frac{(E[z])^2}{\text{Std}[z] + \epsilon}$ ، حيث $z$ هو التنشيط المعياري.
الاختيار: يتم تعيين أعلى عصبون مرتب لكل كيان كـ "خلية كيان مرشحة".

ب. التحقق السببي (اختبار الآلية)

لإثبات أن هذه العصبونات مسؤولة سببياً عن استرجاع الحقائق (بدلاً من كونها مجرد ارتباط)، قاموا بإجراء تدخلين:

الاستئصال السلبي (الضرورة): قاموا بتغيير حجم تنشيط العصبون المرشح بمعامل سلبي ( $\alpha < 0$ $α < 0$ ).
- الهدف: إحداث "فقدان ذاكرة خاص بالكيان". إذا كان العصبون حاسماً، يجب أن يفشل النموذج في استرجاع الحقائق المتعلقة بهذا الكيان المحدد مع الحفاظ على الطلاقة والمعرفة بالكيانات الأخرى.
الحقن المحكوم (الكفاية): استبدلوا ذكر الكيان برمز نائب (مثل "X") وحقنوا متجه تنشيط العصبون المرشح في ذلك الموضع.
- الهدف: معرفة ما إذا كان تنشيط عصبون واحد كافياً لتوجيه النموذج نحو الإجابة الصحيحة المتسقة مع الكيان، حتى بدون ذكر اسم الكيان في المطالبة.
- الضوابوت: تمت المقارنة مقابل "متوسط الكيان" (متجه المتوسط) و"حقن الخلية الخاطئة" (عصبون من كيان آخر).

ج. اختبارات المتانة

اختبروا ما إذا كانت الخلايا الموضعية تظل مستقرة عبر تغيرات الصيغ السطحية:

الأسماء المستعارة/التهجئة: (مثل "Barack Obama" مقابل "Obaama").
الاختصارات: (مثل "FBI" مقابل "Federal Bureau of Investigation").
تعدد اللغات: (مثل "Paris" بالإنجليزية، والعبرية، والصينية، والعربية).

3. النتائج الرئيسية

أُجريت الدراسة على 7 نماذج من 5 عائلات (Qwen, OLMo, Llama, Mistral, OpenLLaMA)، مع ملاحظة أقوى النتائج في نموذج Qwen2.5-7B base.

النتيجة 1: التركيز في الطبقات المبكرة

الملاحظة: خلايا الكيانات المحددة ليست موزعة بانتظام. 99% من الخلايا الأعلى ترتيباً للـ 200 كيان تتركز في الطبقات المبكرة (0–5).
الدلالة: يدعم هذا نظرية أن هوية الكيان يتم توحيدها (canonicalized) مبكراً في المسار الأمامي، قبل طبقات الاستدلال العميقة.

النتيجة 2: الضرورة السببية (الاستئصال)

النتيجة: في Qwen2.5-7B، كانت 131 من أصل 200 خلية موضعية "موثوقة".
الأثر: تسبب الاستئصال السلبي لهذه الخلايا في انخفاض حاد في استرجاع الكيان المستهدف (على سبيل المثال، الانخفاض من 1.0 إلى 0.123 في النتيجة النسبية) بينما ظلت الكيانات الضابطة (مثل "Trump" عند استئصال "Obama") قريبة من المستوى المرجعي.
الاستنتاج: هذه العصبونات ضرورية وظيفياً لاسترجاع الحقائق الخاصة بالكيان.

النتيجة 3: الكفاية السببية (الحقن)

النتيجة: في المجموعة الفرعية من "الكيانات الموثوقة" التي يعرف النموذج إجابتها بالفعل، أدى حقن عصبون الكيان الموضعي الواحد عند رمز نائب إلى استعادة الإجابة الصحيحة بدقة 63.3% (Pass@5).
المقارنة: كانت هذه النتيجة أعلى بكثير من "متوسط الكيان" (1.8%) أو "حقن الخلية الخاطئة" (1.8%).
الكفاية: كان عصبون واحد كافياً في كثير من الأحيان (41/79 كياناً اجتازت الاختبار مع حقن Top-1)، مما يشير إلى استرجاع مدمج بدلاً من إثراء تدريجي موزع.

النتيجة 4: المتانة تجاه الصيغة السطحية

النتيجة: تم استعادة نفس العصبون الأعلى ترتيباً لمتغيرات التهجئة، والاختصارات، والأشكال متعددة اللغات (على سبيل المثال، نفس الخلية لـ "Barack Obama" و"Brock Obma" و"FBI").
الدلالة: توفر هذه الخلايا وصولاً إلى تمثيل هوية موحد (canonical identity representation) بدلاً من سلسلة رموز (token string) محددة.

التعميم عبر النماذج

عائلة Qwen: الظاهرة قوية جداً في Qwen2.5-7B وQwen2.5-7B-Instruct (التدريب اللاحق حافظ على الخريطة). أظهر Qwen3-8B أنماط تحديد مماثلة ولكن بتأثيرات سببية أضعف.
النماذج الأخرى: في Llama وMistral وOLMo، أمكن العثور على مرشحات الطبقات المبكرة، لكن التحقق السببي كان أضعف وأقل اتساقاً. يشير هذا إلى أن خلايا الكيان هي ظاهرة قابلة للتكرار ولكنها تعتمد على النموذج (model-dependent).

4. المساهمات الرئيسية

إطار منهجي: تقديم طريقة قائمة على الاستقرار لتحديد مواقع العصبونات الحساسة للكيانات باستخدام مطالبات تعتمد على القوالب، متجاوزةً تحديد الحقائق المرتبطة بالعلاقات فقط.
دليل تجريبي لـ "خلايا الكيانات": تقديم دليل سببي على أن عصبونات الـ MLP النادرة في الطبقات المبكرة تعمل كمرتكزات مستقرة لاسترجاع الحقائق، مما يدعم فرضية "خلية الجدة" للكيانات في النماذج اللغوية.
التلاعب السببي: إثبات أن هذه العصبونات قابلة للتأثير سببياً: فكبتها يسبب فقدان الذاكرة، وحقنها يستعيد المعرفة، وغالباً ما يتم ذلك بعصبون واحد.
رؤية التوحيد (Canonicalization): إظهار أن هذه الخلايا تجرد هوية الكيان عبر الصيغ السطحية (الأخطاء الإملائية، اللغات، الاختصارات)، مما يشير إلى أنها تمثل "مفردات" دلالية للكيانات.

5. الأهمية والقيود

الأهمية:

التفسير: يوفر آلية ملموسة لكيفية وصول النماذج اللغوية إلى المعرفة الواقعية، محولاً الرؤية من "الإثراء التدريجي الموزع" إلى "الاسترجاع الموضعي النادر".
التحكم والتعديل: تحديد "مقابض" (عصبونات) محددة يمكن التلاعب بها لتعديل أو كبت معرفة كيان معين دون إعادة تدريب النموذج، مما قد يساعد في تعديل النماذج والسلامة (مثل جعل النموذج "ينسى" كيانات حساسة).
بنية النموذج: يسلط الضوء على أن عائلات النماذج المختلفة (حتى ضمن نفس نوع البنية) قد تنفذ استرجاع الحقائق بشكل مختلف، حيث أظهرت Qwen بنية "خلايا كيانات" واضحة بشكل خاص.

القيود:

ليست عالمية: لا يدعم كل كيان مقبضاً واحداً موثوقاً (عصبون واحد)؛ التغطية أعلى للكيانات الشائعة.
الاعتماد على النموذج: كانت التأثيرات السببية القوية بارزة في Qwen2.5-7B؛ أظهرت النماذج الأخرى إشارات أضعف، مما يشير إلى أن الآلية ليست قانوناً عالمياً لجميع النماذج اللغوية بعد.
قيود القياس: الاعتماد على احتمالات الرمز الأول (first-token probabilities) قد يقلل من تقدير الكفاءة الواقعية متعددة الرموز.
نطاق البيانات: ركزت الدراسة على PopQA؛ ويتطلب التعميم على مجالات معرفية أخرى مزيداً من الدراسة.

الخاتمة

نجحت الورقة في تحديد "خلايا كيانات" نادرة وقابلة للتأثير سببياً في النماذج اللغوية، تتركز أساساً في الطبقات المبكرة. تعمل هذه العصبونات كنقاط وصول مدمجة وهامة لهوية الكيان، وهي مقاومة للتغيرات في الصيغة السطحية. وبينما تظهر هذه الظاهرة بقوة في عائلة Qwen، فإن النتائج توفر عدسة جديدة لفهم، وتحليل، والتحكم المحتمل في كيفية استرجاع النماذج اللغوية للمعرفة الواقعية.