How Language Models Process Negation

تخيل نموذج لغة كبير (LLM) كأنه أمين مكتبة ماهر للغاية، ولكنه مشتت الذهن قليلاً، يحاول الإجابة على سؤال ما. الورقة البحثية التي قدمتها، "كيف تعالج نماذج اللغة النفي"، تبحث فيما يحدث داخل دماغ هذا الأمين عندما تسأله سؤالاً مخادعاً يتضمن كلمة "ليس" أو "لا".

إليك قصة نتائج أبحاثهم، مقسمة إلى مفاهيم بسيطة.

1. المشكلة: أمين المكتبة يصاب بالارتباك بسبب "ليس"

بدأ الباحثون بملاحظة بسيطة: إذا سألت ذكاءً اصطناعياً حديثاً: "ما هو الحيوان الذي ليس برمائياً؟"، فإنه غالباً ما يعطي إجابة خاطئة، مثل "ضفدع" (وهو في الواقع حيوان برمائي). يبدو الأمر كما لو أن الذكاء الاصطناعي يتجاهل كلمة "ليس" تماماً.

ومع ذلك، تكشف الورقة عن تحول مفاجئ: الذكاء الاصطناعي يفهم "ليس" بشكل مثالي في الواقع. كل ما في الأمر أن فهمه يُدفن تحت طبقة من العادات السيئة.

2. الآليتان المتنافستان: "البناء" مقابل "الاختصار"

لفهم كيف يفكر الذكاء الاصطناعي، نظر الباحثون إلى طريقتين مختلفتين يمكنه من خلالهما التعامل مع جملة منفية. وقارنوا ذلك بطريقتين مختلفتين قد يتبعهما شخص لحل لغز:

• الفرضية 1: استراتيجية "الكبت" (الممحاة)
  تخيل أن لديك قائمة بالحيوانات. للإجابة على "ليس برمائياً"، تأخذ القائمة، وتجد "البرمائيات"، ثم تستخدم ممحاة لشطبها. يتبقى لك كل شيء آخر.

  • نتيجة الورقة: يقوم الذكاء الاصطناعي بهذا قليلاً، لكنها ليست الطريقة الأساسية التي يعمل بها.

• الفرضية 2: استراتيجية "البناء" (المهندس المعماري)
  تخيل بدلاً من المسح، أن الذكاء الاصطناعي يبني صورة ذهنية جديدة تماماً. عندما يسمع "ليس غازاً"، فإنه لا يفكر فقط في "غاز" ويقوم بشطبه، بل يبني بنشاط مفهوماً جديداً في ذهنه: "صلب". إنه يبني نموذجاً ذهنياً لما يبدو عليه النقيض.

  • نتيجة الورقة: هذا هو الفائز. الذكاء الاصطناعي هو مهندس معماري في الغالب. فهو يبني بنشاط تمثيلاً للمفهوم السلبي (على سبيل المثال، تحويل "ليس غازاً" إلى "صلب") ويستخدم ذلك لإيجاد الإجابة.

3. الشرير: عادة "الاختصار"

إذا كان الذكاء الاصطناعي بارعاً جداً في بناء هذه "المفاهيم السلبية"، فلماذا لا يزال يعطي إجابات خاطئة؟

حددت الورقة مجموعة من "الأطراف الشريرة" داخل دماغ الذكاء الاصطناعي، وتحديداً في الطبقات المتأخرة (الخطوات النهائية قبل أن يتحدث الذكاء الاصطناعي). يطلق عليها الباحثون اسم "رؤوس انتباه الاختصار" (Shortcut Attention Heads).

• التشبيه: تخيل أن الذكاء الاصطناعي طالب يؤدي امتحاناً. الطالب يعرف الإجابة الصحيحة (لأنه بنى مفهوم "ليس غازاً" = "صلب"). ولكن، قبل أن يكتب الإجابة مباشرة، يهمس جزء كسول من دماغه: "مهلاً، لقد رأيت الكلمتين 'برمائي' و'ضفدع' معاً ملايين المرات في تدريبي. فقط اكتب 'ضفدع' ووفر الوقت!"
• النتيجة: هذا "الاختصار" يتجاوز العمل الذكي لعملية "البناء". يتجاهل الذكاء الاصطناعي المنطق ويعتمد فقط على التخمين بناءً على الكلمات التي تظهر معاً عادةً.

4. الحل: إيقاف العادات السيئة

اختبر الباحثون حيلة ذكية لإثبات ذلك. استخدموا طريقة يسمونها "غرق الانتباه" (Attention Sinking).

• التشبية: تخيل أنك تستمع إلى جوقة موسيقية. "الاختصار" هو مغنٍ صاخب وخارج عن اللحن في الصف الخلفي يطغى على المغني الرئيسي. لم يحاول الباحثون تعليم الجوقة الغناء بشكل أفضل؛ بل قاموا ببساطة بـ كتم صوت المغني الصاخب والخارج عن اللحن.
• النتيجة: عندما قاموا بـ "كتم" (إزالة/Ablation) هذه الوحدات المختصرة المحددة في الطبقات المتأخرة، ارتفعت دقة الذكاء الاصطناعي في الأسئلة السلبية بشكل هائل. بدأ فجأة في إعطاء الإجابات الصحيحة، مما أثبت أن القدرة على فهم النفي كانت موجودة طوال الوقت، ولكنها كانت مخفية بواسطة الاختصار.

5. رحلة الفكرة

ترسم الورقة مسار رحلة عملية التفكير عبر الذكاء الاصطناعي:

1. الطبقات المبكرة (المحركات): يأخذ الذكاء الاصطناعي كلمة "ليس" وينقل معناها مادياً لتجلس بجوار الكلمة التي ينفيها (على سبيل المثال، نقل "ليس" لتكون بجانب "غاز").
2. الطبقات الوسطى (البناؤون): هنا يحدث السحر. يبني الذكاء الاصطناعي المفهوم الجديد ("صلب") ويدفعه للأمام. وفي الوقت نفسه، يحاول بضعف كبت المفهوم القديم ("غاز").
3. الطبقات المتأخرة (المخربون): بينما يوشك الذكاء الاصطناعي على التحدث، تتدخل رؤوس "الاختصار". فهي ترى كلمة "غاز" وكلمة "برمائي" وتحاول فرض الإجابة المرتبطة بأكثر الارتباطات شيوعاً، متجاهلة مفهوم "الصلب" الذي بناه الذكاء الاصطناعي للتو.

الملخص

تخلص الورقة إلى أن نماذج اللغة الكبيرة ليست سيئة في فهم "ليس". إنها في الواقع جيدة جداً في ذلك، باستخدام طريقة "بناء" متطورة لبناء معنى العبارات المنفية.

ومع ذلك، فإنها تتعرض لسيطرة العادات السيئة (الاختصارات) التي تعلمتها أثناء تدريبها. هذه الاختصارات قوية جداً لدرجة أنها غالباً ما تتجاوز المنطق الصحيح، مما يؤدي إلى الأخطاء. ومن خلال تحديد هذه الاختصارات وإيقاف تشغيلها مؤقتاً، أظهر الباحثون أن القدرة المنطقية الحقيقية للذكاء الاصطناعي أقوى بكثير مما توحي به مخرجاته النهائية.

باخت اختصار: الذكاء الاصطناعي يعرف الإجابة، لكن لديه عادة سيئة في التخمين بالطريقة السهلة. إذا منعته من اتخاذ الطريق المختصر، فسيصيب في إجابته.