Fine-Grained Analysis of Shared Syntactic Mechanisms in Language Models
تستخدم هذه الدراسة أساليب التفسير السببي لتوضيح أن النماذج اللغوية توظف آلية عصبية مشتركة وموضعية لتبعية "المالئ-الفجوة" (filler-gap dependencies) عبر مختلف التراكيب، في حين لا ينطبق ذلك على ترخيص "الكلمات السالبة لليقين" (NPI licensing)، مع إظهار أن تقنية "الرقع التنشيطية" (activation patching) تعمم بشكل أفضل على البيانات الخارجة عن نطاق التوزيع مقارنة بـ "البحث عن المحاذاة الخاضع للإشراف" (supervised alignment search).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
"عقل" الذكاء الاصطناعي: هل يستخدم نفس الأدوات لمهام مختلفة؟
تخيل أنك طاهٍ ماهر. عندما تصنع "سوفليه" رقيقاً، تستخدم مخفقة يدوية. وعندما تصنع حساءً غنياً، تستخدم مغرفة ثقيلة. على الرغم من أن الأطباق مختلفة تماماً، إلا أنك تستخدم مجموعة محددة من "الأدوات" (أواني الطهي) لكل منها.
الآن، تخيل روبوتاً فائق الذكاء يعمل كطاهٍ. إذا طلبت منه صنع كعكة ثم صنع حساءً، هل يستخدم نفس التروس والأسلاك الداخلية بالضبط لمعالجة تلك الوصفات، أم أنه ينتقل إلى "دوائر كهربائية" مختلفة تماماً لكل واحدة منها؟
هذه الورقة البحثية، التي كتبها باحثون من جامعة طوكيو ومعهد ريكن (RIKEN)، تطرح هذا السؤال تحديداً حول الذكاء الاصطناعي (النماذج اللغوية الكبيرة).
"أحجيات القواعد" المزدوجة
قرر الباحثون اختبار الذكاء الاصطناعي بنوعين مختلفين من الأحجيات اللغوية:
أحجية "القطعة المفقودة" (تبعيات الفراغ والملء):
تخيل جملة مثل رحلة بحث عن الكنز. "الرجل [الذي] أحبته الفتاة [___]." كلمة "الذي" هي الدليل، وهناك "فراغ" غير مرئي حيث ينبغي أن يكون الشخص المحبوب. يجب على الذكاء الاصطناعي تذكر الدليل من البداية ليفهم نهاية الجملة.أحجية "الإذن" (ترخيص الكلمات النافية - NPI):
بعض الكلمات "خجولة" ولا تظهر إلا إذا كان هناك كلمة "قائدة" معينة موجودة. على سبيل المثال، في جملة "ليس لدي أي تفاح"، كلمة "أي" مسموح لها بالظهور فقط لأن كلمة "ليس" (كلمة نفي) أعطتها الإذن.
السؤال الكبير: هل يستخدم الذكاء الاصطناعي نفس "التروس الذهنية" لحل كلتا الأحجيتين، أم يتم التعامل معهما في أجزاء مختلفة من دماغه؟
ما وجدوه: أداة واحدة أم أدوات متعددة؟
استخدم الباحثون تقنية تسمى "الترقيع التنشيطي" (Activation Patching). تخيل لو كان بإمكانك الوصول إلى داخل دماغ روبوت، والعثور على سلك معين، ورفع شدة الكهرباء فيه لترى ما إذا كان ذلك سيجعل الروبوت أكثر ذكاءً في مهمة محددة. هذا ما فعلوه بالضبط.
1. أحجية "القطعة المفقودة" لديها "ترس رئيسي":
بالنسبة لجمل رحلة البحث عن الكنز (الفراغ والملء)، وجد الباحثون شيئاً مذهلاً: الذكاء الاصطناعي يستخدم نفس "التروس" المحددة (رؤوس الانتباه) بغض النظر عن كيفية صياغة الجملة. سواء كانت سؤالاً معقداً أو عبارة بسيطة، كان الذكاء الاصطناعي يفعل دائماً نفس المجموعة الصغيرة من "الأسلاك" في طبقاته الوسطى لربط الدليل بالفراغ. لديه "أداة هيكلية" مخصصة لهذه المهمة.
2. أحجية "الإذن" "فوضوية":
بالنسبة للكلمات "الخجولة" (NPIs)، لم يكن هناك ترس رئيسي واحد. كان الذكاء الاصطناعي يستخدم أجزاء مختلفة من دماغه اعتماداً على الجملة المحددة. الأمر يشبه كون الروبوت لا يملك "أداة إذن" واحدة؛ بل لديه مجموعة من الأدوات المتخصصة المختلفة التي يلتقطها حسب الموقف.
لماذا يهم هذا؟ (اختبار "مقبض الصوت")
لإثبات صحة فرضيتهم، قام الباحثون بخطوة جريئة: قاموا برفع "صوت" تلك "التروس الخاصة برحلة البحث عن الكنز".
لقد رفعوا الإشارة اصطناعياً في تلك الأسلاك المحددة، وتخيل ماذا حدث؟ لقد أصبح الذكاء الاصطناعي أفضل في القواعد! أصبح أكثر دقة في الحكم على ما إذا كانت الجمل صحيحة أم خاطئة. الأمر يشبه العثور على "مقبض المنطق" في آلة ما ورفعه لجعل الآلة تعمل بسلاسة أكبر.
الخلاصة
تخبرنا هذه الدراسة أن الذكاء الاصطناعي ليس مجرد "حساء" ضخم وضبابي من المعلومات. إنه يبني بالفعل آليات داخلية متخصصة لأنواع معينة من المنطق.
من خلال العثيد على هذه "التروس الرئيسية"، نحن لا نتعلم فقط كيف يعمل الذكاء الاصطناعي؛ بل إننا نجد "مقابض الضبط" التي قد تساعدنا في بناء ذكاء اصطناعي أكثر ذكاءً وموثوقية في المستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.