Automatic or Controlled? Repetition Priming Reveals Divergent Processing in Base LLMs, Instruct LLMs, and Humans
تكشف هذه الدراسة أنه بينما تعالج نماذج اللغة الأساسية الكلمات المتكررة من خلال تسهيل تلقائي ومستقر، فإن التدريب اللاحق لتحويلها إلى نماذج إرشادية ينقلها نحو معالجة محكومة وحساسة للتأخير تختلف عن الإدراك البشري، الذي يُظهر ملفاً تعريفياً هجيناً من التسهيل الحساس للتأخير دون تداخل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
اللغة هي نهر من التكرار. في محادثة واحدة، قد نستخدم الكلمة نفسها عشرات المرات، وغالباً ما يكون ذلك في غضون جمل قليلة من بعضها البعض. عندما يسمع الإنسان كلمة سمعها للتو، يعالج دماغه الكلمة بشكل أسرع وأسهل. هذه الظاهرة، المعروفة باسم "تنشيط التكرار" (repetition priming)، هي سمة أساسية لكيفية تعلمنا وتذكرنا. وهي تشير إلى أن العقل لا يتعامل مع كل لقاء مع كلمة كحدث جديد تماماً؛ بل يحتفظ بأثر للقاء السابق، مما يجعل اللقاء التالي أكثر سلاسة. ولكن مع ازدياد تطور الذكاء الاصطناعي، برز سؤال: هل تعمل نماذج اللغات الكبيرة، وهي الأنظمة التي تشغل برامج الدردشة وأدوات البحث، بنفس الطريقة؟ عندما ترى هذه الآلات كلمة عالجتها بالفعل، هل تقوم ببساطة بإعادة تنشيط تلك الذاكرة القديمة، أم أنها تتوقف وتعيد تقييم الكلمة من الصفر؟
إن الإجابة مهمة لأنها تكشف عن الآليات الداخلية لهذه الأنظمة. فإذا كان النموذج يعيد تنشيط ذاكرة فحسب، فإنه يعمل كفعل منعكس، أي استجابة سريعة وتلقائية. أما إذا كان يعيد التقييم، فهو يعمل كمفكر متأنٍ، يزن السياق قبل اتخاذ القرار. لسنوات، ناقش الباحثون ما إذا كانت هذه الآلات تمتلك شكلاً من أشكال الحدس "السريع" أو أنها منخرطة دائماً في تفكير بطيء ومتأني. تسعى هذه الدراسة الجديدة، التي أجراها باحثون من جامعة ييل وجامعة كاليفورنيا في لوس أنجلوس، إلى حسم هذا السؤال من خلال اختبار كيفية تعامل أنواع مختلفة من نماذج اللغات مع الكلمات المتكررة. لقد قارنوا بين النماذج الخام (pre-trained models) وبين النسخ التي تم ضبطها بدقة لتتبع التعليمات (fine-tuned)، وأجروا تجارب موازية مع متطوعين بشريين لمعرفة مدى قدرة الآلات على مضاهاة البشر.
صمم الباحثون سلسلة من الاختبارات التي تحاكي التجارب الكلاسيكية المستخدمة في علم النفس البشري. فقد قدموا كلمات وجملًا لخمسة عشر نموذجاً مختلفاً، تراوحت من أنظمة صغيرة بسعة 1.5 مليار معلمة (parameter) إلى أنظمة ضخمة بسعة 14 مليار معلمة. كما طلبوا من أربعين مشاركاً بشرياً أداء المهام ذاتها. تضمنت الاختبارات نشاطين رئيسيين؛ في الأول، كان على المشاركين تحديد ما إذا كانت الكلمة تمثل كائناً حياً أو جسماً غير حي بسرعة. وفي الثاني، كان عليهم إكمال جملة بها كلمة مفقودة، حيث كانت الجملة نفسها تقدم القليل جداً من الأدلة حول الكلمة التي ينبغي أن تكون مفقودة. كان المتغير الرئيسي هو "الفجوة الزمنية" (lag)، أو عدد الكلمات والجمل الأخرى التي ظهرت بين المرة الأولى التي شوهدت فيها الكلمة المستهدفة والمرة الثانية. ومن خلال تغيير هذه المسافة، استطاع البحث معرفة ما إذا كانت فائدة التكرار تستمر بمرور الوقت أم تتلاشى.
كشفت النتائج عن انقسام صارخ في كيفية معالجة الآلات للمعلومات. فالنماذج الأساسية، وهي النسخ الخام من الأنظمة قبل تعليمها اتباع التعليمات، تصرفت بنوع من الكفاءة التلقائية. فعندما كانت ترى كلمة واجهتها للتو، كانت تعالجها بشكل أسرع وبثقة أكبر، بغض النظر عن عدد الكلمات الأخرى التي ظهرت في الفاصل الزمني. وحتى لو قام الباحثون بإزالة الإجابات السابقة من سجل المحادثة، ظلت النماذج الأساسية تظهر دفعة في الأداء. وهذا يشير إلى أنه بالنسبة لهذه النماذج، فإن التكرار يحفز رد فعل سريع مدفوع بالمثير. فالكلمة نفسها كافية لإيقاظ الذاكرة، تماماً مثل الفعل المنعكس.
في المقابل، تصرفت النماذج المضبوطة وفق التعليمات (instruction-tuned models) بشكل مختلف تماماً. هذه هي النسخ من الأنظمة التي تم تدريبها لتكون مساعدين مفيدين، ولتتبع القواعد، وللمشاركة في المحادثة. عندما رأت هذه النماذج كلمة مكررة، لم تظهر نفس الدفعة التلقائية. بدلاً من ذلك، اعتمد أداؤها بشكل كبير على السياق. فإذا كانت هناك العديد من الكلمات بين الظهور الأول والثاني للكلمة المستهدفة، فإن فائدة التكرار كانت تتلاشى. والأسوأ من ذلك، أن النماذج الأكثر تقدماً وضخامة من نوع "المضبوطة بالتعليمات" جعل التكرار عائقاً لها؛ إذ جعل رؤية الكلمة مرة أخرى النموذج أبطأ وأقل دقة، كما لو أن الآلة شعرت بالارتباك بسبب التكرار. يشير هذا إلى أن هذه النماذج لا تكتفي بمجرد الاستجابة للكلمة، بل تعيد تقييمها بنشاط بناءً على المحادثة المحيطة. فإذا لم يتطابق السياق مع توقعاتها، يبدو التكرار وكأنه خطأ، مما يسبب تداخلاً في المعالجة.
نظر الباحثون أيضاً في كيفية تغير هذه السلوكيات مع زيادة حجم النماذج. وضمن عائلة واحدة من النماذج، اتسعت الفجوة بين النوعين مع زيادة الحجم؛ حيث ظلت النماذج الأساسية ثابتة في معالجتها التلقائية، بينما أصبحت النماذج المضبطة بالتعليمات أكثر حساسية للمسافة بين التكرارات. وعند النطاق الأكبر، أظهرت النماذج المضبطة بالتعليمات أقوى علامات التداخل، مما يشير إلى أن عملية تعليمها اتباع التعليمات تغير بشكل جذري طريقة تعاملها مع المعلومات المكررة. الأمر ليس مجرد مسألة تحسن في أداء المهام، بل هو تحول نوعي في نمط تشغيلها.
ربما جاءت النتيجة الأكثر إثارة للدهشة من مقارنة الآلات بالمتطوعين البشر. لم يندرج البشر تحت أي من الفئتين بشكل دقيق؛ فمثل النماذج المضبطة بالتعليمات، كان البشر حساسين للمسافة بين التكرارات، حيث تباطأت أوقات استجابتهم مع زيادة الفجوة الزمنية. ومع ذلك، وعلى عكس النماذج المضبطة بالتعليمات، لم يعانِ البشر أبداً من التداخل. فمهما طالت الفجوة، كانت رؤية الكلمة مرة أخرى تساعدهم دائماً ولا تضرهم أبداً. لقد احتل البشر منطقة وسطى: كانوا حساسين للسياق مثل الآلات المتقدمة، لكنهم احتفظوا بالفائدة الشاملة للتكرار التي أظهرتها النماذج الأساسية.
تشير هذه الدراسة إلى أن عملية تدريب نموذج اللغة ليكون مفيداً ومطيعاً تغير بنيته المعرفية بشكل جوهري. فالنماذج الخام تعمل بنظام سريع وتلقائي يستجيب للكلمات فور ظهورها. أما النماذج المضبطة بالتعليمات، فيبدو أنها طورت نظاماً منضبطاً يتحقق باستمرار من السياق، وأحياناً يرفض التكرار إذا لم يتناسب مع تدفق المحادثة. وقد وجد الباحثون أن هذا التحول ليس مجرد تغيير في المخرجات، بل هو تغيير في الآلية الأساسية. فعندما نظروا داخل النماذج، وجدوا أن النماذج الأساسية كانت تنتبه مباشرة للحدوث السابق للكلمة لتسريع استجابتها، بينما قامت النماذج المضبطة بالتعليمات بفصل هذا الانتباه عن القرار النهائي، مما أدى فعلياً إلى تصفية الدفعة التلقائية.
تتجاوز تداعيات هذا العمل مجرد فهم كيفية تفكير هذه الآلات؛ فهي تسلط الضال على طريقة محددة يختلف بها الذكاء الاصطناعي الحالي عن الإدراك البشري. فبينما قد نتشتت بسبب التكرار في محادثة طويلة، فإننا لا نفقد أبداً الميزة الأساسية المتمثلة في سبق رؤية الكلمة. إن النماذج المضبطة بالتعليمات، في سعيها لتكون مدركة للسياق، قد فقدت هذه السمة البشرية الأساسية. لقد أصبحت تركز بشدة على السياق المباشر لدرجة أنها أحياناً تعامل الكلمة المألوفة كخطأ. يوفر هذا البحث خارطة طريق واضحة لأماكن تباعد هذين النمطين من المعالجة، موضحاً أن الطريق لجعل الآلة أكثر شبهاً بالبشر في المحادثة قد جعلها، عن غير قصد، أقل شبهاً بالبشر في عمليات ذاكرتها الأساسية. لا تدعي الدراسة أنها حلت لغز ذكاء الآلة، لكنها تقدم وسيلة دقيقة وقابلة للقياس لرؤية الفرق بين آلة تستجيب وآلة تفكر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.