In-Context Fixation: When Demonstrated Labels Override Semantics in Few-Shot Classification
تكشف هذه الورقة أن نماذج التعلم في السياق مقيدة ميكانيكيًا بمعاملة الرموز الموضحة كقاموس شامل، مما يؤدي إلى انهيار الدقة عندما تُملأ خانات التسمية برموز متجانسة أو حتى رموز صالحة دلاليًا، وهي ظاهرة تتركز في دوائر عصبية محددة تتجاوز الفهم الدلالي عبر استرجاع الرموز القائم على التنسيق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم بتعليم روبوت ذكي جداً، ولكنه حرفي للغاية، كيفية لعب لعبة التخمين. تعرض عليه بعض الأمثلة (نماذج توضيحية) لكيفية عمل اللعبة، ثم تطلب منه تخمين الإجابة لموقف جديد. يُسمى هذا "التعلم في السياق" (In-Context Learning).
عادةً، نعتقد أن الروبوت يتعلم قواعد اللعبة من الأمثلة التي تقدمها له. لكن هذه الورقة البحثية اكتشفت خللاً غريباً: الروبوت لا يتعلم قواعد اللعبة فعلياً؛ بل يقوم فقط بنسخ قائمة الإجابات التي أعطيتها له.
إليك تفصيل ما وجده الباحثون، باستخدام تشبيهات بسيطة:
1. فخ "قائمة الإجابات"
تخيل أنك تعرض على الروبوت كيفية تحديد الحيوانات.
- السيناريو الطبيعي: تعرض عليه 4 صور لكلاب و4 صور لقطط. يتعلم قائلاً: "أوه، الإجابة عادة ما تكون 'كلب' أو 'قط'".
- الخلل (التسميات المتجانسة): تعرض عليه 8 صور لقطط، لكنك تخبره أن الإجابة هي "قط" لكل منها. ثم تعرض عليه صورة كلب وتسأله: "ما هذا؟"
- ما تتوقعه: يرى الروبوت الكلب ويقول: "هذا كلب".
- ما يحدث فعلياً: ينظر الروبوت إلى قائمة الـ 8 إجابات "قط" التي قدمتها له، ويقرر أن كلمة "قط" هي الكلمة الوحيدة المسموح بها في هذه اللعبة، فيقول "قط" رغم أنها إجابة خاطئة.
وجد الباحثون أنه إذا أعطيت الروبوت قائمة إجابات متشابهة جميعها، فإن دقته تنهار لتصل إلى ما يقرب من الصفر (أحياناً أقل من 12%). يتوقف عن التفكير في الصورة ويبدأ في التفكير: "يجب أن أختار كلمة من القائمة التي أعطيتني إياها".
2. تجربة "الكلمات العبثية"
لإثبات أن الروبوت لم يكن مرتبكاً بسبب كلمة "قط"، جرب الباحثون شيئاً أغرب. أعطوا الروبوت أمثلة بكلمات عبثية مثل "foo" و"bar" و"vex" و"nit" و"orb".
- الإعداد: عرضوا للروبوت 8 أمثلة تحتوي على هذه الكلمات العبثية. ثم عرضوا عليه صورة لكلب حقيقي وسألوه عن الإجابة.
- النتيجة: على الرغم من أن "foo" و"bar" ليس لهما أي معنى بالنسبة لكلب، إلا أن الروبوت رفض قول كلمة "كلب". بدلاً من ذلك، اختار إحدى الكلمات العبثية من قائمتك بنسبة تتراوح بين 42% إلى 67%.
- الدرس المستفاد: الروبوت يعامل قائمة الكلمات التي قدمتها له كأنها قائمة طعام مغلقة. إذا لم يكن "الكلب" موجوداً في القائمة التي قدمتها، فإن الروبوت سيموت جوعاً بدلاً من أن يطلب صنفاً خارج القائمة. لا يهم إذا كانت أصناف القائمة بلا معنى؛ الروبوت سيختار واحداً منها فحسب.
3. آلية "التفكير المزدوج" (كيف يعمل الأمر من الداخل)
نظر الباحثون داخل عقل الروبوت (باستخدام تقنية "التفسير الآلي") ليروا كيف يحدث هذا. وجدوا عملية من خطوتين يسمونها "الترميز ثم التجاوز" (Encode-then-Override).
فكر في الأمر مثل كاتب يصيغ مسودة قصة:
- الخطوة 1 (الجزء الذكي): تقرأ طبقات دماغ الروبوت الدنيا صورة الكلب وتفكر بشكل صحيح: "هذا كلب". لديه الإجابة الصحيحة جاهزة.
- الخطوة 2 (الخلل): تنظر طبقات دماغ الروبوت العليا إلى قائمة الأمثلة التي قدمتها له. ترى القائمة تقول "قط" (أو "foo"). وتقرر: "لا، قواعد هذه المحادثة المحددة تنص على أنه يمكننا فقط استخدام كلمات من تلك القائمة".
- التجاوز: تقوم الطبقات العليا بمسح الإجابة الصحيحة ("كلب") وتجبر الروبوت على إخراج كلمة من القائمة بدلاً من ذلك.
الأمر يشبه طالباً يعرف أن المسألة الحسابية هي 2+2=4، لكن المعلم يقول له: "في هذا الفصل، نستخدم فقط الأرقام 5 و6 و7". الطالب يعرف الحقيقة، لكن "قواعد الفصل" (الأمثلة) تجبره على كتابة "5" بدلاً من ذلك.
4. يحدث حتى مع الروبوتات الكبيرة
قد تقول: "ربداً أن هذا يحدث فقط للروبوتات الصغيرة الغبية". اختبر الباحثون ذلك على نماذج تتراوح من الصغيرة جداً إلى الكبيرة جداً (تصل إلى 8 مليارات بارامتر).
- النتيجة: الخلل يحدث لـ جميعها. حتى أذكى الروبوتات في مجموعتهم التجريبية وقعت في الفخ. في الواقع، الروبوتات الأكبر حجماً قد تقع في الفخ بشكل أكبر، حيث انخفضت دقتها من 86% إلى 0% عندما كانت الأمثلة مضللة.
5. قاعدة "الكلمة الأخيرة"
وجد الباحثون أيضاً سمة غريبة تتعلق بـ متى يستمع الروبوت.
- إذا أعطيته 7 أمثلة لـ "قط" ومثالاً واحداً لـ "كلب" في النهاية، سيتجاهل أول 7 أمثلة ويستمع للأخير.
- إذا وضعت مثال "الكلب" في البداية، فسيتجاهله تماماً.
- التشبيه: الروبوت لديه مدى انتباه قصير جداً. هو لا يهتم إلا بآخر قائمة إجابات رآها، ويعتبر تلك القائمة بمثابة القانون المطلق للسؤال الحالي.
الملخص
تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطنا هذه لا "تتعلم" دائماً مفهوم المهمة. بدلاً من ذلك، غالباً ما تقوم فقط باسترجاع قائمة الإجابات التي أظهرتها لها وتختار من تلك القائمة، متجاهلة المعنى الفعلي للسؤال. إذا أعطيتها قائمة من الهراء، ستجيب بالهراء. إذا أعطيتها قائمة كلها "قطط"، فستسمي الكلب "قطاً".
لماذا هذا مهم (وفقاً للورقة البحثية):
إذا كنت تستخدم هذه النماذج لمهام مثل فرز رسائل البريد الإلكتروني أو الإجابة على أسئلة بناءً على قاعدة بيانات، وكانت الأمثلة التي تسحبها تصادف جميعها تسمية واحدة (حتى عن طريق الخطأ)، فإن النموذج سيتوقف عن التفكير وسيقوم فقط بنسخ تلك التسمية، مما يؤدي إلى أخطاء هائلة. الحل؟ تأكد من أن الأمثلة التي تعرضها للروبوت متنوعة، وربما ضع مثالاً صحيحاً في نهاية القائمة لـ "إعادة ضبط" دماغه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.