Orthographic Constraint Satisfaction and Human Difficulty Alignment in Large Language Models
تقيم هذه الورقة ٣٩ تهيئة عبر ثلاث عائلات من النماذج اللغوية الكبيرة في ٥٨ لغزاً لفظياً، كاشفةً أن الاختلافات بين العائلات وأنماط الصعوبة المتوافقة مع البشر تفوق أهمية توسيع المعلمات، بينما تكشف عن إخفاقات منهجية للنماذج في الكلمات الشائعة ذات الرسم الإملائي غير المعتاد بسبب الاعتماد المفرط على المعقولية التوزيعية.
تخيل أنك تلعب لعبة كلمات مثل لعبة "Spelling Bee"، حيث تُعطى مجموعة محددة من سبعة أحرف ويجب عليك تكوين أكبر عدد ممكن من الكلمات باستخدام هذه الأحرف فقط، مع اشتراط وجود حرف معين في كل كلمة.
تعامل هذه الورقة البحثية مع هذه اللعبة كاختبار جهد للذكاء الاصطناعي (AI). أراد الباحثون معرفة مدى قدرة نماذج الذكاء الاصطنا المختلفة على اتباع هذه "القواعد الحرفية" مقارنة بمدى قدرة البشر على القيام بذلك. لم يكتفوا بمجرد طلب كتابة قصة من الذكاء الاصطناعي؛ بل طلبوا منه حل لغز يعني فيه الخطأ في القواعد أن الإجابة غير صالحة.
إليك تفصيل لنتائجهم باستخدام تشبيهات بسيطة:
1. مفاجأة "العائلة" مقابل "الحجم"
قد تعتقد أن جعل الذكاء الاصطناعي "أكبر" (إعطاؤه قوة دماغية أو بارامترات أكثر) هو الأمر الأكثر أهمية. وجد الباحثون أن هذا ليس صحيحاً تماماً.
التشبيه: تخيل أن لديك ثلاث علامات تجارية مختلفة من السيارات (Qwen، وClaude، وGPT). يمكنك شراء سيارة صغيرة أو شاحنة ضخمة من العلامة التجارية (أ).
النتيجة: كان الفرق بين السيارة الصغيرة من العلامة (أ) والشاحنة الضخمة من العلامة (أ) ملحوظاً، لكن الفرق بين الشاحنة الضخمة من العلامة (أ) والسيارة الصغيرة من العلامة (ب) كان هائلاً.
النتيجة النهائية: "العائلة" التي ينتمي إليها الذكاء الاصطناعي تهم أكثر بكثير من مجرد حجمه. كانت النماذج المملوكة لشركات (مثل GPT وClaude) أفضل بمقدار 2 إلى 2.2 مرة في حل هذه الألغاز من أكبر النماذج مفتوحة المصدر، حتى عندما تم رفع حجم النماذج مفتوحة المصدر بشكل كبير.
2. مفارقة "وقت التفكير"
اختبر الباحثون ما يحدث عندما يعطون الذكاء الاصطناعي المزيد من "وقت التفكير" (ميزانية حوسبية أكبر) لحل اللغز.
التشبيه: تخيل أنك تطلب من طالب حل مسألة رياضية. يمكنك إعطاؤه دقيقة واحدة، أو 5 دقائق، أو ساعة واحدة.
النتيجة:
الطلاب المتفوقون (النماذج ذات السعة العالية): إذا أعطيت أذكى النماذج مزيداً من الوقت، فإنها تتحسن بشكل ملحوظ. فهي تستخدم الوقت لمراجعة عملها.
الطالب المرتبك (النماذج متوسطة الحجم): من المثير للدهشة أن إعطاء النماذج متوسطة الحجم مزيداً من الوقت جعل أداءها أسوأ. الأمر يشبه بدئهم في الإفراط في التفكير وتوريط أنفسهم في زاوية ضيقة، مما يؤدي لتوليد المزيد من الإجابات الخاطئة.
الطفل الصغير (النماذج الصغيرة): إعطاء أصغر النماذج مزيداً من الوقت لم يساعدها على الإطلاق. لقد استمرت في ارتكاب نفس الأخطاء لأنها تفتقر إلى الأدوات الأساسية لحل المشكلة في المقام الأول.
3. فجوة الصعوبة بين "الإنسان والروبوت"
قارن الباحثون أداء الذكاء الاصطناعي مقابل بيانات من 10,000 إنسان حقيقي يلعبون نفس اللعبة.
التشبيه: تخيل خريطة بها بعض الطرق السهلة وبعض الطرق الصعبة. البشر والذكاء الاصطناعي كلاهما يجد الطرق السهلة سهلة والطرق الصعبة صعبة، لكنهما يضلان الطريق في أماكن مختلفة.
النتيجة: الذكاء الاصطناعي متوافق نوعاً ما مع البشر (إذا كانت الكلمة صعبة على الإنسان، فهي عادة ما تكون صعبة على الذكاء الاصطناعي)، ولكن هناك انفصال كبير.
الخلل: فشل الذكاء الاصطناعي باستمرار في الكلمات الشائعة جداً والسهلة التي يجدها البشر سهلة، وتحديداً الكلمات التي تحتوي على حروف مكررة أو أنماط غير معتادة.
أمثلة: كلمات مثل "data"، "loll"، "momma"، أو "illicit".
لماذا؟ البشر يرون هذه الكلمات ويعرفون أنها حقيقية. أما الذكاء الاصطناعي، فيبدو أنه يعتمد على "الحدس" بناءً على عدد المرات التي رأى فيها تركيبات حرفية معينة من قبل. ولأن وجود "ll" أو "mm" في منتصف الكلمة أقل شيوعاً إحصائياً في بيانات التدريب الخاصة به، يفكر الذكاء الاصطناعي: "هذا يبدو غريباً، لذا فمن المحتمل أنه ليس كلمة صالحة"، رغم أنها كلمة صحيحة. إنه يشبه طباخاً يرفض طهي طبق لمجرد أن المكونات مرتبة بنمط لم يره من قبل، حتى لو كان الطبم لذيذاً.
4. انهيار "الكلمات الطويلة"
هناك فرق هائل في كيفية تعامل البشر والذكاء الاصطناعي مع الكلمات الطويلة.
التشبيه: تخيل عرضاً للتلاعب بالكرات (Juggling). يمكن للبشر التلاعب بـ 4 كرات، ثم 5، ثم 6، وينخفض أداؤهم بشكل طفيف فقط.
النتيجة: الذكاء الاصطناعي يشبه لاعب التلاعب بالكرات الذي يمكنه التعامل مع 4 كرات بشكل جيد، ولكن بمجرد إضافة كرة خامسة أو سادسة، يسقط كل شيء.
النتيجة النهائية: مع زيادة طول الكلمات، ينخفض نجاح البشر تدريجياً وببطء. ولكن بالنسبة للذكاء الاصطناعي، وخاصة النماذج الصغيرة، فإن معدلات النجاح تنهار. قد يحل النموذج الصغير كلمات مكونة من 4 أحرف بشكل جيد، لكن قدرته على حل كلمات مكونة من 7 أحرف أو أكثر تنخفض بمقدار 70 ضعفاً. يبدو أن الذكاء الاصطناعي يفقد تتبع القواعد كلما طالت الكلمة.
الملخص
تخلص الورقة البحثية إلى أن نماذج الذكاء الاصطناعي الحالية بارعة في تخمين كيف "يجب" أن تبدو الكلمات بناءً على الاحتمالات، لكنها تعاني عندما يتعين عليها اتباع مجموعة صارمة من القواعد الثابتة. غالباً ما تفوت كلمات بسيطة وشائعة لأن تلك الكلمات تبدو "غير مرجحة إحصائياً" بالنسبة للذكاء الاصطناعي، وتنهار تماماً عندما يصبح اللغز طويلاً جداً أو معقداً. أفضل طريقة لإصلاح ذلك ليست مجرد جعل الذكاء الاصطناعي أكبر، بل تغيير كيفية مراجعته لعمله الخاص.
ملخص تقني: استيفاء القيود التصويرية (Orthographic) والمواءمة مع الصعوبة البشرية في النماذج اللغوية الكبيرة
1. بيان المشكلة
تواجه النماذج اللغوية الكبيرة (LLMs) تحديًا جوهريًا عند توليد النصوص تحت قيود تصويرية صلبة (hard orthographic constraints): وهي استيفاء قواعد منفصلة على مستوى الحروف مع التنقل في مساحات تركيبية ضخمة. وخلافًا لمطابقة الأنماط الدلالية، التي تهيمن على تدريب النماذج اللغوية الكبيرة، يتطلب التوليد المقيد التزامًا صارمًا بالصلاحية الهيكلية (مثل استخدام مجموعة محددة من الحروف، وتضمين حرف إلزامي، واستيفاء متطلبات الحد الأد_الأدنى للطول).
ثمة توتر جوهري بين المعقولية التوزيعية (distributional plausibility) والصلاحية الهيكلية. فالنماذج المدربة على الأنماط التوزيعية قد تمنح احتمالات توليد منخفضة للحلول الصحيحة وفقًا للقيود والتي تظهر أنماطًا تصويرية غير نمطية (مثل الحروف الساكنة المزدوجة أو تكرارات حروف معينة)، حتى لو كانت تلك الكلمات شائعة في بيانات التدريب. وبينما بحثت الأعمال السابقة في القيود الدلالية أو استخدمت ضمانات وقت فك التشفير (مثل البحث الشعاعي الشبكي - Grid Beam Search)، إلا أن هناك نقصًا في التقييم المنهجي لكيفية تعامل النماذج الضبطية (instruction-tuned) مع القيود التصويرية الصلبة في سياقات المفردات المفتوحة دون آليات فرض خارجية. علاوة على ذلك، فإن التفاعل بين حجم النموذج، والميزانيات الحسابية (توكنات الاستنتاج)، والصعوبة المعايرة بشريًا لا يزال غير مستكشف بشكل كافٍ.
2. المنهجية
يقيم المؤلفون 39 تكوينًا للنماذج عبر ثلاث عائلات (Qwen3، وClaude Haiku 4.5، وGPT-5-mini) باستخدام 58 لغزًا من لعبة "Spelling Bee" الخاصة بجريدة نيويورك تايمز.
تعريف المهمة
تُكلف النماذج بتوليد كلمات إنجليزية باستخدام مجموعة محددة من سبعة حروف، حيث يكون أحدها إلزاميًا. يجب أن تكون المخرجات الصالحة:
تحتوي على أربعة أحرف على الأقل.
تستخدم فقط الحروف السبعة المقدمة (التكرار مسموح به).
تتضمن الحرف المركزي الإلزامي.
(إضافي) تستخدم جميع الحروف السبعة لتكوين "الكلمات الشاملة" (pangrams).
الإعداد التجريبي
النماذج:
Qwen3: خمسة نماذج مفتوحة المصدر (4B, 8B, 14B, 32B كثيفة؛ و30B-A3B بنظام خليط الخبراء - MoE). تم اختبارها في أنماط التوليد المباشر وأنماط "التفكير" عند ميزانيات 4K، و8K، و16K توكن.
Claude Haiku 4.5: نموذج ملكية خاصة تم اختباره في أنماط التفكير المباشرة والممتدة عند ميزانيات 4K، و8K، و16K.
GPT-5-mini: نموذج ملكية خاصة تم اختباره عند ثلاثة مستويات من جهد الاستنتاج (مرتبطة بميزانيات توكن تقريبية).
التلقين (Prompting): تسرد التلقينات الصفرية (Zero-shot) القيود صراحةً دون الكشف عن عدد الحلول أو أطوال المخرجات المتوقعة لعزل قدرات التعامل مع القيود الجوهرية.
المرجع البشري للصعوبة: تستخدم الدراسة بيانات الأداء التجميعية من 10,000 حلّال بشري لكل لغز لتحديد مقاييس الصعوبة الحقيقية (معدلات النجاح تتراوح من 3% إلى 97%).
المقاييس: الدقة (Precision)، والاستدعاء (Recall)، ومقياس F1. بالإضافة إلى ذلك، تقيس الدراسة قوة المعايرة (ارتباط رانك سبيرمان بين الصعوبة البشرية ومعدلات الخطأ في النموذج) والاستدعاء المصنف حسب الطول.
3. المساهمات الرئيسية
توصيف الأداء عبر العائلات: تُظهر الدراسة أن الاختلافات بين عائلات النماذج أكبر بكثير (فجوة F1 تتراوح بين 2.0 إلى 2.2 ×) من المكاسب المحققة عبر زيادة المعلمات داخل عائلة واحدة (زيادة بنسبة 83% من 4B إلى 32B في Qwen). ويُعزى هذا الفارق بشكل أساسي إلى الاستدعاء وليس الدقة.
الحساسية تجاه الميزانية غير المتجانسة: تأثير ميزانيات "التفكير" ليس موحدًا. تظهر النماذج ذات السعة العالية عوائد قوية على زيادة الحوسبة، بينما قد تتدهور النماذج متوسطة الحجم (مثل Qwen-14B) مع زيادة التخصيص، وتظهر النماذج الصغيرة عدم حساسية للميزانية.
المواءمة مع الصعوبة البشرية وتحليل الفشل: باستخدام بيانات بشرية واسعة النطاق، وضع المؤلفون معايرة متواضعة ولكنها ثابتة (ρ = 0.28–0.42) عبر العائلات. والأهم من ذلك، حددوا حالات فشل نظامية في الكلمات الشائعة ذات التصوير غير النمطي (مثل "data"، "loll"، "acai") حيث يكون النجاح البشري مرتفعًا (>80%) بينما تكون معدلات الخطأ في النماذج قصوى (>92%).
4. النتائج الرئيسية
التوسع عبر العائلات مقابل التوسع داخل العائلة الواحدة
فجوة الأداء: تحقق النماذج المملوكة (GPT-5-mini، Claude Haiku) درجات F1 أعلى بمقدار 2.0–2.2 × من أكبر تكوين مفتوح المصدر (Qwen3-32B).
الاستدعاء مقابل الدقة: الفجوة في الأداء مدفوعة بالاستدعاء (الملكية الخاصة: 68% مقابل Qwen-32B: ~23%)، بينما الفروق في الدقة متواضعة (9 نقاط مئوية).
استدعاء الكلمات الشاملة (Pangram): تتسع الفجوة بشكل كبير للقيود المعقدة؛ حيث يحقق GPT-5-mini استدعاءً للكلمات الشاملة بنسبة 77.6% مقابل 15.8% لـ Qwen-32B.
ارتباك التقطيع (Tokenizer Confound): أظهر تحليل الارتباط الجزئي أن تصميم التقطيع ليس هو المسبب الرئيسي للاختلافات في التوسع داخل العائلة الواحدة.
الحساسية للميزانية
النماذج عالية السعة: تظهر متغيرات Qwen الكثيفة (32B) و(MoE 30B)، بالإضافة إلى النماذج المملوكة، عوائد إيجابية من زيادة ميزانيات التفكير. ويظهر متغير MoE 30B (الذي يحتوي على 3 مليارات معلم نشط فقط) أقوى اعتماد، حيث يتطلب ميزانية كبيرة للتعويض عن السعة الفعلية المحدودة.
التدهور في الأحجام المتوسطة: يعاني نموذج Qwen-14B من تدهور متناقض، حيث ينخفض الأداء مع زيادة ميزانية الاستنتاج. يقترح المؤلفون أن هذا قد يكون بسبب تضخيم المعقولية التوزيعية دون تحسن متناسب في التحقق من القيود.
عدم حساسية النماذج الصغيرة: تظهر النماذج الأصغر (4B, 8B) أداءً ثابتًا عبر الميزانيات، وغالبًا ما تفشل في توليد أي كلمات صالحة في 51% من الألغاز بدون وضع التفكير.
المواءمة مع الصعوبة البشرية
المعايرة: يوجد ارتباط متواضع بين الصعوبة البشرية ومعدلات خطأ النماذج (ρ = 0.28–0.42). وتظهر النماذج المملوكة مواءمة أعلى من نظيراتها مفتوحة المصدر.
الفشل النظامي: تفشل النماذج باستمرار في الكلمات الشائعة ذات الأنماط التصويرية المحددة:
الأنماط غير النمطية/الكلمات المستعارة: "data"، "acai".
ملاحظة: هذه الكلمات شائعة في بيانات التدريب ولكن يتم إغفالها لأن أنماطها التصويرية غير ممثلة بشكل كافٍ مقارنة بتكرارها أو لأنها تنتهك أولويات النماذج التوزيعية المتعلمة.
التدهور المرتبط بالطول
الإنسان مقابل النموذج: ينخفض النجاح البشري تدريجيًا مع طول الكلمة (انخفاض بمقدار 1.3 × من كلمات الـ 4 أحرف إلى كلمات الـ 7+ أحرف).
انهيار النموذج: تظهر النماذج تدهورًا كارثيًا مع الطول، يتراوح بين 1.5 × إلى أكثر من 71 × انخفاضًا في الاستدعاء اعتمادًا على السعة. يشير هذا إلى نقص في المتانة في التعامل مع التعقيد التركيبي المتزايد مقارنة باستراتيجيات الذاكرة العاملة البشرية.
5. الأهمية والادعاءات
يزعم البحث أن بنيات النماذج اللغوية الكبيرة الحالية تظهر اعتمادًا مفرطًا ومنهجيًا على المعقولية التوزيعية، مما يعيق الأنماط التصويرية غير النمطية ولكنها صالحة وفقًا للقيود. تشير النتائج إلى أن:
استيفاء القيود أمر متميز: إن استيفاء القيود التصويرية الصلبة يشغل آليات مختلفة عن توليد اللغة الطبيعية، مما يكشف عن اختناقات في الذاكرة العاملة والعد المنهجي التي لا تُحل بمجرد زيادة عدد المعلمات.
البنية أهم من الحجم: الاختلافات الهيكلية بين العائلات (التي قد تتعلق بتكوين بيانات التدريب أو التحسين) أكثر أهمية لاستيفاء القيود من زيادة عدد المعلمات داخل العائلة الواحدة.
تخصيص الميزانية غير خطي: زيادة الميزانيات الحسابية لا تؤدي دائمًا إلى تحسين الأداء؛ فبالنسبة لبعض النماذج، يؤدي ذلك إلى تفاقم الإخفاقات عبر تضخيم الانحيازات التوزيعية.
الاتجاهات المستقبلية: يقترح المؤلفون أن معالجة هذه القضايا تتطلب وحدات تحقق صريحة مستقلة عن الأولويات التوزيعية، وأهداف تدريب تكافئ الحلول غير النمطية تصويريًا، وسياسات تخصيص ميزانية خاصة بكل نموذج. كما يشيرون إلى أن هذه النتائج قد تعمم على مجالات مقيدة أخرى مثل توليد الكود البرمجي وتوليد البيانات المهيكلة حيث قد تكون المخرجات الصحيحة غير نمطية توزيعيًا.
تخلص الدراسة إلى أنه بينما يمكن للنماذج استيفاء القيود، إلا أنها تفعل ذلك بهشاشة تختلف عن الإدراك البشري، لا سيما فيما يتعلق بالتحقق من الصلاحية الهيكلية مقابل الأولويات الإحصائية المتعلمة.