تخيل أنك تحاول فهم شكل سحابة هائلة وغير مرئية مكونة من الفكر الخالص. هذا هو عالم الذكاء الاصطناعي، وتحديداً "دماغ" النموذج اللغوي الكبير (LLM). هذه النماذج لا تخزن الكلمات فحسب؛ بل تحول كل جملة تقرؤها إلى خريطة معقدة متعددة الأبعاد. ولتحديد مدى تعقيد هذه الخرائط، يستخدم العلماء أداة تسمى الأبعاد الجوهرية (Intrinsic Dimensionality - ID). فكر في البعد الجوهري كطريقة لقياس مدى "انتشار" أو "تكدس" البيانات. إذا كانت مجموعة الأفكار بسيطة للغاية، فقد تتجمع كلها في دائرة ضيقة ومسطحة (بعد جوهري منخفض). أما إذا كانت متنوعة ومعقدة بشكل جامح، فقد تمتد لتصبح غابة شاسعة عالية الأبعاد (بعد جوهري مرتفع). يحب العلماء استخدام البعد الجوهري لتخمين مدى ذكاء النموذج أو مدى صعوبة المهمة، بافتراض أن الرقم الأعلى يعني بنية أكثر ثراءً وتعقيداً. ولكن هنا تكمن المشكلة: ماذا لو كان الرقم لا يخبرنا عن الأفكار على الإطلاق، بل فقط عن كيفية عدّنا لها؟

هذا هو اللغز الذي عالجه أروا-عثمان، وماركو باروني، ويوري ماكوكو في ورقتهم البحثية بعنوان: "الأنظمة المحلية والعالمية للتعقيد الهندسي في تمثيلات النماذج اللغوية". لقد اكتشفوا أن "درجة التعقيد" (البعد الجوهري) لدماغ النموذج اللغوي ليست حقيقة ثابتة. بدلاً من ذلك، هي تنقلب مثل المفتاح اعتماداً على عدد الكلمات المختلفة التي تغذي بها النموذج مقابل عدد مرات تكرارها. وجدوا أنه إذا كان لديك حشد صغير من الكلمات الفريدة، فسيظهر النموذج معقداً بشكل مفاجئ. ولكن إذا كان لديك حشد ضخم من الكلمات الفريدة، فسيظهر النموذج أكثر تعقيداً أيضاً، ولكن لسبب مختلف تماماً. والجزء الأكثر إثارة للدهشة؟ إذا قارنت بين نوعين من الكلمات (مثل "الأسماء" و"حروف الجر") دون التحكم في عدد الكلمات الفريدة في كل مجموعة، فقد تحصل على النتيجة معكوسة. اتضح أن "التعقيد" الذي نراه قد يكون مجرد خدعة بصرية ناتجة عن حجم المفردات، وليس عن الصعوبة الفعلية للكلمات نفسها.

خدعة المفردات الكبرى

لفهم هذا، دعنا نتخيل دماغ النموذج اللغوي كأنه أرضية رقص سحرية وعملاقة. في كل مرة يرى فيها النموذج كلمة، فإنه يرسل "راقصاً" إلى أرضية الرقص ليقوم بحركة معينة. إذا رأى النموذج كلمة "قطة" ألف مرة، فإنه يرسل ألف "راقص قطة". وعلى الرغم من أنهم جميعاً "راقصو قطة"، إلا أنهم قد يتخذون وضعيات مختلفة قليلاً بناءً على الجملة التي يتواجدون فيها (على سبيل المثال: "القطة تنام" مقابل "القطة تقفز").

أراد الباحثون معرفة: كيف يغير عدد الكلمات المختلفة (التنوع المعجمي) شكل أرضية الرقص هذه؟

لقد أجروا تجربة ضخمة باستخدام مجموعة بيانات مكونة من 10,000 عينة. أنشأوا 11 سيناريو مختلفاً. في أحد السيناريوهات، استخدموا اسماً فريداً واحداً فقط (مثل "قطة") مكرراً 10,000 مرة. وفي سيناريو آخر، استخدموا 10,000 اسم فريد (مثل "قطة"، "كلب"، "فيل"، إلخ)، حيث تظهر كل كلمة مرة واحدة فقط. ثم قاموا بقياس "البعد الجوهري" (ID) لوضعيات الراقصين باستخدام مسطرة خاصة تسمى GRIDE.

النظامان: المحلي مقابل العالمي

كانت النتائج مذهلة. إن العلاقة بين عدد الكلمات الفريدة ودرجة التعقيد لم تكن مجرد صعود أو هبوط؛ بل انقلبت اعتماداً على مقياس القياس.

1. النظام المحلي (تأثير "الغرفة المزدحمة")
عندما استخدم الباحثون مقياس قياس صغيراً (بالنظر إلى عدد قليل من الجيران في كل مرة) وكان لديهم تنوع معجمي منخفض (كلمات فريدة قليلة، وتكرارات كثيرة)، حدث شيء غريب. كلما قل عدد الكلمات الفريدة، زادت درجة التعقيد.

• التشبيه: تخيل أرضية رقص بها نوع واحد فقط من الراقصين (لنقل "قطط"). إذا كان لديك 10,000 قطة، فستكون جميعها متكدسة معاً. ولكن نظرًا لوجود الكثير منها، فإنها تُجبر على إيجاد كل طريقة دقيقة وبسيطة لتغيير وضعياتها لتجنب الاصطدام ببعضها البعض. المنطقة "المحلية" حول أي قطة واحدة مليئة بالتباينات. ترى المسطرة هذا التباين الكثيف والمزدحم وتقول: "واو، هذا فضاء معقد للغاية وعالي الأبعاد!"
• النتيجة: كلمات فريدة أقل = بعد جوهري أعلى (في هذا المنظور المحلي تحديداً).

2. النظام العالمي (تأثير "الموكب الضخم")
عندما انتقلوا إلى مقياس قياس أكبر أو زادوا عدد الكلمات الفريدة، انقلبت القاعدة. الآن، أدى وجود كلمات فريدة أكثر إلى درجة تعقيد أعلى.

• التشبيه: الآن تخيل موكباً به 10,000 نوع مختلف من الراقصين (قطط، كلاب، فيلة، رواد فضاء، إلخ). لكل نوع مكانه المتميز الخاص به على أرضية الرقص. المنطقة "المحلية" حول أي راقص واحد فارغة لأنه لا توجد "قطط" أخرى قريبة منه لتزاحمه. بدلاً من ذلك، تنظر المسطرة إلى الموكب بأكمله وترى أن الراقصين منتشرون عبر كامل كون الاحتمالات. المساحة شاسعة لأن هناك الكثير من أنواع الأشياء المختلفة.
• النتيجة: كلمات فريدة أكثر = بعد جوهري أعلى (في هذا المنظور العالمي).

نقطة التحول السحرية

الجزء الأكثر إثارة في الورقة البحثية هو أن المؤلفين لم يكتفوا بمراقبة هذا الانقلاب فحسب؛ بل تنبأوا بدقة بمكان حدوثه.

لقد استنتجوا صيغة بسيطة ومثالية لـ "نقطة التحول" حيث تنقلب القاعدة من "كلمات أقل = بعد جوهري أعلى" إلى "كلمات أكثر = بعد جوهري أعلى". يحدث التحول عندما يساوي عدد الكلمات الفريدة ($n$) إجمالي عدد العينات ($N$) مقسوماً على مقياس القياس ($k$).

• الصيغة: $n = N / k$
• ماذا تعني: إذا كنت تنظر إلى حي سكني يضم 128 راقصاً ($k=128$) ولديك 10,000 عينة إجمالية ($N=10,000$)، فإن التحول يحدث عندما يكون لديك بالضبط 78 كلمة فريدة ($10,000 / 128 \approx 78$).
• الإثبات: اختبروا ذلك على نموذجين مختلفين من نماذج الذكاء الاصطناዊ العملاقة (Qwen3-8B و Meta-Llama-3-8B) ووجدوا أن التحول حدث بالضبط عند هذا العدد المتوقع في كل مرة. لم يكن مجرد تخمين؛ بل كان يقيناً رياضياً بناءً على كيفية ترتيب البيانات.

لماذا يهم هذا (ولماذا كنا مخطئين)

هذا الاكتشاف يمثل تحذيراً كبيراً للعلماء الذين يستخدمون هذه الأدوات. تُظهر الورقة أنه إذا قارنت بين مجموعتين من الكلمات دون التحكم في عدد الكلمات الفريدة في كل مجموعة، فقد تحصل على الإجابة معكوسة تماماً.

فخ "الاسم مقابل حرف الجر":
أظهر المؤلفون مثالاً كلاسيكياً. في نص طبيعي، تحتوي "الأسماء" (مثل كلب، منزل، فكرة) على آلاف الكلمات الفريدة، بينما تحتوي "حروف الجر" (مثل في، على، عند) على بضع عشرات فقط.

• الرؤية القياسية: إذا قمت فقط بقياس تعقيد الأسماء مقابل حروف الجر، فستبدو الأسماء وكأنها تعيش في فضاء أكثر تعقيداً وعالي الأبعاد. قد تعتقد: "الأسماء غنية ومتنوعة للغاية!"
• الواقع: قام المؤلفون بمطابقة المجموعتين بحيث أصبح لكل منهما بالضبط 25 كلمة فريدة. فجأة، انقلبت النتيجة! بدت حروف الجر الآن أكثر تعقيداً من الأسماء.
• الدرس: الفرق الأصلي لم يكن لأن الأسماء "أفضل" أو "أكثر تعقيداً". بل كان أثراً جانبياً (خللاً) ناتجاً عن حقيقة أن الأسماء كانت تحتوي على آلاف الأنواع بينما تحتوي حروف الجر على أنواع قليلة فقط. أداة القياس كانت تتفاعل فقط مع عدد الكلمات الفريدة، وليس مع طبيعة الكلمات نفسها.

الخلاصة

تعلمنا هذه الورقة البحثية أننا عندما ننظر إلى "شكل" دماغ الذكاء الاصطناعي، يجب أن نكون حذرين للغاية بشأن ما نقيسه بالفعل.

• إذا كنت تنظر إلى مجموعة صغيرة من الكلمات المتكررة، فإن درجة التعقيد تخبرك بمدى تغيير النموذج لوضعيته لذلك الكلمة الواحدة في سياقات مختلفة.
• إذا كنت تنظر إلى مجموعة ضخمة من الكلمات الفريدة، فإن درجة التعقيد تخبرك بمدى انتشار كامل المفردات.

هذان أمران مختلفان تماماً. لا يمكنك مقارنتهما مباشرة دون إدراك أنك تقيس نظامين مختلفين. لقد وجد المؤلفون قاعدة رياضية دقيقة لإخبارك في أي نظام أنت. إنه تذكير بأنه في عالم الذكاء الاصطناعي، أحياناً تكون الأرقام التي تبدو "أكثر تعقيداً" هي مجرد انعكاس لكيفية إعدادنا للتجربة، وليس سراً عميقاً في عقل الآلة. "حقيقة" هندسة النموذج تعتمد كلياً على المقياس الذي تختار النظر من خلاله.