💬 NLP

Entropy of Ukrainian

تقدم هذه الورقة أول دراسة لتقدير اعتلاج (إنتروبيا) اللغة الأوكرانية من خلال تكرار تجربة كلود شانون لتوقع الحروف عام 1951 مع 184 متطوعاً، مما أسفر عن حد أعلى يبلغ حوالي 1.201 بت لكل حرف، ومقارنة هذه النتيجة بنماذج اللغات الكبيرة الحالية.

المؤلفون الأصليون: Anton Lavreniuk, Mykyta Mudryi, Markiian Chaklosh

نُشر 2026-05-01

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Anton Lavreniuk, Mykyta Mudryi, Markiian Chaklosh

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تلعب لعبة "تخمين الحرف التالي" مع صديق لك. تعرض عليه جملة مقطوعة في منتصفها، مثل: "القط جلس على الـ..."

على صديقك أن يخمن الحرف التالي.

إذا خمن "م" (كلمة مـات/سجادة)، فقد أصاب. كان ذلك سهلاً.
إذا خمن "ز"، فهو مخطئ. عليه أن يخمن مرة أخرى.
إذا خمن "و" (كلمة وسادة/pillow - بالإنجليزية)، فقد أصاب.

هذه اللعبة تقيس شيئاً يسمى الإنتروبيا (Entropy). في عالم اللغة، لا تتعلق الإنتروبيا بالحرارة أو الفوضى؛ بل هي مقياس لـ المفاجأة.

الإنتروبيا العالية: الحرف التالي مفاجأة تامة. عليك أن تخمن عدة مرات قبل أن تصيب. تبدو اللغة فوضوية وغير متوقعة.
الإنتروبيا المنخفضة: الحرف التالي واضح جداً. تخمنه فوراً. تبدو اللغة متوقعة ومتكررة.

التجربة: تخمين اللغة الأوكرانية

لعقود من الزمن، لعب العلماء هذه اللعبة مع اللغة الإنجليزية. في عام 1951، سأل رجل يدعى كلود شانون الناس أن يخمنوا الحرف التالي في الجمل الإنجليزية. وجد أن الإنجليزية متوقعة تماماً؛ فأنت تحتاج في المتوسط إلى حوالي 1.2 محاولة لتصيب الحرف التالي.

لكن لم يسبق لأحد أن لعب هذه اللعبة مع اللغة الأوكرانية حتى الآن.

قرر ثلاثة باحثين من أوكرانيا (أنطون، وميكيتا، وماركيان) إجراء هذه التجربة لأول مرة. وإليكم كيف فعلوا ذلك، مترجماً بأسلوب بسيط:

1. اللاعبون (المتطوعون)

بدلاً من استئجار عمال محترفين، طلبوا من الناس العاديين على وسائل التواصل الاجتماعي (معظمهم على تيليجرام) المشاركة في اللعب.

الإعداد: قدموا للمتطوعين جملًا من مقالات إخبارية.
اللمسة المميزة: للحفاظ على حماس الناس، لم يبدأوا من بداية الجملة تماماً. عرضوا أول 70 حرفاً (وهو طول جملة قصيرة تقريباً) وسألوا: "ماذا يأتي بعد ذلك؟"
اللعبة: يكتب المتطوع حرفاً. إذا كان خطأ، يتحول لونه إلى الأحمر، ويحاول مرة أخرى. إذا كان صحيحاً، ينتقل إلى الحرف التالي.
الهدف: أرادوا معرفة عدد "التخمينات الخاطئة" التي يستغرقها الشخص قبل الوصول إلى الحرف الصحيح.

2. النتائج: ما مدى قابلية التوقع في اللغة الأوكرانية؟

بعد جمع البيانات من 184 متطوعاً قاموا بأكثر من 17,000 تخمين، قام الباحثون بتحليل الأرقام.

النتيجة: وجدوا أن "مستوى المفاجأة" (الإنتروبيا) في اللغة الأوكرانية يبلغ حوالي 1.201 بت لكل حرف.
ماذا يعني ذلك؟ هذا يعني أن اللغة الأوكرانية مشابهة جداً للغة الإنجليزية من حيث القدرة على التوقع. تماماً مثل الإنجليزية، إذا كنت تعرف الحروف السابقة، فإن الحرف التالي في الأوكرانية يكون واضحاً تماماً في الغالب.
الحشو (Redundancy): لأن اللغة متوقعة للغاية، فإن حوالي 76% من الحروف في الجملة الأوكرانية هي حروف "زائدة". يمكنك في الواقع إزالة جزء كبير من النص، وسيظل المتحدث الأصلي قادراً على تخمين الأجزاء المفقودة بدقة.

3. مشكلة "الغش"

كان على الباحثين أن يكونوا حذرين. بما أن هذه كانت لعبة عبر الإنترنت، فقد يكون بعض الأشخاص قد قاموا بـ:

البحث عن الجملة الكاملة عبر الإنترنت.
التخمين عشوائياً وحالفهم الحظ.
فقدوا الاهتمام وتوقفوا عن اللعب في منتصف الطريق.

ولحل هذه المشكلة، تصرفوا كحكام صارمين. استبعدوا نتائج الأشخاص الذين لعبوا بشكل سيء (الذين ربما لم يكونوا يحاولون حقاً) والأشخاص الذين لعبوا بشكل مثالي للغاية (الذين ربما غشوا). وحتى بعد كونهم صارمين للغاية واستبعاد الكثير من البيانات، ظلت النتيجة حول 1.20.

4. مقارنة الذكاء الاصطناي: البشر مقابل الروبوتات

طلب الباحثون أيضاً من نماذج الذكاء الاصطناعي الحديثة (نماذج اللغات الكبيرة) لعب نفس اللعبة.

ميزة الذكاء الاصطناعي: كانت نماذج الذكاء الاصطناعي أفضل بكثير من البشر. استطاعت بعض أفضل نماذج الذكاء الاصطناعي تخمين الحرف التالي بنتيجة تقارب 0.7.
العائق: يحذر الباحثون من أن الذكاء الاصطناعي قد يكون "يغش" بطريقة مختلفة. نظرًا لأن الذكاء الاصطناعي تم تدريبه على كميات هائلة من البيانات الإخبارية (مشابهة للجمل المستخدمة في اللعبة)، فقد يكون قد حفظ الجمل المحددة بدلاً من فهم اللغة حقاً. الأمر يشبه طالباً حفظ نموذج الإجابة بدلاً من تعلم الرياضيات.
الاستنتاج: الذكاء الاصطناعي جيد جداً، ولكن بما أنه قريب جداً من النتيجة "المثالية"، فمن الصرّف تحديد ما إذا كان يفهم الأوكرانية حقاً أم أنه مجرد "فرط ملاءمة" (overfitting) للمقالات الإخبارية المحددة المستخدمة.

الخلاصة الكبرى

هذه الورقة البحثية هي المرة الأولى التي نحصل فيها على رقم صلب حول مدى قابلية توقع اللغة الأوكرانية.

اللغة الأوكرانية ليست فوضوية. فهي منظمة للغاية وقابلة للتوقع، تماماً مثل الإنجليزية.
البشر جيدون في ذلك. يمكن للناس العاديين تخمين الحرف التالي في حوالي 1.2 محاولة.
الذكاء الاصطناعي أفضل، لكنه ربما يكون جيداً أكثر من اللازم. يمكن لنماذج الذكاء الاصطناعي التخمين بشكل أسرع، ولكن علينا أن نكون حذرين من الخلط بين "الحفظ" و"الذكاء".

يعترف الباحثون بأن دراستهم لم تكن مثالية (لم يكن لديهم عدد كافٍ من اللاعبين، وكانت جميع الجمل من مقالات إخبارية)، لكنها تعطينا نقطة انطلاق أفضل بكثير مما كان لدينا من قبل. كما أنهم شاركوا الكود والبيانات الخاصة بهم حتى يتمكن الآخرون من محاولة تحسين اللعبة في المستقبل.

إليك ملخص تقني مفصل لورقة البحث بعنوان "إنتروبيا اللغة الأوكرانية" (Entropy of Ukrainian) للباحثين أنطون لافرنيوك، ميكيتا مودري، وماركيان تشاكلوش.

1. بيان المشكلة

تتناول الورقة البحثية نقص البيانات التجريبية المتعلقة بـ الإنتروبيا (عدم القدرة على التنبؤ وكثافة المعلومات) في اللغة الأوكرانية. وبينما وضعت تجربة كلود شانون عام 1951 منهجية لقياس إنتروبيا اللغة عبر التنبؤ البشري، وما تلاها من دراسات كمّت هذه القيمة للغتين الإنجليزية والعبرية، لم تُجرَ دراسة مماثلة للغة الأوكرية.

اعتمدت التقديرات الحالية للغة الأوكرانية على نماذج (N-gram) إحصائية (Babenko and Sushko, 2012)، والتي أسفرت عن إنتروبيا تتراوح بين 1.25 و1.40 بت لكل حرف (bpc) عند $N=9$ . ومع ذلك، تعاني نماذج (N-gram) من ندرة البيانات مع زيادة طول السياق، ولا يمكنها التقاط الاعتمادات طويلة المدى المتأصلة في اللغة الطبيعية. يهدف المؤلفون إلى إعادة إنتاج تجربة شانون في التخمين البشري لتوفير حد أقصى أكثر دقة وغير مرتبط بالسياق لإنتروبيا اللغة الأوكرية.

2. المنهجية

تعيد الدراسة إنتاج تجربة شانون باستخدام منصة عبر الإنترنت تعتمد على المتطوعين، مع تكييف منهجية (Ren et al., 2019) (التي درست اللغة الإنجليزية).

التصميم التجريبي:
- المشاركون: 184 متطوعاً تم استقطابهم عبر تطبيق تيليجرام (Telegram) والتوصية الشفهية.
- المهمة: عُرضت على المشاركين جمل من مقالات إخبارية أوكرانية (Ukrainska Pravda). تم الكشف عن أول 70 حرفاً، وكان على المشاركين تخمين الحرف التالي بالتتابع حتى يتم إدخال الحرف الصحيح.
- القيود: للحفاظ على التفاعل، بدأت التجربة من الموضع 70 بدلاً من 0. تم ترشيح الجمل لتكون أطوالها بين 120 و200 حرف.
- جمع البيانات: سجل 323 مستخدماً، وبدأ 184 منهم الجلسات. جمعت الدراسة 17,023 تخميناً صحيحاً (ملاحظة) من 501 جلسة مكتملة و192 جلسة غير مكتملة.
حساب الإنتروبيا:
- يتم حصر الإنتروبيا الحقيقية $H$ ضمن النطاق $H_{lower} \le H \le H_{upper}$ .
- الحد الأقصى ( $H_{upper}$ ): تم حسابه بناءً على توزيع عدد التخمينات المطلوبة لإيجاد الحرف الصحيح.
- الحد الأدنى ( $H_{lower}$ ): تم حسابه بناءً على التوزيع "الأقل إثارة للدهشة" (بافتراض أن الحرف الذي يُخمن في المحاولة رقم $i$ له احتمال قدره $1/i$ ).
- الصيغة: $H_{upper} = -\sum_{i=1}^{K} q_i \log_2 q_i$ ، حيث $q_i$ هو كسر الحروف التي تم تخمينها بشكل صحيح في المحاولة رقم $i$ .
معالجة البيانات والترشيح:
- إزالة القيم المتطرفة: استُخدم تحليل ثنائي الحدين (binomial analysis) لاستبعاد الجلسات "المشبوهة" (4.3%) حيث كان الأداء غير محتمل إحصائياً (ربما بسبب الغش أو البحث عن الإجابات عبر الإنترنت).
- التقليم (Trimming): للتخفيف من "تأثير المتطوعين" (انخفاض مستوى التفاعل مقارنة بالعمال المأجورين)، قام المؤلفون بتقليم 65% من الجلسات ذات الأداء المنخفض بشكل صارم. تم اختيار ذلك لتقليل عرض فاصل الثقة مع الحفاظ على التباين الطبيعي.
- التجميع: تم تجميع البيانات من المواضع 70 إلى 110 لحساب الإنتروبيا النهائية، حيث قدم السياق لما بعد 70 حرفاً عوائد متناقصة في دقة التخمين.

3. المساهمات الرئيسية

أول قياس بشري للإنتروبيا للغة الأوكرية: هذه هي الدراسة الأولى التي تطبق تجربة تخمين شانون على اللغة الأوكرية.
الحد الأقصى المنقح: تحدد الدراسة حداً أقصى جديداً قدره 1.201 بت لكل حرف (bpc) للغة الأوكرية، وهو أقل من تقديرات (N-gram) السابقة (1.25–1.40 bpc)، مما يشير إلى أن السياقات الطويلة تقلل بشكل كبير من عدم القدرة على التنبؤ.
معيار قياس لنماذج اللغات الكبيرة (LLM): قارن المؤلفون الأداء البشري مقابل نماذج اللغات الكبيرة (LLMs) المتطورة على نفس المجموعة النصية، مما وفر خط أساس لكفاءة النموذج مقابل الحدس البشري.
المصدر المفتوح: تم نشر الكود، والبيانات، والواجهة التجريبية لتسهيل الأبحاث المستقبلية.

4. النتائج الرئيسية

الأداء البشري

الحد الأقصى: 1.201 bpc (فاصل ثقة 95%: [1.10, 1.19]).
الحد الأدنى: 0.5987 bpc.
الحشو (Redundancy): تظهر اللغة حشواً بنسبة تقارب 76.4%.
المقارنة بالإنجليزية: إن إنتروبيا اللغة الأوكرية (1.201 bpc) متشابهة بشكل ملحوظ مع الإنجليزية (1.22 bpc)، رغم أن الأوكرية تمتلك أبجدية أكبر (33 حرفاً + مسافة مقابل 26 + مسافة). يشير المؤلفون إلى أن الحروف الأقل تكراراً في الأوكرية لا تزيد بشكل كبير من الإنتروبيا الإجمالية.

أداء نماذج اللغات الكبيرة (LLM)

اختبر المؤلفون عدة نماذج مدربة مسبقاً (Gemma-3, Llama-3.1, Qwen, Mistral، ونموذج Lapa المخصص للغة الأوكرية) على نفس مجموعة البيانات.

أفضل النماذح أداءً: حقق نموذج Gemma-3 (27B) نسبة 0.717 bpc، وحقق نموذج Lapa (12B) نسبة 0.734 bpc.
المقارنة: تتفوق نماذج (LLMs) بشكل كبير على البشر (حيث أن الـ BPC الأقل هو الأفضل).
مخاوف الإفراط في التخصيص (Overfitting): بينما تقترب نماذج (LLMs) من الحد الأدنى البشري (0.599 bpc)، يشير المؤلفون إلى أن هذا قد يدل على الإفراط في التخصيص لمجموعة الأخبار المحددة بدلاً من التقاط الإنتروبيا الحقيقية للغة بأكملها. الفجوة بين الحد الأقصى البشري (1.201) ونتائج (LLM) تشير إلى أن الإنتروبيا الحقيقية تقع في مكان ما بينهما.

5. الأهمية والقيود

الأهمية:

كثافة المعلومات: تؤكد أن اللغة الأوكرية تمتلك كثافة معلومات مشابهة للإنجليزية، مما يدعم فرضيات الضغط والنمذجة عبر اللغات.
تقييم النماذج: توفر خط أساس بشري صارم لتقييم نماذج معالجة اللغات الطبيعية (NLP) الأوكرية. حقيقة أن أفضل نماذج (LLMs) تقترب من الحدود الدنيا البشرية تشير إلى أنها فعالة جداً في نمذجة بناء الجملة والدلالات في الأوكرية، وإن كان يجب التحقيق في احتمالية الإفراط في التخصيص.
رؤية منهجية: تسلط الضوء على تحديات التجارب القائمة على المتطوعين (التفاعل، الغش) وضرورة التقييد الصارم للبيانات للحصول على تقديرات موثوقة للإنتروبيا.

القيود:

حجم العينة: مجموعة البيانات (17 ألف ملاحظة) أصغر من الدراسات الإنجليزية المماثلة (دراسة Ren et al. كانت تحتوي على حوالي 172 ألف)، مما يؤدي إلى فواصل ثقة أوسع.
نافذة السياق: بدأت التجربة من الموضع 70، مما منع حساب منحنى الإنتروبيا من الموضع 0 وجعل الاستقراء إلى سياق لانهائي أمراً صعباً.
تحيز مجموعة البيانات: تألفت المجموعة النصية من 5 مقالات إخبارية فقط، والتي قد لا تمثل الكلام غير الرسمي، أو اللهجات الإقليمية، أو الكتابة الإبداعية، مما قد يؤدي إلى تقدير أقل للإنتروبيا الحقيقية للغة الكاملة.
تحيز المتطوعين: كان المتطوعون غير المأجورين أقل تفاعلاً من العمال المأجورين، مما قد يؤدي إلى تضخيم تقدير الإنتروبيا (جعل اللغة تبدو أكثر عدم قابلية للتنبؤ مما هي عليه).

الخاتمة

نجحت الورقة البحثية في تحديد إنتروبيا اللغة الأوكرية بنحو 1.201 bpc، مما أدى إلى تنقيح التقديرات السابقة وإثبات أن اللغتين الأوكرية والإنجليزية تتشاركان في كثافة معلومات متشابهة. وبينما تتفوق نماذج (LLMs) الحديثة على البشر في مهام التنبؤ، تؤكد الدراسة على الحاجة إلى مجموعات بيانات أكبر وأكثر تنوعاً وضوابط أفضل للتمييز بين نمذجة اللغة الحقيقية والإفراط في التخصيص لمجالات محددة.