💬 NLP

The Statistical Signature of LLMs

تُظهر هذه الورقة أن الضغط غير الفاقد للبيانات يعمل كمقياس بسيط ومستقل عن النموذج للتمييز بين النصوص المولدة بواسطة النماذج اللغوية الكبيرة والكتابة البشرية من خلال كشف انتظام هيكلي وقابلية ضغط أعلى، رغم أن هذه القدرة على التمييز تتضاءل في بيئات التفاعل المجزأة وصغيرة النطاق.

المؤلفون الأصليون: Ortal Hadad, Edoardo Loru, Jacopo Nudo, Niccolò Di Marco, Matteo Cinelli, Walter Quattrociocchi

نُشر 2026-02-23

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ortal Hadad, Edoardo Loru, Jacopo Nudo, Niccolò Di Marco, Matteo Cinelli, Walter Quattrociocchi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الفكرة الكبرى: "البصمة الرقمية" للذكاء الاصطعي

تخيل أنك محقق يحاول معرفة ما إذا كانت رسالة ما قد كُتبت بواسطة إنسان أم روبوت. عادةً، قد تبحث في الخط، أو القواعد، أو الأسلوب. لكن هذه الورقة البحثية تقترح نهجاً مختلفاً: انظر إلى مدى "إحكام" النص.

اكتشف الباحثون أن النماذج اللغوية الكبيرة (LLMs) تترك "بصمة" إحصائية محددة على النصوص التي تكتبها. ووجدوا أن نصوص الذكاء الاصطناعي أكثر قابلية للتنبؤ والتكرار من النصوص البشرية، حتى لو بدت مثالية على السطح.

لقد استخدموا أداة تسمى الضغط غير الفاقد للبيانات (lossless compression) (مثل صيغة ملف zip على جهاز الكمبيوتر الخاص بك) لقياس هذا. إليك المفهوم الجوهري:

الكتابة البشرية تشبه حديقة فوضوية وحيوية؛ فهي مليئة بالمفاجآت، والتباينات الجامحة، والمنعطفات غير المتوقعة. ومن الصعب "ضغطها" لأنها مليئة بالتفاصيل الفريدة.
كتابة الذكاء الاصطناعي تشبه سياجاً مشذباً بدقة؛ فهي تتبع أنماطاً صارمة، وتكرر هياكل معينة، وتظل داخل مسار آمن ومتوقع للغاية. ولأنها منتظمة جداً، فمن السهل جداً "ضغطها" (compression) لتصبح بحجم أصغر.

التجارب الثلاث: اختبار النظرية

اختبر الباحثون هذه الفكرة في ثلاثة "أنظمة بيئية" مختلفة، انتقلوا فيها من المختبر المنضبط إلى العالم الواقعي الفوضوي.

1. المختبر المنضبط (اختبار "التوأم")

الإعداد: أخذوا نفس المطالبة الكتابية (prompt) وطلبوا من كل من البشر والذكاء الاصطناعي إكمال القصة.
النتيجة: عندما حاولوا "ضغط" الملفات، كانت القصص التي أنتجها الذكاء الاصطناعي تُضغط بشكل أفضل بكثير من القصص البشرية.
التشبيه: تخيل شخصين يبنيان برجاً من المكعبات.

الإنسان يبني برجاً يتأرجح قليلاً، ويستخدم مكعبات بألوان مختلفة في أما-كن عشوائية، وله شكل فريد. من الصعب وصف هذا البرج بالكامل في جملة قصيرة.
الذكاء الاصطناعي يبني برجاً متماثلاً تماماً، يستخدم نفس نمط المكعبات مراراً وتكراراً، ويتبع مخططاً صارماً. يمكنك وصف برج الذكاء الاصطناعي بالكامل بكلمات قليلة فقط: "برج أحمر-أزرق-أحمر-أزرق، بارتفاع 20 مكعباً".
النتيجة: برج الذكاء الاصطناعي "أصغر" (أكثر قابلية للضغط) لأنه أكثر تكراراً.

2. إعادة كتابة الموسوعة (اختبار "جروك-بيديا")

الإعداد: قارنوا بين مقالات ويكيبيديا الحقيقية ومقالات "جروك-بيديا"، وهي صفحات ويكيبيديا أعيدت كتابتها بواسطة ذكاء اصطناعي.
النتيجة: كلما طالت المقالات، أصبح الفرق واضحاً. النسخ التي أعاد الذكاء الاصطناو كتابتها أصبحت "قابلة للضغط" (squishy) بشكل متزايد كلما قرأت أكثر.
التشبيه: فكر في المحرر البشري كطباخ يضيف رشة ملح هنا ولمسة توابل هناك، مما يجعل الطبق فريداً في كل مرة. أما المحرر الآلي فهو مثل آلة تضيف نفس الكمية من الملح إلى كل طبق.

في بداية المقال، قد يحاول الذكاء الاصطناعي أن يبدو بشرياً. ولكن مع طول النص، يبدأ الذكاء الاصطناعي في العودة إلى أنماطه "الآمنة". الكاتب البشري يستمر في مفاجئتك؛ بينما يبدأ كاتب الذكاء الاصطناعي في أن يبدو كأنه أسطوانة مشروخة.

3. دردشة وسائل التواصل الاجتماعي (اختبار "مولت-بوك")

الإعداد: قارنوا بين تعليقات ريديت (Reddit) الحقيقية وشبكة اجتماعية وهمية (Moltbook) حيث كان كل منشور يُكتب بواسطة وكلاء ذكاء اصطناعي يتحدثون مع بعضهم البعض.
النتيجة: كان هذا هو الاختبار الأصعب. في الدردشات القصيرة والسريعة، بدا نص الذكاء الاصطناعي والنص البشري متشابهين جداً. واختفى فرق "القابلية للضغط".
التشبيه: تخيل رسالة نصية قصيرة وموجزة: "هاي، ما الأخبار؟"

قد يقول كل من الإنسان والذكاء الاصطناعي ذلك. إنها قصيرة جداً بحيث لا تكشف عن طبيعتها الحقيقية.
لكن إذا طلبت منهم كتابة مقال من 10 صفحات، فإن الإنسان سيتوه، ويخرج عن الموضوع، ويصبح عاطفياً. أما الذكاء الاصطناعي فسيبقى على مسار منطقي ضيق.
العقبة: في المحادثات القصيرة والمجزأة (مثل تعليقات تويتر أو ريديت)، يبذل الذكاء الاصطناعي جهداً كبيراً ليبدو عفوياً لدرجة أنه يخفي أنماطه "الروبوتية". البصمة الهيكلية لا تظهر إلا عندما يصبح النص طويلاً بما يكفي لتسيطر طبيعة الذكاء الاصطناعي التكرارية.

لماذا يهم هذا؟

تخلص الورقة البحثية إلى أن نصوص الذكاء الاصطناعي "أكثر سلاسة" هيكلياً من النصوص البشرية.

الأمر لا يتعلق بـ "زيف" مقابل "واقعية" المعنى: الذكاء الاصطناعي لا يكذب؛ هو فقط قابل للتنبؤ إحصائياً. إنه يلعب في المنطقة الآمنة.
إنه نوع جديد من الكواشف: بدلاً من استخدام ذكاء اصطناعي معقد لمحاربة الذكاء الاصطناعي، يمكنك استخدام أداة حاسوبية بسيطة وقديمة (الضغط) لرصد الفرق.
الحدود: يعمل هذا بشكل أفضل في النصوص الطويلة والمتماسكة. في النصوص القصيرة، أو الفوضوية، أو المعدلة بعناية، تضيع الإشارة.

الخلاصة

إذا تخيلت اللغة كنهر:

اللغة البشرية هي نهر بري به منحدرات، ودوامات، وانعطافات غير متوقعة. من الصعب التنبؤ بمكان ذهاب المياه تالياً.
لغة الذكاء الاصطناعي هي قناة مائية. تتدفق بسلاسة، تتبع خطاً مستقيماً، وسهلة التنبؤ للغاية.

لقد وجد الباحثون أنه إذا قمت بقياس مدى "سلاسة" المياه، يمكنك معرفة ما إذا كانت تتدفق عبر قناة (ذكاء اصطناعي) أو نهر بري (بشري)، حتى لو بدا لون الماء نفسه. وهذا يعطينا طريقة بسيطة وقوية لفهم كيف يعيد الذكاء الاصطناعي تشكيل طريقة تواصلنا.

إليك ملخص تقني مفصل لورقة البحث "البصمة الإحصائية للنماذج اللغوية الكبيرة (LLMs)" من إعداد هداد وآخرون.

1. بيان المشكلة

أدى الانتشار السريع للنماذج اللغوية الكبيرة (LLMs) إلى تغيير النظم البيئية المعلوماتية بشكل جذري، مما خلق تحدياً في التمييز بين النصوص المكتوبة بشرياً وتلك المولدة آلياً. تعاني طرق الكشف الحالية (المصنفات الخاضعة للإشراف، العلامات المائية، والإشارات الإحصائية الصفرية) من الهشاشة: فهي غالباً ما تفشل عند حدوث تحول في المجال (domain shifts)، أو إعادة الصياغة، أو الترجمة، أو التحرير اللاحق. علاوة على ذلك، تعتمد العديد من النهج الحالية على مكونات النموذج الداخلية (الاحتمالات اللوغاريتمية) أو التقييم الدلالي، وهي أمور لا يمكن الوصول إليها دائماً أو لا تتسم بالمتانة.

تتمثل المشكلة الجوهرية التي تعالجها الورقة في غياب فهم هيكلي مستقل عن النموذج لكيفية قيام التوليد الاحتمالي بإعادة تشكيل التنظيم الإحصائي للغة. ويفترض المؤلفون أنه بينما قد تبدو مخرجات النماذج اللغوية الكبيرة متشابهة دلالياً مع النصوص البشرية، إلا أنها تمتلك انتظامات إحصائية متميزة يمكن اكتشافها من خلال مقاييس نظرية المعلومات.

2. المنهجية

يقترح المؤلفون إطار عمل يعتمد على الضغط غير الفاقد للمعلومات (lossless compression) كوكيل للانتظام الإحصائي. تعتمد المنهجية على مبدأ أن النصوص ذات التكرار الهيكلي والأنماط المتكررة العالية تكون أكثر قابلية للضغط.

المقياس الأساسي: تستخدم الدراسة خوارزمية gzip (RFC 1952) لحساب نسبة الضغط $R(x) = C(x) / |x|$ ، حيث $C(x)$ هو الحجم المضغوط و $|x|$ هو الحجم غير المضغوط. تشير النسب المنخفضة إلى قابلية ضغط أعلى (انتظام أقوى).
نهج مستقل عن النموذج: يعمل التحليل مباشرة على تسلسلات بايتات UTF-8 الخام دون استخدام التجزئة (tokenization)، أو التطبيع (normalization)، أو الوصول إلى أوزان النموذج أو الاحتمالات اللوغاريتمية (logits).
التصميم التجريبي: تقيم الدراسة ثلاثة أنظمة بيئية معلوماتية تزداد تعقيداً بشكل تدريجي:
1. الاستمرارية البشرية-الآلية المحكومة: باستخدام مجموعة بيانات اللغة الإنجليزية المتوازية (بشر-ذكاء اصطناعي)، ومقارنة الاستمرارات البشرية مقابل استكمالات GPT-4o و Llama 3 ومتغيراتهما.
2. الوساطة التوليدية للمعرفة: مقارنة صفحات ويكيبيديا الأصلية مقابل نسخ Grokipedia (نسخ ويكيبيديا المعاد كتابتها بواسطة النماذج اللغوية الكبيرة).
3. التفاعل الاجتماعي الاصطناعي الكامل: مقارنة نقاشات Reddit مع منصة Moltbook، وهي منصة يسكنها بالكامل وكلاء مستقلون من النماذج اللغوية الكبيرة.
هندسة الميزات: بالإضافة إلى نسب الضغط البسيطة، يستخرج المؤلفون مجموعة من الميزات الهيكلية:
- منحنيات القواعد (Prefix-based curves): تتبع كيفية تطور القابلية للضغط مع زيادة طول النص.
- الضغط الشرطي: التكلفة التدريجية لضغط النصف الثاني من النص بناءً على النصف الأول.
  - مقاييس الخلط (Shuffling Metrics): مقارنة النص الأصلي مع نسخ تم خلط كلماتها (NCD، وفجوة نسبة الضغط) لعزل مساهمات ترتيب الكلمات.
  - الإحصاءات المعجمية: نسبة النوع إلى الرمز (TTR)، الإنتروبيا المعيارية، ومسافات التكرار.
التصنيف: تم تدريب مصنف يعتمد على تعزيز التدرج القائم على المدرجات التكرارية (Histogram-based Gradient Boosting Classifier) على هذه الميزات لاختبار القدرة التمييزية عبر مستويات مختلفة (بشر مقابل LLM، وعائلات نماذج محددة).

3. المساهمات الرئيسية

الضغط كبصمة هيكلية: تثبت الورقة أن الضغط غير الفاقد للمعلومات هو مؤشر قوي وبسيط ومستقل عن النموذج لنمط "التوليد الاحتمالي"، مما يميزه عن التوليد المدفوع بالإدراك البشري.
اعتماد البصمة على المقياس (Scale-Dependence): أحد النتائج الحاسمة هو أن البصمة الإحصائية للنماذج اللغوية الكبيرة تعتمد على المقياس. حيث يصبح التباين بين النص البشري ونص الآلة أكثر وضوحاً مع زيادة طول النص (تراكم الاعتمادات طويلة المدى)، بينما يضعف هذا التمييز في التفاعلات القصيرة والمجزأة.
الفصل بين التنوع والانتظام: في مهام وساطة المعرفة (ويكيبيديا مقابل Grokipedia)، تظهر الدراسة أن النماذج اللغوية الكبيرة يمكن أن تزيد من التنوع المعجمي (إنتروبيا أعلى) وفي الوقت نفسه تزيد من الانتظام الهيكلي (قابلية ضغط أعلى)، مما يتحدى الافتراض بأن التنوع يعادل التعقيد البشري.
مجموعة ميزات قوية: يثبت المؤلفون أن مجموعة صغيرة من الميزات القائمة على الضغط والإحصاء المعجمي يمكن أن تحقق دقة تصنيف عالية (تصل إلى 93% للمهام الثنائية) دون الاعتماد على الفهم الدلالي أو المكونات الداخلية للنموذج.

4. النتائج الرئيسية

أ. مجموعة البيانات البشرية-الآلية المحكومة

فجوة القابلية للضغط: تظهر النصوص المولدة بواسطة النماذج اللغوية الكبيرة قابلية ضغط أعلى (نسب ضغط أقل) من النصوص البشرية. يشير هذا إلى أن النماذج اللغوية الكبيرة تركز مخرجاتها ضمن أنماط إحصائية متكررة للغاية.
الاعتماد على الطول: مع زيادة عدد الجمل، تستمر القابلية للضغط في النصوص المولدة بالنماذج اللغوية في التحسن (تراكم الانتظام)، بينما تستقر قابلية الضغط في النصوص البشرية.
أداء التصنيف:
- ثنائي (بشر مقابل LLM): دقة 93% (F1-score ماكرو = 0.88).
- متعدد الفئات (بشر مقابل GPT مقابل Llama): دقة 93% (F1-score ماكرو = 0.90).
- دقيق (7 فئات): دقة 65%، مما يوضح أنه بينما تكون البصمات على مستوى عائلة النماذج قوية، فإن تمييز متغيرات نماذج محددة يكون أصعب.
أهمية الميزات: يؤكد تحليل SHAP أن الضغط الشرطي، وتباين نسبة القواعد، ومسافة التكرار هي الميزات الأكثر قدرة على التنبؤ.

ب. الوساطة التوليدية (ويكيبيديا مقابل Grokipedia)

ظهور الاختلاف: يصبح الانفصال في نسب الضغط بين النص البشري ونص النماذج اللغوية الكبيرة واضحاً بعد حوالي 50 جملة.
إعادة التنظيم الهيكلي: تظهر نصوص Grokipedia (النماذج اللغوية الكبيرة) إنتروبيا أعلى على مستوى الكلمة (مفردات أكثر تنوعاً) ولكن ضغطاً شرطياً أقل (هيكل أكثر قابلية للتنبؤ بالنظر إلى السياق) مقارنة بويكيبيديا.
تأثير العتبة: تضيق الفجوة في النصوص الطويلة جداً (>500 جملة) لأن النماذج اللغوية الكبيرة تميل إلى إعادة كتابة بدايات المقالات بشكل أكبر، بينما تحتفظ الأجزاء الأخيرة بمزيد من المحتوى البشري.
التصنيف: حقق دقة 85% في التمييز بين ويكيبيديا وGrokipedia.

ج. التفاعل الاجتماعي الاصطناعي (Moltbook مقابل Reddit)

بصمة مخففة: في التنسيقات الحوارية القصيرة، تكون البصمة الهيكلية أضعف. تضيق فجوة الضغط بين Moltbook (النماذج اللغوية الكبيرة) وReddit (البشر) بشكل كبير بعد 25 جملة.
التكيف السياقي: يبدو أن وكلاء النماذج اللغوية الكبيرة في البيئات الحوارية يتبنون أساليب خطاب أكثر عفوية وشبه بشرية، مما يقلل من الاعتمادات الإحصائية طويلة المدى.
التصنيف: رغم ضعف البصمة الهيكلية، حقق النموذج دقة 88%، مما يشير إلى أنه حتى في البيئات المجزأة، تظل الآثار الإحصائية الدقيقة قابلة للكشف.

5. الأهمية والآثار المترتبة

رؤية نظرية: تعيد هذه الورقة صياغة مشكلة الكشف عن "البشر مقابل الذكاء الاصطناعي" من تحدٍ دلالي أو أسلوبي إلى تحدٍ إحصائي هيكلي. وهي تشير إلى أن التوليد الاحتمالي يخلق بطبيعته "بصمة إحصائية" من المعقولية تختلف عن العمليات الإدراكية البشرية.
الفائدة العملية: يقدم الأسلوب المقترح أداة خفيفة الوزن وقوية لمراقبة النظم البيئية المعلوماتية. فهو لا يتطلب الوصول إلى أوزان النماذج، مما يجعله قابلاً للتطبيق على النماذج مغلقة المصدر والمحتوى الموجود مسبقاً.
القيود والعمل المستقبلي: تسلط الدراسة الضوء على أن الكشف يكون أقل فعالية في النصوص القصيرة والمجزأة (مثل تعليقات وسائل التواصل الاجتماعي) حيث لا يمكن تراكم الاعتمادات طويلة المدى. يجب أن يبحث العمل المستقبلي في كيفية تفاعل التحرير البشري اللاحق، والمسارات الهجينة، واستراتيجيات فك الترميز البديلة مع هذه البصمات الهيكلية.
الحوكمة: تشير النتالئج إلى أنه مع توسع المحتوى الاصطناعي، فإن "الانتظام الهيكلي" للنظم البيئية المعلوماتية قد يتغير، مما قد يؤثر على الثقافة المعرفية وحوكمة جودة المعلومات.

باختاً، تثبت الورقة أن الضغط غير الفاقد للمعلومات يعمل كعدسة قوية وقابلة للتفسير لمراقبة الاختلافات الإحصائية الجوهرية بين توليد اللغة البشرية والآلية، كاشفاً أن النماذج اللغوية الكبيرة تنتج نصوصاً أكثر انتظاماً وتكراراً من الناحية الهيكلية، خاصة مع زيادة طول النص.