🤖 AI

Perspectives on Tsallis Statistics for Artificial Intelligence

تقدم هذه الورقة منظوراً شاملاً حول دمج إحصاءات تساليس (Tsallis statistics) في الذكاء الاصطناعي، حيث تستعرض أسسها الرياضية وتطبيقاتها المتنوعة — من الانتباه المتناثر والتعلم التعزيزي إلى النمذجة التوليدية — مع المحاجة بضرورة التعامل مع المعلمة $q$ كتحيز استقرائي قابل للتعلم لالتقاط الخصائص غير الممتدة وذات الذيول الثقيلة المتأصلة في ديناميكيات التعلم العميق الحديثة.

المؤلفون الأصليون: Kleyton da Costa, Bernardo Modenesi

نُشر 2026-08-04

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Kleyton da Costa, Bernardo Modenesi

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول التنبؤ بالطقس. لفترة طويلة، استخدم العلماء كتاب قواعد صارمًا للغاية: افترضوا أنه إذا كنت تعرف درجة الحرارة في نقطة ما، يمكنك تخمين درجة الحرارة في النقطة المجاورة، وأن الأحداث المتطرفة (مثل إعصار مفاجئ وهائل) نادرة جدًا بحيث يمكن تجاهلها بأمان. هذا "الكتاب" يسمى إحصاء بولتزمان-جيبس، وهو أساس معظم الذكاء الاصطناعي الحديث. إنه يعمل بشكل رائع عندما تكون الأشياء هادئة، ومتوقعة، ومستقلة. لكن العالم الحقيقي فوضوي. فاللغة الطبيعية تتبع أنماطًا غريبة حيث تُستخدم بعض الكلمات باستمرار بينما تُستخدم الملايين من الكلمات مرة واحدة فقط. والأسواق المالية تنهار بطرق لا تتناسب مع المنحنيات القياسية. وفي الذكاء الاصطناعي، نحتاج أحيانًا إلى نموذج يتجاهل معظم الخيارات ويركز بكثافة على خيار واحد فقط، أو يكون مستعدًا لغير المتوقع.

إليك فكرة جديدة تسمى إحصاء تساليس (Tsallis statistics). فكر فيها كأنها "مقبض تحكم في مستوى الصوت" للاحتمالات. بدلًا من افتراض أن كل شيء يتبع قواعد المنحنى الناعم (الجرس) نفسه، تقدم هذا الإطار الجديد رقمًا واحدًا، يسمى $q$ ، يعمل مثل قرص الضبط. إذا أدرت القرص في اتجاه معين، يصبح الذكاء الاصطناعي "كثيفًا"، فينشر انتباهه بالتساوي مثل بطانية ناعمة. وإذا أدرته في الاتجاه الآخر، يصبح "متفرقًا" أو "ثقيل الذيل"، مما يعني أنه يمكنه تجاهل الضجيج تمامًا أو الاستعداد للقيم الشاذة الجامحة والنادرة. يسأل هذا البحث سؤالًا كبيرًا: ماذا لو توقفنا عن معاملة هذا القرص كإعداد ثابت وبدأنا في جعل الذكاء الاصطناعي يتعلم كيف يدير قرصه بنفسه؟

الفكرة الكبرى للورقة: "قرص Q" للذكاء الاصطناعي

هذه الورقة هي دليل لطريقة تفكير جديدة حول الذكاء الاصطناعي. يجادل المؤلفان، كليتون دا كوستا وبرناردو مودينيسي، بأن أداة رياضية محددة تسمى إحصاء تساليس ليست مجرد فضول فيزيائي متخصص؛ بل هي في الواقع المكون السري وراء العديد من أدوات الذكاء الاصطناعي الأكثر ذكاءً وقوة التي نستخدمها اليوم.

يقترحان أنه ينبغي لنا النظر إلى إحصاء تساليس كـ "قرص Q" عالمي. تخيل أن لديك نموذج ذكاء اصطناعي قياسي يعمل مثل نهر يتدفق بسلاسة. يتيح لك "قرص Q" تعديل ذلك النهر.

أدر القرص إلى الرقم 1: ستحصل على النهر القياسي السلس (دالة "Softmax" المألوفة المستخدمة في معظم برامج الذكاء الاصطناعي). إنه آمن وينشر الأشياء بالتساوي.
أدر القرص للأعلى (q > 1): يضيق النهر فجًا ليصبح نفاثًا مركزًا. يتوقف الذكاء الاصطناعي عن الانتباه إلى الإشارات الضعيفة ويركز بكثافة على أقواها. هذا يخلق "انتباهًا متفرقًا"، حيث يتجاهل النموذج 90% من البيانات ليركز على الـ 10% التي تهم حقًا.
أدر القرص للأسفل (q < 1): يصبح النهر جامحًا وغير متوقع، مستعدًا للتعامل مع الفيضانات الهائلة والنادرة. هذا يجعل الذكاء الاصطناعي "ثقيل الذيل"، مما يعني أنه لن يصاب بالذعر عندما يرى قيمة شاذة غريبة أو تسمية (label) خاطئة وصاخبة.

ما وجدته الورقة بالفعل

لم يخترع المؤلفان خوارزمية جديدة كليًا من الصفر. بدلاً من ذلك، قاما برحلة بحث استقصائية عبر مشهد الذكاء الاصطناعي بأكمله وأدركا أن العديد من الأدوات المختلفة، والتي تبدو غير مترابطة، كانت في الواقع تستخدم جميعها نفس "قرص Q" دون أن تدرك ذلك.

لقد وجدا أن:

الانتباه المتفرق (Sparse Attention): الأدوات التي تسمح للذكاء الاصطناعي بالتركيز على بضع كلمات فقط في جملة طويلة (مثل روبوتات الدردشة الحديثة) هي في الواقع مجرد إحصاء تساليس مع رفع القرص للأعلى.
التعلم التعزيزي (Reinforcement Learning): عندما يتعلم الذكاء الاصطناعي لعب الألعاب أو قيادة السيارات، فإن استخدام هذا القرص يساعده على استكشاف استراتيجيات جديدة بفعالية أكبر، حيث يقرر متى يكون جشعًا ومتى يكون فضوليًا.
المتانة (Robustness): عندما تكون البيانات فوضوية أو تحتوي على أخطاء، فإن تدوير القرص في الاتجاه الآخر يجعل الذكاء الاصطناعي أقل عرضة لحفظ الأخطاء وأكثر قدرة على تجاهلها.

"لحظة الإدراك": تشير الورقة إلى أن السلوك "ثقيل الذيل" والجامح الذي نراه في التعلم العميق ليس خطأً برمجياً؛ بل هو ميزة. يشير المؤلفان إلى أن "الضجيج" في كيفية تعلم الذكاء الاصطناعي (ضجيج التدرج/gradient noise) والطريقة التي تتوزع بها أوزانه الداخلية تبدو بالفعل وكأنها تتبع قواعد تساليس هذه. وهذا يعني أن الذكاء الاصطناعي يتصرف بالفعل كنظام غير قياسي، لكننا لم نكن نمنحه الأدوات الصحيحة للتعامل معه.

التحول الكبير: دع الذكاء الاصطناعي يتعلم ضبط القرص

الجزء الأكثر إثارة في الورقة هو اقتراحهما بالتوقف عن ضبط القرص يدويًا. حاليًا، يتعين على العلماء تخمين الرقم الصحيح لـ $q$ والأمل في أن ينجح الأمر. يجادل المؤلفان بأن $q$ يجب أن يكون معلمة قابلة للتعلم (learnable parameter)، تمامًا مثل الأوزان في الشبكة العصبية.

أجريا تجارب صغيرة لإثبات أن هذا ممكن:

التجربة 1: أعطيا ذكاءً اصطناعيًا مجموعة بيانات ذات "ذيل ثقيل" (الكثير من القيم النادرة والمتطرفة). عندما تركا الذكاء الاصطناعي يتعلم ضبط القرص، قام تلقائيًا بتدويره إلى الإعداد المثالي ( $q \approx 1.49$ ) ليتناسب مع البيانات. أما الذكاء الاصطناعي القياسي (مع تثبيت القرص عند 1) فقد فشل في استيعاب القيم المتطرفة.
التجربة 2: دربا ذكاءً اصطناعيًا على بيانات ذات تسميات (labels) خاطئة وضوضائية. من خلال السماح للذكاء الاصطناسي بتعلم ضبط القرص، قام بتدويره للأسفل (إلى $q < 1$ ) ليصبح "متينًا"، متجاهلاً التسميات السيئة. أما الذكاء الاصطناعي القياسي فقد ارتبك وحفظ الأخطاء.

تقترح الورقة أنه في المستقبل، يجب أن تمتلك نماذج الذكاء الاصطناعي "بوابة" تقرر، لكل كلمة أو قرار، مدى الحاجة لأن يكون متفرقًا أو ثقيل الذيل.

ما تستبعده الورقة (وما لا تدعي أنه حل نهائي)

من المهم معرفة ما لا تقوله هذه الورقة.

ليست حلاً سحريًا: يؤكد المؤلفان بحذر أن إحصاء تساليس لا يحل محل الطريقة القديمة في القيام بالأشياء. فعندما يتم ضبط القرص عند 1، فإنه يصبح الذكاء الاصطناعي القياسي المألوف. إنه تعميم، وليس استبدالاً.
ليست مشكلة محلولة تمامًا: تقر الورقة بأنه بينما تعمل الرياضيات بشكل جميل في المحاكاة الصغيرة، فإننا لا نعرف بعد ما إذا كان ترك الذكاء الاصطناعي يتعلم ضبط القرص سيعمل بشكل مثالي في النماذج الضخمة ذات التريليونات من المعلمات المستخدمة اليوم. يقترحون أنه قد ينجح الأمر، لكنه يحتاج إلى مزيد من الاختبار بهذا النطاق.
ليست مجرد مسألة "تفرق" (Sparsity): بينما تسلط الورقة الضوء على كيفية خلق القرص لانتباه متفرق (مركز)، فإنها تؤكد أيضًا على جانب "الذيل الثقيل" (المتانة تجاه القيم الشاذة). إنه طريق ذو اتجاهين، وليس مجرد مفتاح لتجاهل البيانات.

لماذا يهمك هذا الأمر

فكر في ثورة الذكاء الاصطناعية الحالية كسيارة تحتوي فقط على دواسة وقود وفرامل. إنها تسير بسرعة، لكنها لا تستطيع التعامل مع طريق وعر أو تغيير مفاجئ في المسار بشكل جيد. إحصاء تساليس يعطي السيارة مقبض تحكم في نظام التعليق (Suspension knob). يمكنك ضبط نظام التعليق ليكون صلبًا لرحلة سلسة على طريق سريع (الذكاء الاصطناعي القياسي) أو ناعمًا ومرنًا للتعامل مع طريق وعر وصخري (ذكاء اصطناعي متين ومتفرق).

تجادل الورقة بأن أفضل السائقين (نماذج الذكاء الاصطناعي) لا ينبغي أن يكون لديهم نظام تعليق ثابت. بدلاً من ذلك، يجب أن يكون لديهم نظام ذكي يشعر بالطريق ويعدل نظام التعليق في الوقت الفعلي. من خلال معاملة "قرص Q" كشيء يمكن للذكاء الاصطناعي تعلمه، قد نبني أنظمة ليست فقط أكثر ذكاءً، بل أيضًا أكثر قدرة على التكيف، وأكثر صدقًا بشأن ما لا تعرفه، وأفضل في التعامل مع العالم الحقيقي الفوضوي وغير المتوقع.

ملخص تقني: منظورات حول إحصاءات تساليس للذكاء الاصطنا-عي

بيان المشكلة
إن الإطار الإحصائي المهيمن الذي يرتكز عليه التعلم العميق الحديث هو نموذج بولتزمان-جيبس-شانون (BGS). يفترض هذا الإطار أن المعلومات تراكمية وأن عدم اليقين يُقاس بإنتروبيا شانون ( $S = -\sum p_i \ln p_i$ ). وبينما يعد هذا الإطار فعالاً للبيانات ضعيفة الارتباط، وذات الذيول الخفيفة، والارتباط الإرجاعي (ergodic)، إلا أن آليات BGS تتسم بالجمود عند تطبيقها على الأنظمة التي تظهر ارتباطات طويلة المدى، وهندسة متعددة الفراكتلات (multifractal)، وتقلبات ذات ذيول ثقيلة. وتنتشر هذه الظروف في تطبيقات الذاء الاصطناعي مثل معالجة اللغات الطبيعية (إحصاءات توكن زيبف - Zipfian)، والبيانات المالية والجيوفيزيائية، وآليات الانتباه المتفرقة (sparse attention)، والتعلم التعزيزي للاستكشاف. يفتقر إطار BGS إلى آلية للموازنة بين تأثير الأحداث النادرة مقابل الأحداث الشائعة، ولا يوفر "قرص ضبط" لتعديل وزن السلوكيات المتفرقة أو ذات الذيول الثقيلة.

المنهجية والجوهر النظري
تقترح الورقة استخدام إحصاءات تساليس كمبدأ تصميمي موحد لتعميم إطار BGS. جوهر هذا النهج هو إنتروبيا تساليس، $S_q$ ، التي يتم التحكم فيها بواسطة معلمة حقيقية واحدة $q$ (مؤشر الإنتروبيا):
$S_q(p) = \frac{1 - \sum_i p_i^q}{q - 1}$
تستعيد هذه الإنتروبيا إنتروبيا شانون في الحد الذي تؤول فيه $q \to 1$ . تعمل المعلمة $q$ كقرص ضبط قابل للتعديل:

$q < 1$ : تؤكد على الأحداث النادرة، مما يشجع على الانتشار، والاستكشاف، والذيول الثقيلة.
$q > 1$ : تؤكد على الأحداث المتكررة، مما يشجع على التركيز، والتشتت (sparsity)، والمتانة تجاه القيم المتطرفة.

تراجع الورقة الأدوات الرياضية المطلوبة لتنفيذ ذلك في تعلم الآلة، بما في ذلك:

جبر $q$ (q-Algebra): اللوغاريتم- $q$ ( $\ln_q$ ) والأس- $q$ ( $\exp_q$ )، واللذان يقدمان "قطعاً" (cut-off) لـ $q > 1$ (مما يؤدي إلى دعم مدمج/تشتت) وذيول ذات قانون القوة لـ $q > 1$ .
نظرية المركز المحدود لـ $q$ (q-CLT): تعميم لنظرية المركز المحدود الكلاسيكية للمتغيرات شديدة الارتباط، حيث تتقارب مجموعات المتغيرات المستقلة- $q$ إلى توزيعات $q$ -Gaussian بدلاً من التوزيعات الطبيعية القياسية.
توزيعات $q$ -Gaussian: عائلة من التوزيعات تربط بين التوزيع الطبيعي ( $q=1$ )، وتوزيع ستودنت (Student-t)، وتوزيع كوشي (Cauchy)، وتعمل كنظير غير ممتد (nonextensive) للتوزيع الطبيعي.
الإحصاءات الفائقة (Superstatistics): أصل ديناميكي لـ $q$ ، يفسر $q$ كنتيجة لمتوسط الأنظمة البولتزمانية المحلية ذات المعلمات المكثفة المتذبذبة (مثل درجة الحرارة)، مما يوفر تبريراً فيزيائياً للإحصاءات ذات الذيول الثقيلة في ديناميكيات التعلم.

المساهمات الرئيسية والتطبيقات
تستعرض الورقة كيف توحد إحصاءات تساليس مختلف طرق الذكاء الاصطناعي المطورة بشكل مستقل تحت نمط "قرص $q$ "، حيث يتم تشويه كائن BGS قياسي بواسطة $q$ للانتقال بين السلوكيات الكثيفة/الموحدة والسلوكات المتفرقة/ذات الذيول الثقيلة. وتشمل مجالات التطبيق الرئيسية المحددة ما يلي:

تعميم Softmax (الانتباه المتفرق): تحويل $\alpha$ -entmax (حيث $\alpha = q$ ) يعمم softmax. بالنسبة لـ $q > 1$ ، ينتج مخرجات متفرقة باحتمالات صفرية تماماً للعناصر ذات الدرجات المنخفضة، مما يحسن التفسير والكفاءة في نماذج Transformer والشبكات العصبية الرسومية.
التعلم التعزيزي (RL): استبدال إنتروبيا شانون بإنتروبيا تساليس في تعلم الحد الأقصى للإنتروبيا ينتج سياسات هي عبارة عن $q$ -exponential. يسمح هذا باستكشاف قابل للضبط، حيث تؤدي $q > 1$ إلى سياسات شبه جشعة ومتفرقة تقص الأفعال غير المثالية.
النمذجة التوليدية والاحتمالية: استبدال التوزيعات المسبقة أو دوال الإمكانية (likelihoods) بتوزيعات $q$ -Gaussian (توزيعات Student-t) يوفر متانة تجاه القيم المتطرفة ونمذجة أفضل للبيانات ذات الذيول الثقيلة في نماذج VAEs ونماذج الانتشار (diffusion models).
دوال الخسارة والانتظام (Regularization): توفر خسارة $q$ -cross-entropy ( $L_q = -\sum y_i \ln_q \hat{p}_i$ ) متانة تجاه الملصقات (labels) المشوشة من خلال وضع حد لعقوبة التنبؤات الخاطئة الواثقة عندما تكون $q < 1$ .
التحسين (Optimization): تُستخدم توزيعات $q$ -Gaussian ذات الذيول الثقيلة في عمليات التلدين المحاكي المعمم (generalized simulated annealing) للهروب من النهايات الصغرى المحلية عبر قفزات طويلة، وتوفر $q$ -gradients خطوات غير محلية في عملية التحسين.

الملاحظات التجريبية و"البصمات غير الممتدة"
بعيداً عن تصميم خوارزميات جديدة، تجادل الورقة بأن إحصاءات تساليس تصف السلوك الجوهري لأنظمة التعلم العميق الحالية. وتسلط الضوء على انتظامات تجريبية في الشبكات المدربة تتماشى مع تنبؤات الإحصاء غير الممتد:

أطياف الأوزان ذات الذيول الثقيلة: كثافات الأطياف لمصفوفات الأوزان في الشبكات المدربة جيداً غالباً ما تتبع قوانين القوة، وهي بصمة لارتباطات قوية حيث ينطبق قانون $q$ -CLT.
ضجيج التدرج ذو الذيول الثقيلة: يُظهر التدرج العشوائي (SGD) ضجيج تدرج بذيول ثقيلة (تباين متباعد)، مما يشير إلى أن ديناميكيات التدريب تقع ضمن حوض $q$ -CLT بدلاً من CLT الكلاسيكي.
وتفترض الورقة أن هذه ليست مصادفات بل خصائص هيكلية للتعلم واسع النطاق، مما يعني أن النماذج المشوهة بـ $q$ هي نماذج "متوافقة" مع الإحصاءات الجوهرية للأنظمة التي تعمل عليها.

النتائج والتجارب
يقدم المؤلفون إثبات مفهوم أدنى باستخدام مكتبة qjax مفتوحة المصدر (المبنية على JAX) لإثبات جدوى تعلم $q$ :

تقدير الكثافة: على بيانات اصطناعية ذات ذيول ثقيلة (مولدة من توزيع $q=1.5$ )، نجح نموذج بـ $q$ قابل للتعلم في استعادة المؤشر الحقيقي ( $\hat{q} \approx 1.49$ ) والمقياس، متفوقاً على نموذج Gaussian ثابت ( $q=1$ ) الذي فشل في التقاط الذيول.
التصنيف المتين: في مهمة تصنيف مع ضجيج في الملصقات، سمح تعلم $q$ (المقيد بـ $q < 1$ ) على مجموعة تحقق نظيفة للنموذج بمقاومة حفظ الملصقات الفاسدة. ومع زيادة مستويات الضجيج، انخفضت قيمة $q$ المتعلمة، وحافظ النموذج على دقة اختبار أعلى مقارنة بمرجع $q=1$ القياسي.

الأهمية والادعاءات
الادعاء المركزي للورقة هو أن إحصاءات تساليس ليست مجرد فضول فيزيائي، بل هي مبدأ تصميم عملي وموحد للذكاء الاصطناعي.

التوحيد: تكشف أن الانتباه المتفرق، وتعلم الحد الأقصى للإنتروبيا، والنماذج ذات الذيول الثقيلة، ودوال الخسارة المتينة، هي حالات لنفس التشويه الأساسي لكائنات BGS.
التحيز الاستقرائي القابل للتعلم: يجادل المؤلفون بضرورة معاملة $q$ كتحيز استقرائي قابل للتعلم وسياقي بدلاً من كونه معلمة فائقة (hyperparameter) ثابتة. وهذا يسمح للنموذج بالتكيف مع درجة التشتت أو الذيول الثقيلة بناءً على البيانات أو الطبقة أو المدخلات.
التأسيس النظري: من خلال ربط ظواهر الذيول الثقيلة في التعلم العميق بـ $q$ -CLT والإحصاءات الفائقة، توفر الورقة إطاراً نظرياً لفهم وتحسين عملية التحسين والتعميم في الشبكات العميقة.

تخلص الورقة إلى أنه بينما يوفر "قرص $q$ " توافقية عكسية (بالانهيار إلى الطرق القياسية عند $q=1$ )، فإن مستقبل المجال يكمكم في التقييم الصارم لـ $q$ المتعلم على نطاق واسع ودمج هذه المنظورات غير الممتدة في صلب تصميم أنظمة الذكاء الاصطناعي.

الفكرة الكبرى للورقة: "قرص Q" للذكاء الاصطناعي

ما وجدته الورقة بالفعل

التحول الكبير: دع الذكاء الاصطناعي يتعلم ضبط القرص

ما تستبعده الورقة (وما لا تدعي أنه حل نهائي)

لماذا يهمك هذا الأمر

أبحاث مشابهة