Lecture Notes on Statistical Physics and Neural Networks

إليك شرح لملاحظات محاضرة أولاف هوم، مترجمة إلى لغة بسيطة مع استخدام تشبيهات من الحياة اليومية.

الصورة الكبيرة: عندما يلتقي الفيزياء بالذكاء الاصطائي

تخيّل أن لديك عالمين مختلفين تماماً: الفيزياء الإحصائية (دراسة كيفية سلوك تريليونات الذرات معاً، كما في المغناطيس أو الغاز) والشبكات العصبية (الأدمغة الحاسوبية وراء الذكاء الاصطناعي الحديث).

تجادل هذه الورقة بأن هذين العالمين يتحدثان في الواقع نفس اللغة. المؤلف، وهو فيزيائي، كتب هذه الملاحظات ليُظهر أن الرياضيات المستخدمة لوصف كيفية استقرار الذرات في أنماط هي تقريباً مطابقة للرياضيات المستخدمة لتدريب الذكاء الاصطناعي على التعرف على القطط أو كتابة الشعر. يريد أن يوضح لك أنك لست بحاجة لأن تكون فيزيائياً لتفهم كيف يعمل الذكاء الاصطناتي، لأن المفاهيم الأساسية — مثل "درجة الحرارة"، و"الطاقة"، و"التحولات الطورية" — ليست سوى أسماء مختلفة لنفس الأفكار الإحصائية.

---

الجزء الأول: قواعد اللعبة (أساسيات الفيزياء الإحصائية)

مشهد الطاقة (The Energy Landscape)
تخيّل مشهداً طبيعياً تضاريسه مليئة بالتلال والوديان. كل ترتيب محتمل لنظام ما (مثل مغناطيس أو شبكة من الخلايا العصبية) يمثل نقطة محددة على هذه الخريطة.

• الطاقة: بعض النقاط عبارة عن وديان عميقة (طاقة منخفضة)، وبعضها قمم عالية (طاقة مرتفعة). الطبيعة تحب الوديان؛ فالأنظمة تميل طبيعياً للتدحرج نحو أدنى نقطة.
• درجة الحرارة: فكر في درجة الحرارة كـ "درجة الاهتزاز".
  • البرودة (درجة حرارة منخفضة): يكون النظام هادئاً. فهو يتدحرج مباشرة إلى أعمق وادٍ ويستقر هناك. هو يهتم فقط بالحل الأمثل المطلق.
  • الحرارة (درجة حرارة مرتفعة): يكون النظام مضطرباً. فهو يقفز بجنون، يستكشف القمم العالية والوديان العميقة على حد سواء. هو لا يهتم كثيراً بـ "أفضل" مكان؛ إنه مجرد تجوال عشوائي.

توزيع بولتزمان (The Boltzmann Distribution)
هذا هو كتاب القواعد الذي يقول: "عند درجة حرارة معينة، ما مدى احتمالية وجود النظام في نقطة محددة؟"

• إذا كان الجو بارداً، فمن المؤكد تقريباً أن النظام سيكون في أعمق وادٍ.
• إذا كان الجو حاراً، فإن النظام ينتشر في كل مكان، لكنه لا يزال يفضل الوديان قليلاً أكثر من القمم.

التحولات الطورية (Phase Transitions)
هذا يشبه تجمد الماء ليصبح ثلجاً.

• تخيل حشداً من الناس. إذا كانوا جميعاً يتحركون بشكل عشوائي (حار)، فهم يمثلون "غازاً". أما إذا قرروا فجأة جميعاً الوقوف في شبكة مثالية وإمساك الأيدي (بارد)، فقد مروا بـ تحول طوري.
• في الفيزياء، يحدث هذا عند "درجة حرارة حرجة" محددة. توضح الورقة أن هذه التغييرات المفاجئة يصعب التنبؤ بها رياضياً ما لم تتخيل أن النظام ضخم بشكل لانهائي.

---

الجزء الثاني: مجموعة إعادة التطبيع (عدسة "التقريب للخارج")

هذا هو المفهوم الفيزيائي الأكثر شهرة في الورقة، ويُستخدم لفهم تلك التغيرات الطورية المفاجئة.

التشبيه: صورة الحشد
تخيل أن لديك صورة لملعب مليء بالناس.

1. الرؤية المجهرية: تنظر إلى كل شخص بمفرده. ترى من يرتدي قميصاً أحمر، ومن يرتدي أزرق، ومن يلوح بيده. هذا الكثير من التفاصيل.
2. "التقريب للخارج" (RG): تأخذ خطوة إلى الوراء. بدلاً من رؤية الأفراد، ترى كتلًا مكونة من 4 أشخاص. تسأل: "ما هو متوسط لون هذه الكتلة؟"
3. النتيجة: الآن لديك صورة جديدة أصغر تحتوي على عدد أقل من "البكسلات" (الكتل)، لكنها لا تزال تبدو كملعب. القواعد التي تحكم تفاعل هذه الكتل تختلف قليلاً عن قواعد الأفراد، لكن نوع الصورة يظل كما هو.

لماذا هذا مهم:
إذا استمررت في التقريب للخارج (تكرار هذه العملية)، سترى في النهاية "الصورة الكبيرة".

• إذا كان النظام في حالة عادية، فإن الصورة المقربة ستظهر في النهاية ككتلة رمادية باهتة وغير متجانسة.
• إذا كان النظام عند نقطة حرجة (مثل اللحظة الدقيقة لتجمد الماء)، فإن الصورة المقربة ستبدو متطابقة تماماً مهما بلغت درجة التقريب. إنها "ثابتة المقياس" (scale-invariant). وهذا يخبر الفيزيائيين أن تغيراً كبيراً (تحول طوري) بصدد الحدوث.

---

الجزء الثالث: الشبكات العصبية كمغانط دوارة

تربط الورقة هذه الفيزياء بـ شبكات هوبفيلد (Hopfield Networks) وآلات بولتزمان (Boltzmann Machines).

الخلية العصبية كمغناطيس

• في المغناطيس، يمكن للذرة أن تدور "للأعلى" (+1) أو "الأسفل" (-1).
• في شبكة هوبفيلد، يمكن لـ "الخلية العصبية" أن تكون "تعمل" (+1) أو "متوقفة" (-1).
• الربط: تماماً كما تؤثر المغانط على جيرانها (إذا دار أحدها للأعلى، فإنه يريد من جاره أن يدور للأعلى أيضاً)، تؤثر الخلايا العصبية على بعضها البعض باستخدام "الأوزان".
• الذاكرة: شبكة هوبفيلد تشبه مشهداً طبيعياً يحتوي على العديد من الوديان. كل وادٍ يمثل ذاكرة (مثل صورة لوجه). إذا أعطيت الشبكة نسخة ضبابية أو مشوشة من ذلك الوجه، فإنها "تتدحرج" لأسفل التل الطاقي حتى تستقر في الوادي الصحيح، مما يعني أنها "تذكرت" الصورة الواضحة.

آلات بولتزمان (النسخة الاحتمالية)

• شبكة هوبفيلد القياسية هي حتمية (deterministic): فهي تتدحرج دائماً إلى القاع.
• آلة بولتزمان تضيف "درجة الحرارة". فهي تسم تسمح للشبكة بالقفز أحياناً خارج الوادي. هذا يساعدها على استكشاف المشهد بشكل أفضل وتجنب العلوق في "نهاية صغرى محلية" (وهي فجوة صغيرة ليست هي الأعمق في المشهد).
• التعلم: الهدف هو تعديل "الأوزان" (الروابط) بحيث تتطابق "الوديان" الطبيعية للشبكة مع البيانات التي تريد تعلمها (مثل مجموعة بيانات للأرقام المكتوبة بخط اليد).

آلات بولتزمان المقيدة (RBM) والطبقة "المخفية"

• تخيل أن لديك طبقة مرئية (بيانات يمكنك رؤيتها) وطبقة مخفية (خلايا عصبية لا يمكنك رؤيتها).
• توضح الورقة أن "دمج" الخلايا العصبية المخفية هو بالضبط مثل عملية "التقريب للخارج" في مجموعة إعادة التطبيع.
• من خلال إزالة الخلايا العصبية المخفية رياضياً، تحصل على مجموعة جديدة وأبسط من القواعد للخلايا المرئية. هذا يسمح للآلة بتعلم أنماط معقدة دون الحاجة لحساب كل تفصيل مخفي بشكل صريح.

---

الجزء الرابع: التعلم العميق والنماذج اللغوية الكبيرة (LLMs)

تنتقل الورقة من أفكار "بولتزمان" القديمة هذه إلى الذكاء الاصطناعي الحديث.

التعلم العميق (Deep Learning)

• بدلاً من وجود طبقة مخفية واحدة فقط، تمتلك الشبكات الحديثة العديد من الطبقات المتراصة فوق بعضها البعض.
• الانتشار العكسي (Backpropagation): هذه هي خوارزمية "التعلم". تخيل أنك رميت كرة نحو هدف وأخطأت. تقوم بحساب مقدار الخطأ بالضبط، وتتبع هذا الخطأ عبر كل طبقة في الشبكة، وتقوم بتعديل الأوزان قليلاً لتصويب الهدف بشكل أفضل في المرة القادمة. هكذا تتعلم الشبكة التعرف على القطط أو ترجمة اللغات.

النماذج اللغوية الكبيرة (LLMs)

• المهمة: التنبؤ بالكلمة التالية في الجملة.
• الآلية: تصف الورقة بنية المحول (Transformer).
  • التضمين (Embedding): يتم تحويل كل كلمة إلى "متجه" (قائمة من الأرقام) يمثل معناها.
  • الانتباه (Attention): هذا هو السحر الحقيقي. عندما يقرأ النموذج جملة، فإنه لا ينظر فقط إلى الكلمة السابقة؛ بل "ينتبه" إلى جميع الكلمات السابقة ليعرف أي منها الأكثر صلة بالكلمة الحالية. (مثلاً، في جملة "ضفة النهر"، يعرف النموذج أن كلمة "ضفة" تتعلق بالماء وليس بالمال، وذلك بسبب وجود كلمة "النهر").
• الارتباط بالفيزياء: رغم أن النماذج اللغوية الكبيرة تستخدم رياضيات معقدة، إلا أن الخطوة النهائية للتنبؤ بالكلمة التالية هي في الأساس توزيع بولتزمان. يقوم النموذج بتعيين "طاقة" لكل كلمة محتملة تالية. الكلمة ذات الطاقة الأدنى (الاحتمالية الأعلى) هي الخيار الأكثر ترجيحاً.
• درجة الحرارة في الذكاء الاصطناعي: تماماً كما في الفيزياء، يمكنك ضبط "درجة الحرارة" في النموذج اللغوي الكبير.
  • درجة حرارة منخفضة: يختار النموذج الكلمة الأكثر احتمالاً في كل مرة (آمن جداً، لكنه ممل).
  • درجة حرارة مرتفعة: يأخذ النموذج المزيد من المخاطر، فيختار كلمات أقل احتمالاً، مما يجعل النص أكثر إبداعاً (وقد يصبح غير منطي أحياناً).

---

الجزء الخامس: المستقبل (قوانين القياس)

تنتهي الورقة بالنظر في ظاهرة غريبة في الذكاء الاصطناعي الحديث تسمى قوانين القياس (Scaling Laws).

• الملاحظة: إذا جعلت نموذج الذكاء الاصطناعي أكبر (مزيد من الخلايا العصبية) وزودته بمزيد من البيانات، فإن أداءه لا يتحسن قليلاً فحسب؛ بل يتحسن بطريقة رياضية يمكن التنبؤ بها (قانون القوة - Power Law).
• الرابط الفيزيائي: هذا يشبه تماماً قوانين القياس في الفيزياء الإحصائية بالقرب من التحول الطوري. في الفيزياء، تتصرف المواد المختلفة (الماء، المغناطيس، الحديد) بنفس الطريقة بالقرب من نقاطها الحرجة، بغض النظر عن تفاصيلها المجهرية.
• التكهنات: يقترح المؤلف أنه ربما يمتلك التعلم العميق "ديناميكا حرارية" خاصة به. قد تكون هناك قواعد عالمية تحكم كيفية تحسن الذكاء الاصطناعي، تماماً كما توجد قواعد عالمية تحكم كيفية سلوك الذرات، بغض النظر عن ماهية تلك الذرات.

الملخص

هذه الورقة هي جسر. إنها تخبرنا أن "سحر" الذكاء الاصطناعي الحديث ليس سحراً على الإطلاق؛ بل هو إحصاء. من خلال معاملة الخلايا العصبية كذرات وعملية التعلم كتبريد لنظام حار، يمكننا استخدام أدوات الفيزياء القوية لفهم كيف يتعلم الذكاء الاصطناعي، ويتذكر، ويتطور.