🤖 machine learning

A PyTorch Library of Turing-Complete Neural Networks

تقدم هذه الورقة مكتبة "PyTorch" تقوم بتجميع أوصاف آلة تورينج إلى محاكاة شبكات عصبية دقيقة وخالية من التدريب باستخدام بنيتين متميزتين: نموذج "transformer" قائم على دراسة "Wei et al. (2021)"، وشبكة متكررة قائمة على دراسة "Siegelmann and Sontag (1995)".

المؤلفون الأصليون: Jonathan Bates

نُشر 2026-05-12

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jonathan Bates

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك وصفة لرقصة معينة ومعقدة للغاية. عادةً، لتعليم روبوت هذه الرقصة، عليك أن تريه الحركات آلاف المرات وتتركه "يتعلم" من خلال التجربة والخطأ. ولكن ماذا لو كان بإمكانك فقط تسليم الروبوت مخططاً يقول له: "إذا رأيت الخطوة أ، فافعل الحركة ب؛ وإذا رأيت الخطوة ج، فافعل الحركة د"، واستطاع الروبوت أداء الرقصة بشكل مثالي من المحاولة الأولى، دون أن يتدرب أبداً؟

هذا بالضبط ما تفعله هذه الورقة البحثية، ولكن بدلاً من الرقصة، هي تعلم شبكة عصبية (نوع من أنواع الذكاء الاصطناعي) كيف تعمل كآلة تورينج (Turing Machine) — وهي "العقل" النظري وراء جميع الحواسيب الحديثة.

إليك تفصيل كيفية قيامهم بذلك، باستخدام تشبيهات بسيطة:

1. الفكرة الكبرى: "الترجمة، لا التدريب"

معظم الذكاء الاصطناعي اليوم يشبه طالباً يدرس للاختبار عن طريق قراءة الكتاب المدرسي مراراً وتكراراً. تقدم هذه الورقة حزمة (مجموعة من الأدوات للمبرمجين) تعمل أشبه بـ المترجم. أنت تعطيها "قواعد" برنامج حاسوبي (آلة تورينج)، وهي تقوم فوراً بكتابة "الأوزان" (الإعدادات الداخلية) لشبكة عصبية بحيث "تعرف" الشبكة القواعد تماماً منذ البداية. لا دراسة، لا تخمين، ولا تدريب مطلوب. إنها "صحيحة من حيث البناء".

2. مجموعة الأدوات: بناء المنطق من الصفر

لبناء هذا المترجم، كان على المؤلفين إظهار كيف يمكن لشبكة عصبية القيام بعمليات حسابية ومنطقية أساسية، تماماً مثل الآلة الحاسبة.

اللبنات (البوابات المنطقية): أظهروا كيفية بناء "مفاتيح" بسيطة (مثل AND، OR، NOT) داخل الشبكة. فكر في هذه كأنها مفاتيح ضوئية صغيرة تعمل أو تنطفئ بناءً على شروط محددة.
المخطط (الصيغة العادية المعتمدة على الضرب - DNF): قاموا بتنظيم هذه المفاتيح في نمط محدد (مثل المخطط الانسيابي) يمكنه وصف أي قاعدة يحتاج الحاسوب لاتباعها.
الآلة الحاسبة (الجامعات): قاموا ببناء "جامع رقمي" داخل الشبكة. هذا يسمح للذكاء الاصطناعي بالعد صعوداً أو هبوطاً، وهو أمر ضريد ليعرف الحاسوب موقعه على "الشريط" الخاص به (الذاكرة).

3. طريقتان مختلفتان لبناء الآلة

تقدم الورقة "مخططين" مختلفين (بنيات) لتحويل هذه القواعد إلى ذكاء اصطناعي يعمل.

المخطط أ: المحول (القارئ الخارق - Transformer)

هذه النسخة تعتمد على بنية ذكاء اصطناعي حديثة تسمى "المحول" (وهي نفس النوع المستخدم في روبوتات الدردشة).

كيف تعمل: تخيل أميناً للمكتبة لديه كتاب ضخم عن التاريخ. في كل مرة يحتاج فيها الحاسوب لاتخاذ خطوة، ينظر أمين المكتبة إلى كل ما حدث من قبل ليجد القرينة المناسبة.
الخدعة: تستخدم آلية "الانتباه الحاد" (hard attention). فبدلاً من التخمين الغامض حول أي حدث سابق هو المهم، تعمل كأنها مؤشر ليزر، حيث تثبت بدقة على معلومة واحدة محددة من الماضي لاتخاذ قرارها.
النتيجة: هي تحاكي الحاسوب خطوة بخطوة، متذكرة تاريخ الشريط والحالة الحالية بدقة تامة.

المخطط ب: الشبكة المتكررة (كومة الأطباق - Recurrent Network)

تعتمد هذه النسخة على أبحاث قديمة من التسعينيات.

كيف تعمل: بدلاً من الشريط الطويل، تتصور هذه الآلة الذاكرة كأنها كومة من الأطباق (مثل صينية الأطباق ذات الزنبرك في المقاصف).
الرياضيات السحرية: يستخدم المؤلفون خدعة رياضية ذكية تسمى مجموعة كانتور (Cantor Set). تخيل عصر كومة لانهائية من الأطب في رقم واحد بين 0 و1.
- إضافة طبق (دفع) يشبه ضرب ذلك الرقم.
- إزالة طبق (سحب) يشبه قسمة ذلك الرقم.
العائق: لأن هذا يعتمد على عصر معلومات لانهائية في رقم واحد، فهو حساس جداً لأخطاء التقريب. يعمل بشكل مثالي من الناحية النظرية، ولكن في حاسوب حقيقي، إذا دفعت الكثير من الأطب، سيصبح الرقم فوضوياً جداً بحيث يصعب قراءته بدقة.

4. لماذا هذا مهم (وفقاً للورقة)

لا يدعي المؤلفون أن هذا سيجعل هاتفك أسرع أو يعالج الأمراض. بدلاً من ذلك، هم يقدمون إثباتاً للمفهوم ومجموعة أدوات:

جسر: إنه يربط عالم الرياضيات البحتة (المنطق وآلات تورينج) بعالم الشبكات العصبية.
مرجع: يوفر للباحثين مثالاً مثالياً وقابلاً للتشغيل للدراسة.
فحص الاستقرار: بما أن الشبكة مبنية بدقة يدوية، يمكن للعلماء الآن اختبار ما يحدث إذا قمت بـ "نكز" الإعدادات قليلاً (مثل إضافة الضجيج أو محاولة الضبط الدقيق). هل ستتعطل الآلة المثالية، أم ستظل مستقرة؟

الملخص

فكر في هذه الورقة كأنها دليل مصنع. هي لا تقول فقط "الذكاء الاصطناعي يمكنه القيام بالرياضيات". بل تقول: "إليكم تعليمات خط الإنتاج الدقيقة لبناء آلة تقوم بالرياضيات بشكل مثالي، باستخدام المواد الخام للشبكات العصبية فقط". إنها تثبت أنه إذا كنت تعرف القواعد، يمكنك بناء الآلة فوراً، دون الحاجة لتعليمها كيف تتعلم.

ملخص تقني: مكتبة PyTorch لشبكات عصبية كاملة تورينج (Turing-Complete)

بيان المشكلة

بينما أثبتت الأدبيات النظرية منذ فترة طويلة أن الشبكات العصبية يمكنها محاكاة آلات تورينج (TM)—لا سيما من خلال الشبكات المتكررة (Siegelmann & Sontag, 1995) والمحولات ذات الانتباه الصلب (Pérez et al., 2021; Wei, Chen, & Ma, 2021)—إلا أن فجوة كبيرة لا تزال قائمة بين البراهن الرياضية التي تحدد مصفوفات الأوزان وبين التنفيذات الملموسة والقابلة للتشغيل. تعتمد البراهń الحالية غالبًا على دقة لانهائية أو إنشاءات مجردة يصعب تطبيقها في أطر التعلم العميق القياسية. تعالج هذه الورقة الحاجة إلى "مرجع ملموس وقابل للتشغيل" يجسّر الفجوة بين المجالات الرمزية والعصبية عبر تجميع وصف لآلة تورينج مباشرة في شبكة عصبية ذات أوزان ثابتة وقابلة للتفسير، دون الحاجة إلى تدريب.

المنهجية

يقدم المؤلفون حزمة PyTorch تقوم ببناء شبكات عصبية من دالة انتقال لآلة تورينج معطاة ( $\delta$ ) ومجموعة من الحالات النهائية. تتم عملية التجميع عبر تسلسل هرمي من المكونات، مما يضمن أن التمرير الأمامي (forward pass) للشبكة ينفذ بدقة خطوة واحدة من الآلة المحددة. تم تنفيذ بنيتين مختلفتين، كل منهما تحقق نتيجة نظرية مختلفة:

1. المكونات الأساسية

يعتمد البناء على بناء منطق معقد من بوابات بسيطة تعمل بوظيفة ReLU:

المنطق البولياني (Boolean Logic): توضح الورقة كيف تنفذ شبكات ReLU البوابات الأولية (AND, OR, NOT, XOR) وتجمعها في دوائر الصيغة الطبيعية المتقارعة (DNF).
دالة الانتقال: يتم تحقيق جدول البحث المحدود $\delta$ كدائرة DNF مكونة من طبقتين، حيث توجد خلية عصبية مخفية واحدة لكل زوج (حالة-رمز).
الحساب الثنائي: تُستخدم جامعات الجمع المتتالي (ripple-carry adders)، المبنية من جامعات نصفية وجامعات كاملة، لتحديث موضع رأس القراءة/الكتابة (زيادة أو إنقاص الأعداد الصحيحة المرمزة ثنائيًا).
البحث الموضعي: تقوم آليات الانتباه الصلب (المقربة عبر softmax عالية الحرارة) بإجراء عمليات بحث موضعي دقيقة على تاريخ الشريط والمدخلات الأصلية عن طريق مطابقة متجهات (key-query) الثنائية.

2. البنية أ: WCM21 (القائمة على المحولات/Transformers)

بناءً على الإنشاء الخاص بـ Wei, Chen, and Ma (2021)، هذه بنية محول (encoder-decoder transformer):

المشفر (Encoder): يخزن الشريط الأولي كمصفوفة ثابتة مع ترميزات الرموز بنظام One-hot وفهارس المواضع الثنائية.
المفكك (Decoder): يتتبع تاريخ الحوسبة بشكل تلقائي (autoregressively). تتضمن كل خطوة مسارًا من:
1. الانتقال: طبقة تغذية أمامية تنفذ دالة انتقال آلة تورينج عبر DNF.
2. الحساب: سلسلة من جامعات الجمع المتتالي (ripple-carry adder) لتحديث موضع الرأس.
3. استرجاع التاريخ: طبقات الانتباه الذاتي تجري بحثًا ثنائيًا في تاريخ المفكك للعثور على آخر عملية كتابة في موضع الرأس الحالي.
4. استرجاع الشريط: آلية الانتباه المتقاطع (cross-attention) تقرأ رمز الشريط الأصلي من المشفر.
5. تجميع الرمز: طبقة تغذية أمامية قائمة على الأولوية تختار الرمز الصحيح (آخر عملية كتابة > الشريط الأصلي > فارغ).
الدقة: تستخدم ترميزًا موضعيًا ثنائيًا لتجنب التساوي الكسري في درجات الانتباه، مما يسمح بالتنفيذ بدقة محدودة (float32).

3. البنية ب: SS95 (القائمة على الشبكات المتكررة/Recurrent)

بناءً على Siegelmann and Sontag (1995)، يعيد هذا النهج صياغة آلة تورينج كآلة مكدسة (stack machine):

الترميز: يتم ترميز المكدسات كأرقام نسبية مفردة داخل مجموعة كانتور (باستخدام أساس $b=4$ ومعامل $\rho=1/2$ ).
العمليات: يتم تحقيق عمليات المكدس (push, pop, peek) كدوال خطية أو خطية مجزأة من القيمة المرمزة، والتي يتم التلاعب بها عبر ضرب المصفوفات وتنشيطات خطية مشبعة ( $\sigma(x) = \text{clamp}(x, 0, 1)$ ).
التنفيذ: تم توفير نسختين:
- نسخة المسار الصريح المكونة من 4 طبقات.
- نسخة متكررة "في الوقت الفعلي" مكونة من طبقة واحدة.
الدقة: النسخة ذات الطبقة الواحدة حساسة لأخطاء التقريب (التي تضخمها القاعدة $b$ )، مما يتطلب float64 ويحد من عدد العمليات الموثوقة مقارنة بنسخة الـ 4 طبقات.

المساهمات الرئيسية

العرض البنائي: اشتقاق منهجي لكيفية تنفيذ شبكات ReLU للدوائر البوليانية، بدءًا من البوابات الفردية وصولًا إلى صيغ DNF والجامعات الثنائية.
تنفيذ قابل للتشغيل: حزمة PyTorch كاملة تأخذ وصفًا لآلة تورينج وتنتج نموذجًا بأوزان محددة مباشرة من تعريف الآلة. لا يلزم وجود تدريب؛ فالشبكة "صحيحة بالبناء".
أساس مفتوح المصدر: يعمل الكود البرمدي كخط مرجعي لدراسة استقرار الحلول المنشأة تحت تأثير الاضطراب والضبط الدقيق القائم على التدرج، مما يعالج الفجوة بين الوجود النظري والتحسين العملي.

النتائج والقدرات

نجحت الحزمة في محاكاة آلات تورينج، كما تم إثبات ذلك عبر فاحص الأقواس المتوازنة.

WCM21: بالنسبة لآلة بـ 6 حالات و5 رموز و100 خطوة، تمتلك النماذج عرض تضمين قدره 59. وهي تعمل بدقة عددية في float32، حيث تظل جميع القيم الوسيطة ضمن المجموعة $\{0, 1\}$ .
SS95: نسخة الـ 4 طبقات مستقرة للمدخلات النموذجية. أما نسخة الطبقة الواحدة، وبالرغم من كونها أقرب إلى الإنشاء النظري الأصلي، إلا أنها تظهر تدهورًا في الدقة بعد حوالي 8 عمليات (pop) بسبب تراكم خطأ التقريب في ترميز كانتور.

الأهمية والادعاءات

تضع الورقة نفسها ليس كاقتراح لتطبيقات جديدة أو ادعاء بتفوق الأداء على النماذج المدربة، بل كأداة تأسيسية للتفسير والتحقق النظري.

التفسير من خلال البناء: على عكس الشبكات المدربة عبر التدرج النزولي (gradient descent)، حيث قد تكون الخلايا العصبية متبادلة أو متشابكة، فإن كل وزن في هذه الشبكات المنشأة له غرض معروف وقابل للتفسير (على سبيل المثال، بوابة محددة، أو جزء من جامع ثنائي).
تجسير النظرية والممارسة: يغلق هذا العمل الفجوة بين البراهن المجردة حول اكتمال تورينج وبين الكود القابل للتنفيذ، مما يوفر مرجعًا ملموسًا لـ "الجسر الرمزي-العصبي".
الفائدة المستقبلية: يقترح المؤلفون أن النماذج تعمل كنقاط بداية لدراسة مشهد الخسارة (loss landscape) حول الحلول المنشأة، وتحديدًا للتحقيق في مدى تحمل اضطراب الأوزان للمحاكاة، وما إذا كان الضبط الدقيق يؤدي إلى طرق مختصرة لم تدركها عملية الإنشاء العامة.

تخلص الورقة إلى أنه بينما تعد هذه الإنشاءات سليمة نظريًا وقابلة للتشغيل عمليًا، إلا أنها تسلط الضوء على المقايضات المتأصلة بين اكتمال تورينج النظري والاستقرار العددي العملي، خاصة في سياق الحسابات ذات الدقة المحدودة.