💻 computer science

Dual Numbers for Arbitrary Order Automatic Differentiation

تقدم هذه الورقة DNAOAD، وهو إطار عمل قائم على لغة فورتران يتغلب على قيود الذاكرة وقابلية التوسع التي تواجهها أساليب الأعداد المزدوجة المتداخلة الحالية من خلال استخدام تمثيل مباشر غير متداخل لحساب المشتقات من رتب عشوائية بكفاءة للحوسبة العلمية عالية الأداء.

المؤلفون الأصليون: F. Peñuñuri, K. B. Cantún-Avila, R. Peón-Escalante

نُشر 2026-02-06

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: F. Peñuñuri, K. B. Cantún-Avila, R. Peón-Escalante

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: طريقة جديدة للقيام بالرياضيات "أثناء العمل"

تخَّيل أنك طاهٍ يحاول إتقان وصفة ما. تريد أن تعرف بالضبط كيف يتغير الطعم إذا أضفت القليل من الملح، أو القليل من السكر. في عالم علوم الكمبيوتر والهندسة، يُسمى هذا التفاضل (Differentiation)—أي معرفة كيف تتغير النتيجة عندما تقوم بتعديل المدخلات.

لفترة طويلة، امتلكت أجهزة الكمبيوتر طريقتين رئيسيتين للقيام بذلك:

الرياضيات الرمزية (Symbolic Math): مثل طالب ذكي جداً يكتب الصيغة الرياضية كاملة على ورقة. هي دقيقة، ولكن إذا أصبحت الوصفة معقدة للغاية، ستتحول الورقة إلى فوضى عارمة وغير قابلة للقراءة.
الفروق المتناهية (Finite Differences): مثل تذوق الحساء، ثم إضافة رشة ملح، ثم تذوقه مرة أخرى لتخمين الفرق. هي عملية سهلة، لكنها ليست دقيقة جداً، وإذا قمت بها عدة مرات، ستفسد الحساء (بسبب الأخطاء العددية).

التفاضل التلقائي (Automatic Differentiation - AD) هو "الطريقة المثالية" (التي تقع في المنتصف تماماً). فهو يحسب التغيير الدقيق دون الحاجة إلى صيغة ضخمة أو تخمين فوضوي. يعمل عن طريق تشغيل برنامج الكمبيوتر مرة واحدة، مع الاحتفاظ بـ "ظل" للحساب يتتبع كيفية تغير كل خطوة.

المشكلة: فخ "دمية الماتريوشكا" (الدمية الروسية)

تركز الورقة البحثية على نوع محدد من التفاضل التلقائي يسمى الأعداد المزدوجة (Dual Numbers). فكر في العدد المزدوج كعدد قياسي ملتصق به "ظل" صغير.

العدد القياسي: 5
العدد المزدوج: 5 + (ظل صغير)

عندما تجري عمليات رياضية بهذه الأعداد، يتحدث الظل تلقائياً ليخبرك بالمشتق (معدل التغيير).

المشكلة:
معظم برامج الكمبيوتر الحالية التي تستخدم الأعداد المزدوجة لإيجام المشتقات من الرتب العليا (مثل التغيير الثاني، أو الثالث، أو المائة) تستخدم طريقة تسمى الأعداد المزدوجة المتداخلة (Nested Dual Numbers).

التشبيه: تخيل أنك تحاول إيجاد المشتق العاشر. يجب على الكمبيوتر وضع عدد مزدوج داخل عدد مزدوج آخر، والذي يوضع داخل آخر، مثل مجموعة من دمى الماتريوشكا الروسية المتداخلة.
النتيجة: كلما ذهبت إلى مستويات أعمق (رتب أعلى)، يتعين على الكمبيوتر حمل المزيد والمزيد من الدمى. يزدق استخدام الذاكرة بشكل هائل. الأمر يشبه محاولة حمل حقيبة ظهر تصبح أثقل في كل مرة تخطو فيها خطوة. في النهاية، سينفد من الكمبيوتر المساحة (الذاكرة) أو سيصبح بطيئاً جداً لدرجة التوقف عن العمل.

الحل: DNAOAD (حقيبة الظهر المسطحة)

قام مؤلفو هذه الورقة، العاملون في جامعة "Universidad Autónoma de Yucatán"، بإنشاء أداة جديدة تسمى DNAOAD.

بدلاً من استخدام نهج "دمية الماتريوشكا" (المتداخل)، قاموا ببناء نظام مباشر ومسطح.

التشبيه: تخيل بدلاً من الدمى المتداخلة، أن لديك صفاً طويلاً من الصناديق.
- الصندوق 1 يحمل العدد الرئيسي.
- الصندوق 2 يحمل التغيير الأول.
- الصندوق 3 يحمل التغيير الثاني.
- الصندوق 100 يحمل التغيير المائة.
لماذا هو أفضل: لا يتعين عليك فتح صندوق للوصول إلى الصندوق التالي. يمكنك ببساطة الوصول مباشرة إلى الصندوق 100. هذا يعني أن الكمبيوتر لن يشعر بالإرهاق بسبب "التداخل". إنه يستخدم ذاكرة أقل بكثير ويمكنه التعامل مع رتب عالية جداً من المشتقات (مثل التغيير الخمسين أو المائة) دون الانهيار.

كيف يعمل (السر الخفي)

لجعل هذا النظام المسطح يعمل، استخدم المؤلفون أداة رياضية تسمى صيغة فآ ما برونوي (Faà di Bruno formula).

الاستعارة: إذا أردت معرفة كيف تتغير آلة معقدة (دالة مكونة من دوال أصغر)، فلا يمكنك النظر إلى الخارج فقط. يجب أن تفهم كيف يدور كل ترس في الداخل.
تعمل الصيغة كدليل تعليمات رئيسي يخبر الكمبيوتر بالضبط كيفية دمج تغييرات جميع التروس الصغيرة للحصول على النتيجة النهائية، دون الحاجة إلى بناء هيكل ضخم ومتداخل.

ما الذي تفعله هذه الورقة فعلياً

تقدم حزمة برمجية جديدة (DNAOAD): وهي مكتوبة بلغة Fortran، وهي لغة مشهورة بالحوسبة العلمية عالية الأداء.
تتجنب التكرار (Recursion): فهي تتجنب صراحة هياكل البيانات "المتداخلة" التي تسبب مشاكل في الذاكرة في اللغات الأخرى (مثل Julia أو C++).
تتعامل مع "الرتب التعسفية": يمكنك أن تقول للكمبيوتر: "أريد المشتق الخمسين"، وسيقوم بذلك بكفاءة، بشرب ما يكفي من ذاكرة الوصول العشوائي (RAM) لجهازك.
تتضمن مكتبة من الأدوات: تأتي الحزمة مع دوال جاهزة للعمليات الرياضية الشائعة (مثل الجيب، وجيب التمام، والأسس) والتي تعرف تلقائياً كيفية التعامل مع هذه الأعداد المزدوجة "المسطحة".

مثال من الواقع في الورقة

تظهر الورقة مثالاً بسيطاً حيث يحسبون مشتقات دالة تتضمن الجيب (sine) واللوغاريتمات.

ضبطوا الكمبيوتر للبحث عن مشتقات حتى الرتبة الخامسة.
أدخلوا عدداً مركباً.
البرنامج يخرج فوراً القيمة الأصلية بالإضافة إلى التغييرات الأولى والثانية والثالثة والرابعة والخامسة، كل ذلك في عملية واحدة.

كما ذكروا تحدياً أصعب: تداخل دالة داخل نفسها 1,000 مرة. الرياضيات الرمزية ستفشل هنا (ستكون الصيغة ضخمة جداً)، والتخمين القياسي سيكون غير دقيق للغاية. طريقتهم تتعامل مع هذا من خلال إبقاء هيكل البيانات مسطحاً وفعالاً.

الملخص

تقدم الورقة DNAOAD، وهي طريقة جديدة لتعليم أجهزة الكمبيوتر كيفية حساب معدلات التغيير المعقدة. بدلاً من بناء برج من الصناديق المتداخلة (الذي ينهار تحت وطأة وزنه)، قاموا ببناء رف طويل ومسطح. هذا يسمح للعلماء والمهندسين بحساب مشتقات الرتب العالية للغاية بكفاءة، مما يجعلها أداة قوية للحوسبة العلمية عالية الأداء.

ملخص تقني: الأعداد المزدوجة للتفاضل التلقائي من رتبة اختيارية

بيان المشكلة
يُعد التفاضل التلقائي (AD) تقنية حاسمة لحساب المشتقات بدقة الآلة، مما يتجنب أخطاء التقطيع الناتجة عن الفروق المحدودة وتضخم التعبيرات الناتج عن التفاضل الرمزي. وبينما يُعد استخدام الأعداد المزدوجة في نمط التفاضل الأمامي (forward-mode AD) منهجاً راسخاً للمشتقات من الرتبة الأولى والثانية، فإن التطبيقات العملية للمشتقات ذات الرتب الاختيارية تواجه تحديات كبيرة في القابلية للتوسع. تعاني النهج عالية المستوى الحالية، مثل تلك الموجودة في PyTorch (القائمة على الرسم البياني) أو ForwardDiff في لغة Julia (الأعداد المزدوجة المتداخلة)، من نمو هائل في الذاكرة وعدم كفاءة حوسبية مع زيادة رتبة المشتق. وتحديداً، تؤدي الهياكل البيانية المتكررة أو المتداخلة المستخدمة لتمثيل الأعداد المزدوجة ذات الرتب العليا إلى استنفاد سريع للذاكرة وتجاوز سعة المكدس (stack overflow)، مما يحد من إمكانية تطبيقها في الحوسبة العلمية عالية الأداء.

المنهجية
يقترح المؤلفون إطار عمل DNAOAD، وهو إطار يعتمد على لغة فورتران (Fortran) يقوم بحساب المشتقات من رتبة اختيارية باستخدام تمثيل مباشر وغير متداخل للأعداد المزدوجة. وتتضمن المنهجية الجوهرية ما يلي:

التمثيل المباشر: بدلاً من تداخل الأعداد المزدوجة بشكل تكراري (على سبيل المثال، لا يُعرّف العدد المزدوج من الرتبة $n$ كعدد مزدوج من الرتبة $n-1$ )، يعرّف إطار العمل العدد المزدوج من الرتبة $n$ كبنية واحدة تحتوي على مصفوفة من $n+1$ من المعاملات ( $a_0, \dots, a_n$ ). وهذا يتجنب الهياكل البيانية المتكررة تماماً.
تنفيذ صيغة فآ دي برونو (Faà di Bruno): للتعامل مع قاعدة السلسلة للدوال المركبة $f(g(x))$ عند رتب اختيارية، يقوم المؤلفون بتنفيذ صيغة فآ دي برونو. ويتضمن ذلك حساب كثيرات حدود بيل الجزئية ( $B_{n,k}$ ) بشكل تكراري باستخدام البرمجة الديناميكية (الخوارزمية 1) بدلاً من الاستدعاءات المتكررة، مما يضمن الكفاءة الحوسبية.
تحميل العوامل الزائد (Operator Overloading): يقوم إطار العمل بتحميل العمليات القياسية والدوال الأصلية (مثل sin و exp و * و +) لتعمل على النوع المشتق dualzn. وبالنسبة للدوال الأولية التي تفتقر إلى مشتقات عليا بسيطة ذات صيغة مغلقة (مثل arcsin)، يعتمد النظام على الانتشار التلقائي للمشتقات عبر العمليات الحسابية الأساسية (الجمع، الضرب، الجذر التربيعي) باستخدام قاعدة ليبنيز وصيغة فآ دي برونو.
بنية البرمجيات: يتم توزيع الحزمة ككود مصدري مستقل وكوحدة (module) تابعة لمدير حزم فورتران (FPM). وهي تتضمن وحدات لمعالجة الدقة، ونوع العدد المزدوج الأساسي (dualzn_mod)، والمشغلات التفاضلية (diff_mod) لحساب التدرجات (gradients)، والمصفوفات الهيسية (Hessians)، والجاكوبيان (Jacobians).

المساهمات الرئيسية

بنية غير متداخلة: المساهمة الرئيسية هي التخلص من الهياكل البيانية المتكررة لصالح تمثيل مسطح يعتمد على المصفوفات. وهذا يغير بشكل جذري سلوك توسع الذاكرة، مما يسمح بحساب مشتقات ذات رتب عالية جداً دون الانفجار الذاكري المرتبط بالنهج المتداخلة.
دعم الرتب الاختيارية: يدعم إطار العمل المشتقات من أي رتبة $n$ ، والتي تقتصر فقط على الموارد الحوسبية والدقة العددية، وليس على الرتب المنخفضة (عادة 1 أو 2) بسبب قيود التنفيذ.
التنفيذ بلغة فورتران: يوفر العمل تنفيذاً عملياً عالي الأداء بلغة فورتران، وهي لغة مستخدمة على نطاق واسع في الحوسبة العلمية، مما يجعل التفاضل التلقائي عالي الرتبة متاحاً لقواعد كود فورتران الحديثة والقديمة.
مجموعة شاملة من العوامل: تتضمن الحزمة عوامل زائدة للعمليات الحسابية الأولية، والحسابات المركبة، وعمليات المصفوفات، مما يمكن المستخدمين من كتابة الخوارزميات العددية مباشرة في جبر الأعداد المزدوجة.

النتائج وادعاءات الأداء
يبرهن البحث على قدرة إطار العمل من خلال برامج تجريبية، مثل حساب مشتقات الدالة $f(z) = \sin(z)\log(z^2)$ حتى الرتبة الخامسة، وتفاضل دالة متداخلة 1,000 مرة. ويدعي المؤلفون أنه من خلال تجنب التكرار:

استخدام الذاكرة: يقلل النهج بشكل كبير من استهلاك الذاكرة مقارنة بتنفيذات الأعداد المزدوجة المتداخلة.
القابلية للتوسع: يتغلب المنهج على القيود الرئيسية للقابلية للتوسع في الطرق الحالية، مما يتيح الحساب الفعال للمشتقات ذات "الرتب العالية جداً".
الكفاءة: تسهل الحوسبة التكرارية لكثيرات حدود بيل والوصول المباشر للمعاملات عبر الفهرسة التنفيذ الفعال المناسب للتطبيقات عالية الأداء.

الأهمية
يضع المؤلفون هذا العمل باعتباره أول تنفيذ عملي للأعداد المزدوجة ذات الرتب الاختيارية التي تتجنب التمثيلات المتكررة أو المتداخلة مع الحفاظ على القابلية للتوسع. وتكمن الأهمية في سد الفجوة بين الفهم النظري للتفاضل التلقائي عالي الرتبة وتطبيقاته العملية في الحوسبة العلمية عالية الأداء والمقيدة بالموارد. ومن خلال توفير أداة يمكنها التعامل مع المشتقات عالية الرتب دون استنفاد الذاكرة، يفتح DNAOAD آفاقاً جديدة في مجالات التحسين، وتحليل الحساسية، والنمذجة العددية حيث تكون المعلومات المتعلقة بالمشتقات عالية الرتب مطلوبة ولكنها كانت غير متاحة سابقاً بسبب عوائق التنفيذ. ويُقدم هذا العمل كخطوة تأسيسية لدمج التفاضل التلقائي عالي الرتب في منظومة فورتران.