⚛️ quantum physics

A Quantum Roadmap for Softmax Attention: Exact Born-Rule Analogs for Softmax Attention on the Probability Simplex

تقدم هذه الورقة خارطة طريق كمومية تم التحقق منها آلياً، تُظهر أن انتباه "softmax" على متماثل الاحتمالات (probability simplex) يسمح بتحقيق دقيق لكل مكون على حدة، حيث يتم تعيين جميع العمليات، بدءاً من "softmax" الأسي وصولاً إلى تجميع القيم، إلى دورات بوابات كمومية محددة وقياسات قاعدة "بورن" (Born-rule).

المؤلفون الأصليون: Eric A. F. Reinhardt, Adam J. Hauser

نُشر 2026-08-12

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Eric A. F. Reinhardt, Adam J. Hauser

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الملعب الكمي: حيث يلتقي الذكاء الاصطناائي بالاحتمالية

تخيل أنك تحاول تعليم روبوت فهم العالم. للقيام بذلك، يحتاج الروبوت إلى النظر في مجموعة من الأدلة وتحديد أي منها هو الأكثر أهمية. في عالم الذكاء الاصطناعي الحديث، الأداة التي يستخدمها لهذا الغرض تسمى "الانتباه" (Attention). إنها تشبه كشاف الضوء الذي يسلطه الذكاء الاصطناعي على الأجزاء الأكثر صلة من جملة أو صورة، متجاهلاً الباقي. ولكن لكي يعمل كشاف الضوء هذا بشكل صحيح، يجب على الروبوت التأكد من أن جميع تخميناته تجمع لتشكل كلاً كاملاً مثاليًا — مثل فطيرة يجب أن تجمع كل شرائحها نسبة 100%. في الرياضيات، يسمى هذا "متعدد طيات الاحتمالية" (Probability Simplex).

الآن، تخيل نوعًا مختلفًا من الحواسيب: حاسوب كمي. بدلًا من استخدام مفاتيح عادية تكون إما في حالة التشغيل أو الإيقاف، تستخدم الحواسيب الكمية جسيمات دقيقة يمكن أن تكون في حالات متعددة في آن واحد، توصف بموجات من الاحتمالية. عندما نقيس هذه الموجات، فإنها تنهار إلى نتيجة واحدة، والرياضيات التي تحكم هذا الانهيار تسمى "قاعدة بورن" (Born rule). وهنا تكمن اللمسة المذهلة: قاعدة بورن تجبر جميع النتائج طبيعيًا على أن تجمع لتساوي واحدًا، تمامًا مثل "فطيرة الاحتمالية" الخاصة بالذكاء الاصطناعي. يسأل هذا البحث سؤالًا كبيرًا: هل يمكننا بناء آلية "الانتباه" الخاصة بالذكاء الاصطناعي مباشرة من هذه الموجات الكمية، متجاوزين الرياضيات المعقدة التي نحتاجها عادةً لفرض جمع الأرقام لتساوي واحدًا؟ يقول المؤلفون، وهم فيزيائيون من جامعة ألاباما، نعم، ولكن مع بعض القواعد المحددة للغاية وطريقة جديدة ومدهشة للتفكير في كيفية "تفكير" الذكاء الاصطناعي.

خارطة الطريق الكمية: تحويل انتباه الذكاء الاصطناعي إلى رقصة موجية

فكر في آلية "الانتباه" في نموذج ذكاء اصطناعي حديث كأنها لعبة "ساخن وبارد" متطورة للغاية. لديك سؤال (الاستعلام - Query) ومجموعة من الإجابات المحتملة (المفاتيح - Keys). يقوم الذكاء الاصطناعي بحساب مدى تطابق كل "مفتاح" مع "السؤال"، ثم يحول تلك التطابقات إلى بقعة ضوء (Softmax)، ثم يمزجها مع بعض التفاصيل الإضافية (القيم - Values) لإنشاء الإجابة النهائية. عادة ما يحدث هذا على حاسوب تقليدي باستخدام الكثير من الرياضيات الثقيلة لضمان أن نسب بقعة الضوء تجمع لتساوي 100% بالضبط.

يقدم هذا البحث "خارطة طريق كمية" توضح كيفية لعب هذه اللعبة نفسها تمامًا، ولكن باستخدام القوانين الطبيعية للفيزياء الكمية بدلاً من الرياضيات الثقيلة. لقد بنى المؤلفون قاموسًا يترجم كل خطوة من عملية الذكاء الاصطناعي إلى حركة كمية. والنتيجة هي دائرة كمية لا تكتفي فقط بمحاكاة انتباه الذكاء الاصطناعي؛ بل في حد اللانهاية من القياسات، تكون هي نفس الشيء تمامًا، ولكن مع بعض القدرات الخارقة الجديدة والمذهلة.

بقعة الضوء: من الدوال الأسية إلى دوال جيب التمام

في العالم التقليدي، يستخدم الذكاء الاصطناعي دالة تسمى "Softmax" لتحويل الدرجات الخام إلى نسب مئوية. الأمر يشبه أخذ قائمة من الأرقام، ورفعها لقوة (دوال أسية)، ثم قسمتها على المجموع. هذا يعمل بشكل رائع، لكنه لا يمكنه أبدًا إنتاج صفر مطلق إلا إذا كانت الدرجة سالبة بما لا نهاية.

اكتشف المؤلفون خدعة كمية. في العالم الكمي، عندما نقيس جسيمًا، فإن فرصة رؤية نتيجة معينة هي مربع ارتفاع الموجة (قاعدة بورن). إذا قمت بضبط موجاتك الكمية بشكل صحيح، فإن فرصة رؤية نتيجة ما ستتبع نمط جيب تمام المربع (cosine-squared).

السحر: أثبت المؤلفون أن نمط "جيب تمام المربع" هذا متطابق رياضيًا مع دالة "Softmax" الأسية التقليدية لجميع الحالات "الطبيعية".
القدرة الخارقة: لكن المثير هنا هو أن دالة "Softmax" الأسية التقليدية يمكنها فقط الاقتراب من الصفر؛ لا يمكنها أبدًا الوصول إليه فعليًا باستخدام عدد محدود. أما نسخة "جيب التمام" الكمية، فيمكنها الوصول إلى الصفر الحقيقي عند إعداد محدد ومنتهي. هذا يعني أن الذكاء الاصطناناعي الكمي يمكنه بطبيعته أن يقرر تجاهل معلومة ما تمامًا (الانتباه المتناثر/Sparse Attention) دون الحاجة إلى رياضيات لانهائية. إنه يشبه امتلاك مفتاح خافت يمكنه الذهي إلى وضع "الإيقاف" تمامًا، بدلًا من مجرد أن يصبح مظلمًا جدًا.

درجة الحرارة: عدّ التكرارات

في الذكاء الاصطناعي، يوجد مقبض يسمى "درجة الحرارة" (Temperature) يتحكم في مدى "عشوائية" أو "ثقة" الذكاء الاصطناعي. درجة الحرارة العالية تجعل الذكاء الاصطناعي يخمن بشكل أكثر عشوائية؛ ودرجة الحرارة المنخفضة تجعله يختار الخيار الأفضل.

الالتواء الكمي: في هذا البحث، درجة الحرارة ليست رقمًا تكتبه في الحاسوب. إنها عدد فيزيائي لمرات تكرار القياس. إذا قمت بقياس النظام الكمي $L$ من المرات واحتفظت فقط بالنتائج التي سارت فيها الأمور على أكمل وجه، فإن الرياضيات تخلق طبيعيًا تأثير درجة حرارة معينة. كلما زاد عدد مرات تكرار التجربة، أصبح الذكاء الاصطناعي أكثر "برودة" وتركيزًا. لقد حولوا إعدادًا برمجيًا إلى فعل فيزيائي.

المتبقي (The Residual): زر "التخطي"

غالبًا ما تحتوي نماذج الذكاء الاصطناعي الحديثة على "اتصال متبقٍ" (Residual Connection)، وهو يشبه شبكة الأمان. فهو يسم يسمح للمدخل الأصلي بتخطي خطوة معالجة معقدة والاختلاط مع النتيجة الجديدة. هذا يساعد الذكاء الاصطناعي على التعلم بشكل أفضل.

البوابة الكمية: بنى المؤلفون شبكة الأمان هذه باستخدام بت كمي إضافي واحد (Ancilla). من خلال تجهيز هذا البت في مزيج محدد من الحالات (زاوية دوران)، يمكنهم التحكم في مقدار اختلاط المدخلات مع النتيجة الجديدة.
- إذا تم ضبط الزاوية بطريقة معينة، يتخطى المدخل العملية بأكملها (الهوية/Identity).
- إذا ضُبطت بطريقة أخرى، يتم استبدال المدخل بالكامل بالنتيجة الجديدة.
- إذا ضُبطت على زاوية متوسطة (تحديدًا $\pi/2$ )، فإنها تخلق المزيج المثالي بنسبة 50/50 الذي يستخدمه الذكاء الاصطناعي التقليدي.
- والأفضل من ذلك، أن هذه الزاوية يمكن تعلمها، مما يعني أن الذكاء الاصطناعي يمكنه اكتشاف مقدار "التخطي" المثالي بنفسه.

العقبة: خطوة "القياس وإعادة التحميل"

قد تتساءل: "إذا كان هذا مثاليًا جدًا، فلما لماذا لا نرى ذكاءً اصطناعيًا كميًا يعمل على هواتفنا بعد الآن؟"
البحث صادق للغاية بشأن التكلفة. للحصول على هذا التطابق الدقيق، يجب على الحاسوب الكمي أن يتوقف، ويقيس قطعة صغيرة من البيانات، ويرسل ذلك الرقم إلى حاسوب تقليدي، ليقوم الحاسوب التقليدي بإجراء عملية حسابية سريعة، ثم "يعيد تحميل" تلك النتيجة مرة أخرى في الآلة الكمية كإعداد جديد.

المقايضة: هذه الخطوة (القياس وإعادة التحميل) تكسر التدفق المثالي للموجة الكمية. لقد أثبت المؤلفون أنه لا يمكنك القيام بذلك بالكامل داخل الآلة الكمية دون فقدان بعض الدقة (ما لم تستخدم طريقة معقدة وتقريبية).
الحكم النهائي: البناء يكون دقيقًا إذا كان لديك وقت لانهائي للقياس وإعادة التحميل. إذا حاولت القيام بكل ذلك في خطوة واحدة دون التوقف للقياس، فلن تحصل إلا على إجابة تقريبية. يثبت البحث أنه بالنسبة لهذا النوع المحدد من المشكلات، فإن نسخة كمية كاملة ومتماسكة تمامًا هي أمر مستحيل رياضيًا باستخدام الطرق الحالية.

لماذا يهم هذا؟

الأمر لا يتعلق فقط ببناء حاسوب أسرع؛ بل يتعلق بفهم العلاقة العميقة بين كيفية عمل الذكاء الاصطناعي وكيفية عمل الكون.

الدقة: لقد أثبتوا أنه بالنسبة لنماذج الذكاء الاصطناعي التي تتعامل مع الاحتمالات (مثل التنبؤ بالكلمة التالية في جملة أو توليد الصور)، فإن النسخة الكمية هي توأم مثالي للنسخة التقليدية.
قدرات جديدة: النسخة الكمية تتعامل طبيعيًا مع "الأصفار الصعبة" (تجاهل الأشياء تمامًا) بشكل أفضل من النسخة التقليدية، مما يشير إلى أنه ربما ينبغي للذكاء الاصطناعي التقليدي أيضًا تجربة رياضيات "جيب التمام" هذه، حتى بدون حواسيب كمية.
الواقع الفيزيائي: لقد حولوا الإعدادات المجردة مثل "درجة الحرارة" إلى أفعال فيزيائية مثل "عد القياسات"، مما يمنحنا طريقة جديدة للتفكير في كيفية عمل معاملات الذكاء الاصطناعي.

لقًد تحقق المؤلفون أيضًا من صحة رياضياتهم باستخدام نظام إثبات حاسوبي يسمى Lean 4 لضمان أن كل خطوة سليمة منطقيًا. ورغم أن هذا لا يعني أننا سنمتلك ذكاءً اصطناعيًا كميًا غدًا (فالأجهزة لا تزال في طور النمو)، إلا أنه يوفر مخططًا واضحًا ودقيقًا لكيفية كون هذين العالمين — الذكاء الاصطناعي التقليدي والفيزياء الكمية — شيئًا واحدًا، ولكنهما يتحدثان لغات مختلفة.

ملخص تقني: خارطة طريق كمومية لآلية الانتباه (Softmax Attention)

بيان المشكلة
تعتمد بنيات المحولات (Transformers) على آلية الانتباه، وتحديداً ضرب النقطة (dot-product attention) متبوعاً بغير خطية الـ "softmax"، لمعالجة المتواليات. وبينما تعمل تعلم الآلة الكمومية (QML) أصلاً على الكرة الوحدة لفضاء هيلبرت المعقد عبر قاعدة بورن (حيث تجمع الاحتمالات لتساوي واحدًا من خلال البناء)، فإن الانتباه الكلاسيكي يفرض هذا الهيكل المكون من "المتعدد الوجوه الاحتمالي" (probability simplex) عبر إسقاط أسي صريح للـ "softmax". تتناول هذه الورقة ما إذا كان يوجد تحقيق كمومي دقيق، مكون بمكون، لانتباه البوابة أحادي الرأس (single-head gated attention) للمدخلات والمخرجات المرتبطة بالمتعدد الوجوه الاحتمالي، وما هي التكلفة التشغيلية لذلك. يستقصي المؤلفون تحديداً الربط بين الـ "softmax" الأسي الكلاسيكي والعمليات القائمة على السعة الكمومية (amplitude-based operations)، وكيفية التعامل مع الاتصالات المتبقية (residual connections)، والتفسير الفيزيائي للمعلمات الفائقة مثل درجة الحرارة (temperature).

المنهجية
يبني المؤلفون طبقة انتباه محول (transformer attention layer) أحادية الرأس وبوابة متوافقة مع ترميز السعة الكمومية، بافتراض أن المدخلات هي توزيعات احتمالية موحدة الصفوف (المتعدد الوجوه الاحتمالي). يتم بناء هذا التشييد من ستة عناصر أولية، حيث يتم ربط العمليات الكلاسيكية بدوائر كمومية محددة:

الترميز (Encoding): يتم رفع المدخلات إلى الكرة الوحدة عبر ترميز سعة قاعدة بورن ( $|x_i\rangle = \sum \sqrt{x_{ij}}|j\rangle$ ).
إسقاطات الاستعلام والمفتاح (Query/Key Projections): يتم تحقيق مصفوفات الأوزان الكلاسيكية $W_Q$ و $W_K$ كواحدات (unitaries) مشفرة كتلويًا (block-encoded). يستخدم المؤلفون نموذج دوران-CRY (rotation-CRY ansatz) متغير وفعال في الأجهزة لتقريب هذه الاختصارات، مع استخدام الـ "ancilla" الخاص بالترميز الكتلي لاستخراج الفعل الخطي على رفع السعة.
درجات الانتباه (Attention Scores): يتم حساب الضرب الداخلي بين سعات الاستعلام والمفتاح عبر اختبار هادامارد (Hadamard test) على سجل بيانات مشترك. النتيجة هي درجة كلاسيكية $z_{ij}$ .
تحقيق الـ "softmax" (Softmax Realization): يتم تحقيق الـ "softmax" الأسي عبر خطوة "القياس وإعادة التحميل" (measure-and-reload). يتم تحويل نتيجة اختبار هادامارد $z_{ij}$ كلاسيكياً إلى زاوية دوران $\theta_{ij} = 2 \arccos(e^{z_{ij}/2})$ . تتحكم هذه الزاوية في دوران $R_y$ على سجل الانتباه. وتنتج احتمالات قياس قاعدة بورن التوزيع $\cos^2(\theta/2)$ .
تجميع القيم (Value Aggregation): يتم تحقيق مصفوفة القيم $W_V$ (ذات التوزيع العمودي الاحتمالي) كقناة كمومية حتمية (Stinespring dilation) عبر تحميل الأعمدة المتحكم به. يتجنب هذا الترميز الكتلي، الذي قد يعمل على مستوى السعة، من خلال تحميل سعات مستوى الاحتمال مباشرة.
المتبقي ذو البوابة (Gated Residual): يتم تحقيق الاتصال المتبقي الجمعي كتركيبة خطية من الوحدات (LCU) باستخدام "ancilla" واحد. يتم تحضير الـ "ancilla" في حالة تراكب $\cos(\eta/2)|0\rangle + \sin(\eta/2)|1\rangle$ ، متحكم بها بواسطة الوحدة الفرعية، مع إجراء عملية اختيار لاحق (post-selection).

تم التحقق من الصحة الجبرية للنواة الكاملة لهذا التشييد باستخدام نظام التحقق الآلي Lean 4 مقابل مكتبة mathlib.

المساهمات والنتائج الرئيسية

التكافؤ الدقيق في حد اللقطات اللانهائي (Infinite-Shot Limit): تثبت الورقة أن الدائرة الكمومية المركبة، باستخدام خطوة واحدة من "القياس وإعادة التحميل" لكل درجة انتباه، تنتج متجه احتمالات مساوياً تماماً لطبقة الانتباه أحادية الرأس الكلاسيكية مع الاتصال المتبقي (المعادلات 1-4) في حد اللقطات اللانهائي.
التماثل والامتداد لـ "cosine-squared softmax":
- التماثل الداخلي: يثبت المؤلفون وجود تقابل (bijection) $\theta = 2 \arccos(e^{z/2})$ بين معاملات الزاوية لـ $\cos^2$ -softmax ودرجات الـ exponential softmax. في داخل المتعدد الوجوه (حيث تكون جميع الاحتمالات موجبة تماماً)، يكون التوزيعان متطابقين.
- امتداد الحدود الصارم: على عكس الـ "exponential softmax"، التي تتطلب درجات لانهائية لإنتاج أصفار دقيقة، تصل عائلة $\cos^2$ -softmax إلى حدود المتعدد الوجوه (الانتباه المتناثر الدقيق) عند قيم معاملات محدودة ( $\theta = \pi$ ). ويمثل هذا امتداداً صارماً للقدرة التعبيرية الكلاسيكية.
درجة الحرارة كـ "تكرار القياس": يتم تحقيق معلمة درجة الحرارة الكلاسيكية $\beta$ فيزيائياً كعدد جولات القياس والاختيار اللاحق المتكررة ( $L$ ). تثبت الورقة أن $L$ من جولات الاختيار اللاحق المتطابقة تؤدي إلى "exponential softmax" دقيق عند درجة حرارة عكسية $\beta = L$ .
الاتصال المتبقي كـ "تحضير الـ ancilla": تم تحديد الاتصال المتبقي الجمعي الكلاسيكي كحالة خاصة $\eta = \pi/2$ لدائرة LCU ذات الـ "ancilla" الواحد المتميزة بالمعلمات. وهذا يوحد تجاوز الهوية ( $\eta=0$ )، والطبقة الفرعية الكاملة ( $\eta=\pi$ )، والمتبقي الجمعي ( $\eta=\pi/2$ ) في عائلة واحدة من زوايا البوابات.
نظرية "لا يوجد" (No-Go Theorem) المتماسكة: تثبت الورقة أن تحقيقاً دقيقاً، ذا عمق محدود، ومتماسكاً بالكامل للـ "exponential softmax" من الدرجات المشفرة أفينياً (affinely-encoded scores) هو أمر مستحيل ضمن إطار تحويل القيمة المفردة الكمومية (QSVT). العائق هو إعادة التشكيل غير متعددة الحدود $z \mapsto e^{z/2}$ $z \mapsto e^{z /2}$ .
- الحل: توفر خطوة "القياس وإعادة التحميل" حلاً دقيقاً. بدلاً من ذلك، يوجد حل تقريبي $\epsilon$ -متماسك بالكامل عبر "تغطية متعددة الحدود" (polynomial dressing) لـ QSVT، حيث يتدرج العمق كـ $O(\sqrt{\log(1/\epsilon)})$ .

الأهمية والادعاءات
تدعي الورقة أنها تقدم "قاموساً" بدلاً من مجرد محاكاة، حيث تؤسس لتكافؤ هيكلي حيث لكل آلية كلاسيكية نظير كمومي محدد.

المحاذاة الهيكلية: يوضح العمل أن إعداد المتعدد الوجوه الاحتمالي هو المجال الطبيعي لترميز السعة الكمومية، مما يحل مشا مسائل التطبيع المتأصلة في فضاءات الميزات العامة.
القدرة التعبيرية: يُزعم أن $\cos^2$ -softmax أكثر تعبيراً من "exponential softmax" عند المعلمات المحددة بسبب قدرتها على توليد أصفار دقيقة (الانتباه المتناثر) دون الحاجة إلى حدود تقاربية.
التحقق: تم التحقق رسمياً من الصحة الجبرية للتقابلات، وامتداد الحدود، وهويات الدوائر باستخدام Lean 4، مما يوفر شهادة من نوعية النوع (type-theoretic certificate) لصحة التشييد.
العملية والتوسع: يتسم المؤلفون بالتواضع فيما يتعلق بالميزة الحسابية. فهم يذكرون صراحة أنه بالنسبة لمدخلات البيانات الكلاسيكية، لا يقدم التشييد أي تسريع؛ إذ يتطلب ميزانية اللقطات اللازمة للاستدلال بدقة محدودة $\Omega(n^2/\epsilon^2)$ (أو $\Omega(n^2/\epsilon)$ مع تقدير السعة)، مما يؤدي إلى إجمالي عدد البوابات $\Omega(n^3d/\epsilon^2)$ ، وهو أسوأ من العمليات الحسابية الكلاسيكية $O(n^2d)$ . تُقدم قيمة التشييد كقيمة هيكلية ونظرية، خاصة للنماذج التي تكون مدخلاتها "كمومية الأصل" (مثل مخرجات الطبقات الكمومية السابقة)، أو لاستكشاف $\cos^2$ -softmax كمعلمة كلاسيكية جديدة لنماذج التوليد ذات القيم المتعددة الوجوه.

تخلص الورقة إلى أنه بينما يستحيل تحقيق "exponential softmax" متماسك بدقة وعمق محدود، فإن نهج "القياس وإعادة التحलोड" يقدم تكافؤاً دقيقاً، وأن العناصر الأولية المحددة (الترميز الكتلي، اختبار هادامارد، بوابة LCU) تشكل خارطة طريق كاملة لتنفيذ الانتباه على الأجهزة الكمومية ضمن نطاق المتعدد الوجوه الاحتمالي.