Learning to Coordinate via Quantum Entanglement in Multi-Agent Reinforcement Learning
تقدم هذه الورقة إطار عمل مبتكر لتعلم التعزيز متعدد الوكلاء يتيح للوكلاء التنسيق عبر التشابك الكمي المشترك، مبرهنةً من خلال كل من الألعاب ذات الصندوق الأسود ونماذج عمليات ماركوف لاتخاذ القرار تحت عدم اليقين الجزئي (Dec-POMDPs) أن هذا النهج يمكنه تحقيق أداء تنسيقي متفوق لا يمكن بلوغه عبر العشوائية المشتركة الكلاسيكية وحدها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مجموعة من الأصدقاء يحاولون حل لغز معاً، لكن يُمنعون من التحدث إلى بعضهم البعض. لا يمكنهم المراسلة، أو الهمس، أو حتى تبادل النظرات. في عالم علوم الحاسوب، هذا يمثل صداعاً كلاسيكياً لـ "تعلم التعزيز متعدد الوكلاء" (MARL). إنه مجال تتعلم فيه البرامج الحاسوبية (الوكلاء) اتخاذ القرارات من خلال التجربة والخطأ، تماماً مثل كلب يتعلم الحركات، ولكن عندما يكون هناك العديد منهم يعملون كفريق واحد، فإنهم غالباً ما يعلقون لأنهم لا يستطيعون مشاركة أسرارهم.
لمساعدة هؤلاء الزملاء الصامتين على التنسيق، استخدم العلماء لفترة طويلة حيلة تسمى "العشوائية المشتركة". تخيل إعطاء كل صديق نسخة من نفس مجموعة أوراق اللعب المبعثرة قبل بدء اللعبة. لا يمكنهم التحدث، ولكن إذا سحب كلاهما "آس السباتي" (Ace of Spades)، فإنهما يعرفان وجوب القيام بنفس الحركة. إنها طريقة ذكية للمزامنة دون كلام. ولكن هناك عقبة: هذه الطريقة لها سقف محدد؛ فمهما بلغت درجة بعثرة أوراق اللعب، هناك بعض الألغاز التي لا تكون فيها استراتيجية "مجموعة أوراق اللعب" هذه كافية للفوز ببساطة.
هنا يأتي الدور غير المتوقع للفيزياء: "التشابك الكمي". هذا ارتباط غريب بين الجسيمات حيث يصبح شيئان مرتبطين بعمق بحيث أن قياس أحدهما يخبرك فوراً بشيء عن الآخر، حتى لو كانا على بعد أميال. الأمر يشبه امتلاك نردين سحريين يسقطان دائماً على أرقام متطابقة، بغض النظر عن المسافة التي يتم رميهما منها. لعقود من الزمن، عرف الفيزيائيون أن هذه "النردات السحرية" يمكنها حل ألغاز تنسيق معينة بشكل أفضل من أي مجموعة أوراق لعب يمكن أن تنجح. ولكن حتى الآن، لم يعرف أحد كيف يعلم فريقاً من وكلاء الحاسوب المتعلمين كيفية استخدام هذا السحر الكمي فعلياً لتحسين أدائهم.
هذه الورقة البحثية هي الأولى التي تبني "صالة تدريب" لهؤلاء الوكلاء، لتعليمهم كيفية تسخير التشابك الكمي للتنسيق دون قول كلمة واحدة. لقد ابتكر الباحثون نظاماً جديداً حيث يتعلم الوكلاء معاملة القياسات الكمية كلغة سرية. اختبروا ذلك في ألعاب بسيطة لمرة واحدة، ووجدوا أن الوكلاء يمكنهم بالفعل تعلم استراتيجيات تتفوق على أفضل طرق "مجموعات أوراق اللعب" الكلاسيكية، محققين ما يسميه الفيزيائيون "الميزة الكمية". ثم ذهبوا خطوة أبعد، بتعليم الوكلاء كيفية التنسيق في سيناريو معقد ومستمر يتضمن موجهات حركة المرور وطوابير الخوادم. في هذه المحاكاة، تمكن الوكلاء المتشابكون من جعل العملاء ينتظرون وقتاً أقل من نظرائهم غير المتشابكين، مما يثبت أن الروابط الكمية يمكن أن تساعد الفرق الصامتة على العمل معاً بكفاءة أكبر مما تسمح به الحيل الكلاسيكية.
الفريق الصامت والنرد السحري
دعونا نتعمق في القصة. تخيل أنك وصديقك المفضل تلعبان لعبة فيديو عالية المخاطر معاً. أنت في جانب والطرف الآخر من الخريطة، والقواعد تقول: ممنوع الكلام. لا يمكنك إرسال رسائل، ولا يمكنك الإشارة بشخصيتك، ولا يمكنك النظر إلى شاشات بعضكما البعض. هدفك هو الفوز، ولكن للقيام بذلك، تحتاج إلى القيام بحركات تتطابق تماماً مع حركات صديقك.
في عالم الذكاء الاصطناعي، هذه هي مشكلة "تعلم التعزيز متعدد الوكلاء" (MARL). هؤلاء هم وكلاء الذكاء الاصطناعي الذين يتعلمون من خلال الفعل. عادةً، إذا لم يتمكنوا من التحدث، فإنهم يعتمدون على العشوائية المشتركة. فكر في هذا كطقس ما قبل اللعبة حيث تقوم أنت وصديقك بقلب عملة معدنية معاً. إذا ظهرت الصورة، فكلاكما يقفز؛ وإذا ظهرت الكتابة، فكلاكما ينحني. إنها طريقة للمزامنة دون كلام. لقد استخدمها العلماء لسنوات، وهي تعمل بشكل جيد، ولكن هناك حداً؛ فبالنسبة لبعض الألغاز المعقدة للغاية، فإن قلب العملات المعدنية ليس كافياً لتحقيق نسبة فوز مثالية.
ثم هناك التشابك الكمي. هذه ظاهرة حقيقية في الفيزياء حيث ترتبط جسيمان بطريقة تتحدى منطقنا اليومي. إذا كان لديك زوج من الجسيمات المتشابكة، فإن قياس أحدهما يكشف فوراً عن حالة الآخر، بغض النظر عن المسافة بينهما. الأمر يشبه امتلاك "نرد سحري" مرتبط؛ إذا حصلت على الرقم 6 على نردك، فإن نرد صديقك سيظهر الرقم 6 فوراً، حتى لو كان في الجانب الآخر من المجرة. لقد عرف الفيزيائيون منذ فترة طويلة أنه إذا استخدمت هذه النردات السحرية بدلاً من العملات العادية، فيمكنك الفوز في بعض الألعاب باحتمالية أعلى مما هو ممكن باستخدام العملات فقط. وهذا ما يسمى "الميزة الكمية".
ولكن السؤال الكبير هو: هل يمكننا تعليم فريق من وكلاء الذكاء الاصطناعي المتعلمين كيفية استخدام هذه النردات السحرية للتنسيق فعلياً؟ أم أن التشابك الكمي مجرد خدعة فيزيائية رائعة لا تستطيع الحواسيب تعلم استخدامها؟
صالة التدريب الجديدة
قرر مؤلفو هذه الورقة، وهم فريق من ناسداك وجامعة بنسلفانيا، بناء صالة تدريب لمعرفة ذلك. أرادوا معرفة ما إذا كان بإمكانهم تعليم وكلاء الذكاء الاصطناعي تعلم استراتيجيات تستغل التشابك الكمي، من خلال الخبرة فقط، دون أن يخبرهم البشر بالإجابة.
للقيام بذلك، كان عليهم ابتكار طريقة جديدة لكي "يفكر" بها الذكاء الاصطناعي في ميكانيكا الكم. عادةً، يتعلم الذكاء الاصطناعي من خلال تعديل الأرقام (الأوزان) في الشبكة العصبية. ولكن ميكانيكا الكم تتضمن رياضيات معقدة لا تتناسب بدقة مع أدوات الذكاء الاصطناعي القياسية. ابتكر الفريق أداة جديدة يسمونها QuantumSoftmax.
تخيل أنك تحاول تعليم روبوت كيفية التلاعب بالكرات (Juggle). لا يمكنك فقط أن تقول له "تلاعب بالكرات"، بل يجب عليك تقسيم الأمر إلى حركات صغيرة قابلة للتعديل. الـ QuantumSoftmax يشبه مترجماً خاصاً يأخذ رياضيات الروبوت الفوضوية والخام ويحولها إلى "قياس كمي" صالح. إنه يضمن أن أي شيء يقرره الروبوت، يتبع القواعد الصارمة للفيزياء الكمية. هذا يسمح للذكاء الاصطناعي باستخدام "الانحدار الاشتقاقي" (Gradient Descent) — وهي الطريقة القياسية للتعلم من خلال التجربة والخطأ — لتعديل استراتيجيته الكمية حتى تصبح أفضل فأفضل.
كما صمموا بنية جديدة للفريق. لقد قسموا عملية اتخاذ القرار إلى جزئين:
- الجهات الفاعلة المحلية (Local Actors): هؤلاء هم الوكلاء الأفراد (اللاعبون). ينظرون إلى ما يرونه ويقررون ما يجب فعله.
- المنسق الكمي (Quantum Coordinator): هذا هو الجزء "السحري". هو لا يخبر اللاعبين بما يجب فعله مباشرة، بل يستخدم الجسيمات المتشابكة لتوليد "نصيحة" (رقم عشوائي أو إشارة) لكل لاعب. ولأن الجسيمات متشابكة، فإن النصيحة المقدمة للاعب (أ) تكون مرتبطة تماماً بالنصيحة المقدمة للاعب (ب)، على الرغم من أنهما لم يتحدثا أبداً.
بعد ذلك، يأخذ اللاعبون هذه النصيحة ويجمعونها مع ملاحظاتهم الخاصة لاتخاذ قرارهم النهائي. الأمر يشبه قيام المنسق بتسليم كل لاعب ملاحظة سرية تقول: "إذا رأيت ضوءاً أحمر، افعل X"، ولكن الملاحظة يتم إنتاجها بواسطة نرد سحري يضمن أن الملاحظات متطابقة تماماً.
النتائج: السحر يعمل (في المحاكاة)
وضع الفريق نظامهم الجديد قيد الاختبار بطريقتين مختلفتين.
أولاً: ألعاب الإحماء:
بدأوا بألعاب بسيطة من جولة واحدة تُعرف باسم "الألعاب غير المحلية" (Nonlocal games). هذه تشبه الألغاز التي يستخدمها الفيزيائيون لإثبات غرابة ميكانيكا الكم. أحد الأمثلة الشهيرة هو لعبة CHSH. في هذه اللعبة، يحاول اللاعبون تخمين حركات بعضهم البعض بناءً على مدخلات عشوائية.
- النتيجة: قام الفريق بتدريب وكلائهم من الصفر. وبدون أي مساعدة، تعلم الوكلاء استخدام التشابك الكمي. لقد اكتشفوا استراتيجيات تفوز في اللعبة بمعدل تكرار أكبر من أي استراتيجية تستخدم فقط "العشوائية المشتركة" (قلب العملات).
- العقبة: وجدوا أن إضافة القليل من "الإنتروبيا" (كلمة تقنية تعني تشجيع الذكاء الاصطناعي على أن يكون عشوائياً قليلاً وليس متوقعاً جداً) ساعد الوكلاء على تجنب العلوق في الاستراتيجيات الكلاسيكية القديمة. ومع هذا التعديل، وجدت كل جولة من جولات تدريبهم استراتيجية كمية فائزة.
ثانياً: محاكاة العالم الحقيقي:
لم يتوقفوا عند الألعاب البسيطة، بل أرادوا معرفة ما إذا كان هذا سينجح في موقف معقد ومستمر. قاموا بنمذجة "مشكلة طوابير الموجهات والخوادم المتعددة". تخيل شبكة إنترنت مزدحمة بها موجهان (الوكلاء) يرسلان حزم البيانات إلى الخوادم. لا يمكن للموجهين التحدث إلى بعضهما البعض، لكنهما يحتاجان إلى موازنة الحمل بحيث لا يزدحم خادم واحد ولا ينتظر أي طرد وقتاً طويلاً جداً.
- الإعداد: هذه مشكلة اتخاذ قرار تسلسلية معقدة. يجب على الموجهات اتخاذ سلسلة من القرارات عبر الزمن.
- النتيجة: تعلم الوكلاء المدربون باستخدام إطار عمل التشابك الكمي التنسيق بشكل أفضل من الوكلاء الذين يستخدمون العشوائية المشتركة فقط. وتحديداً، كان "وقت الانتظار الزائد" (المدة التي انتظرها العملاء مقارنة بالحد النظري المثالي) أقل لدى الوكلاء المتشابكين.
- الأهمية: يؤكد هذا أن التشابك الكمي يمكن أن يساعد في سيناريوهات تحاكي الواقع المعقد، وليس فقط في الألغاز البسيطة لمرة واحدة. تعلم الوكلاء استخدام "النرد السحري" للحفاظ على تدفق حركة المرور بسلاسة أكبر.
ماذا يعني هذا (وما لا يعنيه)
الورقة البحثية واضحة جداً بشأن ما حققوه وما لا يزال مجهولاً.
ما أثبتوه:
أظهروا أنه من الممكن تدريب وكلاء الذكاء الاصطناعي على تعلم الاستراتيجيات الكمية من الصفر. لقد بنوا إطار عمل حيث يمكن للوكلاء تعلم استخدام التشابك للتنسيق دون تواصل. وفي محاكاتهم، أدى ذلك إلى أداء أفضل من الطرق الكلاسيكية في كل من الألعاب البسيطة ومشكلات الطوابير المعقدة.
ما لم يفعلوه:
- لا توجد أجهزة كمية حقيقية: لم يستخدم الوكلاء حواسيب كمية فعلية أو جسيمات متشابكة حقيقية. كان "التشابك" مجرد محاكاة رياضية على حاسوب كلاسيكي. لقد أثبتوا أن المفهوم يعمل، لكنهم لم يبنوا فريق روبوتات كمية مادياً بعد.
- لا يوجد تواصل فوري: تنفي الورقة صراحةً فكرة أن التشابك يسمح بالتواصل أسرع من الضوء. لا يزال الوكلاء غير قادرين على التحدث. "السحر" هو مجرد وسيلة لجعل قراراتهم مترابطة بشكل أفضل مما يسمح به العشوائي العادي.
- ليست مشكلة محلولة: بينما وجدوا ميزة كمية في هذه المحاكاة المحددة، فإنهم لا يدعون أن التشابك الكمي سيحل كل مشكلة. هم يشيرون إلى أن هناك العديد من الإعدادات التي قد يساعد فيها هذا، ولكننا بحاجة إلى تحديد أي منها بالضبط.
مستقبل الفرق الصامتة
يرى المؤلفون مستقبلاً مشرقاً، وإن كان نظرياً. فقد ذكروا أنه في التداول عالي التردد (حيث تشتري وتبيع الحواسيب الأسهم في أجزاء من الميللي ثانية)، يمثل التأخير الناتج عن التواصل مشكلة كبيرة. إذا تمكن المتداولون من استخدام التشابك للتنسيق دون كلام، فقد يتمكنون من الاستجابة بشكل أسرع وأكثر كفاءة.
ومع ذلك، فقد أشاروا أيضاً إلى العقبات. الأنظمة الكمية في العالم الحقيقي فوضوية؛ فهي تحتوي على أخطاء، وأحجام محدودة، وقياسات غير دقيقة. الخطوة التالية هي تعليم وكلاء الذكاء الاصطناعي كيفية التعامل مع هذه العيوب الواقعية. كما يتساءلون عما إذا كان التشابك يمكن أن يساعد الوكلاء في التنسيق عبر الزمن، وليس فقط في لحظة واحدة، وهو أمر سيكون حاسماً للمهام طويلة الأمد.
باختصار، هذه الورقة هي إثبات للمفهوم. إنها تشبه إظهار أن السيارة يمكنها القيادة على مضمار مصنوع من الجليد؛ فهي تثبت أن الفيزياء تعمل وأن المحرك يمكنه التعامل مع السطح المنزلق. ولكن قبل أن نتمكن من القيادة عبر التندرا المتجمدة، نحتاج إلى بناء سيارة حقيقية يمكنها تحمل البرد والرياح والنتوءات. لقد بنى المؤلفون المحرك؛ والآن جاء دور العالم لبناء السيارة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.