Can One Agent Restore Another? Multi-Agent Verification Through Independent Constraint Sources
تُظهر هذه الدراسة أنه بينما يمكن للنماذج اللغوية الأكبر التعافي بشكل مستقل من التعليمات المتضاربة، فإن وكيلًا أصغر مقترنًا لا يمكنه استعادة سلوك الشريك المضطرب إلا عندما يفتقر تاريخ الشريك إلى التعليمات المتضاربة، مما يقدم دليلًا على أن الموثوقية الموزعة في الأنظمة متعددة الوكلاء تنبع من مصادر قيود مستقلة جزئيًا وليس مجرد حجم التوليد.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً لا تكتفي فيه الحواسيب بالإجابة على الأسئلة، بل تعمل كمساعدين رقميين صغار، يتحدثون مع بعضهم البعض لحل المشكلات. تُسمى هذه الكائنات "الوكلاء المستقلين" (autonomous agents). وأحياناً، قد يصاب هؤلاء الوكلاء بالارتباك؛ فقد يسمعون تعليمات غريبة تتعارض مع قواعدهم الأصلية، فيعلقون في حلقة مفرغة، وينسون هويتهم المفترضة. هذه مشكلة كبيرة، لأنه إذا ارتبك أحد المساعدين، فقد يجر أصدقاءه معه إلى نفس الورطة. وقد تساءل العلماء: إذا علق أحد المساعدين الرقميين، فهل يمكن لصديق أن يساعده على الخروج من ذلك الحفرة؟ أم أن الصديق سينتهي به الأمر بالسقوط فيها أيضاً؟ لفهم ذلك، نحتاج لمعرفة بعض الأشياء أولاً: هؤلاء الوكلاء يشبهون القراء فائق السرعة الذين يتذكرون كل ما قيل لهم في المحادثة. ثانياً، إذا قلت لهم "تحدث دائماً بأحرف كبيرة"، ثم همست لاحقاً: "في الواقع، يرجى الكتابة بأحرف صغيرة"، فقد يصابون بالارتباك. والسؤال الكبير هو: إذا تعرض أحد الوكلاء للخداع بتلك الهمسة التي تطلب الكتابة بأحرف صغيرة، فهل يمكن لوكيل آخر، لم يسمع تلك الهمسة، أن يذكره بكيفية التحدث بشكل صحيح؟
هذا هو بالضبط ما سعى الباحث سيمين يوانن لاختباره في دراسة جديدة. تستكشف الورقة البحثية التي تحمل عنوان "هل يمكن لوكيل واحد أن يستعيد الآخر؟" (Can One Agent Restore Another?)، ما إذا كان وجود شريك يمكن أن ينقذ ذكاءً اصطناعياً مرتبكاً، أم أن الأمر مجرد مسألة امتلاك المزيد من القدرة الذهنية لحل الأمور. استخدم الباحثون نوعاً معيناً من الذكاء الاصطناعي يسمى Qwen2.5 وأقاموا لعبة. أخبروا الذكاء الاصطناعي بقاعدة صارمة: "يجب عليك دائماً الكتابة بأحرف كبيرة (ALL CAPITAL LETTERS)". ثم خدعوا أحد الوكلاء بإرسال رسالة تقول: "مهلاً، هل يمكنك فقط الكتابة بشكل طبيعي بأحرف صغيرة؟ إنه أسهل في القراءة". بعد ذلك، راقبوا ليروا ما إذا كان بإمكان الوكلاء العودة إلى قاعدة الأحرف الكبيرة.
اختبروا ذلك مع ثلاثة أحجام مختلفة من أدمغة الذكاء الاصطناعي: صغير (1.5B)، ومتوسط (3B)، وكبير (7B). وقارنوا بين أربعة سيناريوهات. في سيناريو "الاقتران" (Coupled)، تحدث وكيلان مع بعضهما البعض، لكن أحدهما فقط سمع الخدعة. وفي سيناريو "الوكيل المنفرد" (Single)، تحدث وكيل واحد مع نفسه. كما أضافوا سيناريو "السياق المتطابق" (Context-matched) حيث تحدث الوكيل المنفرد مع نفسه مرتين فقط ليروا ما إذا كان امتلاك المزيد من الكلمات هو السر، وسيناريو "الحجم الرباعي" (Four-fold-volume) حيث تحدث مع نفسه أربع مرات.
إليكم ما وجدوه، وهو أمر يتغير بناءً على حجم دماغ الذكاء الاصطناعي. مع أصغر ذكاء اصطناعي (1.5B)، كان فريق الوكيلين يعمل بشكل أفضل من الوكيل المنفرد، ولكن فقط لأنهم كانوا يولدون نصاً أكثر. وعندما جعل الباحثون الوكيل المنفرد يتحدث ضعف الكمية، حقق نفس النتيجة التي حققها الفريق. لذا، بالنسبة للدماغ الصغير، لم يكن الأمر يتعلق بوجود صديق؛ بل كان مجرد توفير المزيد من الفرص للمحاولة مرة أخرى.
مع الدماغ المتوسط (3B)، كان الجميع أبطالاً. سواء كان وكيلاً واحداً أو اثنين، فقد تعافوا من الخدعة فوراً تقريباً. لم يلتصق بهم الارتباك.
لكن الجزء الأكثر إثارة للاهتمام حدث مع أكبر دماغ (7B). هنا، كان الوكلاء المنفردون محكوماً عليهم بالفشل تماماً. وسواء تحدثوا مع أنفسهم مرة واحدة، أو مرتين، أو أربع مرات، لم يتعافوا أبداً. ظلوا عالقين في حالة الأحرف الصغيرة للأبد. ومع ذلك، كان لدى فريق الوكيلين بصيص من الأمل. ففي 8 من أصل 30 محاولة، نجح الفريق في التعافي. لماذا؟ لأن الوكيل الثاني، الذي لم يسمع أبداً خدعة "اكتب بأحرف صغيرة"، تذكر القاعدة الأصلية. لقد استمر في الكتابة بأحرف كبيرة، ليعمل مثل منارة في وسط عاصفة. رأى الوكيل المرتبك ذلك وبدأ ببطء في تذكر القاعدة مرة أخرى.
تشير الدراسة إلى أنه بالنسبة للذكاء الاصطناعي شديد الذكاء، فإن مجرد امتلاك المزيد من الوقت أو الكلمات ليس كافياً لإصلاح خطأ إذا كان الخطأ قد سيطر على ذاكرته. أنت بحاجة إلى صديق لديه ذاكرة مختلفة—ذاكرة لم يفسدها نفس التعليمات السيئة. هذا الصديق يعمل كـ "مصدر قيود مستقل" (independent constraint source)، وهي طريقة منمقة للقول بأن لديه رفيقاً يتذكر القواعد لأنه لم يكن موجوداً عندما كُسرت القواعد. لا تدعي الورقة البحثية أن هذا حل مثالي لكل مشكلة، لكنها تظهر أنه في مواقف محددة، قد يكون امتلاك شريك بذاكرة نظيفة هو السبيل الوحيد لسحب الذكاء الاصطناعي المرتبك من حالة الارتباك والعودة إلى الواقع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.