Poisoning Agentic Alpha: Adversarial Vulnerabilities Across Roles and Architectures in Multi-Agent Trading Systems
تقدم هذه الورقة أول دراسة تجريبية منهجية تثبت أن أنظمة التداول القائمة على الوكلاء المتعددين والمدعومة بالنماذج اللغوية الكبيرة معرضة بطبيعتها لهجمات عدائية منخفضة العوائق ومحددة الأدوار تستهدف البيانات المصدرية والمطالبات، مما يكشف عن عدم صمود أي بنية اتصالات أمام انتشار الإشارات الفاسدة إلى القرارات المالية النهائية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم التمويل الحديث الصاخب، ظهر نوع جديد من العمال: وكيل الذكاء الاصطناعي. وخلافاً لبرامج الكمبيوتر البسيطة التي تتبع قائمة جامدة من التعليمات، بُنيت هذه الوكلاء على نماذج لغوية كبيرة، وهي نفس التقنية التي تشغل روبوتات الدردشة المتقدمة. يمكنهم قراءة الأخبار، وتحليل اتجاهات السوق، وحتى إجراء محادثات مع بعضهم البعض. وفي نظام تداول متعدد الوكلاء، يتم تعيين وظائف محددة لهؤلاء العمال الرقميين، تماماً مثل شركة استثمار بشرية. فقد يعمل أحد الوكلاء كمحلل، يمسح العناوين بحثاً عن أدلة. وقد يعمل آخر كباحث، يناقش مزايا سهم ما مع زميل له. وثالث يعمل كمتداول، مستعد للبيع أو الشراء، بينما يعمل رابع كمدير مخاطر، مكلف بإيقاف أي تحركات خطيرة. والفكرة هي أنه من خلال التعاون، يمكن لهؤلاء الوكلاء المتخصصين اتخاذ قرارات أكثر ذكاءً ودقة مما يمكن لبرنامج واحد أن يأمل في تحقيقه.
ومع ذلك، فإن هذا التعاون ذاته يخلق نوعاً جديداً من نقاط الضعف. فتماماً كما يمكن لشائعة أن تنتشر في مكتب بشري وتؤثر على قرار نهائي، يمكن لمعلومة واحدة فاسدة أن تنتقل عبر هذا الفريق الرقمي وتفسد النتيجة. فإذا تمكن مهاجم من تسميم البيانات التي يقرأها المحلل، أو خداع باحث ليدافع عن فكرة سيئة، فإن هذا الخطأ يمكن أن يتسلسل عبر المجموعة بأكملها، مما يؤدي إلى خسارة مالية حقيقية. ومع انتقال هذه الأنظمة من مختبرات الأبحاث إلى الأسواق الحية حيث تتحكم في أموال فعلية، أصبح فهم كيفية خداعها مسأهلة ذات أهمية عملية ملحة.
قام فريق من الباحثين بمحاولة رسم خريطة دقيقة لكيفية فشل هذه الفرق الرقمية. لقد بنوا بيئة تداول محاكية باستخدام خمسة أصول رئيسية، بما في ذلك أسهم مثل أبل ومايكروسوفت، وعملة مشفرة. كما أنشأوا مسار عمل يتواصل فيه الوكلاء عبر أربعة أدوار متميزة: فريق محللين يجمع الأخبار ومشاعر وسائل التواصل الاجتماعي، وفريق بحث يناقش ظروف السوق، ومتداول يتخذ القرار النهائي، ومدير مخاطر يعمل كشبكة أمان. ثم لعب الباحثون دور المخربين غير المرئيين، حيث اختبروا مدى سهولة التلاعب بالقرار النهائي للنظام من خلال مهاجمة أجزاء مختلفة من العملية. لم يكن لديهم وصول إلى الكود البرمجي الداخلي للوكلاء؛ وبدلاً من ذلك، استخدموا فقط المعلومات المصممة ليستهلكها الوكلاء، مثل المقالات الإخبارية، ومنشورات وسائل التواصل الاجتماعي، والتعليمات (البرومبت) المقدمة للوكلاء أنفسهم. يحاكي هذا النهج تهديداً واقعياً حيث يكون المهاجم خارج النظام ولكنه يستطيع التأثير على البيانات المتدفقة إليه.
كشفت الدراسة أن ليس كل أجزاء الفريق معرضة للخطر بالتساوي. فعندما استهدف الباحثون المحللين عبر تغذيتهم بأخبار مزيفة أو تعليمات مخفية مدفونة في منشورات وسائل التواصل الاجتماعي، تم خداع النظام أحياناً، لكن الوكلاء الآخرين غالباً ما اكتشفوا الخطأ. وعندما استهدفوا الباحثين، الذين كانوا منخرطين في نقاش بين وجهة نظر "متفائلة" و"متشائمة"، كان من السهل إغواء النظام، خاصة إذا استخدم المهاجم لغة مقنعة تلعب على وتر الخوف أو الحماس. ومع ذلك، فقد وُجدت الثغرة الأكثر خطورة في مدير المخاطر. فهذا الوكيل من المفترض أن يكون الحارس النهائي، الذي يتحقق من عدم اتخاذ أي صفقات خطيرة. وفي عمليات المحاكاة التي أجراها الباحثون، عندما نجحوا في خداع مدير المخاطر ليتجاهل قواعد السلامة الخاصة به، نجح الهجوم في كل مرة تقريباً. في الواقع، تعرض مدير المخاطر للاختراق في أكثر من 98 بالمائة من الأيام التي كان من الممكن فيها القيام بذلك. حدث هذا لأن مدير المخاطر كان أيضاً صاحب القرار النهائي؛ فبمجرد خداعه، لم يتبقَ أحد لإيقاف الصفقة السيئة.
اختبر الباحثون أيضاً كيف يؤثر أسلوب حديث الوكلاء مع بعضهم البعض على سلامتهم. لقد جربوا أربعة هياكل مختلفة للفريق: مجموعة لامركزية حيث يصوت الجميع، ومجموعة مركزية حيث يسمع وكيل واحد الجميع ويقرر، وسلسلة خطية حيث تنتقل المعلومات من واحد إلى الآخر، ونموذج هجين حيث يراجع الوكلاء أفكارهم بناءً على ما يقوله الآخرون. ووجدوا أنه لا يوجد هيكل واحد مثالي للحماية. وبينما كان نظام التصويت اللامركزي أكثر متانة بشكل عام، إلا أنه لا يزال من الممكن كسره إذا تمكن المهاجمون من التأثير على عدد كافٍ من المصوتين لتشكيل أغلبية. وعلى العكس من ذلك، كان النظام المركزي هو الأكثر عرضة للخطر في كثير من الأحيان، حيث يمكن لوكيل واحد مخترق أن يهيمن على القرار النهائي. طور الباحثون طريقة لقياس مدى بقاء "الإشارة السيئة" خلال رحلتها إلى القرار النهائي، ووجدوا أن هيكل المحادثة كان مهماً، لكنه لا يمكنه ضمان السلامة بمفرده.
إن الاكتشاف المركزي لهذا العمل هو أن مجرد إضافة المزيد من الوكلاء أو تغيير هيكل الفريق لا يجعل النظام آمناً تلقائياً. أظهرت عمليات المحاكاة أن الإشارات المعادية كثيراً ما تنجو من عملية المداولة وتصل إلى القرار النهائي، بغض النظر عن البنية المستخدمة. وقد اعتمد نجاح الهجوم بشكل كبير على الأصل المحدد الذي يتم تداوله، والاتجاه الذي أراد المهاجم دفع النظام إليه، والوكيل المحدد المستهدف. على سبيل المثال، كان الهجوم الذي حاول فرض قرار "بيع" أكثر نجاحاً من الهجوم الذي حاول فرض قرار "شراء"، ببساطة لأن ميل النظام الطبيعي كان بالفعل نحو الشراء. وهذا يشير إلى أن انحيازات النظام نفسه يمكن أن تساعد المهاجم أحيلاً، أو تحميه أحياناً، بطرق لا يمكن التنبؤ بها.
كما تم قياس الأثر المالي لهذه الهجمات، مما كشف عن انفصال مفاجئ بين عدد مرات نجاح الهجوم وحجم الأموال التي فُقدت بالفعل. فبعض الهجمات قلبت قرار التداول في كل مرة تقريباً، ومع ذلك كانت الخسارة المالية ضئيلة لأن النظام لم يكن يحتفظ بمركز مالي في تلك اللحظة. وهجمات أخرى نجحت بشكل أقل تكراراً ولكنها تسببت في أضرار جسيمة عندما نجحت، لا سيما عندما أجبرت النظام على اتخاذ مركز كان سيتجنبه لولا ذلك. يشير هذا إلى أن حساب عدد المرات التي يُخدع فيها النظام ليس كافياً لفهم الخطر الحقيقي؛ بل يجب أيضاً النظر في سياق الصفقة وحجم المركز المالي.
في النهاية، تخلص الدراسة إلى أنه لا يوجد تصميم قوي بطبيعته لهذه الأنظمة التجارية متعددة الوكلاء. إن سلامة النظام تعتمد على عدد الوكلاء أو تعقيد تواصلهم، بل تعتمد أكثر على الضوابط والتوازنات المتعمدة. وجد الباحثون أن الأمن يجب أن يُبنى داخل عملية التحقق نفسها، لضمان عدم قدرة أي وكيل، حتى مدير المخاطر، على تجاوز الحكمة الجماعية للمجموعة دون طبقة ثانية من التحقق. ومع انتقال هذه الأنظمة من المختبر إلى السوق الحية، تشير النتائج إلى أن المصممين لا يمكنهم الاعتماد على البنية وحدها لحماية النظام من التلاعب. بدلاً من ذلك، يجب عليهم بناء أنظمة حيث يتم فحص تدفق المعلومات باستمرار، وحيث لا تكون المسؤولية النهائية أبداً مسؤولية نقطة فشل واحدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.