Epistemic Sybil Resistance: Multiplying AI Agents Without Multiplying Evidence
تحدد هذه الورقة مشكلة "سيبيل المعرفية" (epistemic Sybil) في أنظمة الذكاء الاصطناعي متعددة الوكلاء، مبرهنةً على أن مجرد زيادة عدد الوكلاء لا يحسن موثوقية الاستدلال لأن الوكلاء المستقلين غالباً ما يتشاركون أخطاءً مترابطة وجذوراً دليلية مشتركة، مما يستلزم طرق تجميع تعطي الأولوية لتتبع الأصول الدليلية بدلاً من مجرد تعدد التقارير أو تشابهها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، يتزايد عدد الأنظمة المصممة للعمل ضمن فرق. فبدلاً من الاعتماد على برنامج حاسوبي واحد لحل مشكلة ما، تقوم هذه الأنظمة بتوليد العديد من الوكلاء الرقميين، حيث يُكلف كل منهم بقراءة المستندات، أو تحليل البيانات، أو تكوين رأي. والمنطق وراء هذا النهج بديهي: إذا كان خبير واحد جيداً، فإن اثني عشر خبيراً سيكونون أفضل. ومن خلال جمع العديد من التقارير المختلفة والدمج بينها، يأمل النظام في الوصول إلى استنتاج أكثر دقة وثقة مما يمكن لأي وكيل بمفرده تحقيقه. يعتمد هذا الأسلوب على افتراض جوهري في التفكير البشري: وهو أنه عندما يتفق عدة أشخاص، فمن المرجح أنهم يستقون معلوماتهم من مصادر مختلفة. فإذا توقع ثلاثة محللين بشكل مستقل فشل شركة ما، فذلك عادةً لأن كل واحد منهم وجد أدلة مقنعة منفصلة. ومع ذلك، تتحدى دراسة جديدة ما إذا كان هذا المنطق يظل صحيحاً عندما يكون "المحللون" هم ذكاء اصطناعي. يبحث البحث في ثغرة محددة حيث يمكن خداع النظام ليعتقد أنه جمع قدراً هائلاً من الأدلة المستقلة، بينما هو في الواقع لم يسمع سوى القصة نفسها مكررة بأصوات مختلفة.
تكمن جوهر هذه المشكلة في الفرق بين عدد التقارير التي يتلقاها النظام وعدد الحقائق الأصلية التي تستند إليها تلك التقارير. تخيل غرفة مليئة بالناس يحاولون تخمين وزن فيل. إذا نظروا جميعاً إلى نفس الفيل، فإن تخميناتهم هي ملاحظات مستقلة لواقع واحد. ولكن إذا نظروا جميعاً إلى صورة واحدة لذلك الفيل، ثم وصفوا ما يرونه، فهم لا ينظرون إلى الحيوان نفسه؛ بل ينظرون إلى نسخة من نسخة. وفي المجال الرقمي، يمكن لمنسق الذكاء الاصطناعي (AI orchestrator) بسهولة أخذ قطعة واحدة من الأدلة، وتغذيتها لوكيل واحد، ثم أخذ مخرجات ذلك الوكيل، وتغذيتها لوكيل ثانٍ، وهكذا. كل خطوة تخلق تقريراً جديداً، وصوتاً جديداً، وحجة جديدة. وبالنسبة لنظام يعتمد ببساطة على عد الأصوات، يبدو هذا كأنه تراكم هائل للدعم. ولكن بالنسبة لنظام يفهم تدفق المعلومات، فإنه ليس سوى قطعة واحدة من الأدلة تتردد أصداؤها عبر ردهة. يطلق الباحثون على هذه الظاهرة اسم مشكلة "سيبيل المعرفية" (epistemic Sybil). تماماً كما يتضمن "هجوم سيبيل" في أمن الحاسوب قيام شخص واحد بالتظاهر بأنه عدة أشخاص للتلاعب بالتصويت، فإن "سيبيل المعرفية" تتضمن قطعة واحدة من الأدلة تتظاهر بأنها حقائق مستقلة متعددة.
لاختبار مدى خطورة هذا الارتباك، بنى الباحثون تجربة محكومة باستخدام نموذج لغوي كبير، وهو نوع من الذكاء الاصطناعي الذي يولد نصوصاً تشبه النصوص البشرية. لقد أنشأوا سيناريو خيالياً يتضمن السجلات المالية لشركة ما. كانت الحالة الحقيقية لإيرادات الشركة مخفية، لكن وكلاء الذكاء الاصطناعي أُعطوا مستنداً يحتوي على الأرقام الخام. ثم طلب الباحثون من الذكاء الاصطابي استخراج أرقام محددة من هذا المستند وحساب إجمالي الإيرادات. أجروا هذه المهمة آلاف المرات، مع التلاعب بمتغيرين رئيسيين: عدد التقارير التي يتلقاها النظام وعدد المستندات الأصلية التي تستند إليها هذه التقارير. في مجموعة من الاختبارات، أبقوا المستند الأصلي ثابتاً وطلبوا من الذكاء الاصطناعي توليد المزيد والمزيد من التقارير منه. أنشأوا تقريراً واحداً، ثم اثنين، ثم أربعة، وصولاً في النهاية إلى اثنين وثلاثين تقريراً مختلفاً، وكلها مستمدة من ذلك المصدر الوحيد. ثم قارنوا بين أداء نظام "قياسي"، الذي افترض أن كل تقرير مستقل، مقابل نظام "مدرك للمصدر" (provenance-aware) الذي عرف أن جميع التقارير تأتي من نفس الجذر.
كانت النتائج صارخة. فعندما تلقى النظام القياسي اثنين وثلاثين تقريداً نابعة جميعها من نفس المستند الوحيد، أصبح واثقاً بشكل مفرط ومبالغ فيه. لقد اعتقد أنه يمتلك اثنين وثلاثين قطعة من الأدلة المستقلة، لذا ضيّق نطاق إجاباته المحتملة إلى فاصل زمني ضيق ودقيق للغاية. في الواقع، ولأن جميع التقارير الاثنين والثلاثين كانت مجرد تنويعات على نفس المصدر الوحيد، لم يكن النظام أكثر يقيناً مما لو كان قد قرأ المستند مرة واحدة فقط. قاس الباحثون ذلك من خلال التحقق من عدد المرات التي احتوى فيها النطاق المتوقع للنظام على الإجابة الصحيحة فعلياً. مع تقرير واحد فقط، كان النظام صحيحاً بنسبة 94 بالمائة. ولكن مع نمو عدد التقارير من ذلك المصدر الواحد إلى اثنين وثلاثين، انخفضت دقة النظام بشكل حاد. لقد كان صحيحاً بنسبة 26 بالمائة فقط. لم يصبح النظام أكثر ذكاءً؛ بل أقنع نفسه فقط بأنه يعرف أكثر مما يعرفه بالفعل، لأنه قام بعدّ الصوت نفسه اثنين وثلاثين مرة.
ثم عكس الباحثون التجربة ليروا ما سيحدث إذا أضافوا أدلة جديدة حقاً. فقد أبقوا عدد التقارض ثابتاً عند ستة عشر، لكنهم زادوا عدد المستندات الأصلية التي يقرأها الوكلاء. عندما جاءت التقارير الستة عشر من ستة عشر مصدراً مختلفاً ومستقلاً، تطابقت ثقة النظام القياسي مع دقته. تلاشى الفارق بين النظامين. أثبت هذا أن المشكلة لم تكن في عدد التقارير نفسها، بل في العلاقة الخفية بينها. فشل النظام فقط عندما أخطأ في اعتبار التكرار استقلالاً. كما كشفت الدراسة عن طبقة ثانية من التعقيد؛ فحتى عندما يقرأ الوكلاء نفس المستند، فإنهم لا ينتجون أخطاءً متطابقة. ولأنهم جميعاً مدعومون بنفس نموذج الذكاء الاصطناعي الأساسي، فإنهم يميلون إلى ارتكاب أخطاء مماثلة. هذا "الخطأ المترابط" (correlated error) يعني أنه حتى مع وجود نظام متطور يعرف أن التقارير تأتي من نفس المصدر، فإن النظام لا يزال يبالغ في تقدير دقته قلي بالرغم من ذلك. لقد عمل النموذج المشترك مثل نقطة عمياء مشتركة، مما حد من مقدار المعلومات التي يمكن اكتسابها من قراءة نفس المستند مراراً وتكراراً.
ربما كان الجزء الأكثر كشفاً في الدراسة يتعلق باختبار كيفية محاولة الأنظمة اكتشاف هذه المشكلة بمفردها. تحاول العديد من دفاعات الذكاء الاصطناعي الحالية رصد المعلومات المكررة من خلال النظر في مدى تشابه نصوص التقارير. إذا بدا تقريبان متشابهين، يفترض النظام أنهما يأتيان من نفس المصدر ويتجاهل أحدهما. اختبر الباحثون ذلك من خلال إنشاء سيناريو يمكنهم فيه تغيير طريقة كتابة الذكاء الاصطناعي لتقاريره دون تغيير الحقائق التي يبلغ عنها. أخذوا تقارير جاءت من نفس المصدر وأجبروهم على استخدام مفردات وهياكل جمل مختلفة تماماً. كما أخذوا تقارير من مصادر مختلفة وأجبروهم على استخدام نفس المفردات. وكان النظام الذي يعتمد على تشابه النصوص من السهل خداعه؛ فقد صنف التقارير ذات الأسلوب المختلف من نفس المصدر كما لو كانت مستقلة، وصنف التقارير ذات الأسلوب المتشابه من مصادر مختلفة كما لو كانت مكررة. كان حكم النظام على الأدلة مدفوعاً بالكامل بأسلوب الكتابة، وليس بتاريخ مصدر المعلومات. وجدت الدراسة أن تغيير أسلوب الكتابة كان له تأثير هائل على كيفية تجميع النظام للتقارير، بينما كان تغيير العدد الفعلي للمصادر الأصلية له تأثير ضئيل جداً على إدراك النظام.
تشير هذه النتائج إلى أن طريق العمل الجماعي الموثوق للذكاء الاصطناعي لا يقتصر ببساطة على جمع المزيد من الأصوات أو بناء مرشحات أذكى لرصد التكرارات. يرى الباحثون أن الحل يتطلب نظاماً يفهم تسلسل معلوماته. يجب أن يعرف ليس فقط ما قاله الوكيل، بل من أين حصل ذلك الوكيل على معلوماته. إذا استطاع النظام تتبع "أصل" التقرير — بتتبع مساره وصولاً إلى المستند الأصلي أو المستشعر الذي بدأ السلسلة — فيمكنه وزن الأدلة بشكل صحيح. يمكنه أن يفهم أن اثنين وثلاثين تقريراً من مصدر واحد أقل قيمة بكثير من تقرير واحد من اثنين وثلاثين مصدراً. بدون هذه القدرة على رؤية الروابط الخفية بين الوكلاء، يكون نظام الذكاء الاصطناعي عرضة لشكل من أشكال خداع الذات، حيث يصنع شعوراً زائفاً باليقين بمجرد التحدث إلى نفسه بطرق متعددة ومختلفة. وتخلص الدراسة إلى أنه لكي يعمل الذكاء الجمعي، يجب على النظام أن يعطي الأولوية لأصل الدليل على عدد المبلّغين، مما يضمن بناء الثقة على أساس من الاكتشاف المستقل الحقيقي بدلاً من صدى فكرة واحدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.