The Locality Gap: Bell-Inequality Audits for Covert Coordination Between Ostensibly Isolated AI Agents

في عالم الذكاء الاصطناعي، يساور المشرعين وخبراء السلامة قلق متزايد يؤرق مضاجعهم: الخوف من أن البرامج الحاسوبية المصممة للعمل بشكل مستقل قد تتعلم سرًا كيف تعمل معًا. تخيل خوارزميتين لتحديد الأسعار تديرهما شركتان متنافستان؛ من المفترض أن تحدد الخوارزميتان الأسعار بناءً على بياناتهما الخاصة فقط، ولكن ماذا لو وجدتا طريقة لإرسال إشارات لبعضهما البعض، رب الله أنها عبر تعديل الأسعار ببراعة لإرسال رسالة خفية؟ يُعرف هذا باسم التواطؤ الخوارزمي، وهو أمر يصعب اكتشافه بشكل ملحوظ. تبحث طرق الكشف التقليدية عن أنماط إحصائية في مخرجات الوكلاء، لكن هذه الطرق غالبًا ما تفشل. فإذا تم تدريب وكيلين على نفس مجموعة البيانات الضخمة أو بدآ بنفس الأرقام العشوائية، فسينتجان بطبيعتهما نتائج متشابهة حتى لو لم يتواصلا أبدًا. وهذا يخلق نقطة عمياء للمدققين: إذ لا يمكنهم التمييز بين وكيلين يفكران بشكل متماثل ببساطة بسبب التاريخ المشترك، وبين وكيلين يتآمران بنشاط في الوقت الفعلي.

ولحل هذه المعضلة، اقترح باحث يدعى ألفريدو ميرليهت نوعًا جديدًا من الاختبار، مستعيرًا مفهومًا من أعمق أسرار الفيزياء. الفكرة مستمدة من جدل شهير بين ألبرت أينشتاين وفيزيائيي الكم في ثلاثينيات القرن الماضي. كان أينشتاين يرفض فكرة أن جسمين بعيدين يمكن أن يؤثر أحدهما في الآخر فورًا دون أي اتصال مادي، واصفًا إياها بـ "التأثير الشبحي عن بعد". لاحقًا، أثبت الفيزيائي جون بيل رياضيًا أنه إذا كان نظامان معزولين حقًا ويتقاسمان فقط المعلومات من ماضيهما، فهناك حد صارم لمدى جودة تنسيق إجاباتهما على أسئلة عشوائية. وإذا تجاوزا هذا الحد، فمن المستحيل أن يكونا قد فعلا ذلك دون التواصل أثناء الاختبار. أدرك ميرليهت أنه يمكن تحويل هذا القانون الفيزيائي إلى أداة لتدقيق الذكاء الاصطناعي. فمن خلال طرح سلسلة من الأسئلة العشوائية والخاصة على وكيلين من الذكاء الاصطناعي والتحقق مما إذا كانت إجاباتهما منسقة بدقة شديدة، يمكن للمدقق اكتشاف التواصل السري دون الحاجة إلى فهم كيفية عمل الذكاء الاصطناعي من الداخل.

وضع الباحث هذه الفكرة قيد الاختبار من خلال سلسلة من التجارب الحاسوبية. أولاً، أنشأ الباحث أزواجًا من الشبكات العصبية الاصطناعية، وهي اللبنات الأساسية للذكاء الاصطناعي الحديث. مُنح هؤلاء الوكلاء تاريخًا مشتركًا: فقد تم تدريبهم على نفس البيانات، وبدأوا بنفس البذور العشوائية، وسُمح لهم بمشاركة متغير خفي يعمل كذاكرة مشتركة. ومع ذلك، كان التواصل بينهم محظورًا تمامًا أثناء الاختبار. ثم أرسل المدقق سؤالًا عشوائيًا لكل وكيل وطلب إجابة بسيطة. كان الهدف هو معرفة ما إذا كان بإمكان الوكلاء تنسيق إجاباتهم بشكل أفضل مما تسمح به قوانين الفيزياء للأنظمة المعزولة. كانت النتائج واضحة ومطمئنة للنظرية: بغض النظر عن مدى تعقيد الوكلاء أو مدى محاولتهم لتعظيم تنسيقهم، لم يتجاوزوا الحد أبدًا. وحتى عندما تم تدريب الوكلاء خصيصًا لمحاكاة سلوك الجسيمات الكمومية، المشهورة باتصالاتها "الشبحية"، لم يتمكنوا من تجاوز الحد. أكد هذا أن الاختبار يعمل كمرشح موثوق؛ فإذا كان الوكلاء معزولين حقًا، فسيظلون ضمن الحد، بغض النظر عن تدريبهم المشترك.

بعد ذلك، أدخل الباحث خللًا مضبوطًا ليرى كيف سيتفاعل الاختبار مع قناة سرية. في هذه التجارسات، فُتح خط اتصال خفي وصغير بين الوكلاء، مما سمح لهم بمشاركة معلومة واحدة في نسبة مئوية صغيرة من الجولات. ومع زيادة وتيرة هذا التسريب السري، تحسنت قدرة الوكلاء على تنسيق إجاباتهم بطريقة يمكن التنبؤ بها تمامًا. ومع ذلك، وجدت الدراسة فارقًا دقيقًا: بالنسبة للتسريبات التي تقل عن عتبة معينة (حوالي 41.4٪)، فإن درجات التنسيق الناتجة تنتج قيمًا لا يمكن تمييزها عن التشابك الكمومي، مما يعني أنها تتجاوز الحد الكلاسيكي ولكن يمكن تفسيرها نظريًا كموارد كمومية مشتركة بدلاً من مجرد تسريب. وفقط عندما تجاوز معدل التسريب هذه العتبة، تجاوزت الدرجات الحد الكمومي بوضوح. كما حسبت الدراسة عدد جولات الاستجواب اللازمة لاكتشاف أحجام مختلفة من التسريبات. فلكشف تسريب يحدث مرة واحدة في كل مائة جولة (واحد بالمائة) بثقة عالية، يحتاج التدقيق للعمل لحوالي 185,000 جولة. ورغم أن هذا رقم كبير، إلا أنه قابل للتنفيذ بواسطة الأنظمة الآلية التي يمكنها إجراء آلاف الاختبارات في ثوانٍ.

ومع ذلك، كشفت الدراسة أيضًا عن نقطة ضعف حرجة لا تكمن في الوكلاء، بل في الشخص الذي يجري الاختبار. فمنطق التدقيق بأكွယ် يعتمد كليًا على كون الأسئلة عشوائية وحقيقية وغير متوقعة. فإذا استخدم الشخص الذي يجري الاختبار طريقة يمكن التنبؤ بها لتوليد الأسئلة — مثل روتين حاسوبي بسيط يكرر نمطًا ما، أو جدول زمني ثابت — فيمكن للوكلاء تعلم توقع الأسئلة مسبقًا. في التجارب، عندما استخدم المدقق مولدًا يمكن التنبؤ به، تمكن الوكلاء من تنسيق إجاباتهم بشكل مثالي، متجاوزين الحد ومطلقين إنذارًا كاذبًا، رغم أنهم لم يتواصلوا فعليًا. حدث هذا لأن الوكلاء استطاعوا استخدام نمط الأسئلة لتنسيق استجاباتهم، مما أدى فعليًا إلى التحايل على الاختبار دون كسر أي من قواعد العزل. أظهرت الدراسة أن استخدام مولد أرقام عشوائية عالي الجودة ومشفر أمر ضروري؛ فبدونه، يصبح الاختبار عديم الفائدة، إذ لا يمكنه التمييز بين مؤامرة سرية وبين تخمين ذكي قائم على نمط يمكن التنبؤ به.

تشير النتيات إلى مسار جديد لتنظيم الذكاء الاصطناعي، خاصة في مجالات مثل التسعير أو الأسواق التنافسية. يوفر الاختبار طريقة للفصل بين "التوازي الضمني"، حيث يتصرف الوكلاء بشكل متشابه لأنهم تعلموا من نفس البيانات، وبين التواطؤ الفعلي، حيث يتواصلون لتنسيق أفعالهم. ومن المهم ملاحظة أن هذا البحث أجري بالكامل في بيئة محاكاة باستخدام شبكات عصبية بسيطة، وليس باستخدام نماذج لغوية كبيرة حقيقية أو أنظمة تجارية مستخدمة. تثبت النتائج أن المفهوم يعمل في بيئة محكومة، لكن تطبيقه على واقع الإنترنت المعقد سيتطلب تكييفًا دقيقًا. لا تدعي الدراسة أنها حلت مشكلة التواطؤ الخوارزمي، لكنها تقدم أداة رياضية صارمة يمكن استخدامها لتدقيق الأنظمة التي يُشتبه في وجود تواصل فيها.

في الختام، يسلط البحث الضوء على أن موثوقية مثل هذا التدقيق تعتمد كليًا على نزاهة المدقق. فالوكلاء في الدراسة لم يكونوا هم من فشلوا؛ بل فشل الاختبار عندما تم المساس بعشوائية الأسئلة. وهذا يعكس درسًا تعلمته الفيزياء قبل عقود: لإثبات أن شيئين غير متصلين، يجب عليك التأكد من أن الطريقة التي تختبرهم بها خالية تمامًا من الأنماط الخفية. فإذا كانت الأسئلة عشوائية وخاصة حقًا، يمكن للاختبار أن يكشف عن قناة سرية لا يمكن لأي تدريب مشترك أن يخفيها. أما إذا كانت الأسئلة يمكن التنبؤ بها، فإن الاختبار يصبح مرآة تعكس نقص العشوائية لدى المدقق نفسه. وتخلص الدراسة إلى أنه لكي تكون هذه الأداة فعالة في العالم الحقيقي، يجب أن تكون العشوائية المستخدمة لسبر أغوار الوكلاء آمنة بقدر أمن الأسرار التي تحاول كشفها.