تخيل أنك قبطان سفينة فضائية تبحر عبر مجرة عاصفة وغريبة. لديك طاقم من ستة مستشعرات خبيرة، كل منها مدرب على رصد معالم محددة مثل الصخور أو السفن أو المحطات الفضائية. لكن هنا تكمن المشكلة: لقد تم تدريب جميع مستشعراتك في نظام شمسي هادئ ومشمس. أنت الآن تحلق عبر سديم فوضوي مليء بالضباب الغريب، والغبار الدوار، والإضاءة الغريبة. مستشعراتك مرتبكة؛ بدأت تطلق تقارير متضاربة: "هذا صخرة!" "لا، إنها سفينة!" "في الواقع، إنه دب فضائي عملاق!"

هذه هي المشكلة الواقعية التي يواجهها العلماء مع الذكاء الاصطناعي. لقد بنينا برامج حاسوبية ذكية للغاية (تسمى نماذج الإدراك)، وهي قادرة على تحديد الأشياء في الصور، مثل السيارات أو الأشخاص. لكن هذه البرامج تشبه مستشعرات الفضاء الخاصة بنا: فهي خبيرة فيما رأته من قبل، لكنها ترتبك بسهولة عندما يتغير العالم. إذا أخذت سيارة ذاتية القيادة تدربت على طرق كاليفورنيا المشمسة ووضعتها في وسط عاصفة ثلجية في مينيسوتا، فقد تبدأ في رؤية رقاقات الثلج كأنها مشاة، أو قد تتوقف عن العمل تماماً.

لإصلاح ذلك، يحاول المهندسون عادةً جعل عدة نماذج للذكاء الاصطناعي تعمل معاً، مثل لجنة. الطريقة الأكثر شيوعاً لاتخاذ قرار اللجنة هي "التصويت بالأغلبية": إذا قالت ثلاثة من أصل ستة نماذج "إنها سيارة"، فإن النظام يقرر أنها سيارة. يبدو هذا عادلاً، أليس كذلك؟ لكن هناك عيب كبير. إذا استطاع مخترق ماكر (أو مجرد عاصفة سيئة حقاً) خداع عدد قليل من النماذج لجعلها تتفق على الإجابة الخاطئة، فسيتم خداع اللجنة بأكملاء. الأمر يشبه إذا قرر ثلاثة أصدقاء في مجموعة دردشة ممازحتك بالقول إن السماء خضراء؛ إذا اتبعت الأغلبية فقط، فستصدق أن السماء خضراء.

تقدم هذه الورقة البحثية طريقة أذكى لإدارة تلك اللجنة. فبدلاً من مجرد عد الأصوات، يعمل النظام الجديد مثل المحقق الذي يبحث عن "الاتساق المنطقي". هو يسأل: "هل هذه القصة منطقية؟" إذا قال نموذج واحد "إنها سيارة" وقال آخر "إنها سحابة"، فإن النظام لا يكتفي بعدّ الرؤوس؛ بل ينظر إلى الأدلة ليرى أي قصة تتماسك دون تناقضات. يوضح المؤلفون أن هذه الطريقة أصعب بكثير في الخداع وتعمل بشكل أفضل عندما تكون البيئة جديدة تماماً.

أدوات المحقق الجديدة: التعلم بدون دليل مرجعي

أراد الباحثون، ماريو ليفا وفريقه، حل مشكلتين كبيرتين. أولاً، كانت الطرق السابقة تحتاج إلى "دليل مرجعي" من المعرفة البشرية لرصد الأخطاء. على سبيل المثال، قد يخبر إنسان الحاسوب: "المشاة عادة ما يكونون على الرصيف، وليس في السماء"، أو "السيارات أكبر من هذا". ولكن ماذا لو كنت في بيئة جديدة تماماً حيث لا تعرف القواعد؟ لا يمكنك كتابة دليل مرجعي لمكان لم تره من قبل.

ثانياً، أرادوا منع "التصويت بالأغلبية" من أن يكون عرضة للاختراق بسهولة.

الحل: "مجمع ناقلات الملصقات" (Label Vector Pool)
لحل المشكلة الأولى، ابتكر الفريق طريقة ليتعلم الذكاء الاصطناعي دليله المرجعي الخاص دون أي مساعدة بشرية. استخدموا حيلة ذكية تتعلق بـ "ذاكرة" كل نموذج ذكاء اصطناعي.

تخيل أن لكل نموذج ذكاء اصطناعي مكتبة ذهنية لكل جسم رآه خلال فترة تدريبه. عندما يرى "سيارة"، فإنه لا يخزن كلمة "سيارة" فحسب؛ بل يخزن بصمة رياضية فريدة (تضمين - embedding) لما كان يبدو عليه شكل تلك السيارة. جمع الباحثون كل هذه البصمات لكل نوع من الكائنات وجمعوها في مجموعات صغيرة تسمى "مجمعات ناقلات الملصقات".

فكر في الأمر كأنه "خاتم تغيير المزاج" للأجسام. إذا رأى النموذج جسماً جديداً، فإنه يتحقق: "هل بصمة هذا الجسم تشبه خاتم مزاج 'السيارة'، أم أنها تشبه خاتم مزاج 'الشجرة'؟" إذا كان من المفترض أن يكون الجسم سيارة ولكن بصمته بعيدة جداً عن ذلك — مثل سيارة تبدو كأنها سحابة — فإن النظام يصنفها كشيء مشبوه. يحدث هذا تلقائياً، باستخدام الرياضيات داخل النموذج فقط، دون الحاجة إلى قواعد بشرية حول الأرصفة أو الأحجام.

الحل: "محقق الاتساق"
بمجرد أن يعرف النظام أي التوقعات مشبوهة، فإنه لا يكتفي برميها. بدلاً من ذلك، يستخدم طريقة تسمى "الاستدلال الاستنباطي" (Abductive Reasoning). وهي طريقة منمقة لقول "الاستدلال بأفضل تفسير".

تخيل أنك محقق تحاول حل لغز مع ستة شهود.

• التصويت بالأغلبية سيسأل فقط: "من يتفق مع معظم الناس؟" إذا قال ثلاثة شهود "الخادم هو الفاعل"، فإن المحقق يعتقل الخادم.
• هذا النظام الجديد يسأل: "من يروي قصة لا تتعارض مع الآخرين؟"

إذا قال ثلاثة شهود "الخادم هو الفاعل"، ولكن شاهد واحد قال "الخادم كان في المطبخ في ذلك الوقت"، وآخر قال "الخادم يعاني من حساسية تجاه السلاح"، فإن النظام يدرك أن قصة "الخادم هو الفاعل" بها ثغرات. قد يقرر الوثوق بالشهود الذين يتسقون مع بعضهم البعض، حتى لو كانوا في الأقلية. إنه يبني لغزاً منطقياً حيث يجب أن تتناسب كل قطعة تماماً. إذا كانت قطعة (توقع) تجعل الصورة الكاملة تنهار، يتم رفضها، حتى لو صوت الكثيرون لصالحها.

الاختبار الكبير: العواصف والمخترقون الماكرون

اختبر الفريق هذه الفكرة في تحدٍ صعب: صور جوية لمدينة تحت 15 حالة طقس مختلفة، من الأمطار الغزيرة إلى العواصف الترابية. استخدموا ستة نماذج مختلفة للذكاء الاصطناعي، كل منها تدرب على نوع واحد فقط من الطقس. عندما وضعواهم جميعاً في المزيج، كان الطقس فوضوياً.

نتيجة البيانات النظيفة
أولاً، اختبروا النظام في ظروف طبيعية غير مخترقة. وجدوا أن "محقق الاتساق" الجديد الخاص بهم كان يؤدي بنفس كفاءة فرق "التصويت بالأغلبية" الأفضل. لم يفقد أي دقة؛ كان بارعاً في رصد السيارات والأشخاص تماماً مثل الطرق القديمة.

اختبار الهجوم
بعد ذلك، أحضروا الأشرار. قاموا بمحاكاة هجوم منسق. تخيل مخترقاً لا يمكنه كسر نماذج الذكاء الاصطناعي بشكل فردي، ولكن يمكنه خداع مجموعة صغيرة منها لتصرخ جميعاً بالإجابة الخاطئة في نفس الوقت.

• فريق التصويت بالأغلبية: عندما جعل المخترق 90% من الأجسام تحصل على "ملصق مقلوب" (ملصق خاطئ فُرض بسبب الهجوم)، انهار نظام التصويت بالأغلبية. انخفضت دقته إلى 0.35 في المتوسط عبر مجموعات الاختبار. لقد تم خداعه تماماً لأن المخترقين احتاجوا فقط للسيطرة على عدد قليل من النماذج للتأثير على الأغلبية.
• محقق الاتساق: النظام الجديد لم يتزحزح كثيراً. حتى مع نفس الهجوم بنسبة 90%، حافظ على متوسط دقة بلغ 0.42 عبر جميع مجموعات الاختبار الـ 15. قد لا يبدو هذا فرقاً ضخماً، ولكن في عالم الذكاء الاصطناعي، هذا يمثل تحسناً بنسبة 22% عن الطريقة القديمة.

السبب؟ حاول المخترقون فرض أغلبية، لكن محقق الاتساق نظر إلى المنطق. إذا أجبر المخترقون ثلاثة نماذج على قول "إنها سحابة"، ولكن النماذج الثلاثة الأخرى (والمنطق الداخلي للنظام) قالت "هذا لا يبدو منطقياً"، فإن المحقق تجاهل المخترقين. لقد وثق في القصة التي تبدو منطقية، وليس في عدد الأصوات.

لماذا هذا مهم؟

تظهر الورقة البحثية أنك لست بحاجة لتكون خبيراً بشرياً لبناء شبكة أمان للذكاء الاصطناعي. من خلال السماح للذكاء الاصطناعي بتعلم قواعد "بصمته" الخاصة ومن خلال التحقق مما إذا كانت القصص التي يسمعها متسقة منطقياً، يمكنك بناء نظام يتميز بـ:

1. القابلية للنقل: يعمل في بيئات جديدة وغريبة دون الحاجة إلى دليل يدوي.
2. الصلابة: لا يمكن خداعه بسهولة من قبل المخترقين الذين يحاولون تزوير التصويت.

أجرى الباحثون هذه الاختبارات على خادم كمبيوتر قياسي، وكان النظام سريعاً بما يكفي ليكون عملياً. استغرق "محقق الاتساق" (وتحديداً طريقتهم "IP+TB") وقتاً أطول قليلاً لحل اللغز مقارنة بعداد التصويت البسيط، ولكنه كان لا يزال سريعاً بما يكفي للاستخدام في الوقت الفعلي.

في النهاية، تشير هذه الورقة إلى أنه عندما نرسل الذكاء الاصطناعي إلى المجهول — سواء كان ذلك في منطقة كوارث، أو كوكب بعيد، أو مدينة تتعرض لهجوم — لا ينبغي لنا فقط أن نستمع إلى الصوت الأعلى. بل يجب أن نستمع إلى الصوت الذي يبدو أكثر منطقية.