Learning What to Fail On: Failure-Mode Contextual Bandits for Adversarial Data Curation

في عالم الذكاء الاصطنا�طناعي، أصبحت الحواسيب بارعة بشكل ملحوظ في قراءة وفهم اللغة البشرية؛ إذ يمكنها الإجابة على الأسئلة، وتلخيص القصص، وحتى التحقق مما إذا كانت عبارة ما حقيقية أم لا. ومع ذلك، غالبًا ما تمتلك هذه الأنظمة نقطة ضعف خفية: وهي أنها "هشة". فمثل طفل يتعلم التعرف على الكلب من خلال لون فرائه فقط، قد يتعلم الذكاء الاصطناعي حل مشكلة ما عبر رصد كلمة معينة بدلاً من فهم المعنى الفعلي. وإذا قمت بتغيير تلك الكلمة أو التلاعب بالجملة قليلاً، فقد يفشل الكمبيوتر تماماً، رغم أن المعنى لم يتغير. هذا الضعف يمثل عقبة رئيسية أمام بناء تكنولوجيا موثوقة. وقد حاول الباحثون طويلاً إصلاح ذلك عبر تغذية الكمبيوتر بمزيد من الأمثلة، لكن مجرد إضافة المزيد من البيانات غالباً ما يعزز العادات السيئة نفسها. إن التحدي الحقيقي لا يكمن فقط في إيجاد المزيد من البيانات، بل في إيجاد أنواع محددة من الأخطاء التي ستعلم الكمبيوتر التفكير بعمق أكبر.

لقد طور فريق من الباحثين في جامعة بن غوريون طريقة جديدة لتعليم هذه الأنظمة من خلال التركيز كلياً على إخفاقاتها. فبدلاً من محاولة توليد آلاف الأمثلة العشوائية والأمل في أن يكون بعضها مفيداً، تعمل طريقتهم كمرشح ذكي يتعلم ما الذي يجب أن يفشل فيه. لقد أنشأوا نظاماً يقوم أولاً بتوليد جمل صعبة مصممة لخداع نموذج حاسوبي. وعندما يخطئ النموذج في هذه الجمل، لا يقوم النظام بمجرد رميها أو الاحتفاظ بها جميعاً، بل يقوم بتصنيف هذه الأخطاء إلى فئات، مثل الأخطاء الناتجة عن النفي المربك، أو الخلط بين الأسماء، أو فقدان التناقض المنطقي. ثم يستخدم النظام استراتيجية تعلم لتحديد فئات الأخطاء الأكثر قيمة للدراسة. إنه يعامل اختيار هذه الأخطاء كأنها لعبة، حيث الهدف هو اختيار الحركات التي ستزيد من درجة اللاعب بأكبر قدر ممكن، مع موازنة الحاجة إلى تعلم أشياء جديدة مع خطر نسيان ما يعرفه بالفعل.

تبدأ العملية بنموذج حاسوبي مدرب بالفعل على فهم اللغة. يطلب الباحثون من مولد لغوي قوي إنشاء جمل جديدة تشبه الأمثلة الحقيقية ولكنها مصممة لتكون مخادعة. يتم بعد ذلك اختبار هذه الجمل الجديدة مقابل النموذج. إذا أصاب النموذج في الإجابة، يتم استبعادها. أما إذا أخطأ، فيتحقق النظام من الإجابة عبر لجنة من "القضاة" الآخرين من الذكاء الاصطناعي للتأكد من أن الخطأ حقيقي وليس مجرد خلل تقني. وبمجرد تأكيد الخطأ، يتم تصنيفه ضمن نوع محدد من الإخفاقات؛ فعلى سبيل المثال، قد تحتوي مجموعة ما على جميع الأخطاء التي خلط فيها النموذج بين "نعم" و"لا"، بينما قد تحتوي مجموعة أخرى على الأخطاء التي فشل فيها النموذج في ملاحظة أن شخصين مختلفين.

الابتكار الجوهري يكمن في كيفية اختيار النظام للمجموعات التي سيدرسها لاحقاً. فهو لا يختار عشوائياً، ولا يستخدم قاعدة ثابتة، بل يستخدم سياسة تعلم تراقب خصائص كل مجموعة أخطاء، مثل عدد الأخطاء في المجموعة، ومدى ارتباك النموذج، ومدى تحسن النموذج في الماضي عند دراسة أخطاء مماثلة. يختار النظام مزيجاً من هذه المجموعات لإعادة تدريب النموذج. وبعد إعادة التدريب، يتحقق مما إذا كان النموذج قد تحسن بالفعل في التعامل مع هذه الحالات الصعبة دون أن يسوء أداؤه في الحالات السهلة. تسمح هذه الحلقة التكرارية للنظام بمعرفة أنواع الإخفاقات الأكثر فائدة لإصلاحها. إنها دورة ذاتية التحسين، حيث يصبح "منسق البيانات" (الجزء من النظام الذي يختار الأمثلة) هو نفسه "المتعلم"، حيث يعدل استراتيجيته باستمرار للعثور على الدروس الأكثر تأثيراً.

عندما اختبر الباحثون هذا النهج على مهام معيارية لفهم اللغة، كانت النتائج كبيرة. بدأوا بنموذج جيد بالفعل، سجل حوالي 88 بالمئة في اختبار يسمى (SNLI). وبعد تطبيق طريقتهم، التي تضمنت توليد واختيار أمثلة إخفاق محددة بعناًية، ارتفعت درجة النموذج إلى أكثر من 92 بالمئة. وفي اختبارات صعبة أخرى، كانت التحسينات أكثر دراماتيكية، حيث قفز أحد المعايير من حوالي 54 بالمئة إلى ما يقرب من 72 بالمئة. وقد تحققت هذه المكاسب دون الحاجة لخبراء بشريين لكتابة أمثلة جديدة أو تصنيف بيانات جديدة؛ فقد ولد النظام الأمثلة بنفسه، وتحقق من صحتها تلقائياً، وتعلم أي منها يستخدم. كما أظهر الباحثون أن هذه الطريقة تعمل على أنواع مختلفة من المهام، مثل التحقق من الحقائق، حيث ساعدت نموذجاً ضخماً على الوصول إلى دقة تتجاوز 82 بالمئة.

تجادل الدراسة صراحة ضد فكرة أن مجرد توليد كميات هائلة من البيانات الاصطناعية هو السبيل الأفضل لتحسين الذكاء الاصطناعي. فقد وجدوا أن البيانات غير المستهدفة، حتى عندما تولدها حواسيب قوية، غالباً ما تضعف عملية التعلم لأنها تتضمن الكثير من الأمثلة السهلة أو غير ذات الصلة. وتثبت طريقتهم أن الجودة أهم من الكمية؛ فمن خلال التركيز على الطرق المحددة التي يفشل بها النموذج والتعلم من أولويات تلك الإخفاقات، يصبح النظام أكثر متانة. كما أظهر الباحثون أن نهجهم يمنع النموذج من نسيان ما يعرفه بالفعل، وهي مشكلة شائعة عند التدريب على بيانات صعبة جديدة. وقد حققوا ذلك عبر دمج الأمثلة الجديدة الصعبة بعناية مع الأمثلة الأصلية السهلة أثناء عملية التدريب، مما يضمن التوازن بين تعلم مهارات جديدة والاحتفاظ بالمعرفة القديمة.

يشير هذا العمل إلى مسار جديد لجعل الذكاء الاصطناعي أكثر موثوقية. فبدلاً من الاعتماد على الخبراء البشريين لتنسيق كل مثال صعب يدوياً، يمكن للنظام أن يتعلم تحديد نقاط ضعفه والبحث عن الدروس المحددة التي يحتاجها للتغلب عليها. وجد الباحثون أن هذا النهج التكيفي أكثر فعالية من الطرق الثابتة التي تستخدم قواعد ثابتة لاختيار البيانات. وبينما أجريت الدراسة على مهام لغوية محددة، فإن المبدأ الأساسي المتمثل في "التعلم من أنماط الفشل" يمكن أن ينطبق على العديد من المجالات الأخرى حيث تحتاج الآلات إلى المتانة. وتشير النتائج إلى أنه من خلال جعل عملية اختيار البيانات نفسها "وكيلاً متعلمًا"، يمكننا بناء أنظمة ليست فقط أكثر ذكاءً، بل أيضاً أكثر قدرة على التكيف وأقل عرضة لأنواع الأخطاء التي تحد حالياً من فائدتها.