Distributions In, Distributions Out: The Case for Soft-Label Training

فن معرفة ما لا تعرفه

تخيل أنك تحاول تعليم روبوت كيف يرى العالم. تعرض عليه صورة لشكل ضبابي وتسأله: "هل هذا قط أم كلب؟". إذا سألت عشرة أشخاص مختلفين، فقد تحصل على ستة أصوات لـ "قط" وأربعة لـ "كلب". في عالم الذكاء الاصطناعي، هذه مشكلة كلاسيكية: كيف نعلم الآلة أن تفهم أن العالم ليس دائماً أبيض أو أسود؟

لفترة طويلة، كانت الطريقة القياسية لتدريب هذه الآلات هي إجبارها على تقديم إجابة واحدة. نأخذ تلك الأصوات العشرة من البشر، ونعدّها، ثم نخبر الروبوت: "الإجابة هي قط". نحن نتخلص من أصوات "الكلب" الأربعة ونتظاهر بأن الصورة لم تكن غامضة أبداً. هذا يعمل بشكل رائع للأشياء الواضحة تماماً، مثل تحديد علامة توقف حمراء. لكن هذا النهج ينهار عندما لا يستطيع البشر أنفسهم الاتفاق. إذا نظر إنسان إلى صورة محيرة وشعر بعدم اليقين، ولكن أُجبر الروبوت على قول "قط بنسبة 100%"، فإن الروبوت يكذب بشأن ثقته بنفسه. إنه يشبه خبير أرصاد جوية يعلم أن هناك احتمال 50% لهطول الأمطار، لكنه يصر على قول: "سوف تمطر بالتأكيد"، فقط ليتناسب مع توقع بسيط.

يتعمق هذا البحث في زاوية محددة من تعلم الآلة تسمى التصنيف الخاضع للإشراف (supervised classification). بعبارات بسيطة، هذا هو النوع الذي نعلم فيه الحواسيب فرز الأشياء إلى فئات (مثل النصوص "المهذبة" مقابل "الفظة"، أو صور "القطط" مقابل "الكلاب") من خلال عرض أمثلة مصنفة عليها. السؤال الكبير الذي يطرحه المؤلفون هو: عندما يختلف البشر على تصنيف ما، هل يجب أن نجبر الكمبيوتر على اختيار فائز واحد، أم يجب أن نسمح له بالتعلم من عدم اليقين لدى الحشد بأكمله؟ يجادل المؤلفون بأن إجبار الكمبيوتر على اختيار إجابة واحدة يؤدي إلى التخلص من معلومات قيمة حول كيفية عمل العالم حقاً.

حالة الملصقات "الناعمة": ترك المجال للحشد ليعبّر عن رأيه

قرر مؤلفو هذا البحث، أغامديب سينغ وزملاؤه من مايكروسوفت، اختبار نهج مختلف. بدلاً من دمج مجموعة من الآراء البشرية في ملصق "صلب" واحد (مثل "قط" واحدة)، حاولوا تدريب الذكاء الاصطناعي باستخدام التوزيع الكامل للإجابات. هم يسمون هذا تدريب الملصقات الناعمة (soft-label training).

فكر في الأمر كالتالي:

• تدريب الملصقات الصلبة (Hard-Label Training) يشبه معلماً يأخذ تصويتاً من الفصل الدراسي حول سؤال محير، ويرى أن 60% من الطلاب يعتقدون أن الإجابة هي "أ" و40% يعتقدون أنها "ب"، ثم يكتب "أ" على السبورة. يقول المعلم للطالب: "الإجابة هي أ. احفظها". يتعلم الطالب أن يكون متأكداً بنسبة 100% من "أ"، رغم أن الفصل كان منقسماً.
• تدريب الملصقات الناعمة (Soft-Label Training) يشبه معلماً يكتب على السبورة: "60% منا يعتقد أنها أ، و40% يعتقدون أنها ب". يقول المعلم للطالب: "الإجابة هي مزيج. كن متأكداً بنسبة 60% من أ، وبنسبة 40% من ب". يتعلم الطالب أن يعكس الارتباك الفعلي في الغرفة.

يختبر البحث هذه الفكرة على ثلاث مجموعات بيانات مختلفة: إحداها لفهم المنطق النصي (ChaosNLI)، وواحدة لتقييم التهذيب في النصوص (POPQUORN)، وأخرى لتحديد الأشياء في الصور (CIFAR-10H). وفي جميع هذه الحالات، كانت البيانات مشوشة، حيث اختلف البشر بصدق حول ما هي الإجابة الصحيحة.

ما وجدوه: عدم اليقين هو ميزة وليس خطأً

كانت النتائج واضحة بشكل مدهش. عندما قارن الباحثون بين النماذج "الصلبة" (التي تم تدريبها باستخدام إجابات مفردة) والنماذج "الناعمة" (التي تم تدريبها باستخدام التوزيع الكامل لآراء الحشد)، فازت النماذج الناعمة في كل جانب مهم يتعلق بفهم عدم اليقين البشري.

1. هي أفضل في مطابقة الارتباك البشري.
المقياس الأهم كان مدى قرب تخمين الكمبيوتر من الانتشار الفعلي لأصوات البشر. استخدم المؤلفون أداة رياضية تسمى تباعد KL (KL divergence) لقياس ذلك. الرقم الأقل يعني أن الكمبيوتر أقرب إلى الواقع البشري. قللت نماذج الملصقات الناعمة هذا الخطأ بمتوسط قدره 32% عبر جميع مجموعات البيانات. بلغة بسيطة: كانت النماذج الناعمة أفضل بكثير في قول: "أنا لست متأكداً تماماً، وإليك بالضبط مدى عدم تأكدي"، مما يطابق الطريقة التي شعر بها البشر تجاه البيانات.

2. هي لا تفقد الدقة.
هناك خوف شائع من أنه إذا علمت الكمبيوتر أن يكون غير متأكد، فقد يصبح أسوأ في الحصول على الإجابة "الصحيحة". يظهر البحث أن هذا ليس صحيحاً. في مجموعة بيانات التهذيب (POPQUORN) ومجموعة بيانات الصور (CIFAR-10H)، كانت نماذج الملصقات الناعمة دقيقة تماماً مثل نماذج الملصقات الصلبة. أما في مجموعة بيانات المنطق (ChaosNLI)، فقد كانت نماذج الملصقات الناعمة أكثر دقة (55.30% مقابل 51.75%). لذا، فإن كونها صادقة بشأن عدم اليقين لم يجعلها غبية؛ بل جعلها أكثر ذكاءً.

3. هي تعرف متى تكون غير متأكدة.
هذا هو الاكتشاف الأروع ربما. نظر الباحثون في كيفية تغير "عدم اليقين" لدى الكمبيوتر (مقاساً بالاعتلاج/entropy) من عينة إلى أخرى. ووجدوا أنه بالنسبة لنماذج الملصقات الناعمة، تتبع عدم يقين الكمبيوتر عدم اليقين البشري بقوة أكبر بنسبة 61% من نماذج الملصقات الصلبة.

• إذا كان البشر مرتبكين بشأن صورة معينة، كان نموذج الملصقات الناعمة مرتبكاً أيضاً.
• إذا كان البشر متأكدين بنسبة 100%، كان نموذج الملصقات الناعمة متأكداً بنسبة 100%.
• أما نماذج الملصقات الصلبة، فقد نزعت إلى أن تكون واثقة في خطئها أو واثقة في صوابها حتى عندما كان البشر منقسمين. لم "تشعر" بالغموض.

لماذا يهم هذا الأمر

يجادل البحث في أن الطريقة القديمة في القيام بالأمور — وهي دمج كل الخلاف البشري في "تصويت أغلبية" واحد — هي خطأ. فهي تعامل الخلاف البشري كـ "ضجيج" أو خطأ يجب إصلاحه. يقترح المؤلفون أنه عندما يختلف الخبراء، فإن هذا الاختلاف غالباً ما يكون هو الحقيقة. فهو يعكس حقيقة أن بعض الأشياء في العالم (مثل ما إذا كانت دعابة ما مهذبة أو ما إذا كان حيوان ضبابي هو قط) هي أمور غامضة حقاً.

من خلال التدريب على التوزيع الكامل للإجابات، نبني أنظمة ذكاء اصطناعي أكثر صدقاً. فهي لا تتظاهر بمعرفة أشياء لا تعرفها. ويشير المؤلفون إلى أن هذا يعمل حتى عندما لا تملك عدداً كبيراً من الأصوات البشرية لكل صورة (كما هو قليل بنحو 6 أو 7 أصوات)، وإن كان يعمل بشكل أفضل مع المزيد (مثل 100 صوت).

في النهاية، يشير البحث إلى أنه لأي مهمة تتضمن حكماً بشرياً — مثل السلامة، أو التهذيب، أو التفضيل — يجب أن نتوقف عن إجبار الذكاء الاصطناعي على اختيار فائز واحد. بدلاً من ذلك، يجب أن نسمح لهم بالتعلم من الحشد بأكمله. وكما قال المؤلفون، من أجل ذكاء اصطناعي جدير بالثقة، نحتاج إلى أنظمة تعرف ما لا تعرفه. تدريب الملصقات الناعمة هو وسيلة لتعليمهم ذلك بالضبط.