Fake & Square: Training Self-Supervised Vision Transformers with Synthetic Data and Synthetic Hard Negatives
تقدم هذه الورقة إطار عمل Syn2Co، الذي يعزز التعلم الخاضع للإشراف الذاتي لنماذج محولات الرؤية (vision transformers) من خلال الاستفফার من البيانات الاصطناعية لتنوع العينات ومن السلبيات الصعبة الاصطناعية للتباينات الصعبة، وبالتالي استكشاف إمكانات وحدود "التظاهر بالامتلاك" لتقليل الاعتماد على مجموعات البيانات الضخمة من العالم الحقيقي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
فن التعلم بدون معلم
تخيل أنك تحاول تعليم روبوت كيفية التعرف على قطة. في الأيام الخوالي، كنت ستحتاج إلى إنسان ينظر إلى آلاف الصور، ويشير إلى القطة، ويقول: "هذه قطة". هذا ما يسمى بـ "التعلم الخاضع للإشراف"، وهو يعمل بشكل رائع، لكنه بطيء ومكلف ويتطلب الكثير من المراقبة البشرية. ولتجاوز ذلك، اخترع العلماء "التعلم ذاتي الإشراف". فكر في الأمر كأنك تعطي الروبوت كومة من الصور وتقول له: "اكتشف بنفسك ما الذي يجعل هذه الصور متشابهة أو مختلفة". يتعلم الروبوت من خلال مقارنة الصور، محاولاً ملاحظة أن صورتين لنفس الكلب هما "صديقان" (إيجابيات)، بينما صورة كلب وصورة محمصة خبز هي "غرباء" (سلبيات).
ومع ذلك، هناك عقبة. لكي يصبح الروبوت جيداً حقاً في هذا، فإنه يحتاج إلى مكتبة ضخمة من الصور الواقعية، ويحتاج أن يتم تحديه بـ "السلبيات الصعبة" (hard negatives)—وهي مقارنات مخادعة تكون متشابهة جداً ولكنها مختلفة قليًا، مثل الفرق بين كلب من فصيلة "جولدن ريتريفر" وكلب من فصيلة "لابرادور". إذا رأى الروبوت أمثلة سهلة فقط، فسيصبح كسولاً ولا يتعلم التفاصيل الدقيقة. ولكن ماذا لو لم يكن لدينا ما يكفي من الصور الحقيقية، أو كان العثور على تلك الأمثلة الصعبة أمراً صعباً للغاية؟ هنا يأتي دور فكرة "التزييف". ماذا لو استطعنا إنشاء صور مزيفة أو أمثلة صعبة مزيفة باستخدام الكمبيوتر لمساعدة الروبوت على التعلم؟ هذا هو ملعب "رؤية الحاسوب"، وهو مجال تحاول فيه الآلات رؤية وفهم العالم، وهو المسرح للقصة التي نحن بصدد سردها.
تظاهر بالأمر حتى تتقنه: طريقة جديدة لتدريب عيون الذكاء الاصطناعي
في ورقة بحثية بعنوان "Fake & Square: Training Self-Supervised Vision Transformers with Synthetic Data and Synthetic Hard Negatives" (التزييف والمربع: تدريب محولات الرؤية ذاتية الإشراف باستخدام البيانات الاصطناعية والسلبيات الصعبة الاصطناعية)، قرر فريق من الباحثين من "إمبريال كوليدج لندن" اختبار فكرة جريئة: هل يمكننا تعليم الذكاء الاصطناعي الرؤية بجودة تضاهي ما يتعلمه من الأشياء "الحقيقية" باستخدام أشياء "مزيفة"؟ نهجهم مستوحى من القول المأثور القديم، "تظاهر بالأمر حتى تتقنه". فبدلاً من انتظار البيانات المثالية من العالم الحقيقي، قرروا تخليق (أو إنشاء) مواد تدريبهم الخاصة ليروا ما إذا كان ذلك سينجح.
ركز الباحثون على طريقتين محددتين لـ "التزييف". أولاً، نظروا في البيانات الاصطناعية (Synthetic Data). تخيل أن لديك ألبوم صور يحتوي على 100 حيوان مختلف. بدلاً من التقاط المزيد من الصور لحيوانات حقيقية، استخدموا برنامج كمبيوتر خاص يسمى "نموذج الانتشار" (diffusion model) لرسم 130,000 صورة جديدة ومزيفة لتلك الحيوانات نفسها. هذه ليست مجرد نسخ ضبابية؛ بل هي صور جديدة تماماً تبدو وكأنها حقيقية. أرادوا معرفة ما إذا كان بإمكان الذكاء الاصطناعي تعلم التعرف على الحيوانات بمجرد دراسة هذا الألبوم المزيف، أم أنه يحتاج إلى مزيج من الحقيقي والمزيف.
ثانياً، عالجوا مشكلة السلبيات الصعبة (Hard Negatives). في لعبة التعلم الخاصة بالروبوت، "السلبيات الصعبة" هي مقارنة مخادعة، مثل سؤال الروبوت عن التمييز بين درجتين متشابهتين جداً من اللون الأزرق. عادةً ما يكون العثور على هذه الأزواج الصعبة في الحياة الواقعية أمراً صعباً. لذا، ابتكر الباحثون طريقة لـ "تزييف" هذه المقارنات الصعبة داخل عقل الروبوت (المساحة الرياضية حيث يخزن الذكاء الاصطناعي ما يعرفه). لقد أخذوا فهم الذكاء الاصطناعي الحالي ودمجوه رياضياً لإنشاء أمثلة جديدة فائقة الصعوبة كان على الروبوت حلها. وقد أطلقوا على طريقتهم المدمجة اسم Syn2Co.
ما وجدوه
اختبر الفريق طرق "التزييف" الخاصة بهم على تصميمين شهيرين لأدمغة الذكاء الاصطناعي: DeiT-S و Swin-T. وأجروا تجارب على مجموعة بيانات تسمى ImageNet-100، والتي تحتوي على 100 فئة من الصور.
إليك ما تخبرنا به الأرقام:
- المزيج هو الأهم: عندما قاموا بتدريب الذكاء الاصطناعي باستخدام الصور المزيفة فقط، حقق أداءً جيداً بشكل مفاجئ، لكنه لم يكن مثالياً. ومع ذلك، عندما مزجوا الصور المزيفة مع الصور الحقيقية، أصبح الذكاء الاصطناعي أفضل. تشير النتائج إلى أن الصور الاصطناعية تشبه مكملاً قوياً؛ فهي تعزز التعلم، لكنها لا تحل محل الحاجة إلى بيانات العالم الحقيقي تماماً بعد.
- أدمغة مختلفة، احتياجات مختلفة: تفاعل نموذجان الذكاء الاصطناعي بشكل مختلف مع عملية "التزييف". نموذج DeiT-S أحب الجمع بين الصور المزيفة والمقارنات الصعبة المزيفة، حيث وصل إلى دقة قصوى بلغت 82.12% عند تدريبه لمدة 300 دورة (epochs). أما نموذج Swin-T، فقد بدا أنه يفضل المقارنات الصعبة المزيفة (السلبيات الاصطناعية) أكثر من الصور المزيفة.
- الدرس "الصعب": وجد الباحثون أن إضافة هذه السلبيات الصعبة الاصطناعية ساعدت الذكاء الاصطناعي على تعلم سمات أكثر حدة وتفصيلاً. على سبيل المثال، في أحد الاختبارات، قاموا بتغيير نسبة هذه السلبيات الصعبة من 0% إلى 40%. وتحسن أداء الذكاء الاصطناعي بشكل عام مع إضافة المزيد من هذه الأمثلة الصعبة، مما يظهر أن المعاناة مع "التزييف" كانت تساعد في الواقع في تقوية الذكاء الاصطناعي.
الحكم النهائي
لا تدعي الورقة البحثية أن البيانات المزيفة هي عصا سحرية تحل كل شيء. بدلاً من ذلك، تقترح أن البيانات الاصطناعية هي أداة واعدة. وجد المؤلفون أنه بينما لا يمكنك التخلص من جميع صورك الحقيقية والاعتماد بنسبة 100% على الصور المولدة بالحاسوب، فإن استخدام البيانات الاصطناعية لتعزيز (إضافة إلى) بياناتك الحقيقية يعمل بشكل جيد للغاية. فهي تساعد الذكاء الاصطناعي على التعلم بشكل أسرع ويصبح أكثر قوة، خاصة عندما يصعب الحصول على بيانات حقيقية أو عندما تحتاج إلى أمثلة أكثر تحدياً لاختبار حدود الذكاء الاصطناعي.
باختصار، أظهر الباحثون أنه يمكنك بالفعل "التظاهر بالأمر حتى تتقنه" إلى حد معين. فمن خلال توليد صور اصطناعية وتحديات اصطناعية، خلقوا بيئة تدريب ساعدت نماذج الذكاء الاصطناعي على التعلم بشكل أفضل، مما يثبت أنه في بعض الأحيان، يمكن لبعض المساعدة الاصطناعية أن تجعل عملية التعلم تبدو حقيقية جداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.