BRIDLE: Generalized Self-supervised Learning with Quantization
يُعدُّ BRIDLE إطار عمل تعلُّم ذاتي الإشراف معمماً يعمل على تعزيز جودة التمثيل عبر وسائط الصوت والصورة والفيديو من خلال دمج التكميم المتبقي الهرمي في عملية تدريب ثنائية الاتجاه، مما يتغلب على قيود تكميم المتجهات أحادي دفتر الرموز ويحقق أداءً رائدًا في مختلف المهام اللاحقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المعاصر، أصبحت الآلات بارعة بشكل ملحوظ في التعرف على الأنماط، لكنها غالباً ما تتطلب كميات هائلة من الأمثلة المصنفة بشرياً لتتعلم. تخيل محاولة تعليم طفل التعرف على الحيوانات عبر إظهار آلاف الصور له، كل واحدة منها موسومة بعناية باسم الحيوان بواسطة معلم صبور. ورغم أن هذا الأسلوب ينجح، إلا أنه بطيء ومكلف، ويحد مما يمكن للآلة تعلمه لأنها تظل عالقة في انتظار المساعدة البشرية. إن نهجاً أكثر قوة، يُعرف بالتعلم الخاضع للإشراف الذاتي، يسمح للآلات بتعليم نفسها من خلال دراسة البيانات الخام التي تُقدم لها، والبحث عن الهياكل والروابط الخفية دون الحاجة إلى أن يكتب أحد الإجابات لها. لقد أحدث هذا الأسلوب ثورة بالفعل في كيفية فهم الحواسيب للغة، مما سمح لها باستيعاب المعنى العميق للجمل عبر قراءة مليارات الكتب وتخمين الكلمات المفقودة. والآن، يحاول الباحثون جلب هذا النوع من قدرة التعلم الذاتي إلى عالم الصوت والصورة والفيديو، آملين في إنشاء أنظمة تفهم العالم المرئي والسمعي بشكل طبيعي كما تفهم الكلمات.
يكمن التحدي في تطبيق أساليب التعلم الذاتي هذه على الصوت والفيديو في أن هذه الإشارات مستمرة ومعقدة، على عكس الكلمات المنفصلة في الجملة. ولجعلها أسهل في المعالجة بالنسبة للحاسوب، غالباً ما يقوم الباحثون بتفكيكها إلى قطع صغيرة ومتميزة، تماماً مثل تحويل مجرى مائي سلس إلى سلسلة من القطرات الفردية. ويتضمن أحد الأساليب الشائعة للقيام بذلك استخدام "مُجزئ" (tokenizer)، وهو مكون يعمل كمترجم، حيث يحول الإشارة الخام إلى تسلسل من هذه الرموز (tokens) المنفصلة. ولفترة من الوقت، استخدمت الأنظمة الأكثر نجاحاً مُترجماً بسيطاً يختار رمزاً واحداً من قائمة ثابتة من الخيارات لتمثيل جزء من الإشارة. ومع ذلك، فإن هذا النهج له قصور: فهو يجبر الحاسوب على اختيار خيار واحد فقط من قائمة مسطحة، مما قد يؤدي إلى فقدان التفاصيل الدقيقة والمتعددة الطبقات التي تشكل صوتاً معقداً أو صورة متحركة. الأمر يشبه محاولة وصف لوحة معقدة عبر اختيار لون واحد فقط من لوحة الألوان، بدلاً من مزج عدة ظلال لالتقاط العمق والملمس.
قام فريق من الباحثين في جامعة ولاية فلوريدا وشركة ميتا (Meta Platforms Inc) بتطوير نظام جديد يسمى BRIDLE لحل هذه المشكلة. يركز عملهم على تحسين المترجم، أو المُجزئ، المستخدم في أنظمة التعلم الذاتي هذه. فبدلاً من الاعتماد على قائمة رموز واحدة مسطحة، قدموا نظاماً هرمياً يعمل على مراحل. تخيل محاولة وصف موقع ما ليس باختيار عنوان واحد من دليل الهاتف، بل بتحديد الدولة أولاً، ثم الولاية، ثم المدينة، وأخيراً الشارع. كل خطوة تضيف طبقة من التفاصيل إلى الوصف. في نظام BRIDLE، يقوم الحاسوب بتفكيك الصوت أو الصورة إلى سلسلة من البواقي (residuals)، أو التفاصيل المتبقية، ويستخدم سلسلة من "كتب الرموز" (codebooks) لوصف كل طبقة. تلتقط المرحلة الأولى الميزات العامة والواسعة، بينما تقوم المراحل اللاحقة بملء التفاصيل الأكثر دقة وتحديداً. ومن خلال إضافة هذه الطبقات معاً، يمكن للنظام إنشاء تمثيل أغنى وأكثر دقة للبيانات مما يمكن لأي طريقة ذات خطوة واحدة أن تحققه.
اختبر الباحثون هذا النهج الجديد عبر ثلاثة أنواع مختلفة من البيانات: الصوت، والصور، والفيديو. لقد دربوا نموذجهم على مجموعات بيانات ضخمة، بما في ذلك ملايين المقاطع الصوتية من يوتيوب، وأكثر من مليون صورة من مجموعة "إيميج نت" (ImageNet) القياسية، ومئات الآلاف من مقاطع الفيديو التي تعرض أفعالاً بشرية. وفي كل حالة، قارنوا منهجهم الهرمي الجديد بالمنهج القديم ذي القائمة الواحدة، مع ضمان بقاء العدد الإجمالي للرموز الممكنة كما هو، بحيث يكون الفرق الوحيد هو كيفية تنظيم تلك الرموز. كانت النتائج واضحة ومتسقة؛ فالنظام الجديد، الذي يستخدم هذا النهج متعدد المراحل والمتعدد الطبقات، تفوق باستمرار على الطريقة القديمة. وكان التحسن ملحوظاً بشكل خاص عندما اختبر الباحثون مدى قدرة الحاسوب على التعرف على أشياء جديدة لم يرها من قبل، وهي مهمة تُعرف بالاستقصاء الخطي (linear probing). وهذا يشير إلى أن النظام الجديد تعلم فهماً أكثر مرونة وقوة للعالم، من خلال إنشاء تمثيلات يسهل استخدامها في مهام أخرى.
بعيداً عن أرقام الأداء، بحث الباحثون أيضاً في كيفية جعل النظام يتعلم بفعالية أكبر. ووجدوا أن الطريقة التي يبدأ بها النظام عملية التعلم تؤثر بشكل كبير. فمن خلال تهيئة النظام باستخدام تقنية رياضية معينة تعمل على توزيع نقاط البداية بشكل متساوٍ، بدلاً من تركها عشوائية، تعلم النظام بشكل أسرع وأكثر موثوقية. كما طوروا طريقة لضمان استخدام كل جزء من النظام، مما يمنع الحاسوب من تجاهل أجزاء كبيرة من مفرداته الخاصة. هذه التحسينات التقنية، جنباً إلى جنب مع الهيكل الطبقي الجديد، سمحت للنظام بتحقيق نتائج رائدة في تصنيف الصوت، محاكية أو متفوقة على أفضل النماذج الموجودة في الاختبارات القياسية. يوضح هذا العمل أن الطريقة التي يفكك بها الجهاز المعلومات ويمثلها لا تقل أهمية عن خوارزمية التعلم نفسها. ومن خلال الانتقال من نظام الاختيار الواحد المسطح إلى نظام عميق ومتعدد الطبقات، أظهر الباحثون أن الآلات يمكنها تعلم رؤية وسماع العالم بوضوح ودقة أكبر، مما يمهد الطريق لذكاء اصطناعي أكثر قدرة وتعدداً في الاستخدامات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.