تخيل عالماً تكون فيه أذكى الحواسيب مثل مكتبات ضخمة ومرتفعة مليئة بكل كتاب كُتب على الإطلاق. يمكن لهذه المكتبات حل المشكلات، والتعرف على الوجوه، وفهم العالم بدقة مذهلة. لكن هناك مشكلة: هذه المكتبات ضخمة وثقيلة للغاية لدرجة أنها لا تتسع في حقيبة ظهرك، ناهيك عن هاتفك. إنها تحتاج إلى كميات هائلة من الكهرباء وأجهزة قوية فقط لتبقى مفتوحة. هذا هو التحدي الذي يواجه الذكاء الاصطناعي الحديث: كيف نأخذ عبقرية نماذج "المعلم" العملاقة هذه ونضغط معرفتها داخل نماذج "طالب" صغيرة وخفيفة الوزن يمكن تشغيلها في أي مكان؟

للقيام بذلك، يستخدم العلماء حيلة تسمى تقطير المعرفة (Knowledge Distillation). فكر في الأمر كشيف ماهر يعلم متدرباً شاباً. بدلاً من إعطاء المتدرب الوصفة النهائية فحب (الإجابة)، يوضح له الماهر "إحساس" الطبخة. إذا قال الماهر: "هذا الحساء طعمه يشبه الدجاج قليلاً، ولكن به لمحات من الأعشاب أيضاً"، فإن المتدرب يتعلم ذلك التباين، وليس فقط أنه "حساء". في مصطلحات الكمبيوتر، لا يكتفي نموذج المعلم بالقول: "هذا قط"، بل يهمس أيضاً: "إنه يشبه الكلب كثيراً، ولكنه بعيد عن الطائرة". هذا "الهمس" يساعد الطالب على تعلم العلاقات الدقيقة بين الأشياء. ومع ذلك، كانت المحاولات الأخيرة لتعليم هذه العلاقات صارمة للغاية، مثل معلم يصرخ: "أنت قط، وذلك الكلب ليس قطاً، لذا ابقَ بعيداً عنه تماماً!" هذا يجبر الطالب على نسيان أن القطط والكلاب هي في الواقع حيوانات متشابهة ويجب أن تكون متقاربة نوعاً ما.

هنا يأتي دور ورقة بحثية جديدة من باحثين في "إمبريال كوليدج لندن" بفكرة جديدة تسمى تقطير التمثيل العلائقي (Relational Representation Distillation - RRD). لقد أدركوا أنه بدلاً من إجبار الطالب على حفظ المسافات الدقيقة بين كل جسم وآخر، فمن الأفضل تعليمهم "الترتيب النسبي" للأشياء. تخيل فصلاً دراسياً لا يقول فيه المعلم "اجلس هنا" فحسب، بل يقول: "اجلس أقرب إلى الكلب منك إلى الطائرة، ولكن ليس بقرب القط". وجد الباحثون أنه باستخدام إعداد "حرارة" خاص يجعل تعلم الطالب أكثر حدة وتركيزاً، يمكنهم الحفاظ على هذه العلاقات المهمة دون حدوث ارتباك. وتظهر تجاربهم أن هذه الطريقة تساعد نماذج الطالب الصغيرة على التعلم بشكل أفضل بكثير، بل وتصل أحياناً إلى أداء يضاهي نماذج المعلم العملاقة نفسها، كل ذلك مع الحفاظ على "حقيبة الظهر" خفيفة وفعالة.

المشكلة في كونك صارماً للغاية

لفترة طويلة، كانت أفضل طريقة لتعليم نموذج الطالب هي استخدام طريقة تسمى التعلم التبايني (Contrastive Learning). تخيل لعبة كراسي موسيقية حيث الهدف هو إبقاء أصدقائك قريبين ودفع الغرباء بعيداً. في هذه اللعبة، إذا كان لديك صورة لقط، يحاول الكمبيوتر جعل تمثيل "القط" قريباً جداً من صور القطط الأخرى، وبعيداً جداً عن صور "الكلب" أو "الطائرة".

كما يشير المؤلفون، فإن هذه اللعبة قد تصبح شديدة الحدة. فهي تجبر الكمبيوتر على معاملة القط والكلب كغرباء تماماً، رغم أنهما كلاهما حيوانات ذات فراء. إنه يشبه معلماً يقول لطالبه: "أنت قط، والكلب عالم مختلف تماماً، لذا لا تفكر أبداً في أنكما متشابهان". هذا "التنافر الدلالي" (وهي طريقة منمقة للقول "دفع الأشياء بعيداً بقوة") يتخلص من معلومات قيمة. يتعلم الطالب التعرف على القط، لكنه ينسى أن القطط والكلاب تتشاركان في شجرة العائلة.

النهج الجديد: العلاقات النسبية

يقترح المؤلفون طريقة أكثر ذكاءً للعب هذه اللعبة. فبدلاً من فرض مسافات مطلقة، يركزون على العلاقات النسبية. إنهم يطلبون من نموذج الطالب تعلم "ترتيب" التشابه.

إليك التشبيه: تخيل أنك تقوم بترتيب فواكهك المفضلة.

• الطريقة القديمة (التباين الصارم): "التفاحة هي تفاحة بنسبة 100%. الموز هو موز بنسبة 100%. إنهما عدوان. ابقيا بعيدين عن بعضكما مسافة 100 ميل".
• الطريقة الجديدة (RRD): "التفاحة هي المفضلة لديك. الكمثرى هي المفضلة الثانية (لأن كليهما مستدير وحلو). الموز هو الثالث. والصخرة هي الأخيرة".

لا يحتاج الطالب لمعرفة المسافة الدقيقة بين التفاحة والكمثرى بالأميال؛ يحتاج فقط لمعرفة أن الكمثرى أقرب إلى التفاحة من الموز. هذا يحافظ على هيكل العالم: التفاح والكمثرى مرتبطان، والموز مرتبط نوعاً ما، والصخور ليست كذلك.

كيف فعلوا ذلك: سحر درجة الحرارة

لجعل هذا يعمل، قدم الباحثون حيلة ذكية تتعلق بـ درجة الحرارة (Temperature). في عالم الذكاء الاصطناعي، لا تتعلق "درجة الحرارة" بالحرارة، بل بمدى "نعومة" أو "حدة" تخمينات النموذج.

• درجة حرارة عالية: يكون النموذج غير متأكد وينشر تخميناته (مثل يوم ضبابي حيث يبدو كل شيء ضبابياً).
• درجة حرارة منخفضة: يكون النموذج واثقاً جداً ويشحذ تركيزه (مثل شعاع الليزر).

لقد أعطى المؤلفون المعلم درجة حرارة محددة، وأعطوا الطالب درجة حرارة مختلفة وأكثر حدة. لقد ضبطوا درجة حرارة الطالب لتكون أقل (أكثر حدة) من درجة حرارة المعلم. هذا يعني أن الطالب مجبر على التركيز بكثافة على العلاقات الأساسية (مثل قط مقابل طائرة)، مع الاحتفاظ بذاكرة ناعمة وضبابية للعلاقات الثانوية (مثل قط مقابل كلب).

استخدموا أيضاً "بنك ذاكرة" (Memory Bank)—وهو قائمة ضخمة من السمات التي رآها المعلم من قبل. يقارن الطالب صورته الحالية مقابل بنك الذاكرة هذا ليرى أين يقع في المخطط العام. ومن خلال مواءمة "التصنيفات النسبية" للطالب مع تصنيفات المعلم، يتعلم الطالب هيكل العالم دون أن يصيبه الارتباك من القواعد الصارمة للطرق القديمة.

ماذا وجدوا

اختبر الفريق هذه الفكرة على عدة مجموعات بيانات صور شهيرة، بما في ذلك CIFAR-100 (التي تحتوي على 100 نوع مختلف من الأشياء) و ImageNet (وهي مجموعة ضخمة تضم أكثر من مليون صورة). وقد وضعوا طريقتهم الجديدة في مواجهة أبطال المجال الحاليين.

كانت النتائج مثيرة للإعجاب. فعندما استخدموا طريقتهم الجديدة بمفردها، تفوقت على الطرق "التباينية" القياسية. لكن السحر الحقيقي حدث عندما دمجوها مع تقنية تقطير المعرفة التقليدية.

• في مجموعة بيانات CIFAR-100، أظهرت طريقتهم تحسناً نسبياً قدره 75.50% على طرق تقطير المعرفة القياسية.
• وعندما دمجوها مع الطريقة الكلاسيكية، قفز التحسن إلى 80.03%.

ببساطة، تعلمت نماذج الطلاب بشكل أسرع وأصبحت أكثر ذكاءً بكثير. وفي بعض الحالات، أدى نموذج الطالب الصغير المدرب بهذه الطة الجديدة إلى أداء أفضل من نموذج المعلم الضخم الذي كان يحاول تقليده!

كما نظروا في "دماغ" النماذج باستخدام تقنية تسمى t-SNE، والتي تحول البيانات المعقدة إلى خريطة ثنائية الأبعاد. في هذه الخرائط، يمكنك رؤية كيف تجمع الحواسيب الأشياء معاً. مع الطرق القديمة، كانت المجموعات فوضوية أو متباعدة جداً. أما مع تقطير التمثيل العلائقي الجديد، فقد بدت المجموعات مطابقة تقريباً لمجموعات المعلم. لقد نجح الطالب في تعلم "رؤية المعلم للعالم"، حيث أبقى القطط بالقرب من الكلاب وبعيداً عن الطائرات، تماماً كما أراد المعلم.

لماذا يهم هذا الأمر

الأمر لا يتعلق فقط بجعل الأرقام تبدو جيدة على الرسم البياني. بل يتعلق بجعل الذكاء الاصطناعي تطبيقياً وعملياً. إذا استطعنا تعليم النماذج الصغيرة والفعالة فهم العالم كما تفعل النماذج الضخمة، فيمكننا وضع ذكاء اصطناعي ذكي في هواتفنا، وسياراتنا، وساعاتنا دون الحاجة إلى حاسوب خارق في صندوق السيارة. من خلال تعليم الطالب فهم العلاقات بدلاً من مجرد القواعد، وجد المؤلفون طريقة لضغط عبقرية العمالقة في حزمة تناسب جيبك.

تشير الورقة البحثية إلى أن التركيز على هذه الروابط النسبية هو مسار واعد للمستقبل. هي لا تدعي أنها حلت كل مشاكل الذكاء الاصطناعي، لكنها تقدم أداة واضحة وفعالة لجعل الجيل القادم من الأجهزة الذكية قوياً ومحمولاً في آن واحد.