Semantic Space Search Trajectory Networks

تخيل أنك تحاول تعليم روبوت التعرف على قطة. تعرض عليه آلاف الصور، ويبدأ في التخمين. ولكن كيف "يتعلم" حقاً؟ هل هو مجرد تخبط عشوائي في الظلام، أم أنه يتبع خريطة خفية؟ لعقود من الزمن، حاول العلماء الإجابة على ذلك من خلال النظر إلى "دماغ" الروبوت (أرقامه وأوزانه الداخلية). لكن ذلك يشبه محاولة فهم سيمفونية عبر التحديق في الورقة الموسيقية لعازف كمان واحد بينما تعزف الأوركسترا؛ إنه أمر فوضوي، مربك، ويفتقر إلى الرؤية الشاملة.

لجعل هذا الأمر منطقياً، يستخدم الباحثون أداة تسمى شبكة مسار البحث الدلالي (STN). فكر في الـ STN كخريطة مترو أنفاق لعملية التعلم. فبدلاً من تتبع كل خطوة صغيرة يتخذها الروبوت، تقوم هذه الأداة بتجميع اللحظات المتشابهة معاً في "محطات" (عقد) وترسم خطوطاً (حواف) توضح كيفية انتقال الروبوت من محطة إلى أخرى. يساعدنا هذا في معرفة ما إذا كان الروبوت يسلك طريقاً سريعاً ومباشراً نحو الإجابة، أم أنه يتوه في متاهة. المشكلة هي أن خرائط المترو التقليدية لا تعمل إلا للمشكلات البسيطة ومنخفضة الأبعاد. فعندما يصبح الروبوت معقداً (مثل الذكاء الاصطناعي الحديث)، تصبح الخريطة مزدحمة للغاية وعالية الأبعاد بحيث تتداخل الخطوط وتصبح غير واضحة، مما يجعل قراءتها مستحيلة.

هنا يأتي دور مفهوم الفضاء الدلالي (Semantic Space). فبدلاً من النظر إلى التروس الداخلية للروبوت، ننظر إلى ما "يقوله". إذا كان الروبوت ينظر إلى صورة قطة، فهل يقول "كلب"؟ هل يقول "قطة"؟ هل يقول "سيارة"؟ تشكل مجموعة كل تخميناته عبر مجموعة من الصور الاختبارية "متجهاً دلالياً". إنه يشبه بصمة الإصبع لفهم الروبوت الحالي. ومن خلال رسم خريطة لرحلة الروبوت عبر بصمات الأصابع هذه بدلاً من تروسه الداخلية، يمكننا إنشاء خريطة واضحة وسهلة القراءة حتى لأكثر أنظمة الذكاء الاصطناعي تعقيداً. تطرح هذه الورقة سؤالاً: هل يمكننا استخدام "خرائط بصمات الأصابع" هذه لمقارنة كيفية تفكير أنواع مختلفة من خوارزميات التعلم، وهل يمكنها إخبارنا ما إذا كان الذكاء الاصطناعي يتعلم حقاً أم أنه يقوم بمجرد الحفظ؟

---

الفكرة الكبرى للورقة: رسم خريطة الرحلة، لا علبة التروس

يقدم المؤلفون، جوليان أغوديلو وفريقه، طريقة جديدة لبناء هذه الخرائط، والتي يسمونها شبكات مسار البحث في الفضاء الدلالي. هدفهم الرئيسي هو تصور كيفية "تفكير" خوارزميات تعلم الآلة المختلفة (مثل الشبكات العصبية، وأشجار القرار، والانحدار الرمزي) أثناء حل المشكلات.

عادةً، مقارنة شبكة عصبية بشجرة قرار تشبه مقارنة سيارة سباق بدراجة هوائية؛ فهما تمتلكان محركات وأجزاء مختلفة، لذا لا يمكنك وضعهما جنباً إلى جنب بسهولة لترى أيهما أسرع أو كيف يتنقلان. لكن المؤلفين أدركوا أنه بغض النظر عن نوع الآلة التي تستخدمها، فإنها جميعاً تنتج شيئاً واحداً: التنبؤات. ومن خلال تجاهل الميكانيكا الداخلية والتركيز فقط على التنبؤات (المتجهات الدلالية)، يمكنهم وضع جميع هذه الخوارزميات المختلفة على نفس مستوى التنافس.

كيف بنوا الخريطة؟

لتحويل هذه التنبؤات المستمرة إلى خريطة قابلة للقراءة، كان على الفريق حل مشكلة صعبة: كيف تجمع التنبؤات المتشابهة معاً عندما يكون هناك الملايين منها؟

1. التقطيع (تحويل الأرقام إلى فئات): بالنسبة لمهام الانحدار (التنبؤ بأرقام مثل أسعار المنازل)، قاموا بتقسيم النطاق المستمر للإجابات إلى 10 "حاويات" بناءً على مدى تكرار ظهور قيم معينة (الكميات). أما بالنسبة للتصنيف (تخمين التسميات مثل "قطة" أو "كلب")، فقد استخدموا التسمية النهائية مباشرة. حول هذا الفوضى السحابية من البيانات المستمرة إلى مجموعة من الفئات المتميزة والقابلة للعد.
2. التجميع (تجميع المحطات): استخدموا طريقة تسمى التجميع الهرمي (Agglomerative Clustering). تخيل أن لديك كومة من حبات الرمل (كل حبة تمثل حالة تنبؤ). تبدأ بالتعامل مع كل حبة كأنها جزيرة مستقلة. ثم، تقوم بدمج أقرب جزيرتين معاً ببطء. تستمر في دمج الأزواج الأقرب حتى تصبح المسافة بين أي جزيرتين متبقيتين كبيرة جداً (يتم التحكم في ذلك عبر عتبة تسمى $\tau$). تصبح الجزر النهائية هي "المحطات" في خريطة المترو الخاصة بك.
3. رسم الخطوط: بينما تتعلم الخوارزمية، فإنها تنتقل من حالة تنبؤ إلى أخرى. تتبعوا هذه التحركات ورسموا أسهمًا بين المحطات المقابلة. وكلما كان السهم أكثر سمكاً، زاد عدد مرات اتخاذ مسارات محددة خلال عمليات التدريب المختلفة.

ماذا وجدوا: "القمع" مقابل "النجمة"

اختبر الفريق هذه الطريقة على عدة مجموعات بيانات، بما في في ذلك التعرف على الأرقام المكتوبة بخط اليد (MNIST)، ومنتجات الموضة (Fashion-MNIST)، والتنبؤ بأسعار السيارات. وقارنوا بين ثلاث خوارزميات مختلفة تماماً: الشبكات العصبية متعددة الطبقات (MLPs)، وXGBoost (طريقة قوية تعتمد على الأشجار)، والانحدار الرمزي (Symbolic Regression) (الذي يحاول إيجال صيغ رياضية).

الاكتشاف:
عندما كانت الخوارزميات تتعلم من بيانات حقيقية (حيث يوجد نمط حقيقي للبحث عنه)، كانت الخرائط متشابهة بشكل ملحوظ، بغض النظر عن الخوارزمية المستخدمة. لقد شكلت شكلاً يشبه "القمع".

• القمع: بدأت الرحلة من نقاط مختلفة عديدة (تخمينات أولية عشوائية)، لكن المسارات اندمجت بسرعة في "طرق سريعة" مشتركة قليلة، وانحدرت نحو مجموعة ضيقة واحدة من المحطات "الأفضل". يشير هذا إلى أنه عندما يكون هناك نمط حقيقي للتعلم، فإن الخوارمازميات المختلفة تميل إلى اكتشاف نفس الخطوات الوسيطة والتقارب نحو نفس الحل.
• الاختلاف: رغم أن الشكل العام كان متشابهاً، إلا أن "حركة المرور" كانت مختلفة. بدت الشبكات العصبية وكأنها عالقة في "حوض جذب" حيث كانت تتذبذب قليلاً قبل الاستقرار، بينما كان XGBoost أكثر مباشرة، مثل روبوت جشع يستمر في إحكام قبضته على الإجابة. أما الانحدار الرمزي، فقد كان الشاذ في المجموعة؛ فلم يتخذ شكل القمع، بل استكشف الخريطة في اتجاهات عديدة، ونادراً ما تقارب نحو مسار واحد، مما يتماشى مع طبيعته في البحث العشوائي عن الصيغ.

"اختبار الحفظ": هل تكشف الخريطة الغش؟

الجزء الأكثر إثارة في الورقة يأتي من تجربة شهيرة أجراها تشانغ وآخرون (2017)، والتي أظهرت أن الشبكات العصبية يمكنها "حفظ" البيانات العشوائية بنفس كفاءة البيانات الحقيقية. إذا قمت بخلط التسميات (أخبرت الذكاء الاصطناعي أن صورة قطة هي في الواقع "كلب")، فلا يزال بإمكان الذكاء الاصطناعي تعلم التنبؤ بشكل مثالي في مجموعة التدريب، لكنه يفشل فشلاً ذريعاً في البيانات الجديدة. هذا هو نظام "الحفظ" (Memorization).

استخدم المؤلفون شبكات مسار البحث الدلالي لمعرفة ما إذا كان شكل رحلة التعلم يمكنه التمييز بين التعلم (التعميم) والحفظ (التخمين العشوائي).

• التسميات الحقيقية (التعلم): كانت الخريطة كثيفة، وفعالة، ومركزية. بدت مثل مدينة مزدحمة بها مركز رئيسي يلتقي فيه الجميع. كانت المسارات مترابطة، مما يشير إلى أن الخوارزمية تبني فهماً هيكلياً.
• التسميات المختلطة (الحفظ): بدت الخريطة مثل "النجمة". كانت المسارات معزولة، ومفككة، ومتفرقة. لم يكن هناك مركز رئيسي. انتهت كل عملية تدريب في ركن منعزل خاص بها، ولم تلتقِ أبداً مع المسارات الأخرى.

الاستنتاج:
تشير الورقة إلى أن هيكل رحلة التعلم يكشف الحقيقة. عندما يتعلم الذكاء الاصطناعي نمطاً ما، فإن المسارات تتقارب وتتصل. وعندما يقوم بمجرد حفظ الضجيج، تظل المسارات معزولة. لقد قاسوا هذا باستخدام مقاييس الرسم البياني مثل الكفاءة العالمية (global efficiency) والكثافة (density). على سبيل المثال، في مجموعة بيانات "Bioresponse"، كانت كثافة خريطة "التسميات الحقيقية" هي 0.0157، بينما كانت خريطة "التسميات المختلطة" أكثر ندرة عند 0.0049.

كما اختبروا ما يحدث إذا قاموا بإفساد البيانات ببطء، عبر استبدال 20%، 40%، وصولاً إلى 100% من التسميات بضجيج عشوائي. ومع زيادة الفساد، بدأ شكل "القمع" يتفكك تدريجياً، متحولاً إلى شكل "النجمة". انخفضت مقاييس الرسم البياني (مثل الكفاءة العالمية) بثبات، مما أظهر انتقالاً سلسًا من التعلم إلى الحفظ.

لماذا هذا مهم؟

يشير هذا العمل إلى أننا لسنا بحاجة للنظر داخل "الصندوق الأسود" للشبكة العصبية لفهم ما إذا كانت تتعلم أم تغش. نحن فقط بحاجة للنظر إلى خريطة تنبؤاتها. إذا كانت الخريطة عبارة عن شبكة متصلة وفعالة، فإن الذكاء الاصطناعي على الأرجح يتعلم شيئاً حقيقياً. أما إذا كانت مجموعة مبعثرة من المسارات المعزولة، فمن المرجح أنه يقوم بمجرد الحفظ.

يلاحظ المؤلفون بعناية أن هذا هو ملاحظة قائمة على المحاكاة وهو أداة وصفية للتحليل، وليس حلاً سحرياً يحل لغز التعميم. هم يقترحون أن هذه الطريقة تقدم منظوراً سلوكياً يكمل النظريات القائمة. إنها نظارة جديدة تسم تسمح لنا برؤية "شكل" الذكاء، وتوضح لنا أنه بغض النظر عما إذا كنت شبكة عصبية أو شجرة قرار، فإذا كنت تتعلم الحقيقة، فإن رحلتك ستبدو متشابهة.