Functional Autoencoder for Smoothing and Representation Learning

تخيل أنك تحاول فهم أغنية، لكن ليس لديك سوى قائمة من النوتات الموسيقية التي تُعزف في لحظات عشوائية، بعضها عالٍ، وبعضها خافت، وبعضها مفقود تماماً. في عالم علم البيانات، هذا هو ما تبدو عليه "البيانات الوظيفية": معلومات تتغير بمرور الوقت أو عبر المساحة، مثل نبضات القلب، أو اتجاهات سوق الأسهم، أو درجة حرارة المحيط. عادةً، يضطر العلماء للقيام بوظيفتين منفصلتين لفهم هذه البيانات الفوضوية. أولاً، عليهم "تنعيم" تلك النوتات المتعرجة والمشوشة وتحويلها إلى لحن سلس ومستمر. ثانياً، عليهم ضغط هذه الأغنية الطويلة والمعقدة إلى قائمة قصيرة من الأرقام (مثل ملخص) لكي يتمكن الكمبيوتر من فهمها. لفترة طويلة، كانت أفضل الأدوات لهذه المهمة تشبه المترجمين القدامى والجامدين؛ حيث لم يكن بإمكانها إلا فهم الخطوط المستقيمة والأنماط البسيطة. وإذا احتوت البيانات على التواء، أو منحنى، أو مفاجأة، فغالباً ما كانت هذه الأدوات ترتبك أو تفقد الجوهر تماماً.

هنا يأتي دور فريق جديد من الباحثين بفكرة ذكية. لقد بنوا آلة رقمية تسمى "المشفّر التلقائي الوظيفي" (Functional Autoencoder - FAE)، والتي تعمل كمترجم ذكي ومرن للغاية. فبدلاً من إجبار البيانات الفوضوية على التحول إلى خط مستقيم، تتعلم هذه الآلة رؤية المنحنيات والالتواءات بشكل طبيعي. هي لا تكتفي بتلخيص البيانات فحسب؛ بل تستمع إلى النوتات المبعثرة والمشوشة وتغني فوراً لحناً سلساً ومثالياً، بينما تكتشف أيضاً الشفرة السرية وراء الأغنية. اختبر الباحثون هذه الآلة الجديدة مقابل الأدوات القياسية القديمة، ووجدوا أنها كانت أفضل بكثير في تخمين كيف سيكون صوت الأغنية تالياً وفي تصنيف الأغاني المختلفة إلى الفئات الصحيحة، خاصة عندما تكون الموسيقى معقدة أو عندما تكون النوتات مفقودة.

المشكلة: نوتات فوضوية ومترجمون جامدون

في عالم تحليل البيانات الوظيفية (FDA)، لا تكون البيانات مجرد رقم واحد؛ بل هي منحنى كامل. فكر في الأمر كفيديو لسرعة عداء خلال سباق. أنت لا تملك سرعة واحدة فقط؛ بل لديك سرعة لكل جزء من الثانية. ولكن في العالم الحقيقي، نادراً ما نحصل على فيديو مثالي. عادةً ما نحصل على لقطات قليلة: سرعة عند الثانية الأولى، وأخرى عند الثانية الخامسة، وربما واحدة عند الثانية العاشرة، وأحياناً يحدث خلل في الكاميرا وتفوتنا عدة ثوانٍ بأكملها.

لجعل هذه اللقطات مفهومة، يستخدم العلماء تقليدياً خطوتين رئيسيتين. أولاً، يقومون بـ "تنعيم" البيانات، أي ربط النقاط لتخمين ما حدث بينها. ثانياً، يستخدمون تقنية تسمى "تحليل المكونات الرئيسية الوظيفية" (FPCA) لضغط ذلك المنحنى الطويل إلى عدد قليل من الأرقام الرئيسية. فكر في (FPCA) كقالب جامد: يفترض أن المنحنى مكون من تركيبات بسيطة وخطوط مستقيمة. وهي تعمل بشكل رائع إذا كانت البيانات بسيطة، ولكن إذا كانت البيانات تحتوي على أنماط معقدة، أو متعرجة، أو "غير خطية"، فإن هذا القالب الجامد ينكسر. إنه يشبه محاولة وضع ثعبان متعرج داخل صندوق مربع؛ حيث يتم عصر الثعبان، وتفقد شكله.

حاول باحثون آخرون استخدام الشبكات العصبية القياسية (من النوع الذي يشغل تقنيات التعرف على الصور) لإصلاح ذلك. لكن هذه الشبكات تتعامل عادة مع البيانات كقائمة من الأرقام غير المرتبطة ببعضها. فهي لا تفهم أن السرعة عند الثانية الأولى مرتبطة بالسرعة عند الثانية الثانية. كما أنها تعاني عندما تكون البيانات مفقودة أو غير منتظمة، وغالباً ما ترتبك بسبب الفجوات في الجدول الزمني.

الحل: آلة "تسمع" المنحنى

اقترح مؤلفو هذه الورقة البحثية، سيدي وو، وسيدريك بولاك، وجيغو كاو، نوعاً جديداً من الشبكات العصبية يسمى "المشفّر التلقائي الوظيفي" (FAE). تخيل هذه الآلة كروبوت يتكون من جزأين: المشفّر (المستمع) وفك التشفير (المغني).

المشفّر (المستمع):
بدلاً من مجرد النظر إلى الأرقام الخام والمبعثرة، يمتلك المشفّر "طبقة ميزات" خاصة. فهو يأخذ النوتات المبعثرة ويعرضها على مجموعة من الأشكال المختارة مسبقاً والناعمة (تسمى الدوال الأساسية). إنه يشبه امتلاك مجموعة من القوالب الموسيقية. تسأل الآلة نفسها: "كم يوجد من شكل 'الموجة الجيبية' في بياناتي؟ وكم يوجد من شكل 'النتوء' هذا؟". تقوم الآلة بحساب مجموع مرجح، محولةً اللقطات غير المنتظمة والمبعثرة إلى مجموعة ميزات نظيفة وسلسة. هذه الخطوة حاسمة لأنها تسمح للآلة بالتعامل مع البيانات ذات المسافات غير المنتظمة (النوتات المفقودة) دون ارتباك. إنها تقوم أساساً بـ "ملء الفراغات" رياضياً قبل أن يبدأ الذكاء الاصطناعي في التعلم.

فك التشفير (المغني):
بمجرد أن يكتشف المشفّر الشفرة السرية (الأرقام المضغوطة)، يتولى "فك التشفير" المهمة. لديه "طبقة معاملات" تعمل مثل قائد الأوركسترا؛ حيث يأخذ تلك الأرقام ويستخدمها لخلط مجموعة من القوالب الموسيقية الناعمة لإعادة إنشاء الأغنية الأصلية. ولأنها تقوم بخلط قوالب سلسة، فإن النتيجة تكون تلقائياً منحنى مستمراً وسلساً، حتى لو كان المدخل متعرجاً ومليئاً بالثغرات.

سحر هذا التصميم يكمكم في أنه يقوم بالمهمتين معاً: فهو ينعم البيانات و يتعلم التمثيل في آن واحد. لا يحتاج إلى أن يُقال له تنعيم البيانات أولاً؛ إذ يحدث التنعيم بشكل طبيعي كجزء من عملية التعلم.

ماذا وجدوا: منحنيات أكثر سلاسة، ونتائج أفضل

اختبر الباحثون آلة (FAE) الجديدة بطريقتين: أولاً باستخدام عمليات محاكاة حاسوبية، وثانياً باستخدام بيانات من العالم الحقيقي.

المحاكاة:
أنشأوا آلاف المنحنيات الوهمية بمستويات مختلفة من التعقيد.

• عندما كانت البيانات بسيطة (خطية): أدى (FAE) الجديد أداءً يضاهي الطريقة القياسية القديمة (FPCA). لقد أثبت أنه لا يفسد الأمور البسيطة.
• عندما كانت البيانات معقدة (غير خطية): هنا برز تألق (FAE). فقد عانت طريقة (FPCA) القديمة، لكونها جامدة، في التقاط الالتواءات والمنعطفات، مما أدى إلى أخطاء أعلى. أما (FAE)، بفضل شبكته العصبية المرنة، فقد استطاع التقاط الأنماط المعقدة بشكل أفضل بكثير. وفي الاختبارات التي حاولوا فيها تخمين "فئة" المنحنى (مثل تصنيف الأغاني حسب النوع الموسيقي)، كان (FAE) أكثر دقة.
• اختبار "النوتة المفقودة": قاموا بمحاكاة بيانات حيث تمت إزالة 25% من النقوات الزمنية بشكل عشوائي. الشبكات العصبية القياسية (AE) أصبحت فوضوية وتذبذبت بشكل حاد عند محاولة ملء الفجوات. ومع ذلك، حافظ (FAE) على انسيابية ودقة المنحنى، مما أظهر أنه أفضل بكثير في التعامل مع البيانات غير المنتظمة والمبعثرة.

الاختبار الواقعي: ظاهرة "النينيو" (El Niño)
لرؤية ما إذا كان هذا سينجح في العالم الحقيقي، طبقوا (FAE) على مجموعة بيانات "النينيو"، التي تتبع درجات حرارة سطح البحر بمرور الوقت. لقد عاملوا منحنى درجة الحرارة لكل عام كأنه أغنية.

• التنبؤ: عند محاولة التنبؤ بمنحنى درجة الحرارة، ارتكب (FAE) أخطاء أقل من كل من طريقة (FPCA) القديمة والشبكات العصبية القياسية.
• التصنيف: عند محاولة فرز السنوات إلى مجموعات مختلفة، كان (FAE) هو الأكثر دقة.
• التنعيم: كانت النتائج البصرية مذهلة. فالمنحنيات التي أعاد (FAE) بناءها كانت سلسة ومستمرة عبر العام بأكه. في المقابل، أنتجت الشبكات العصبية القياسية خطوطاً متعرجة ومنفصلة لا توجد إلا في النقاط المحددة التي سُجلت فيها البيانات، مما جعلها تبدو كدرج مكسور بدلاً من نهر متدفق.

لماذا يهم هذا الأمر؟

يشير المؤلفون إلى أن هذا النهج يقدم ترقية قوية لتحليل البيانات المرتبطة بالزمن. فمن خلال الجمع بين قوة التنعيم في الإحصاء التقليدي ومرونة التعلم العميق الحديث، يمكن لـ "المشفّر التلقائي الوظيفي" التعلم من البيانات الفوضوية في العالم الحقيقي دون الحاجة إلى الكثير من عمليات التنظيف المسبقة. وهو بارع بشكل خاص في إيجاد الأنماط الخفية في البيانات التي ليست مجرد خطوط مستقيمة.

ومع ذلك، يوضح الباحثون بحذر أن طريقتهم ليست عصا سحرية تحل كل شيء فوراً. فهي تتطلب ضبط العديد من "المقابض" (المعلمات الفائقة) لتعمل بشكل مثالي، وهو ما قد يستغرق وقتاً وقدرة حوسبية كبيرة. كما أنها، في شكلها الحالي، تتعامل مع نوع واحد من البيانات في كل مرة (مثل درجة الحرارة)، ولم يكتشفوا بعد كيفية استخدامها لعدة أنواع من البيانات التي تحدث في وقت واحد (مثل درجة الحرارة وسرعة الرياح معاً). ولكن في الوقت الحالي، تظل هذه الأداة واعدة وتساعد الحواسيب على فهم المنحنيات الجميلة والمعقدة للعالم من حولنا.