AutoCluster, AutoTopicModeling, AutoTrendAnalysis: A Complete AutoML Pipeline for Predicting Emerging Trends
تقدم هذه الورقة AutoCluster وAutoTopicModeling وAutoTrendAnalysis، وهي عبارة عن مسار عمل شامل للتعلم الآلي المؤتمت (AutoML) يعمل على أتمتة عمليات التجميع، ونمذجة المواضيع، والتنبؤ بالسلاسل الزمنية للبيانات النصية للتنبؤ بالاتجاهات الناشئة بدقة وبأقل قدر من التدخل اليدوي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في مكتبة ضخمة ولا متناهية، حيث تُكتب كتب جديدة وتُضاف كل ثانية. الرفوف عالية جدًا لدرجة أنها تختفي في السحب، والقصص مكتوبة بلغة تتغير أسرع من الرياح. في هذه المكتبة، "التنبؤ بالاتجاهات" هو فن معرفة أي القصص ليست سوى همس عابر، وأيها يتحول إلى محادثة صاخبة، وأيها على وشك أن يصبح الشيء الكبير التالي الذي سيتحدث عنه الجميع. لفترة طويلة، كان محاولة إيجية هذه الأنماط تشبه محاولة قراءة كل كتاب يدويًا، واحدًا تلو الآخر. كان الأمر بطيئًا، مرهقًا، ويتطلب أمين مكتبة يحمل درجة الدكتوراه في القراءة. ولكن ماذا لو استطعت بناء روبوت أمين مكتبة فائق الذكاء لا يمكنه فقط قراءة الكتب، بل يمكنه أيضًا تقرير كيفية قراءتها، وتجميع القصص المتشابهة معًا، وتخمين كيف ستبدو المكتبة في الأسبوع المقبل؟ هذا هو عالم AutoML (تعلم الآلة المؤتمت)، وهو مجال تساعد فيه الحواسيب البشر على تقديم تخمينات أفضل للمستقبل دون الحاجة إلى خبير بشري يقوم بضبط كل مقبض أو قرص تحكم. السؤال الكبير الذي يطرحه الباحثون هو: هل يمكننا بناء نظام مؤتمت وذكي للغاية بحيث يمكنه رصد هذه الاتجاهات الناشئة في بحر من النصوص، حتى لو لم نكن نعرف بالضبط ما هي الأدوات التي يجب استخدامها؟
تقدم هذه الورقة البحثية نظام أمين مكتبة روبوتي ذكي يتكون من ثلاث خطوات يسمى AutoCluster، وAutoTopicModeling، وAutoTrendAnalysis. فكر في الأمر كأنه خط تجميع كامل لتحويل كومة فوضوية من النصوص (مثل الأوراق البحثية أو المقالات الإخبارية) إلى كرة بلورية واضحة للمستقبل.
أولاً، يأخذ النظام كومة فوضوية من النصوص وتاريخًا لكل قطعة. يقوم بتنظيف الفوضى، وإزالة "الضجيج" مثل الكلمات الشائعة التي لا تعني الكثير، ويحول الكلمات المتبقية إلى خريطة من النقاط. تخيل تحويل فقرة عن "الروبوتات" وأخرى عن "الأدمغة الاصطناعية" إلى نقطتين تجلسان بجانب بعضهما البعض على الخريطة لأنهما تعنيان الشيء نفسه. يسمى هذا التمثيل الرقمي (Embedding).
بعد ذلك يأتي الروبوت الأول، AutoCluster. مهمته هي تجميع هذه النقاط في أحياء. لكن الجزء الصعب هنا هو أن الروبوت لا يكتفي باختيار طريقة واحدة لتجميعها. إنه يستخدم خدعة "التعلم الميتافيزيقي" (Meta-learning)، وهي تشبه امتلاك ذاكرة لألف طريقة مختلفة لتنظيم غرفة فوضوية. ينظر إلى شكل خريطة النص الخاصة بك ويسأل: "أي من ذكرياتي الألف تناسب هذا الأفضل؟" ثم يختبر أفضل ثلاثة مرشحين ويختار الفائز. في اختباراتهم، كانت طريقة "التجميع التجمعي" (Agglomerative clustering) هي البطل، حيث نجحت في تجميع النصوص في 4 إلى 8 أحياء متميزة اعتمادًا على مجموعة البيانات.
بمجرد فرز النصوص إلى أحياء، يتدخل الروبوت الثاني، AutoTopicModeling. هذا الروبوت هو محقق يحاول اكتشاف ما يدور حوله كل حي بالفعل. لديه أربعة أدوات تحقيق مختلفة في حزامه هي: LDA، وLSA، وBERTopic، وNMF. وبدلاً من تجربة جميعها على المكتبة بأكملها (والذي قد يستغرق وقتًا طويلاً)، يستخدم استراتيجية تسمى "التقليص المتتالي" (Successive halving). يختبر الأدوات على شريحة صغيرة من الحي، ويحتفظ بأفضل محققين، ثم يختبر هذين المحققين على شريحة أكبر. الفائز هو من يحل اللغز بالكامل. وجد النظام أن الأحياء المختلفة تحتاج إلى محققين مختلفين؛ فعلى سبيل المثال، في مجموعة بيانات واحدة، كان NMF هو المحقق الأفضل لمعظم المجموعات، بينما في مجموعة أخرى، تصدر BERTopic المشهد. بمجرد أن يحدد المحقق الكلمات الرئيسية للموضوع، يستخدم النظام حتى ذكاءً لغويًا فائق الذكاء لإعطاء الموضوع اسمًا جذابًا، مثل "النماذج اللغوية الكبيرة" أو "سلامة البرمجيات".
أخيرًا، ينظر الروبوت الثالث، AutoTrendAnalysis، إلى تاريخ هذه المواضيع المسماة. يسأل: "كم مرة تحدث الناس عن 'النماذج اللغوية الكبيرة' الشهر الماضي؟ العام الماضي؟" ثم يحاول تخمين المستقبل باستخدام أربعة نماذج للسفر عبر الزمن: Facebook Prophet، وARIMA، وSTL، وLSTM. تمامًا كما في السابق، يختبر هذه النماذج ليرى أيهم يرتكب أقل عدد من الأخطاء. وقد قاس الباحثون هذه الأخطاء باستخدام درجة تسمى RMSE (جذر متوسط مربع الخطأ)، حيث يكون الرقم الأقل هو الأفضل. أفضل نتيجة حصلوا عليها كانت 7.099 لأحد مجموعات البيانات الخاصة بهم، مما يشير إلى أن التنبؤات كانت دقيقة للغاية.
ثم يصنف النظام تنبؤات المستقبل إلى ثلاث فئات: الإشارات القوية (المواضيع التي ستكون كبيرة بالتأكيد، مثل "النماذج اللغوية الكبيرة" التي تم التنبؤ بنموها لتتجاوز 2,600 وثيقة سنويًا)، والإشارات الضعيفة (المواضيع التي قد تنمو ولكنها لا تزال صغيرة، مثل "التعلم الاتحادي")، والضجيج (المواضيع التي من المرجح أن تتلاشى أو تبقى ضئيلة، مثل "تنبؤ السلاسل الزمنية" في سياقات معينة).
يؤكد المؤلفون بحذر أنه بينما يعمل هذا النظام بشكل جيد وهو أسرع بكثير من القيام بذلك يدويًا، إلا أنه ليس سحرًا. فهو يعتمد على كون النصوص متشابهة نوعًا ما (لا يمكنك خلط سيناريوهات الأفلام مع الأوراق الرياضية) ويعمل حاليًا بشكل أفضل مع البيانات النصية، وليس الصور أو الفيديوهات. كما يشيرون إلى أن النظام مصمم ليكون قابلاً للتوسع، مما يعني أنه يمكنه التعامل مع كميات هائلة من البيانات، ولكنه لا يزال بحاجة إلى الاختبار في مواقف أكثر تنوعًا من الواقع. في النهاية، تظهر هذه الورقة البحثية أنه يمكننا بناء خط إنتاج مؤتمت بالكامل لا يكتفي فقط بتخمين الاتجاهات، بل يكتشف بالفعل أفضل طريقة لتخمينها، مما يجعل مستقبل تحليل البيانات أقل غموضًا وأكثر سهولة في الوصول إليه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.