🤖 machine learning

Divide and Contrast: Learning Robust Temporal Features without Augmentation

تقدم الورقة البحثية إطار عمل "التقسيم والتباين" (Di-COT)، وهو إطار عمل فعال لتعلم تمثيل السلاسل الزمنية غير الخاضع للإشراف، والذي يحقق أداءً هو الأفضل من نوعه عبر مهام متعددة من خلال تباين الأجزاء الفرعية المتداخلة داخل النوافذ، مما يلغي الحاجة إلى تعزيز البيانات، وتمريرات المشفر المتعددة، والحسابات المعتمدة على طول التسلسل.

المؤلفون الأصليون: Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

نُشر 2026-05-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Abdul-Kazeem Shamba, Kerstin Bach, Gavin Taylor

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت كيفية التعرف على الأنشطة البشرية المختلفة بمجرد مشاهدة فيديو لشخص يتحرك. عادةً، لتعليم الروبوت بهذا الإتقان، تحتاج إلى معلم بشري يشاهد كل ثانية من الفيديو ويقول: "هذا هو المشي"، "هذا هو الجري"، "هذا هو السقوط". هذا الأمر مكلف وبطيء لأنه يتطلب الكثير من التصنيف البشري.

تقدم هذه الورقة البحثية طريقة جديدة تسمى Di-COT (التقسيم والتباين) تعلم الروبوت دون معلم بشري، ودون استخدام "حيل" معقدة لتزييف البيانات، ودون أن تستغرق وقتاً طويلاً في التدريب.

إليك كيف تعمل، مقسمة إلى مفاهيم بسيطة:

1. المشكلة في الطرق الحالية

معظم طرق الذكاء الاصطناعي الحالية للبيانات المتسلسلة زمنياً (مثل ضربات القلب، أو أسعار الأسهم، أو مستشعرات الحركة) تحاول التعلم من خلال:

التعزيز (Augmentation): يأخذون فيديو، ثم يقومون بتغبيشه، أو تسريعه، أو قلبه رأساً على عقب لإنشاء نسخ "مزيفة"، ثم يحاولون تعليم الذكاء الاصطناعي أن النسخة الأصلية والنسخة المزيفة هما الشيء نفسه. يجادل المؤلفون بأن هذا يشبه تعليم طفل التعرف على كلب من خلال إظهار كلب يرتدي قبعة، وكلب مطلي باللون الأزرق، وكلب مقلوب رأساً على عقب. هذا ينجح، لكنه فوضوي ومرهق حاسوبياً.
المقارنة خطوة بخطوة: بعض الطرق تقارن كل ثانية من الفيديو بالثانية التي تليها مباشرة. تجادل الورقة بأن هذا يشبه محاولة تعلم قصة من خلال مقارنة كل حرف بالذي يليه مباشرة. إذا تغيرت القصة من "القط جلس" إلى "الكلب ركض"، فإن مقارنة حرف "الطاء" في "القط" بحرف "الدال" في "الكلب" لا معنى لها. هذا يسبب الارتباك.

2. حل Di-COT: "التقسيم والتباين"

بدلاً من النظر إلى الفيديو بأكمله أو كل ثانية بمفردها، يستخدم Di-COT استراتيجية "التقسيم والتباين".

التشبيه: نهج قطع الأحجية (البازل)
تخيل أن لديك شريطاً طويلاً من فيلم سينمائي (البيانات المتسلسلة زمنياً).

الطريقة القديمة: تنظر إلى الشريط بأكمله دفعة واحدة، أو تنظر إلى كل إطار (فريم) بشكل فردي.
طريقة Di-COT: تأخذ مقصاً وتقطع الشريط إلى بضع قطع أحجية متداخلة (كتل فرعية).
- أنت لا تقطعها بالتساوي، بل تجعلها تتداخل قليلاً، مثل خلط أوراق اللعب.
- بعد ذلك تسأل الذكاء الاصطناعي: "إذا أريتك قطعة من هذه الأحجية، فأي قطعة أخرى من نفس شريط الفيلم جاءت قبلها مباشرة؟"

لماذا هذا أفضل؟

لا توجد بيانات مزيفة: يتعلم الذكاء الاصطناعي من شريط الفيلم الحقيقي، وليس من نسخ مغبشة أو مقلوبة.
لا يوجد ارتباك: من خلال استخدام قطع الأحجية (كتل زمنية) بدلاً من الإطارات الفردية (الثواني)، يتعلم الذكاء الاصطناعي السياق. إنه يفهم أن كتلة "المشي" يتبعها كتلة "مشي" أخرى، بدلاً من الارتباك بسبب الانتقال الصغير بين خطوتين.
السرعة: بما أنه يقارن هذه القطع القليلة ببعضها البعض فقط، فإن العمليات الحسابية تكون أبسط وأسرع بكثير. إنه يشبه مقارنة 5 قطع من الأحجية بدلاً من 1,000 بكسل فردي.

3. كيف يتعلم الذكاء الاصطناعي (اللعبة)

يلعب الذكاء الاصطناعي لعبة "تخمين ما سبق".

يأخذ كتلة من البيانات ويقسمها إلى 5 إلى 10 قطع متداخلة.
ينظر إلى القطعة رقم 3 ويسأل: "أي قطعة جاءت قبلك مباشرة؟"
يخمن أنها القطعة رقم 2.
إذا أصاب التخمين، يحصل على نقطة. إذا خمن أنها القطعة رقم 5 أو رقم 1، فإنه يتعلم أنه كان مخطئاً.

من خلال لعب هذه اللعبة ملايين المرات، يتعلم الذكاء الاصطناعي بناء خريطة ذهنية حيث يتم تجميع الأنشطة المتشابهة (مثل "الجري") معاً، وتكون الأنشطة المختلفة بعيدة عن بعضها، وكل ذلك دون أن يُقال له أبداً "هذا هو الجري".

4. النتائج: سريعة ودقيقة

اختبر المؤلفون هذا النظام على ست مجموعات ضخمة من البيانات الواقعية (مثل أجهزة مراقبة القلب، وأجهزة تتبع النوم، ومستشعرات النشاط) والعديد من الاختبارات المرجعية الصغيرة.

السباق: قارنوا Di-COT بأفضل طرق الذكاء الاصطناعي الأخرى.
الفائز: فاز Di-COT بالسباق. لقد حقق أعلى دقة في التعرف على الأنشطة وتجميع البيانات المتشابهة معاً.
السرعة: كان الأسرع. لقد تم تدريبه في جزء بسيط من الوقت الذي استغرقته الطرق الأخرى.
- تشبيه: إذا كانت الطرق الأخرى تشبه عداء ماراثون يحمل حقيبة ظهر ثقيلة (يقوم بعمليات حسابية إضافية وبيانات مزيفة)، فقد كان Di-COT مثل عداء سريع بحقيبة ظهر خفيفة، وصل إلى خط النهاية أولاً مع الحفاظ على شكل جري مثالي.

5. لماذا هذا مهم (وفقاً للورقة البحثية)

تدعي الورقة أن Di-COT يحل مشكلة مقايضة رئيسية. عادةً، عليك الاختيار بين:

دقة عالية (ولكنها تستغرق وقتاً طويلاً وتتطلب قوة حوسبة كبيرة).
سرعة عالية (ولكن الذكاء الاصطناعي لن يكون ذكياً جداً).

يدعي Di-COT أنه يمتلك كلاهما. فهو يتعلم ميزات "قوية" (بمعنى أنه يفهم المعنى الجوهري للبيانات، وليس مجرد الضجيج) دون الحاجة إلى تغذيته ببيانات مزيفة أو تشغيله عبر الكمبيوتر عدة مرات.

باختصار:
Di-COT هو طريقة جديدة لتعليم الحواسيب فهم البيانات الزمنية (مثل الحركة أو ضربات القلب). بدلاً من استخدام الحيل أو النظر في كل تفصيل صغير، يقوم بتقسيم البيانات إلى كتل متداخلة ويلعب لعبة بسيطة وهي "ماذا سبق؟". هذا يجعل الذكاء الاصطناعي أكثر ذكاءً، وسرعة، وكفاءة من الطرق السابقة، وكل ذلك دون الحاجة إلى إنسان يقوم بتصنيف البيانات.

ملخص تقني: التقسيم والتباين (Di-COT)

بيان المشكلة

يهدف التعلم ذاتي الإشراف (SSL) لتمثيل السلاسل الزمنية إلى تقليل الاعتماد على البيانات المصنفة مع الحفاظ على أداء قوي في المهام اللاحقة. ومع ذلك، تواجه مناهج التعلم التبايني الحالية قيوداً كبيرة:

عدم الكفاءة الحسابية: تتطلب العديد من الطرق تمريرات متعددة عبر المشفر (للعناصر المرجعية، والإيجابية، والسلبية) أو تعتمد على عمليات مكلفة مثل "تحويل المسافة الديناميكي الزمني" (DTW) لحساب التشابه.
انحياز تعزيز البيانات: يمكن للمناهج التي تعتمد بشدة على تعزيز البيانات (مثل القناع/Masking، أو التحويلات في النطاق الزمني/الترددي) أن تُدخل انحيازات استقرائية تشوه تمثيلات الميزات المتعلمة، مما يعيق القدرة على التعميم.
فشل افتراضات التتابع الزمني: تفترض المناهج الفعالة الحديثة (مثل CaTT)، التي تباين بين الخطوات الزمنية المتجاورة، أن التقارب الزمني يعني التشابه الدلالي. غالباً ما يفشل هذا الافتراض في مجموعات البيانات ذات الانتقالات الحدثية السريعة (الشائعة في اختبارات UCR وUEA)، مما يؤدي إلى "إيجابيات كاذبة" حيث تُعامل الخطوات الزمنية المتميزة دلالياً ولكن المتقاربة زمنياً كأزواج إيجابية بشكل خاطئ.
مشكلات القابلية للتوسع: تتوسع حسابات الخسارة في بعض الطرق تربيعياً مع كل من حجم الدفعة وطول التسلسل، مما يجعلها غير عملية للنوافذ الزمنية الطويلة جداً.

المنهجية: التقسيم والتباين (Di-COT)

Di-COT هو إطار عمل غير مُشرف مصمم لتعلم ميزات زمنية قوية دون الحاجة لتعزيز البيانات أو تمريرات متعددة للمشفر. وهو يعيد صياغة التعلم التبايني الزمني كمسأك تصنيف كثيف ضمن فضاء التمثيل.

الآلية الجوهرية

التقسيم العشوائي للكتل الفرعية: بدلاً من معالجة التسلسل بأك inteiro أو الخطوات الزمنية الفردية، يقوم Di-COT بتقسيم كل نافذة سلسلة زمنية عشوائياً إلى $k$ من الكتل الفرعية المتداخلة في كل تكرار. يتم أخذ عدد الكتل الفرعية $k$ من توزيع منتظم $U\{k_{min}, \dots, k_{max}\}$ .
- تمتلك الكتل الفرعية طول $L$ وخطوة $s$ ، ويتم التحكم فيهما عبر نسبة التداخل $\rho \in (0, 1)$ .
- هذا العشوائية تعرض المشفر لعدة مستويات من الدقة الزمنية، مما يشجع ضمناً على المتانة عبر السياقات قصيرة وطويلة المدى دون الحاجة لتصاميم هرمية صريحة.
ترميز الكتلة الفرعية: يتم تمرير كل كتلة فرعية عبر مشفر زمني مشترك $f_\theta$ وتجميعها (Pooling) على طول البعد الزمني لإنتاج متجه تمثيل واحد.
هدف التباين (التنبؤ بالكتلة الفرعية التالية):
- الأزواج الإيجابية: تُعامل الكتل الفرعية المتجاورة زمنياً داخل نفس المثال كأزواج إيجابية. تحديداً، بالنسبة للكتلة الفرعية $j$ ، تكون الكتلة الفرعية السابقة $j-1$ هي الهدف.
- الأزواج السلبية: تعمل جميع الكتل الفرعية الأخرى في نفس التسلسل كأزواج سلبية.
- الصياغة: تُصاغ المهمة كمسألة تصنيف متعدد الفئات. لكل كتلة فرعية $j$ ، يتنبأ النموذج بفهرس جاره السابق. وتكون الخسارة عبارة عن خسارة الإنتروبيا المتقاطعة الموزونة بدرجة الحرارة (تشبه InfoNCE ولكن مطبقة على فهارس الكتل الفرعية):
  $\mathcal{L}_{CE} = -\frac{1}{Bk} \sum_{i=1}^{B} \sum_{j=0}^{k-1} \log \frac{\exp(S^{(i)}_{j, p^*(j)} / \tau)}{\sum_{p=0}^{k-1} \exp(S^{(i)}_{j, p} / \tau)}$
  حيث $S^{(i)}_{j,p}$ هو التشابه بين الكتلة الفرعية $j$ و $p$ ، و $p^*(j)$ هو الفهرس المستهدف ( $j-1$ لـ $j>0$ ، و $0$ للكتلة الفرعية الأولى).

الكفاءة والقابلية للتوسع

التعقيد: تعتمد حسابات الخسارة على حجم الدفعة $B$ وعدد الكتل الفرعية $k$ ، وليس على طول التسلسل $T$ . بما أن $k \ll T$ حسب التصميم، فإن التعقيد الزمني هو $O(Bk^2d)$ والتعقيد في الذاكرة هو $O(Bk^2)$ . وهذا يجعل الطريقة مستقلة عن طول التسلسل، مما يسمح بتدريب فعال على سلاسل زمنية طويلة جداً.
بدون تعزيز وبدون تمريرات متعددة: من خلال تباين البنى التحتية الداخلية، يتجنب Di-COT الحاجة إلى تعزيز البيانات ويلغي الحاجة إلى تمريرات متعددة للمشفر المطلوبة في المناهج التي تعامل الرؤى المعززة المختلفة كإيجابيات.

المساهمات الرئيسية

إطار عمل خالٍ من التعزيز: يلغي Di-COT الحاجة إلى تعزيز البيانات، وقناع الخطوات الزمنية، وتمريرات متعددة للمشفر، مما يقلل من العبء الحسابي ويمنع تشويه التمثيل.
تباين الكتل الفرعية الديناميكي: تقدم الطريقة تبايناً داخل الحالات الفردية باستخدام كتل فرعية عشوائية. هذا يمنع التمييز التافه على مستوى الخطوة الزمنية (الذي يفشل أثناء الانتقالات السريعة) ويعزز تمثيلات متنوعة وذات معنى دلالي.
إعادة الصياغة كمسألة تصنيف: تمت إعادة صياغة التعلم التبايني الزمني كمسألة تصنيف إنتروبيا متقاطعة. يوفر هذا إشرافاً كثيفاً (باستخدام كل كتلة فرعية كإشارة) مع الاحتفاظ بخصائص InfoNCE الموزونة بدرجة الحرارة.
أداء رائد (State-of-the-Art): يحقق الإطار نتائج رائدة في مهام التصنيف، والتجميع، وkNN، ونقل البيانات عبر النطاقات.

النتائج التجريبية

قيم المؤلفون Di-COT على ست مجموعات بيانات واقعية واسعة النطاق (PAMAP2, WISDM2, HARTH, SLEEP, ECG, SKODA) واختبارات UCR/UEA.

التقييم الخطي: حقق Di-COT أعلى متوسط دقة بين طرق SSL على مجموعات البيانات واسعة النطاق، متفوقاً على النماذج المرجعية مثل TS2Vec وTF-C وCaTT. كما طابق أداء النماذج الخاضعة للإشراف الكامل (End-to-End) في عدة مجموعات بيانات مع تطلبه لوقت تدريب أقل بكثير.
نظام البيانات المنخفضة (Low-Label Regime): في حالة وجود 1% فقط من البيانات المصنفة، تفوق Di-COT على جميع طرق SSL الأخرى وعلى النموذج الخاضع للإشراف الكامل المدرب من البداية للنهاية على نفس البيانات المحدودة، مما أظهر كفاءة فائقة في استخدام الملصقات.
التصنيف غير المعلمي (kNN): أظهر Di-COT أفضل أداء في تصنيف أقرب جار (1-nearest neighbor)، مما يشير إلى أن التمثيلات المتعلمة تمتلك حيزاً محلياً جيد الهيكلة حيث يتم رسم العينات المتشابهة دلالياً بشكل وثيق.
التجميع: حقق Di-COT أعلى قيم للمعلومات المتبادلة الموحدة (NMI) ومؤشر راند المعدل (ARI)، مما يشير إلى أنه يتعلم عناقيد متماسكة عالمياً تتوافق مع الفئات الحقيقية.
النقل عبر مجموعات البيانات: في تجارب تعلم النقل (مثل HARTH $\to$ PAMAP2)، أظهر Di-COT قدرة أقوى على التعميم في النطاقات مقارنة بالنماذج المرجعية، مما يدل على المتانة تجاه تغيرات التوزيع.
الكفاءة: تطلب Di-COT باستمرار أقل وقت تدريب بين المناهج القائمة على التعلم العميق. على سبيل المثال، في مجموعات البيانات واسعة النطاق، تدرب في حوالي 2.88 ساعة مقارنة بـ 3.47–11.48 ساعة للمناهج الأخرى.

الأهمية والادعاءات

يزعم البحث أن Di-COT يعالج المقايضة الأساسية في مناهج التعلم التبايني للسلاسل الزمنية: التوتر بين استغلال التقارب الزمني من أجل الكفاءة والحفاظ على الاتساق الدلالي من أجل التعميم.

المتانة تجاه الديناميكيات الزمنية: من خلال تباين البنى التحتية المعلوماتية بدلاً من الخطوات الزمنية الفردية، يتجنب Di-COT مشكلة "الإيجابيات الكاذبة" المتأصلة في المناهج التي تفترض أن جميع الخطوات الزمنية المتجاورة متشابهة دلالياً. وهذا يجعله فعالاً بشكل خاص في مجموعات البيانات ذات التغيرات الحدثية المتكررة.
القابلية للتوسع: تسمح استقلالية حساب الخسارة عن طول التسلسل لـ Di-COT بالتوسع بكفاءة في السلاسل الزمنية الطويلة، وهو ما يمثل عائقاً لمناهج مثل CaTT حيث تتوسع تكاليف الذاكرة والحوسبة تربيعياً مع طول التسلسل.
القابلية للتطبيق العملي: يُقدم الإطار كحل عملي للسيناريوهات التي تفتقر إلى التوصيفات (Annotations)، حيث يوفر مقايضة مثالية بين الدقة والحوسبة. ويشير المؤلفون إلى أنه بينما يتفوق في التصنيف والتجميع والاسترجاع، فإن طبيعته التباينية (المركزة على البنية التمييزية) قد تكون متعامدة مع مهام التنبؤ (Forecasting) التي تتطلب تنبؤاً دقيقاً للغاية، وهو ما تم تحديده كقصور واتجاه للعمل المستقبلي.

يؤكد المؤلفون أن Di-COT يتعلم تمثيلات متسقة محلياً، ومنظمة عالمياً، وقابلة للنقل عبر المجالات، مما يضع معياراً جديداً لتعلم التمثيل غير المُشرف للسلاسل الزمنية.