Comment-level Topic Drift Analysis in the Reddit Corpus
تقدم هذه الورقة منهجية جديدة لنمذجة المواضيع الديناميكية القائمة على التضمين، والتي طُبقت على 12.7 مليار تعليق من موقع "ريديت" لقياس الانجراف الدلالي للمواضيع، كاشفةً أن المواضيع المثيرة للجدل سياسياً واجتماعياً تظهر تطوراً اتجاهياً ملحوظاً بمرور الوقت، بينما تظل مجالات مثل الموسيقى والرياضة مستقرة.
المؤلفون الأصليون:Steven Morse, Daniel Runfola, Trenton W. Ford
اللغة ليست صرحاً ثابتاً؛ بل هي تيار حي، يتغير باستمرار مع حديث الناس، وجدالهم، ومشاركتهم لحياتهم. لعقود من الزمن، حاول العلماء رسم خرائط لهذه التحولات، معتبرين مجموعات الكلمات فئات ثابتة لمراقبة صعود شعبيتها وهبوطها. لكن هذا النهج يغفل التغيرات الدقيقة والأعمق في المعنى التي تحدث عندما يتحول السياق المحيط بالكلمة. تخيل أنك تحاول فهم نهر عبر اكتفاءك بعدّ عدد الحصى فيه، بدلاً من مراقبة كيف يتدفق الماء نفسه ويعيد تشكيل التضاريس. تستطيع الحواسيب الحديثة الآن القيام بما هو أكثر من مجرد عدّ الكلمات؛ إذ يمكنها ترجمة الجمل إلى إحداثيات رياضية معقدة، مما يخلق خريطة واسعة وغير مرئية حيث تمثل المسافة بين نقطتين مدى تشابه معانيهما. وتسمح هذه القدرة للباحثين بمراقبة الأفكار ليس فقط كقوائم من الكلمات المفتاحية، بل كمسافرين يتحركون عبر مشهد دلالي، مما يكشف كيف يتطور فهمنا الجماعي للعالم بمرور الوقت.
قرر فريق من الباحثين في جامعة "ويليام آند ماري" وضع هذه الفكرة قيد الاختبار على نطاق هائل، باستخدام تاريخ كامل للتعليقات المنشورة على موقع "ريديت" (Reddit) من عام 2006 إلى عام 2022. لقد جمعوا 12.7 مليار تعليق، وهو حجم من النصوص ضخم للغاية لدرجة أنه يطغى على معظم مجموعات الكتابة البشرية الأخرى. وبدلاً من البحث عن كلمات محددة ظهرت بكثرة، قاموا بتحويل كل تعليق إلى بصمة رقمية، وهي نقطة في فضاء عالي الأبعاد تلتقط السياق الكامل لما يقال. ثم قاموا بتجميع هذه النقاط شهراً بعد شهر لإيجية عناقيد من المناقشات المتشابهة، مما سمح لهم بتحديد المواضيع الرئيسية التي كان الناس يتحدثون عنها في أي وقت معين. ومن خلال ربط هذه المجموعات الشهرية عبر السنين، استطاعوا تتبع المسارات التي اتخذتها مواضيع محددة أثناء حركتها عبر هذا الفضاء الرقمي، ومراقبة ما إذا كانت تنحرف في اتجاه معين أو تتجول بلا هدف.
كشفت النتائج عن نمط لافت: الطريقة التي يتحدث بها الناس عن القضايا الاجتماعية والسياسية المثيرة للجدل تتغير بطريقة محددة واتجاهية، بينما تظل المحادثات حول المواضيع الأكثر استقراراً ثابتة بشكل ملحوظ. وُجد أن المواضيع المتعلقة بالسياسة والدين والهوية الاجتماعية في حركة مستمرة، حيث تغير موقعها في الخريطة الدلالية باتجاه ثابت على مر السنين. ويشير هذا إلى أن معنى هذه المناقشات لا يتذبذب عشوائياً فحسب، بل يتطور بمسار واضح، مدفوعاً على الأرجح بالأحداث الواقعية والمعايير الثقافية المتغيرة. وفي المقابل، ظلت المناقشات حول الموسيقى والرياضة والطعام في مكانها تقريباً على الخريطة، مما يشير إلى أن المعنى الجوهري لهذه المواضيع ظل مستقراً رغم مرور الزمن.
ولعل النتيجة الأكثر كشفاً هي كيفية تغير العلاقات بين المواضيع المختلفة. لاحظ الباحثون أن بعض المناقشات بدأت تتقارب في المعنى، حتى لو بقيت الكلمات المستخدمة لوصفها كما هي. فعلى سبيل المثال، وُجد أن المحادثات حول العنصرية اقتربت بشكل كبير من المناقشات حول الشرطة والدين والنساء، مما يشير إلى أن السياق الذي تُناقش فيه هذه الأفكار قد أعاد تنظيم نفسه جذرياً. وفي الوقت نفسه، تقاربت مواضيع مثل خدمات البث مع المناقشات حول تكنولوجيا الهاتف المحمول والفيديو، مما يعكس كيف أعادت التقنيات الجديدة تشكيل فهمنا لوسائل الإعلام. لم تكن هذه التحولات ضجيجاً عشوائياً؛ فقد استخدم الباحثون اختبارات إحصائية للتأكد من أن الحركة كانت حقيقية وهامة، مفرقين بين التطور الثقافي الحقيقي وبين الضجيج الطبيعي للخلفية في مجموعة بيانات ضخمة.
يقدم هذا العمل طريقة جديدة لرؤية كيف يعيد الخطاب البشري تنظيم نفسه بمرور الوقت. فمن خلال معاملة المواضيع كمسافرين على خريطة بدلاً من تسميات ثابتة، أظهر الباحثون أن المجالات الأكثر سخونة وجدلاً في ثقافتنا هي أيضاً الأكثر حركة. وتشير الدراسة إلى أننا عندما نتجادل حول السياسة أو العدالة الاجتماعية، فنحن لا نكرر الأفكار القديمة فحسب، بل نشكل بنشاط المشهد الدلالي، بجذب المفاهيم لتقترب من بعضها أو دفعها بعيداً، بطرق تعكس عالمنا المتغير. ورغم أن المنهج يعتمد على الطبيعة الواسعة، والمضطربة أحياناً، لتعليقات الإنترنت، إلا أن الأنماط التي كشفها توفر بصمة واضحة وقابلة للقياس لكيفية تطور المحادثة العامة، مما يوفر أداة لفهم ليس فقط ما يقوله الناس، بل كيف يتغير معنى كلماتهم ذاته.
ملخص تقني: تحليل انزياح المواضيع على مستوى التعليقات في متن بيانات رديت (Reddit)
بيان المشكلة تعتمد مسارات نمذجة المواضيع الحالية بشكل كبير على الوصف، حيث تركز على سرد المواضيع أو تتبع التغيرات في الكلمات المفتاحية عبر الزمن. وغالباً ما تفشل هذه المسارات في تقدير ما إذا كانت المواضيع تتحرك بشكل معنوي عبر فضاء تمثيل عالي الأبعاد، أو في مقارنة تلك التحركات عبر مواضيع مختلفة. وبينما تقوم النماذج اللغوية القائمة على آلية الانتباه (Attention-based models) بترميز العلاقات الدلالية والاعتمادات السياقية طويلة المدى في الفضاءات المتجهية، تعتمد الطرق الحالية عادةً على التجميع الساكن (Static clustering) أو تقليل الأبعاد العالمي (Global dimensionality reduction) الذي يحجب المسارات الهندسية للخطاب. ونتيجة لذلك، هناك نقص في النماذج الهندسية ذات الدقة الزمنية القادرة على قياس أو التنبؤ بكيفية تحول الدلالات السياقية لنقاشات المواضيع مع الأحداث والأعراف الاجتماعية، لا سيما على نطاق مجموعات البيانات الضخمة.
المنهجية يقترح المؤلفون إطار عمل مكون من ثلاث مراحل لتحليل انزياح المواضيع على مستوى التعليقات عبر مجموعة بيانات ضخمة تضم 12.7 مليار تعليق من "رديت" (2006–2022):
التمثيل السياقي (Contextualized Embedding): يستخدم المؤلفون نموذج لغة مدرب مسبقاً يعتمد على المحولات (تحديداً all-MiniLM-L6-v2) لتحويل نصوص التعليقات القصيرة (التي تم اقتطاعها إلى 128 رمزاً/token) إلى متجهات عالية الأبعاد (d=384). تهدف هذه الخطوة إلى التقاط التشابه الدلالي والسياقي، مع معاملة كل تعليق كـ "وثيقة مصغرة".
التجميع الموضوعي عبر النوافذ الزمنية: يتم تقسيم مجموعة البيانات إلى نوافذ شهرية منفصلة. داخل كل نافذة، يتم إجراء تجميع غير مُوجه (Unsupervised clustering) باستخدام خوارزمية (k-means) مع (k=50) مباشرة في فضاء التمثيل المتجهي الأصلي عالي الأبعاد لتحديد عناقيد المواضيع. يتجنب هذا النهال المحلي فرض رؤية عالمية لمواقع المواضيع. وللمساعدة في التفسير البشري، يتم تخصيص ملخص مكون من كلمة مفتاحية واحدة لكل عنقود، باستخدام تقنية (TF-IDF) المحسوبة على الـ 100 وثيقة مصغرة الأقرب إلى مركز العنقود.
محاذاة المواضيع وتحليل المسار: لتتبع المواضيع عبر الزمن، يتم محاذاة مراكز عناقيد المواضيع الشهرية عبر الفترات الزمنية. يطبق المؤلفون تقنية (UMAP) لتقليل أبعاد تمثيلات المراكز إلى 10 أبعاد، يتبعها خوارزمية (HDBSCAN) لتجميع المواضيع المرتبطة زمنياً. تعتمد هذه المحاذاة على القرب في فضاء التمثيل المتجهي بدلاً من الكلمات المفتاحية المشتركة، مما يحافظ على الدلالات السياقية.
التحقق والنموذج الصفري يعد التمييز بين الانزياح الدلالي الحقيقي والضجيج العشوائي مكوناً حاسماً في المنهجية. يستخدم المؤلفون استراتيجيتين للتحقق:
نموذج السير العشوائي الصفري (Random Walk Null Model): يقومون بحساب إحصائية نسبة الاحتمال اللوغاريتمي (Λ) لاختبار ما إذا كان مسار مجموعة المواضيع يظهر انزياحاً اتجاهياً نظامياً (متوسط غير صفري) مقابل التقلب العشوائي. ويتم تحديد المعنوية عبر قيم (p-value) الناتجة عن اختبار التبديل (Permutation p-values).
اختبار التبديل بالتمهيد (Bootstrapped Permutation Test): يضمن الاختبار الثانوي أن الانزياح الملحوظ هو ظاهرة مستقرة وليس نتاجاً لعملية تجميع غير موجهة بنظام الدفعات (Batched clustering) واسعة النط scales.
النتائج الرئيسية أسفر تحليل 12.7 مليار تعليق عن 1,005 مجموعة موضوعات مستمرة. وتكشف النتل عن أنماط متميزة من التطور الدلالي:
الانزياح الاتجاهي: تظهر المواضيع في المجالات السياسية والاجتماعية المثيرة للجدل (مثل "الحكومة"، "العلم"، "الدين"، "نظرية المؤامرة") انزياحاً اتجاهياً كبيراً مع قيم Λ مرتفعة وقيم p-value منخفضة. في المقابل، تظل مجالات مثل "الموسيقى"، "الرياضة"، و"الفكاهة" مستقرة دلالياً مع إزاحة تقترب من الصفر.
ديناميكيات التفاعل بين المواضيع: تتغير المواضع النسبية للمواضيع في فضاء التمثيل المتجهي بشكل منهجي. فعلى سبيل المثال، اقتربت النقاشات حول "العنصرية" من مواضيع تتعلق بـ "الشرطة"، "الدين"، و"النساء"، بينما ابتعدت عن "الأوروبيين". وبالمثل، تقاربت نقاشات "البث الرقمي" (Streaming) مع مواضيع "الموسيقى"، "الفيديو"، و"تكنولوجيا الهاتف المحمول".
ظهور سياقات جديدة: تنزاح عدة مواضيع سياسية نحو مناطق لم تكن مشغولة سابقاً في فضاء التمثيل المتجهي، مما يشير إلى ظهور معانٍ سياقية جديدة لا تستوعبها التصنيفات الثابتة.
الأهمية والمساهمات يدعي البحث تقديم ثلاث مساهمات رئيسية:
مسار عمل قابل للتوسع: منهجية لإجراء تجميع المواضيع مباشرة في فضاء التمثيل المتجهي الأصلي ضمن نوافذ شهرية، يليه تقليل الأبعاد ومحاذاة المراكز، مما يسمح بالتحليل على نطاق الويب دون الحاجة لتقليل الأبعاد العالمي المكلف.
إطار عمل كمي للانزياح: تقديم اختبار نسبة الاحتمال بناءً على نموذج السير العشوائي الصفري لتصفية الديناميكيات الزائفة. يوفر هذا قياسات كمية للإزاحة والاتجاهية، مما يسمح بالفصل بين الانزياح الحقيقي والضجيج.
دليل تجريبي على التطور الدلالي: إثبات أن التغيير اللغوي والثقافي يتجلى في حركة هندسية قابلة للقياس. وتشير النتائج إلى أن النزاعات الاجتماعية تترك بصمة يمكن تتبعها في اللغة، حيث تخضع المواضيع المثيرة للجدل لانزياح اتجاهي كبير بينما تظل المجالات المستقرة ثابتة.
يضع المؤلفون هذا العمل كجسر بين اللسانيات الحاسوبية والنظرية الاجتماعية، مقدمين نهجاً قابلاً لإعادة الإنتاج وقائماً على البيانات لدراسة التطور الدلالي، والاستقطاب، وإعادة الاصطفاف الثقافي. ويشيرون إلى أن هذه المقاييس يمكن أن تعمل كمؤشرات لمتى تصبح المعاجم المنسقة أو حدود المصنفات (Classifiers) متجاوزة، رغم أنهم يذكرون صراحةً أن التنبؤ والنسب السببي هما اتجاهات للعمل المستقبلي وليسا من القدرات الحالية.