Handling mild outliers and unobserved values in compositional datasets using finite mixtures of mean-parametrised Dirichlet models
تقترح هذه الورقة نموذجاً محدداً من نماذج ديريكليه ذات المعلمات المتوسطة، قائماً على التوقع الأقصى والتقسيم المحدب، للتعامل بمتانة مع القيم المفقودة المتزامنة والقيم المتطرفة الطفيفة في البيانات التركيبية غير المتجانسة، مما يظهر أداءً فائقاً في التجميع وكشف القيم المتطرفة مقارنة بالأساليب التقليدية.
المؤلفون الأصليون:Jason Pillay, Andriëtte Bekker, Cristina Tortora, Antonio Punzo
تخيل أنك تحاول فهم كيفية قضاء الناس ليومهم من خلال النظر إلى مخطط دائري تمثل فيه الأجزاء الساعات التي يقضونها في العمل، أو النوم، أو رعاية الأسرة، أو الاسترخاء. في علم الإحصاء، يُسمى هذا النوع من البيانات، حيث يجب أن تجمع الأجزاء لتشكل كلاً واحداً، بالبيانات التركيبية (compositional data). وهي تظهر في كل مكان، من التركيب الكيميائي للصخور إلى الوقت الذي يقضيه الناس في أنشطة مختلفة. ومع ذلك، نادراً ما تكون بيانات العالم الحقيقي مثالية؛ فغالباً ما تكون بعض شرائح "الفطيرة" مفقودة لأن شخصاً ما نسي الإبلاغ عن نشاط ما، أو لأن البيانات فُقدت. وفي الوقت نفسه، قد تكون بعض التقارير غريبة أو غير عادية، رب perhaps لأن شخصاً ما قضى عشرين ساعة في العمل أو ساعتين فقط في النوم. هذه المدخلات الغريبة، المعروفة بالقيم المتطرفة (outliers)، يمكن أن تشوه الصورة، مما يجعل من الصعب رؤية الأنماط الحقيقية لكيفية سلوك مجموعة ما. لعدة عقود، كافح علماء الإحصاء لتحليل هذا المزيج الفوضوي من القطع المفقودة والنقاط الغريبة دون كسر القاعدة الأساسية التي تقضي بأن الأجزاء يجب أن تشكل دائماً كلاً واحداً.
لقد طور فريق من الباحثين طريقة جديدة للتعامل مع هذه المشكلة المحددة. فقد ابتكروا نموذجاً رياضياً يمكنه النظر في البيانات غير المكتملة والفوضوية، ومع ذلك يجد مجموعات واضحة من السلوكيات المتشابهة، مع تحديد المدخلات التي تُعد غريبة جداً لتكون جزءاً من تلك المجموعات. يعتمد نهجهم على مفهوم يُسمى "توزيع ديريكليه" (Dirichlet distribution)، وهو أداة تناسب طبيعياً البيانات المقيدة بكُلٍّ واحد، مثل المخطط الدائري. وبينما حاولت الأساليب السابقة غالباً إجبار هذه البيانات على اتخاذ شكل مختلف لتسهيل تحليلها، مما قد يؤدي إلى حدوث أخطاء، فإن هذه الطريقة الجديدة تعمل مباشرة على الشكل الأصلي. إنها تتعامل مع المعلومات المفقودة والقيم المتطرفة الغريبة ليس كعقبات يجب تجاهلها، بل كسمات يجب فهمها. وقد أثبت الباحثون أن طريقتهم يمكنها إيجاد التفسير الأكثر احتمالاً للبيانات، وأن هذا التفسير فريد من نوعه، مما يعني أن هناك إجابة واحدة مثلى للغز الذي يحلونه.
ولاختبار فكرتهم، أجرى الباحثون آلاف عمليات المحاكاة الحاسوبية. فقد أنشأوا مجموعات بيانات وهمية تحاكي الواقع، كاملة بقيم مفقودة تتراوح من لا شيء تقريباً إلى تسعين بالمائة من البيانات، وأضافوا كميات متفاوتة من النقاط الغريبة والمتطرفة. ووجدوا أن نموذجهم الجديد يمكنه بنجاح تصنيف البيانات إلى المجموعات الصحيحة ورصد المدخلات الغريبة، حتى عندما كانت البيانات غير مكتملة للغاية. ومن المثير للاهتمام، أنهم اكتشفوا أن وجود قدر متوسط من البيانات المفقودة ساعد النموذج في الواقع على الأداء بشكل أفضل؛ فعندما كانت البيانات كاملة تماماً ولكنها مليئة بالضجيج، كان النموذج يواجه أحياناً صعوبة في التمييز بين المجموعات الحقيقية والفوضى. ولكن عندما كانت بعض البيانات مفقودة، أصبح النموذج أقل تشتتاً بالضجيج، مما مكنه من التركيز بوضوح أكبر على الأنماط الأساسية. وهذا يشير إلى وجود "نقطة مثالية" حيث تساعد المعلومات المفقودة النموذج على تجاهل أسوأ الأخطاء.
ثم طبق الباحثون طريقتهم على مجموعة بيانات من الواقع من "مسح استخدام الوقت الأمريكي"، والذي يتتبع كيف يقضي الأمريكيون أيامهم. كانت مجموعة البيانات هذه صعبة للغاية، مع فقدان ما يقرب من نصف الأنشطة المبلغ عنها، ووجود جزء كبير من السجلات التي تحتوي على أنماط غير عادية لاستخدام الوقت. وعندما استخدموا طريقة قياسية قديمة لتحليل هذه البيانات، قام النموذج بتقسيم الناس إلى أربع مجموعات متميزة، لكن هذا التقسيم بدا مصطنعاً، مدفوعاً بشكل كبير بالقيم المتطرفة الغريبة. في المقابل، حدد نموذجهم الجديد مجموعتين واضحين ومنطقيين فقط: مجموعة تتكون من أشخاص تهيمن عليهم أعمالهم ورعايتهم الشخصية، والمجموعة الأخرى تتميز بالحياة المنزلية، والترفيه، ومساعدة أفراد الأسرة. كما حدد النموذج حوالي ستة عشر بالمائة من السجلات كقيم متطرفة، مدركاً أن هؤلاء الأفراد لديهم روتينات يومية غير عادية لا تتناسب بدقة مع أي من المجموعتين الرئيسيتين. ومن خلال إبقاء التحليل على مقياس البيانات الأصلي، تمكن الباحثون من وصف هذه المجموعات بمصطلحات بسيطة، مثل "مركز العمل" أو "مركز المنزل"، دون الحاجة إلى ترجمة النتائج من مساحة رياضية مشوهة.
تكمن أهمية هذا العمل في قدرته على احترام القيود الطبيعية للبيانات مع التعامل مع فوضوية الواقع. فبدلاً من إجبار البيانات على التوافق مع قالب جامد، تتكيف الطريقة الجديدة مع البيانات، مما يسمح للقيم المفقودة والنقاط الغريبة بالتعايش مع الأنماط الرئيسية. وهذا يعني أنه يمكن للباحثين الآن دراسة السلوكيات المعقدة في العالم الحقيقي بثقة أكبر، مع معرفة أن استنتاجاتهم لا تتأثر بالفجوات في البيانات أو ببعض المدخلات غير العادية. يقدم هذا النهج طريقة أكثر صدقاً ودقة لرؤية العالم من خلال عدسة كيفية قضاء الناس لوقتهم، أو أي سلوك تناسبي آخر، مما يكشف عن البنية الحقيقية المختبئة تحت الضجيج.
ملخص تقني: التعامل مع القيم المتطرفة الطفيفة والقيم غير المرصودة في مجموعات البيانات التركيبية
بيان المشكلة تواجه البيانات التركيبية (Compositional data)، التي تستقر على "متعدد وحدات" (unit simplex) وتجمع إلى ثابت، تحديين متزامنين: وجود نقاط غير نمطية (قيم متطرفة) وقيم مفقودة. تعتمد النهج التقليدية غالباً على تحويل البيانات التركيبية إلى فضاء حقيقي (مثل التحويلات اللوغاريتمية الجمعية أو المتماثلة اللوغاريتمية) لتطبيق تقنيات متعددة المتغيرات قياسية مثل التوزيع الطبيعي. ومع ذلك، يمكن لهذه التحويلات أن تشوه المواضع النسبية للقيم المتطرفة، وتدخل تحيزاً عند التحويل العكسي، وتفشل في توفير إطار عمل منهجي للتعامل مع البيانات المفقودة مباشرة على "المتعدد". علاوة على ذلك، تعاني نماذج الخليط لـ "توزيع ديريكليه" (Dirichlet mixture models) من صعوبة استيعاب كل من القيم المفقودة والتلوث في آن واحد دون اللجوء إلى طرق استكمال (imputation) أو تحويلات عشوائية.
المنهجية يقترح المؤلفون نموذج خليط نهائي من توزيعات ديريكليه ذات المعلمات المتوسطة تحت نموذج هوبر للتلوث (Huber's contamination model)، المصمم خصيصاً للبيانات التركيبية غير المكتملة.
صياغة النموذج:
التلوث: يعرّف النموذج القيم المتطرفة مباشرة على "المتعدد" باستخدام كثافة ملوثة fCD. هذه الكثافة هي خليط من مكون "مرجعي" من نوع ديريكليه ومكون "ملوث" ذي تباين مرتفع. يتم التحكم في التلوث عبر معامل نسبة ε (احتمالية وجود قيمة متطرفة) ومعامل تضخم التباين η>1.
القيم المفقودة: يفترض الإطار آلية "البيانات المفقودة عشوائياً" (MAR). ومن الأهمية بمكان أن المؤلفين اشتقوا التوزيع الشرطي للأجزاء المفقودة (Xm) بناءً على الأجزاء المرصودة (Xo) لمتجه يتبع توزيع ديريكليه. وقد أثبتوا أنه تحت آلية MAR، فإن الأجزاء المفقودة -عند مقايستها بالكتلة المتبقية- تتبع توزيع ديريكليه بمعلمات معدلة. وهذا يسمح باشتقاق التوزيع الهامشي للبيانات المرصودة دون الحاجة إلى عملية الاستكمال (imputation).
معيار الضوضاء المنتظمة: يثبت البحث أن الضوضاء المنتظمة على "المتعدد" تتبع توزيع ديريكليه محدد (DSp(p11;p1))، مما يوفر معياراً نظرياً لاكتشاف القيم المتطرفة.
الاستدلال والتحسين:
الوجود والوحدانية: يثبت المؤلفون أن تعظيم لوغاريتم الاحتمالية المرصودة لتوزيع ديريكليه ذي المعلمات المتوسطة الملوث يؤدي إلى تقديرات "الاحتمالية القصوى" (MLEs) فريدة. كما أثبتوا أن لوغاريتم الاحتمالية مقعر تماماً بالنسبة لمعلمات المتوسط، ومتزايد (coercive) بالنسبة لمعلمات التباين، مما يضمن وجود ووحدانية الموجدات (optimizers) لمكون واحد (G=1). وبالنسبة للخليط (G>1)، تمت مناقشة قابلية التحديد (identifiability) حتى التبديل.
خوارزمية EM: تم تطوير خوارزمية توقع-تعظيم (EM) مخصصة:
خطوة التوقع (E-step): تحسب الاحتمالات البعدية لانتماء العينات للمجموعات (clusters) وحالة التلوث. وهي تدمج لحظات توزيع الأجزاء المفقودة، مستخدمة التوزيعات الشرطية المشتقة للتعامل مع الملاحظات غير المكتملة.
خطوة التعظيم (M-step): تُحدث المعلمات عبر طريقة "نيوتن-رافسون" (NR) المقيدة. ونظراً لعدم وجود حلول مغلقة لكل من معلمات المتوسط (μ)، والتباين (γ)، والتضخم (η)، فقد اشتق المؤلفون تحديثات تكرارية لكل عنصر على حدة. وتستخدم الخوارزمية تسريع "أيتكن" (Aitken acceleration) لتحديد التقارب.
التجميع والاكتشاف:
تقوم الخوارزمية بإجراء التجميع (تعيين الملاحظات لمكونات الخليط) واكتشاف القيم المتطرفة (تحديد ما إذا كانت الملاحظات نمطية أم ملوثة) في آن واحد بناءً على احتمالات "الاحتمال الأقصى البعدي" (MAP).
النتائج الرئيسية
الدراسة المحاكاتية: تم تقييم أداء النموذج على 1,000 مجموعة بيانات بمتغيرات مختلفة من الفقد (0-90%)، والتلوث (10-30%)، وأحجام العينات (n=100,1000).
التجميع: حافظ النموذج المقترح على دقة عالية ودرجات مرتقة لـ "معامل راند المعدل" (ARI) حتى مع وجود فقد كبير. ومن المثير للاهتمام أن الفقد المتوسط أدى أحياناً إلى تحسين أداء التجميع في سيناريوهات الضوضاء العالية عبر تقليل تأثير تكوينات القيم المتطرفة.
اكتشاف القيم المتطرفة: أظهر النموذج دقة عالية في اكتشاف القيم المتطرفة، رغم انخفاض "معدلات الإيجابية الحقيقية" (TPR) مع زيادة الفقد (ميل نحو تصنيف الصفوف الشحيحة كقيم نمطية). كما أدت أحجام العينات الكبيرة إلى تحسين مقاييس الاكتشاف بشكل ملحوظ.
استعادة المعلمات: ظل تقدير المتوسطات غير متحيز عبر مستويات الفقد المختلفة. أما تقدير معلمات التباين فقد أظهر علاقة غير رتيبة مع الفقد، مما كشف عن "نقطة مثالية" (sweet spot) من الفقد المتوسط حيث يكون استعادة المعلمات أكثر دقة.
اختيار النموذج: نجحت معايير مثل AIC وBIC وICL في تحديد العدد الصحيح للمكونات في النموذج الملوث، متفوقة على نموذج خليط ديريكليه القياسي (غير الملوث) الذي مال إلى تقسيم المجموعات بشكل مصطنع لاستيعاب القيم المتطرفة.
التطبيق (مسح استخدام الوقت الأمريكي):
طُبق النموذج على مجموعة بيانات تحتوي على 49.1% من الخلايا المفقودة، حيث تم اختيار النموذج الملوث (G=2) على نموذج ديريكليه القياسي (G=4) بناءً على "لوغاريتم التصنيف المتكامل" (ICL).
حدد النموذج القياسي أربع مجموعات، حيث قام بتقسيم مجموعة واحدة بشكل مصطنع لاستيعاب القيم المتطرفة.
حدد النموذج المقترح مجموعتين قابلتين للتفسير: مجموعة "كثيفة العمل" ومجموعة "اجتماعية/ترفيهية". كما نجح في تحديد حوالي 16.4% من الملاحظات كقيم متطرفة (تكوينات زمنية غير نمطية) دون إجبارها على الانضمام إلى مجموعات منفصلة قد تكون زائفة.
الأهمية والادعاءات يدعي البحث تقديم تمثيل منهجي للقيم المتطرفة وطريقة لـ اشتقاق توزيع الأجزاء المفقودة مع مراعاة التلوث، وكل ذلك دون تحويل البيانات بعيداً عن "المتعدد". وتتمثل المساهمات الرئيسية في:
نظرية: إثبات وجود ووحدانية وقابلية تحديد تقديرات "الاحتمالية القصوى" (MLEs) لخلائط ديريكليه ذات المعلمات المتوسطة الملوثة تحت آلية MAR.
منهجية: تطوير خوارزمية EM قابلة للتطبيق تتعامل مع القيم المفقودة والقيم المتطرفة في آن واحد عبر تحديثات تكرارية لكل عنصر، مما يتجنب التحيزات الناتجة عن تحويلات النسبة اللوغاريتمية.
عملية: إثبات أن نمذجة القيم المتطرفة مباشرة على "المتعدد" تمنع التقسيم الاصطناعي للمجموعات الذي غالباً ما تسببه النهج التقليدية، مما يؤدي إلى نتائج أكثر قابلية للتفسير في تحليل البيانات التركيبية.
يخلص المؤلفون إلى أن هذا الإطار يعكس المنظور التقليدي المتمثل في تطويع البيانات لتناسب النماذج غير المقيدة، وبدلاً من ذلك، طور أدوات تقدير تحترم هندسة وقيود البيانات التركيبية، مما يفتح آفاقاً جديدة للنمذجة القائمة على "المتعدد".