🤖 machine learning

OverNaN: NaN-Aware Oversampling for Imbalanced Learning with Meaningful Missingness

تقدم هذه الورقة البحثية OverNaN، وهو إطار عمل خفيف الوزن لزيادة العينات يعالج عدم توازن الفئات في مجموعات البيانات غير المكتملة من خلال توليد عينات اصطناعية مباشرة على متجهات السمات التي تحتوي على قيم مفقودة، مما يحافظ على أنماط الفقد المعلوماتية بدلاً من محوها عبر طرق الاستكمال أو الحذف التقليدية.

المؤلفون الأصليون: Amanda S Barnard

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Amanda S Barnard

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث "OverNaN" بلغة بسيطة واستخدام تشبيهات من الحياة اليومية.

المشكلة الكبرى: "اللوحة الناقصة"

تخيل أنك تحاول تعليم كمبيوتر التعرف على أنواع مختلفة من السيارات. تعرض عليه صوراً لسيارات رياضية حمراء وشاحنات زرقاء. ولكن، في العديد من الصور، تكون أجزاء من الصورة مفقودة — ربما لوحة الترخيص ممحية، أو المرآة الجانبية مقطوعة.

في عالم تعلم الآلة، تُسمى هذه الأجزاء المفقودة بـ NaNs (ليس رقماً - Not a Number).

تقليدياً، عندما يرى علماء البيانات هذه الأجزاء المفقودة، يعاملونها كأنها عيوب. ولديهم طريقتان رئيسيتان لإصلاحها قبل تعليم الكمبيوتر:

رمي الصورة بالكامل: إذا كانت الصورة تفتقر إلى مرآة، يقومون بحذف الصورة بأكملها. وهذا أمر سيء إذا كان لديك بالفعل عدد قليل جداً من الصور لنوع معين من السيارات (فئة الأقلية).
تخمين الجزء المفقود: يستخدمون الرياضيات لتخمين كيف يبدو المرآة المفقود ويقومون بملئه. يُسمى هذا الاستكمال (Imputation).

تجادل الورقة البحثية بأن كلتا الطريقتين التقليدتين معيبتان. فرمي البيانات يجعل المشكلة أسوأ إذا كنت تعاني بالفعل من نقص في البيانات. أما تخمين الأجزاء المفقودة فيخلق يقيناً زائفاً — حيث يعتقد الكمبيوتر أنه يعرف كيف تبدو المرآة، لكنه مجرد تخمين، مما قد يربك النموذج.

الفكرة الجديدة: OverNaN

تقدم المؤلفة، أماندا بارنارد، أداة جديدة تسمى OverNaN.

فكر في OverNaN ليس كفريق إصلاح، بل كـ آلة تصوير تحترم الأجزاء المفقودة.

بدلاً من إصلاح الأجزاء المفقودة أو رمي الصور، تقول OverNaN: "دعونا نترك الأجزاء المفقودة مفقودة، ولكن دعونا نصنع نسخاً أكثر من هذه الصور حتى يتعلم الكمبيوتر بشكل أفضل".

هذا أمر بالغ الأهمية لأن في حالات كثيرة من العالم الحقيقي (مثل العلوم أو الهندسة)، لا يكون فقدان البيانات حادثاً عرضياً؛ بل هو معلومة ذات معنى.

التشبيه: تخيل وصفة لصنع كعكة. إذا قالت الوصفة "أضف بيضتين"، ولكن ليس لديك بيض، فأنت لا تخمن "بيضتين" وتكتبها فحسب. حقيقة أن المكون مفقود تخبرك بشيء ما عن الوصفة (ربما هي نسخة نباتية). إذا ملأت الفراغ بتخمين، فستفسد الوصفة. OverNaN تترك مكان "البيضة المفقودة" فارغاً ليبقى النمط حقيقياً.

كيف تعمل (الخدعة السحرية)

عادةً، لتعليم الكمبيوتر المزيد عن نوع نادر من السيارات، نستخدم تقنية تسمى SMOTE. تعمل هذه التقنية عن طريق أخذ صورتين لسيارات نادرة ورسم صورة جديدة وهمية في المنتصف تماماً بينهما.

الطريقة القديمة: إذا كانت إحدى الصور تفتقر إلى مرآة، فإن الطريقة القديمة ستخمن كيف تبدو المرآة، وترسم سيارة جديدة بمرآة "مخمنة"، وتأمل في الحصول على نتيجة جيدة.
طريقة OverNaN: تنظر إلى الصورتين.
- إذا كانت كلتا الصورتين تحتويان على مرآة، فإنها ترسم سيارة جديدة بمرآة.
- إذا كانت إحداهما فقط تحتوي على مرآة، فإن السيارة الجديدة "الوهمية" ستحصل أيضاً على مرآة مفقودة.

إنها تعامل "الغياب" كسمة من سمات البيانات، تماماً مثل اللون أو الشكل. فهي تنشئ أمثلة اصطناعية تشبه الأمثلة الحقيقية تماماً، بما في ذلك ثقوبها وفجواتها.

ثلاث طرق للتعامل مع الفجوات

تشرح الورقة البحثية أن OverNaN تمنحك ثلاث "استراتيجيات" مختلفة لكيفية التعامل مع هذه الأجزاء المفقودة عند صنع نسخ جديدة:

استراتيجية "المحافظ" (الحفاظ على النمط - Preserve-Pattern): إذا كان أي من الأصلين يحتوي على جزء مفقود، فإن النسخة الجديدة ستحتوي أيضاً على جزء مفقود. إنها حذرة جداً في عدم اختراع أي شيء جديد.
استراتيجية "الملء" (الاستكمال الانتقائي - Selective Interpolation): إذا كان كلا الأصلين يحتويان على القطعة، فإنها تملؤها. وإذا كان أحدهما فقط يحتوي عليها، فإنها تترك الجديدة فارغة.
الاستراتيجية "الإحصائية" (الاحتمالية - Probabilistic): تنظر إلى عدد المرات التي تغيب فيها الأشياء في العالم الحقيقي وتحاول نسخ هذا النمط عشوائياً.

لماذا يهم هذا؟ (مثال الجرافين)

اختبرت الورقة البحثية هذا على مشكلة علمية حقيقية: التنبؤ بما إذا كانت قطعة صغيرة من أكسيد الجرافين (مادة مستخدمة في البطاريات والطب) تحتوي على مجموعة كيميائية معينة مرتبطة بها.

الموقف: بعض الروابط الكيميائية ببسا simply لا توجد في هياكل معينة. ليس الأمر أن العلماء نسوا قياسها؛ بل الرابط غائب مادياً.
المشكلة مع الطرق القديمة: إذا استخدمت طريقة "التخمين" القديمة، فقد تخبر الكمبيوتر أن رابطاً موجوداً بينما هو في الواقع غير موجود. هذا يشبه إخبار طباخ بإضافة الملح إلى طبق من المفترض أن يكون خالياً من الملح.
نتيجة OverNaN: من خلال إبقاء "الرابط المفقود" كقيمة مفقودة، تعلم الكمبيوتر التعرف على الهيكل بشكل صحيح. في الاختبارات، كانت OverNaN أكثر دقة واتساقاً من الطرق التي حاولت ملء الفراغات أو حذف البيانات.

الخلا الخلاصة

OverNaN هي أداة عندما تكون بياناتك فوضوية، غير مكتملة، وغير متوازنة (حيث يكون نوع معين من البيانات نادراً).

بدلاً من محاولة "إصلاح" البيانات المفقودة عن طريق التخمين أو الحذف، تقول OverNaN: "البيانات المفقودة هي جزء من القصة". إنها تنشئ المزيد من الأمثلة للبيانات النادرة مع الحفاظ على الثقوب في البيانات في أماكنها الصحيحة تماماً، مما يسمح للكمبيوتر بتعلم الحقيقة دون أن تخدعه التخمينات الزائفة.

لقد صُممت للعلماء والمهندسين الذين يعملون مع مجموعات بيانات صغيرة وصعبة حيث يكون "ما هو مفقود" لا يقل أهمية عن "ما هو موجود".

ملخص تقني: OverNaN - فرط أخذ العينات المدرك للقيم المفقودة (NaN) للتعلم غير المتوازن مع وجود قيم مفقودة ذات دلالة

1. بيان المشكلة

في تعلم الآلة التطبيقي، لا سيما في العلوم الفيزيائية، والهندسة، والطب الحيوي، غالبًا ما تنشأ القيم المفقودة من قيود هيكلية (مثل القياسات التدميرية، أو القيود الأخلاقية، أو النتائج الشرطية) بدلاً من الضوضاء العشوائية. وبناءً على ذلك، يمكن أن يحمل غياب البيانات معلومات ذات صلالة بالمجال. ومع ذلك، فإن مسارات تعلم الآلة القياسية تتعامل عادةً مع القيم المفقودة كعيوب يجب التخلص منها عبر الحذف القائم على القائمة (listwise deletion) أو الإسناد (imputation) قبل التحليل.

هذا النهج يكون ضارًا بشكل خاص في سيناريوهات التعلم غير المتوازن حيث تكون الفئات الأقل تمثيلاً ناقصة بالفعل. فالحذف يؤدي إلى إزالة عينات الفئات الأقل تمثيلاً بشكل غير متناسب، مما يفاقم عدم التوازن، بينما يؤدي الإسناد إلى تقليص عدم اليقين إلى تقديرات نقطية، مما يدخل يقينًا اصطناعيًا وتحيزًا محتملاً يعتمد على النموذج. علاوة على ذلك، فإن تقنيات فرط أخذ العينات الاصطناعية المعتمدة على التوليد مثل SMOTE و ADASYN تفترض ضمنيًا وجود ناقلات سمات كاملة، مما يجبر الممارسين على إسناد البيانات المفقودة قبل عملية توليد العينات الاصطناعية. هذه العملية تمحو أنماط الفقد الهيكلية قبل حدوث فرط أخذ العينات، مما قد يشوه حدود الفئات وهندسة فضاء السمات.

2. المنهجية: OverNaN

OverNaN هو إطار عمل خفيف الوزن لفرط أخذ العينات المدرك للقيم المفقودة (NaN-aware)، مصمم لمعالجة عدم توازن الفئات دون محو بنية القيم المفقودة. وهو يوسع الطرق الشائعة لفرط أخذ العينات الاصطناعي (SMOTE, ADASYN, ROSE) لتعمل مباشرة على ناقلات السمات غير المكتملة، مع معاملة فضاء السمات كـ $(\mathbb{R} \cup \{\text{NaN}\})^d$ بدلاً من $\mathbb{R}^d$ .

مبادئ التصميم الأساسية

النزاهة الهيكلية: تُعامل القيم المفقودة كعناصر هيكلية، وليس كعيوب. قد تحتوي العينات الاصطناعية شرعيًا على قيم NaN إذا كانت البيانات الأصلية تدعم مثل هذه الأنماط.
لا يقين اصطناعي: لا يُدخل فرط أخذ العينات قيمًا مستنتجة حيث لم يتم رصدها، لتجنب ترميز افتراضات غير مبررة.
التحكم الصريح: استراتيجيات التعامل مع القيم المفقودة صريحة ومحددة من قبل المستخدم، وليست آثارًا جانبية ضمنية لعمليات المعالجة المسبقة.

التنفيذ الخوارزمي

يقوم OverNaN بتعديل تعريف الجوار وعملية توليد العينات للطرق الموجودة:

حساب المسافة: تُحسب المسافات بين العينات $x_i$ و $x_j$ فقط على مجموعة الأبعاد المرصودة المشتركة $\Omega_{ij} = \{k : x_{ik} \neq \text{NaN} \land x_{jk} \neq \text{NaN}\}$ .
التوليد القائم على السمات: يتم توليد العينات الاصطناعية $\tilde{x}$ $\tilde{x}$ سمة تلو الأخرى. بالنسبة للأبعاد في $\Omega_{ij}$ $Ω_{ij}$ ، يحدث الاستيفاء (interpolation) القياسي ( $\tilde{x}_k = x_{ik} + \lambda(x_{jk} - x_{ik})$ $\tilde{x}_{k} = x_{ik} + λ (x_{j k} - x_{ik})$ ). أما بالنسبة للأبعاد خارج $\Omega_{ij}$ $Ω_{ij}$ ، فيتم تحديد القيمة بناءً على إحدى الاستراتيجيات الثلاث الصريحة:
1. الحفاظ على النمط (Preserve-Pattern): إذا كانت السمة مفقودة في أي من العينات الأبوية، تحتفظ العينة الاصطناعية بقيمة NaN.
2. الاستيفاء الانتقائي (Selective Interpolation): يحدث الاستيفاء فقط إذا كان لدى كلا الأبوين قيم مرصودة؛ وإلا تظل السمة NaN.
3. القيم المفقودة الاحتمالية (Probabilistic Missingness): يتم أخذ القيم المفقودة وفقًا لمعدلات الفقد التجريبية لكل فئة.

الخصائص الحسابية

التوافق: يعمل OverNaN على مصفوفات NumPy و DataFrames الخاصة بـ pandas، مع الحفاظ على أنواع الحاويات والبيانات الوصفية.
التعقيد: يقوم بتفويض البحث عن الجيران للمكتبات الموجودة. وبينما تقتصر حسابات المسافة على الفضاءات الفرعية المرصودة، فإن التعقيد التقاربي يظل مشابهًا للطرق الأساسية ( $O(Nd)$ لكل استعلام في أسوأ الحالات).
التوازي: عملية توليد العينات قابلة للتوازي بشكل كبير، ومع ذلك يطبق OverNaN التوازي بحذر على مستوى الدفعات (batch level) لتجنب حالات السباق مع انتشار الـ NaN.
الاستقرار العددي: يعتمد على سلوك NaN القياسي لمعيار IEEE 754، حيث ينشر قيم NaN عمدًا بدلاً من حجبها، بافتراض أن المتعلمين في المراحل اللاحقة (مثل نماذج الغابات العشوائية/Ensembles القائمة على الأشجار) يمكنهم التعامل مع NaN بشكل طبيعي.

3. المساهمات الرئيسية

تطوير إطار العمل: تقديم OverNaN، الذي يدمج الوعي بالقيم المفقودة (NaN-awareness) في SMOTE و ADASYN و ROSE دون تغيير افتراضاتها الهندسية الأساسية، بل يغير فقط مجال التعريف.
تعريف الاستراتيجيات: صياغة ثلاث استراتيجيات مختلفة للتعامل مع القيم المفقودة أثناء فرط أخذ العينات (Preserve, Selective, Probabilistic)، مما يسمح للممارسين بمواءمة الطريقة مع المعرفة بالمجال.
مجموعة التحقق: مجموعة اختبار شاملة توضح الوظائف عبر حالات الحواف (مثل العينات الأقل تمثيلاً المنفردة، ومعدلات NaN العالية) والتكامل مع المصنفات اللاحقة مثل XGBoost.
الاختبار المرجعي: تقييم تجريبي على خمس مجموعات بيانات من OpenML ذات قيم مفقودة طبيعية، وتطبيق محدد على مجموعة بيانات Graphene Oxide Nanoflakes حيث القيم المفقودة ذات دلالة كيميائية.

4. النتائج التجريبية

مجموعات البيانات الاصطناعية والمتحكم بها

الوظائف الأساسية: نجح OverNaN في إعادة توازن الفئات دون الحاجة للإسناد. وتحت استراتيجية preserve_pattern الافتراضية، زاد معدل NaN في العينات الاصطناعية (حيث ترث العينات الاصطناعية فقدان البيانات من الأبوين)، بينما حافظت ROSENaN على المعدلات قريبة من الأصل بسبب اضطراب النواة (kernel-based perturbation).
التكامل مع المصنف: في مهمة محكومة باستخدام XGBoost، حسنت جميع متغيرات OverNaN استدعاء (recall) الفئات الأقل تمثيلاً ودرجات F1 مقارنة بالخط المرجعي. حققت SMOTENaN و ROSENaN استدعاءً و F1 مثاليين (1.000) للفئة الأقل تمثيلاً.
الأداء المقارن: في مجموعة بيانات اصطناعية بنسبة 11.9% من قيم NaN، حققت SMOTENaN أعلى ROC AUC (0.802) وأقل تباين عبر الطيات المتقاطعة (cross-fold variance) مقارنة بمسارات حذف الميزات، أو حذف العينات، أو الإسناد المتوسط متبوعًا بـ SMOTE القياسي.

معايض الواقع (OpenML)

تم التقييم على خمس مجموعات بيانات (labor, cylinder-bands, Titanic, soybean, car-evaluation):

حققت ROSENaN باستمرار أعلى متوسط دقة متوازنة (Balanced Accuracy)، و Macro F1، و ROC AUC عبر المجموعات الخمس.
قدمت SMOTENaN مكاسب متواضلة مقارنة بالخط المرجعي.
أظهرت ADASYN-NaN تحسنًا في ROC AUC ولكن مع درجات أقل قليلاً في المقاييس التي تعتمد على العتبة في المتوسط.
وقت التشغيل: ظلت ROSENaN فعالة حاسبيًا (متوسط 0.7 ثانية)، بينما كانت ADASYN-NaN أبطأ (16.5 ثانية) بسبب تقدير الكثافة التكيفي.

التطبيق: Graphene Oxide Nanoflakes

في مهمة التنبؤ بمجموعات الكربوكسيل في النانو فليك (بمعدل NaN قدره 39.8%، حيث يشير الفقد إلى الغياب الهيكلي لروابط معينة):

تفوقت SMOTENaN على مسارات "حذف الميزات" و "الإسناد + SMOTE"، محققة دقة متوازنة قدرها $0.997 \pm 0.005$ و F1 قدره $0.999 \pm 0.002$ .
والأهم من ذلك، حافظت SMOTENaN على المعنى الهيكلي للقيم المفقودة (أي لم تخترع أطوال روابط غير موجودة) مع الحفاظ على فضاء السمات الكامل، بينما أدخل الإسناد قيمًا اصطناعية وحذف حذف الميزات واصفات معلوماتية.

الإسناد مقابل OverNaN

في مجموعة بيانات anneal من OpenML (بنسبة NaN قدرها 64.98%)، أنتجت متغيرات OverNaN نتائج لا يمكن تمييزها إحصائيًا عن مقاييس "الإسناد ثم فرط أخذ العينات"، مما يشير إلى أن الإسناد ليس شرطًا مسبقًا صارمًا لتحقيق أداء تنافسي في هذه السياقات.

5. الأهمية والادعاءات

تفترض الورقة أن القيم المفقودة غالبًا ما تكون إشارة وليست ضوضاء، وأن التخلص منها قبل إعادة أخذ العينات يمكن أن يشوه عملية التعلم. تكمن أهمية OverNaN في:

الحفاظ على المعلومات: تسمح للممارسين بالاحتفاظ بأنماط الفقد الهيكلية التي تعكس القيود التجريبية أو الحقائق الفيزيائية، بدلاً من "إصلاح" البيانات بتقديرات قد تكون متحيزة.
اليقين الصريح: تشجع على معاملة عدم اليقين كاعتبار أساسي، مما يمنع إدخال يقين اصطناعي في البيانات الاصطناعية.
القابلية للتطبيق في المجال: تستهدف تحديدًا المجالات العلمية والهندسية ذات مجموعات البيانات الصغيرة وغير المكتملة وغير المتوازنة حيث يكون الفقد أمرًا لا مفر منه ومعلوماتيًا.

يصرح المؤلفون صراحةً أن OverNaN ليست حلاً عالميًا للقيم المفقودة؛ فهي لا تهدف لنمذجة آليات الفقد أو استنتاج القيم غير المرصودة. إنها مخصصة كبديل للسياقات التي يمكن فيها للمتعلمين اللاحقين التعامل مع قيم NaN بشكل أصيل، وحيث يكون الغياب الهيكلي للبيانات ذا دلالة. يعطي الإطار الأولوية لقابلية التفسير، والتحكم في الافتراضات، وإعادة الإنتاج على حساب التحسين الشرس أو القدرات عالية الإنتاجية.