💻 computer science

The Signal in the Noise: OOD Detection Through Goodness-of-Fit Testing in Factorised Latent Spaces

تقدم هذه الورقة البحثية "الإشارة في الضجيج" (SITN)، وهي طريقة مبتكرة للكشف عن البيانات خارج التوزيع تستفيد من خصائص التدفقات الطبيعية المستمرة لتحديد خرائط الضجيج غير النمطية في الفضاءات الكامنة المُحللة، وبذلك تتغلب على عدم موثوقية المؤشرات التقليدية القائمة على الاحتمالية دون الحاجة إلى بيانات خارج التوزيع أو تكبد تكاليف حوسبة كبيرة.

المؤلفون الأصليون: Philipp Bomatter, Jack Geary, Henry Gouk

نُشر 2026-05-22

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Philipp Bomatter, Jack Geary, Henry Gouk

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك روبوتًا ذكيًا جدًا قضى سنوات في دراسة نوع معين من الفن، ولنقل مثلاً اللوحات الانطباعية. هو يعرف تمامًا كيف تبدو اللوحة الانطباعية "الطبيعية": ضربات الفرشاة، الألوان، وطريقة سقوط الضوء على اللوحة.

الآن، تعرض على الروبوت صورة لـ جدار جرافيتي حديث. يتعين على الروبوت أن يقرر: "هل هذه لوحة انطباعية (داخل التوزيع - In-Distribution) أم أنها شيء مختلف تمامًا (خارج التوزيع - Out-of-Distribution)؟"

المشكلة القديمة: "الخطأ الواثق"

لفترة طويلة، حاول العلماء حل هذه المشكلة عبر سؤال الروبوت عن حساب "درجة الاحتمالية" (Likelihood Score). تجيب هذه الدرجة على سؤال: "ما مدى احتمالية أن تكون هذه الصورة قد أُنتجت بواسطة عملية التدريب الخاصة بي؟"

المشكلة هي أن العلماء غالبًا ما يتم خداعهم.

إذا عرضت عليه لوحة بيضاء بسيطة (وهي تقنيًا لوحة انطباعية في نظر الروبوت)، فقد يعطيها درجة عالية لأنها "بسيطة" وسهلة التفسير.
إذا عرضت عليه جدار جرافيتي معقد وفوضوي، فقد يعطي درجة منخفضة.
لكن هنا تكمن الخدعة: إذا عرضت عليه صورة لـ قطة (وهي بالتأكيد ليست لوحة انباطية)، فقد يعطيها الروبوت بالخطأ درجة أعلى من اللوحة البيضاء، ببساطة لأن القطة تمتلك بعض الميزات البصرية (مثل الحواف أو الألوان) التي تبدو "بسيطة" بالنسبة لعمليات الروبوت الحسابية.

الروبوت مرتبك بسبب التعقيد. هو يعتقد: "هذا يبدو بسيطًا، إذًا لا بد أنه حقيقي"، حتى عندما يكون مزيفًا. وهذا ما يسمى بـ "انحياز التعقيد" (Complexity Bias).

الحل الجديد: "الإشارة في الضجيج" (SITN)

يقترح المؤلفون، فيليب بوماتر وفريقه من جامعة إدنبرة، طريقة جديدة للتفكير في هذه المشكلة. إنهم يستخدمون نوعًا خاصًا من الذكاء الاصطناعي يسمى "التدفق الطبيعي المستمر" (Continuous Normalising Flow - CNF).

فكر في هذا الذكاء الاصطناعي كأنه مترجم سحري.

التدريب: يتعلم الذكاء الاصطناعي ترجمة اللوحات الانطباعية الحقيقية إلى نوع محدد من "ضجيج الاستاتيكا" (مثل التشويش الذي تراه على التلفاز القديم عندما لا توجد إشارة). يتعلم أنه كل لوحة حقيقية، مهما بلغت درجة تعقيدها، يجب أن تترجم إلى نمط التشويش العشوائي المحدد هذا.
العكس: نظرًا لأن الترجمة مثالية (من الناحية الرياضية)، يمكن للذكاء الاصطناعي أيضًا ترجمة التشويش مرة أخرى إلى لوحة.

اختبار "جودة المطابقة" (Goodness-of-Fit)

هذا هو الجزء الذكي في طريقتهم الجديدة، SITN:

بدلاً من سؤال: "ما مدى احتمالية أن تكون هذه اللوحة حقيقية؟"، هم يسألون: "إذا ترجمتُ هذه الصورة إلى تشويش، فهل سيبدو التشويش مثل تشويش التلفاز الحقيقي؟"

اللوحة الحقيقية (داخل التوزيع): عندما يترجمها الذكاء الاصطناعي مرة أخرى إلى تشويش، تبدو النتيجة كتشويش تلفزيوني عشوائي مثالي. تكون البكسلات مستقلة عن بعضها البعض، وتتبع قواعد العشوائية.
الصورة المزيفة (خارج التوزيع): عندما يحاول الذكاء الاصطناعي ترجمة جدار جرافيتي أو قطة إلى تشويش، تكون النتيجة غريبة.
- ربما يحتوي التشويش على نمط غريب (مثل لوحة الشطرنج) لا ينبغي أن يكون موجودًا.
- ربما يكون "الضجيج" ناعمًا جدًا أو متعرجًا جدًا.
- "التشويش" لا يتبع قواعد العشوائية.

يسمي الورقة البحثية هذا بـ "الإشارة في الضجيج" (Signal in the Noise). فرغم أن الصورة قد تحولت إلى ضجيج، إلا أن بنية الصورة المزيفة الأصلية تترك "إشارة" خلفها في الضجيج تكشف حقيقتها.

كيف يفحصون الضجيج

يستخدم المؤلفون اختبارين بسيطين لمعرفة ما إذا كان "الضجيج" حقيقيًا:

اختبار "الشكل": هل يبدو الضجيج مثل منحنى جرس مثالي (الشكل القياسي للضجيج العشوائي)؟ إذا كان الضجيج مسطحًا جدًا أو مدببًا جدًا، فهو مزيف.
اختبار "الصداقة": في الضجيج العشوائي الحقيقي، لا يهتم بكسل واحد بجاره. إنهم غرباء تمامًا. إذا أظهر الضجيج أن البكسلات "أصدقاء" (مرتبطون ببعضهم) أو يتبعون نمطًا ما، فهي صورة مزيفة.

إذا فشل الضيجة في أي من هذين الاختبارين، يقول الذكاء الاصطناعي: "هذه ليست لوحة حقيقية؛ إنها خارج التوزيع".

لماذا هذا أفضل؟

يزعم الورق البحثي أن هذه الطريقة متفوقة لثلاثة أسباب رئيسية:

إنها تتجاهل التعقيد: هي لا تهتم إذا كانت الصورة بسيطة أو معقدة. هي تهتم فقط بما إذا كان "الضجيج" يبدو صحيحًا. وهذا يحل المشكلة حيث كان الروبوت يُخدع بالصور المزيفة البسيطة.
إنها سريعة: لا تحتاج إلى إجراء حسابات إضافية بطيئة أو تدريب روبوت ثانٍ للمساعدة في اتخاذ القرار.
إنها صارمة: يمكنها رياضيًا ضمان أنها لن تصرخ "مزيف!" كثيرًا عند رؤية أشياء حقيقية. يمكنك وضع قاعدة تقول: "لا تصنف أكثر من 1 من كل 100 شيء حقيقي على أنه مزيف"، وستلتزم بهذه القاعدة.

النتائج

اختبر الفريق طريقتهم على مجموعات بيانات صور قياسية (مثل CIFAR-10، التي تحتوي على صور صغيرة لسيارات وحيوانات وطائرات).

عندما عرضوا على الروبوت صورًا من SVHN (أرقام الشوارع) أو CelebA (وجوه المشاهير) كصور "مزيفة"، خلطت الطرق القديمة (الاحتمالية، والنمطية) بين الأمور، وغالبًا ما اعتبرت الصور المزيفة "حقيقية" أو اعتبرت الأشياء الحقيقية "مزيفة".
أما SITN فقد اكتشف الصور المزيفة باستمرار وبدقة.
حتى أنهم اختبروه على صور بها أعطال اصطناعية (مثل التغبيش، أو الثلج، أو غبش الحركة). كان SITN الأكثر اتساقًا في رصد هذه الأعطال، بينما فشلت الطرق الأخرى عندما تغير "التعقيد" الناتج عن تلك الأعطال.

خلل بسيط

المؤلفون صريحون بشأن نقطة ضعف واحدة. أحيانًا، إذا كانت الصورة تحتوي على كتلة ضخمة وصلبة من اللون (مثل سماء زرقاء واسعة)، يواجه المترجم الخاص بالذكاء الاصطناعي صعوبة في تحويل هذه الكتلة إلى "ضجيج عشوائي". هذا يترك نمطًا باهتًا خلفه، مما قد يخدع النظام ويجعله يعتقد أن صورة حقيقية هي مزيفة. ومع ذلك، يشير المؤلفون إلى أن هذه حالة استثنائية نادرة وأن الطريقة تعمل بشكل جيد جدًا بشكل عام.

الملخص

باختصار، تقدم الورقة البحثية طريقة SITN، وهي طريقة تتوقف عن محاولة تخمين "مدى احتمالية" كون الصورة حقيقية. بدلاً من ذلك، تقوم بترجمة الصورة إلى "ضجيج" وتتحقق مما إذا كان هذا الضجيج يبدو كتشويش عشوائي حقيقي. إذا كان الضجيج يحتوي على نمط مخفي (الإشارة)، فإن الصورة مزيفة. إنها طريقة أذكى، وأسرع، وأكثر موثوقية للإمساك بالمحتويات المزيفة التي ينتجها الذكاء الاصطناعي.

ملخص تقني: الإشارة في الضجيج (SITN)

بيان المشكلة

تقدم النماذج التوليدية العميقة، ولا سيما التدفقات المعيارية المستمرة (CNFs)، أساسًا نظريًا للكشف عن البيانات خارج التوزيع (OOD) من خلال نمذجة توزيعات البيانات بشكل صريح. ومع ذلك، أثبتت الأبحاث السابقة أن احتمالات (likelihoods) القيم التي تمنحها هذه النماذج هي مؤشرات غير موثوقة للتمييز بين البيانات داخل التوزيع (ID) والبيانات خارج التوزيع (OOD) في الفضاءات عالية الأبعاد. ومن حالات الفشل الموثقة جيدًا أن النماذج المدربة على مجموعة بيانات واحدة (مثل CIFAR-10) تمنح احتمالات أعلى لعينات من مجموعة بيانات مختلفة (مثل MNIST أو SVHN).

تعاني التصحيحات الحالية لهذه المشكلة، مثل اختبارات النمطية (typicality tests)، وعقوبات التعقيد (complexity penalties)، ونسب الاحتمالية (likelihood ratios)، غالبًا من تحيزات متأصلة مرتبطة بالاحتمالية نفسها (تحديدًا "تحيز التعقيد"، حيث تُفضل الصور البسيطة) أو تفرض قيودًا عملية. وتشمل هذه القيود الحاجة إلى خوارزميات ضغط خاصة بالمجال، أو الوصول إلى بيانات خارج التوزيع لبناء نماذج خلفية، أو عبء حسابي كبير (مثل تدريب مجموعات النماذج أو الضبط الدقيق على عينات الاختبار).

المنهجية: الإشارة في الضجيج (SITN)

يقترح المؤلفون إطار عمل "الإشارة في الضجيج" (Signal in the Noise - SITN)، وهو إطار يعيد صياغة الكشف عن البيانات خارج التوزيع (OOD) كاختبار جودة مطابقة لعينة واحدة ضمن فضاء الضجيج الكامن للتدفقات المعيارية المستمرة (CNFs).

الرؤية الجوهرية

تستخدم الـ CNFs خرائط متماثلة (diffeomorphic) حافظة للكتلة لتحويل توزيع ضجيج غاوسي معياري سابق ( $P_0 = \mathcal{N}(0, I)$ ) إلى توزيع البيانات المستهدف ( $P_{ID}$ ). ولأن هذه الخرائط قابلة للعكس، فإن البيانات داخل التوزيع (ID) تعود لتشكل عينات تتوافق مع التوزيع الغاوسي المعياري السابق. وعلى العكس من ذلك، فإن عينات خارج التوزيع (OOD)، التي تمتلك كتلة احتمالية منخفضة تحت التوزيع المستهدف، تعود لتشكل قيمًا كامنة (latents) تظهر خصائص تجريبية غير نمطية تحت التوزيع الغاوسي المعياري. ومن الأهمية بمكان أن هذه عدم النمطية مستقلة عن تباعد المتجه (vector field's divergence)، وهو المحرك الرئيسي لقيم الاحتمالية.

إطار العمل

يستغل SITN التفكك الكامل للضجيج الغاوسي السابق. حيث يتم التعامل مع متجه كامن واحد عالي الأبعاد $Z$ (المستخرج من مدخل $X$ عبر الانعكاس العكسي للتدفق $\phi^{-1}$ ) كمجموعة من $D$ من العينات المستقلة والمتماثلة توزيعيًا (i.i.d.) من توزيع طبيعي أحادي المتغير. يختبر الأسلوب $Z$ مقابل شرطين ضروريين للفرضية الصفرية ( $H_0$ ) التي تنص على أن $Z \sim \mathcal{N}(0, I)$ :

الطبيعية الهامشية (Marginal Normality): يجب أن يتبع كل عنصر في $Z$ $Z$ توزيعًا طبيعيًا أحادي المتغير معياريًا.
- الإحصائية: يُستخدم إحصائي أندرسون-دارلينج (AD) ( $S_{AD}$ ) لقياس التفاوت بين دالة التوزيع التراكمي التجريبية (empirical CDF) للعناصر الكامنة ودالة التوزيع التراكمي النظرية للرتبة المعيارية.
الاستقلال البعدي (Dimensional Independence): يجب أن تكون عناصر $Z$ $Z$ مستقلة متبادليًا.
- الإحصائية: يُستخدم معامل الاختلاف (CV) للطيف القدراتي التجريبي ( $S_{CV}$ ). بالنسبة للضجيج الأبيض الغاوسي، يتبع الطيف القدراتي توزيعًا أسيًا، مما يعطي معامل اختلاف نظري قدره 1. وتظهر الارتباطات الهيكلية (الاعتمادية) كترددات مهيمنة، مما يؤدي إلى تضخم التباين الطيفي ورفع قيمة $S_{CV}$ بشكل ملحوظ فوق 1.

التسجيل والمعايرة

لإنتاج درجة واحدة (scalar) للكشف عن خارج التوزيع ( $S_{SITN}$ )، يستخدم الأسلوب استراتيجية الحد الأقصى للكميات (max-quantile strategy):
$S_{SITN} = \max(\hat{F}_{AD}(S_{AD}), \hat{F}_{CV}(S_{CV}))$
حيث تمثل $\hat{F}$ دوال التوزيع التراكمي التجريبية المقدرة من مجموعة معايرة داخل التوزيع (ID). يسمح هذا النهج برسم الإحصائيات ضمن نطاق موحد $[0, 1]$ ، مما يتيح مقارنة ذات معنى. ومن خلال أخذ القيمة القصوى، يرفض النظام الفرضية $H_0$ إذا انتهكت العينة إما الطبيعية الهامشية أو الاستقلال البعدي.

الخصائص النظرية

التحكم في الإيجابيات الكاذبة: يسمح الأسلوب بالتحكم الصارم في معدل خطأ النوع الأول (معدل الإيجابيات الكاذبة). ومن خلال معايرة الدوال التراكمية التجريبية على مجموعة ID محجوزة، يمكن وضع عتبة تضمن معدل إيجابيات كاذبة محدد دون الحاجة إلى الوصول إلى بيانات خارج التوزيع (OOD).
الكفاءة الحسابية: التكاليف الإضافية ضئيلة مقارنة بحساب التدفق العكسي. يتطلب حساب $S_{AD}$ عملية فرز ( $O(D \log D)$ )، بينما يتطلب حساب $S_{CV}$ تحويل فورييه السريع ( $O(D \log D)$ ).
المتانة: يظل إطار العمل قابلًا للتطبيق حتى لو كان الـ CNF تقريبًا للتوزيع الحقيقي، رغم أن هذا قد يزيد من أخطاء النوع الثاني (الفشل في الكشف) بدلاً من الإيجابيات الكاذبة.

المساهمات الرئيسية

إطار عمل جديد: نهج قائم على أسس نظرية يصنف الكشف عن OOD كاختبار جودة مطابقة لعينة واحدة مقابل التوزيع الغاوسي الكامن المفكك لـ CNFs.
منهج SITN: تطبيق محدد لا يتطلب أي بيانات خارج التوزيع، ويتطلب حدًا أدنى من التكاليف الحسابية، ويوفر تحكمًا صارمًا في خطأ النوع الأول.
التحقق التجريبي: تقييم شامل يثبت الفعالية عبر معايير قياسية وتحريفات اصطناعية، مما يسلط الض الضوء على غياب تحيز التعقيد المتأصل في طرق الاحتمالية.

النتائج التجريبية

قيم المؤلفون SITN مقابل خطوط الأساس بما في ذلك اللوغاريتم الاحتمالي (Log-likelihood)، والنمطية (Typicality)، وتقدير كثافة الحالات (DoSE) عبر ثلاث مجموعات بيانات: CIFAR-10، وSVHN، وCelebA (المصغرة إلى 32x32).

الأداء عبر مجموعات البيانات: تفوق SITN باستمرار على جميع خطوط الأساس. على سبيل المثال، عند التدريب على CIFAR-10 والاختبار على SVHN، حقق SITN درجة AUROC بلغت 0.946، مقارنة بـ 0.105 للوغاريتم الاحتمالي و0.802 لـ DoSE. وفي الحالة العكسية (التدريب على SVN والاختبار على CIFAR-10)، حقق SITN درجة 0.986 مقابل 0.980 للوغاريتم الاحتمالي.
التحريفات الاصطناعية: على مجموعة CIFAR-10-C (19 نوعًا من التحريفات)، حقق SITN أعلى متوسط AUROC (0.85)، متفوقًا بشكل ملحوظ على اللوغاريتم الاحتمالي (0.59)، والنمطية (0.69)، وDoSE (0.78). حافظ SITN على أداء قوي حتى في الظروف التي انخفضت فيها الطرق الأخرى إلى مستوى الصدفة.
تحليل تحيز التعقيد: كشفت التصورات والرسوم البيانية المبعثرة أن اللوغاريتم الاحتمالي، والنمطية، وDoSE أظهرت ارتباطات قوية مع تعقيد الصورة (المقاس بحجم ضغط PNG)، مما أدى غالبًا إلى تصنيف الصور البسيطة ذات الخلفيات الثابتة كبيانات خارج التوزيع. لم يظهر SITN هذا التحيز ( $R^2 = 0.052$ ).
حالات الفشل: رغم فعاليته العالية، أظهر SITN حالة حافة محددة حيث واجهت بنية UNet صعوبة في رسم خرائط لقطع الخلفية الكبيرة والثابتة لتكون ضجيجًا غاوسيًا نمطيًا، مما جعل إحصائية AD تصنفها كعينات غير نمطية حتى عندما كانت داخل التوزيع.

الأهمية والادعاءات

يزعم البحث أن SITN يقدم تقدمًا عمليًا وإحصائيًا كبيرًا مقارنة بالنهج المتمحورة حول الاحتمالية. ومن خلال نقل آلية الكشف من فضاء البيانات (حيث الاحتمالات غير موثوقة) إلى فضاء الضجيج (حيث تظهر عينات OOD كضجيج غير نمطي)، يحقق الأسلوب ما يلي:

الموثوقية: يتجنب حالات الفشل الكارثية المرتبطة بالكشف عن OOD القائم على الاحتمالية.
العملية: لا يتطلب الوصول إلى بيانات OOD للتدريب أو المعايرة، ويتحمل تكلفة حسابية ضئيلة.
الدقة الإحصائية: يوفر آلية رسمية للتحكم في معدل الإيجابيات الكاذبة، وهي ميزة تفتقر إليها غالبًا أدوات الكشف عن OOD التجريبية.

يخلص المؤلفون إلى أنه بينما ليس SITN حلاً لكل المشكلات (مشيراً إلى حالة الخلفيات الثابتة المحددة)، فإنه يمثل خطوة حاسمة نحو نشر أكثر أمانًا للتعلم الآلي في المجالات عالية المخاطر من خلال توفير ضمانات قوية ومؤسسة نظريًا ضد المدخلات خارج التوزيع.