📊 statistics

Learning a distance measure from the information-estimation geometry of data

تقدم هذه الورقة مقياس تقدير المعلومات (IEM)، وهو دالة مسافة مبتكرة مشتقة من العلاقة بين نظريات المعلومات والتقدير، والتي تستفيد من أجهزة إزالة الضجيج المتعلمة للتكيف مع هندسات البيانات المعقدة وتحقيق أداء رائد في التنبؤ بجودة الصور الإدراكية البشرية.

المؤلفون الأصليون: Guy Ohayon, Pierre-Etienne H. Fiquet, Florentin Guth, Jona Ballé, Eero P. Simoncelli

نُشر 2026-02-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Guy Ohayon, Pierre-Etienne H. Fiquet, Florentin Guth, Jona Ballé, Eero P. Simoncelli

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول قياس "المسافة" بين شيئين. في العالم المادي، قد تستخدم مسطرة لقياس مدى بعد مدينتين عن بعضهما البعض. ولكن ماذا لو أردت قياس المسافة بين فكرتين، أو صورتين، أو صوتين؟ كيف تقرر ما إذا كانت صورتان لقطتين "قريبتين" من بعضهما، أم أن صورة قطة وصورة محمصة خبز "بعيدتان" عن بعضهما؟

عادةً، تقوم الحواسيب بمجرد عدّ الاختلافات في البكسلات (مثل عدّ الطوب المختلف بين جدارين). لكن البشر لا يرون الأمر بهذه الطريقة. قد نرى أن صورتين ضبابيتين قليلاً لقطة متشابهتان جداً، بينما نرى أن صورة حادة لقطة وصورة حادة لمحمصة خبز مختلفتان تماماً، حتى لو أشارت أعداد البكسلات إلى أنهما متشابهتان.

تقدم هذه الورقة البحثية طريقة جديدة للحواسيب لقياس هذا "المسافة الإدراكية"، وتسمى مقياس تقدير المعلومات (IEM). وإليك كيف تعمل، مشروحة ببساطة:

1. المحقق "مزيل الضجيج"

تخيل أن لديك صورة واضحة جداً لمنظر طبيعي. الآن، تخيل أن شخصاً ما ألقى دلواً من الثلج فوق الصورة، مما جعلها ضبابية.

الطريقة القديمة: المقياس الحاسوبي القياسي ينظر فقط إلى الصورة الضبابية والصورة الواضحة ويعدّ اختلافات البكسلات.
طريقة IEM: يسأل مقياس IEM سؤالاً مختلفاً: "إذا أعطيتك هذه الصورة الضبابية، ما مدى قدرتك على تخمين كيف كان شكل الصورة الأصلية الواضحة؟"

يستخدم المؤلفون ذكاءً اصطناعياً خاصاً (مزيل ضجيج - denoiser) تم تدريبه على ملايين الصور ليعمل كـ "محقق". يحاول هذا الذكاء الاصطناعي تنظيف الصورة الضبابية.

إذا كان الذكاء الاصطناعي واثقاً وقام بتنظيفها بشكل مثالي، فإن المسافة تكون صغيرة.
إذا كان الذكاء الاصطناعي مرتبكاً وقدم تخميناً سيئاً، فإن المسافة تكون كبيرة.

2. تشبيه "عاصفة الثلوج"

لا يختبر الـ IEM الذكاء الاصطناعي مع مستوى واحد فقط من الضبابية، بل يختبره مع مجموعة كاملة من "عواصف الثلوج"، من رذاذ خفيف إلى عاصفة ثلجية شديدة.

المفهوم: يقيس IEM المسافة بين صورتين من خلال مقارنة كيف يتغير "استراتيجية التخمين" للذكاء الاصطناło مع زيادة كثافة الثلج.
التشبيه: تخيل شخصين يقفان في حقل ضبابي.
- إذا كانا يقفان على مسار صلب ومألوف (صورة شائعة، مثل سماء زرقاء صافية)، فإن الضباب لن يربكهما كثيراً؛ فهما يعرفان أين يتواجدان.
- إذا كانا يقفان في مكان غريب ومربك (صورة نادرة أو غريبة)، فإن الضباب سيجعلهما غير متأكدين للغاية.
- يقيس IEM المسافة بين شخصين من خلال مراقبة كيف يتغير "عدم اليقين" لديهما مع دخول وخروج الضباب. إذا كانت أنماط عدم اليقين لديهما متشابهة، فهما "قريبان". وإذا كان ارتباكهما مختلفاً تماماً، فهما "بعيدان".

3. لماذا هذا الأمر مميز؟ (شكل البيانات)

تدعي الورقة أن هذه الطريقة تتعلم شكل العالم دون الحاجة إلى معلم.

التعلم الخاضع للإشراف (الطريقة القديمة): لتعليم الكمبيوتر ما يعتقده البشر "متشابهاً"، تحتاج عادةً إلى آلاف البشر لتصنيف الصور (مثلاً: "هاتان الصورتان تبدوان متشابهتين"، "هاتان الصورتان تبدوان مختلفتين"). وهذا أمر مكلف ومليء بالضجيج.
طريقة IEM (غير الخاضعة للإشراف): يتعلم IEM من خلال النظر إلى الصور نفسها فقط. فهو يدرك أن "القطط" عادة ما تبدو بطريقة معينة و"الغيوم" تبدو بطريقة أخرى. إنه يبني خريطة لما هو "طبيعي" وما هو "غريب" بمجرد دراسة البيانات.

أثبت المؤلفون رياضياً أن هذا يخلق "مسافة" صالحة (فهو يتبع قواعد الهندسة)، وبالنسبة للبيانات البسيطة، فإنه يعمل كمسطرة قياسية. ولكن بالنسبة للبيانات المعقدة (مثل الصور الحقيقية)، فإنه ينحني ويتمدد ليتناسب مع شكل البيانات، تماماً مثل مسطرة مرنة تتكيف مع التضاريس.

4. هل نجح الأمر؟

اختبر الباحثون "مسطرتهم المرنة" الجديدة على قاعدة بيانات للصور (ImageNet) وقارنوها بكيفية حكم البشر على جودة الصور.

النتيجة: على الرغم من أن IEM لم يُعرض أبداً على تسمية بشرية واحدة تقول "هذا يبدو جيداً" أو "هذا يبدو سيئاً"، إلا أنه توقع آراء البشر بنفس كفاءة، أو أفضل من، أكثر البرامج الحاسوبية تقدماً التي تم تدريبها بالفعل باستخدام تسميات بشرية.
اختبار "التمييز الأقصى": حاولوا خداع النظام؛ حيث أخذوا صورة وأضافوا إليها ضجيجاً، ثم طلبوا من الكمبيوتر تغيير هذا الضجيج ليجعل الصورة تبدو "مختلفة قدر الإمكان" عن الأصلية، مع الحفاظ على "عدد البكسلات" (PSNR) نفسه.
- أنتجت المقاييس الأخرى صوراً بدت كأنها فن تجريدي أو مجرد هراء.
- أما IEM فقد أنتج صوراً لا تزال تبدو كالصورة الأصلية، ولكن مع ضجيج مختلف. وهذا يشير إلى أن IEM يفهم "بنية" الصورة بشكل أفضل من غيره.

الملخص

مقياس تقدير المعلومات (IEM) هو أداة جديدة تقيس مدى "بعد" صورتين عن بعضهما من خلال رؤية مدى صعوبة قيام ذكاء اصطناعي ذكي بتنظيفهما. وبدلاً من عد البكسلات، فإنه ينظر إلى "عدم اليقين" لدى الذكاء الاصطناعي. إنه يتعلم شكل العالم من تلقاء نفسه، دون الحاجة إلى بشر ليصححوا واجباته المدرسية، ويتضح أنه بارع بشكل مدهش في محاكة كيفية إدراك البشر للتشابه.

ملخص تقني: تعلم مقياس مسافة من هندسة تقدير المعلومات للبيانات

بيان المشكلة

تعد دالات المسافة أساسية لتنظيم البيانات وتفسيرها، ومع ذلك، فإن اشتقاق مقياس مسافة ذي معنى للإشارات الطبيعية (مثل الصور) بما يتوافق مع الإدراك البشري يظل تحديًا كبيرًا. تعتمد النهج الحالية غالبًا على التعلم الخاضع للإشراف باستخدام قواعد بيانات مصنفة بشريًا، وهي مكلفة في التوسيم، وصعبة التفسير رياضيًا، وعرضة للضجيج. وفي المقمقابل، فإن الأساليب غير الخاضعة للإشراف القائمة بالكامل على نظرية المعلومات (مثل المعلومات المتبادلة) غالبًا ما تكون غير مدركة للهيكل الهندسي لتوزيع البيانات. تتمثل المشكلة الجوهرية التي يعالجها البحث في كيفية اشتقاق دالة مسافة عالمية ومقياس ريمان المحلي (Riemannian metric) حصريًا من الهندسة الخاصة بكثافة احتمالية مستمرة $p_x$ فوق مجال الإشارة، دون الاعتماد على تسميات بشرية.

المنهجية: مقياس تقدير المعلومات (IEM)

يقدم المؤلفون مقياس تقدير المعلومات (IEM)، وهو دالة مسافة مشتقة من العلاقة بين نظرية المعلومات ونظرية التقدير. تعتمد المنهجية على صيغة تودي-مياساوا (Tweedie–Miyasawa formula)، التي تربط دالة السكور (gradient of the log-density) لإشارة مشوشة بخطأ المُقدِّر الأمثل (optimal denoiser).

البناء النظري

قناة الملاحظة: يعرّف المؤلفون قناة ملاحظة غاوسية $y_\gamma = \gamma x + w_\gamma$ ، حيث $w_\gamma$ هو ضجيج غاوسي مضاف. مع زيادة نسبة الإشارة إلى الضجيج (SNR) $\gamma$ ، "تتعمق" التوزيع $p_{y_\gamma}$ في الكثافة الأصلية $p_x$ .
I-MMSE النقطي: بناءً على علاقة I-MMSE، يتم تفكيك الاحتمالية اللوغاريتمية للإشارة إلى تكامل لأخطاء إزالة الضجيج (أو ما يعادلها من متجهات السكور) عبر جميع مستويات SNR.
تعريف المقياس: يُعرَّف الـ IEM بين إشارتين $x_1$ و $x_2$ كجذر تربيعي للتباين التربيعي المتوقع لعملية نسبة الاحتمالية اللوغاريتمية. وتحديدًا، هو متوسط مربع الخطأ المتكامل (MSE) بين حقول متجهات السكور للكثافة المشوشة حول $x_1$ و $x_2$ عبر نطاق من مستويات SNR $[0, \Gamma]$ :
$\text{IEM}(x_1, x_2, \Gamma) := \left( \int_0^\Gamma \mathbb{E} \left[ \| \nabla \log p_{y_\gamma}(\gamma x_1 + w_\gamma) - \nabla \log p_{y_\gamma}(\gamma x_2 + w_\gamma) \|^2 \right] d\gamma \right)^{1/2}$
التعميم: يقترح المؤلفون IEM معمماً ( $\text{IEM}_f$ ) عن طريق تطبيق دالة قياسية $f$ على عملية نسبة الاحتمالية اللوغاريتمية قبل حساب التباين التربيعي، مما يسمح بالمرونة في وزن جوانب مختلفة من التوزيع.

الهندسة المحلية

يشتق البحث تقريبًا محليًا من الدرجة الثانية لـ IEM المربع، مما ينتج عنه مقياس ريمان $G(x, \Gamma)$ . يظهر هذا المقياس المحلي أنه:

يتناسب مع توقع مربع الهيسيان (Hessian) للوغاريتم الكثافة (الانحناء المحلي).
مرتبط بتباين الحالة اللاحقة (posterior covariance) للإشارة بناءً على الملاحظات المشوشة.
يكون أكثر حساسية في المناطق ذات الانحناء العالي للوغاريتم الكثافة، وللاضطرابات التي تسبب تغييرات كبيرة في احتمالية الإشارة.

التنفيذ

لحساب IEM عمليًا، يقوم المؤلفون بتدريب مُزيل ضجيج عصبي (تحديدًا Hourglass Diffusion Transformer) على مجموعة بيانات ImageNet. يقرب هذا المُزيل مُقدِّر MMSE $E[x|y_\gamma]$ ، وهو ما يكافئ دالة السكور عبر صيغة تودي-مياساوا. بعد ذلك، يتم حساب المسافة من خلال التكامل العددي للفرق المربع لمخرجات المُزيل (أو السكورات المشتقة) عبر مستويات الضجيج.

المساهمات الرئيسية

تعريف مبتكر للمقياس: تقديم IEM، وهو مقياس مسافة عالمي صالح مشتق بالكامل من هندسة كثافة احتمالية، وقد ثبت أنه يحقق التماثل، وعدم السالبية، وتمايز الهوية، ومتراجحة المثلث.
التوحيد النظري: يثبت البحث أنه بالنسبة للتوزيعات الغاوسية، يتطابق IEM مع مسافة ماهالانوبيس (Mahalanobis distance). أما بالنسبة للتوزيعات غير الغاوسية، فإنه يتكيف محليًا وعالميًا مع "دعم البيانات" (data support)، حيث يعمل كمسافة ماهالانوبيس متكيفة محليًا.
التعلم غير الخاضع للإشراف: يسمح إطار العمل بتعلم مقياس مسافة إدراكي من بيانات غير مصنفة عن طريق تدريب مُزيل ضجيج، مما يتجاوز الحاجة إلى التسميات البشرية أثناء مرحلة تعريف المقياس.
إطار عمل معمّم: يتيح الاقتراح لـ $\text{IEM}_f$ تكييف المقياس مع أنواع مختلفة من البيانات البشرية من خلال تعلم دالة $f$ فوق المقياس الأساسي غير الخاضع للإشراف.

النتائج التجريبية

قيم المؤلفون IEM على معايير تقييم جودة الصورة المرجعية الكاملة القياسية (TID2013, LIVE, CSIS) ومجموعة بيانات خاصة بالنسيج (TQD).

الأداء على الصور الطبيعية: حقق IEM غير الخاضع للإشراف (مع $\Gamma=1/4$ ) معاملات ارتباط سبيرمان (SRCC) تنافسية مع المقاييس المتطورة الخاضعة للإشراف (مثل LPIPS, DISTS, PieAPP) على مجموعات بيانات TID2013 و LIVE و CSIQ، رغم تدريبه دون تسميات بشرية.
الحساسية للنسيج: تفوق متغير $\text{IEM}_{sq}$ (باستخدام دالة تربيعية $f$ ) على معظم الطرق في مجموعة بيانات التكتشر TQD، وهو مجال تعاني فيه العديد من المقاييس القياسية.
الأداء الموحد: حقق المتغير الخاضع للإشراف، $\text{IEM}_{f_\omega}$ ، والذي يتعلم فقط الدالة $f$ فوق مُزيل الضجيج المدرب مسبقًا، أداءً قويًا عبر جميع مجموعات البيانات في آن واحد، مما يظهر مرونة الإطار.
منافسة التمييز الأقصى: في تجارب تقليل المسافة الإدراكية تحت قيد ثابت لـ PSNR، أدت عملية تقليل IEM إلى إنتاج صور حافظت على البنية الهندسية وبدت طبيعية إدراكيًا، بينما أدت عملية تقليل المقاييس الأخرى (مثل DISTS) إلى ظهور عيوب غير طبيعية. كما حدد تعظيم IEM بشكل صحيح الضجيج غير المهيكل باعتباره الأكثر ضررًا من الناحية الإدراكية.

الأهمية والادعاءات

يدعي البحث أن IEM يوفر نهجًا مبدئيًا ومرتكزًا على أسس رياضية لاستخلاص المسافات الإدراكية من الهندسة الإحصائية للبيانات. تكمن أهميته في:

القابلية للتفسير: على عكس المقاييس الخاضعة للإشراف التي تعمل كصندوق أسود، يتم اشتقاق IEM من علاقات أساسية بين الاحتمال والمعلومات والتقدير، مما يوفر تفسيرًا رياضيًا أوضح للأحكام الإدراكية.
كفاءة البيانات: يثبت القدرة على تعلم مقاييس إدراكية عالية الجودة من بيانات غير مصنفة، مما يقلل الاعتماد على التوسيم البشري المكلف والمثير للجدل.
المتانة: قدرة المقياس على التكيف مع كل من الصور الطبيعية والمنسوجات، وأداؤه في مهام التحسين (المسائل العكسية)، يشير إلى أنه يلتقط "دعم البيانات" بشكل أكثر فعالية من البدائل الحالية سواء كانت إقليدية أو خاضعة للإشراف.

يقر المؤلفون بوجود قيود، أبرزها التكلفة الحسابية للتكامل العددي مقارنة بالمقاييس القياسية ذات التغذية الأمامية، والحاجة إلى مبدأ منهجي لاختيار المعلم الفائق $\Gamma$ والدالة $f$ . ويقترحون في العمل المستقبلي تطبيق هذه المبادئ على أنواع أخرى من الإشارات (مثل الصوت) واستخدام المقياس للتقسيم غير الخاضع للإشراف وتقييم النماذج التوليدية.