🤖 AI

Local Intrinsic Dimension Unveils Hallucinations in Diffusion Models

تقترح هذه الورقة أن الهلوسات الهيكلية في نماذج الانتشار تنبع من عدم الاستقرار الناتج عن البعد الجوهري المحلي العالي (LID) على المتشعب المستحث من قبل النموذج، مقدمةً طريقة تسمى "الإخماد الجوهري" (IQ) لخفض البعد الجوهري المحلي وتقليل هذه الشذوذات بفعالية، مما يحسن بشكل خاص الاتساق التشريحي في التصوير الطبي.

المؤلفون الأصليون: Bartlomiej Sobieski, Matthew Tivnan, Dawid Płudowski, Michał Jan Włodarczyk, Pengfei Jin, Przemyslaw Biecek, Quanzheng Li

نُشر 2026-05-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Bartlomiej Sobieski, Matthew Tivnan, Dawid Płudowski, Michał Jan Włodarczyk, Pengfei Jin, Przemyslaw Biecek, Quanzheng Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج الانتشار (Diffusion Model) كأنه نحات ماهر قضى سنوات في دراسة آلاف التماثيل. مهمته هي ابتكار تماثيل جديدة من كتلة من الرخام (الضجيج/Noise) عبر نحت قطع منها حتى يظهر شكل مثالي. عادةً، يقوم بعمل رائع، لكن أحياناً يصاب بالارتباك ويصنع تمثالاً بست أصابع، أو ثلاث عيون، أو يداً تبدو كأنها زهرة. في عالم الذكاء الاصطناعي، تُسمى هذه الأخطاء "هلوسات" (Hallucinations).

تجادل هذه الورقة البحثية بأن هذه الأخطاء تحدث لأن النحات يتوه في جزء "ضبابي" من خريطته الذهنية. يقترح المؤلفون طريقة جديدة للإصلاح عبر قياس مدى "تذبذب" مسار النحات، ثم تنعيمه بلطف.

إليك تفصيل اكتشافهم وحلهم:

1. المشكلة: مسار النحات "المتذبذب"

يشير المؤلفون إلى أنه عندما يرتكب نموذج الانتشار هلوسة (مثل يد بست أصابع)، فإن الأمر ليس مجرد خطأ عشوائي؛ بل يحدث في جزء محدد من "المشهد الذهني" للنموذج (يُسمى المانيفولد/Manifold) حيث تكون الهندسة غير مستقرة.

تخيل بيانات التدريب الخاصة بالنموذج كأنها وادٍ سلس ومسطح تعيش فيه الأيدي الحقيقية.

التوليد الطبيعي: يسير النموذج بسلاسة على أرضية الوادي، فينتج أيدي مثالية.
الهلوسة: يخطو النموذج على حافة مهتزة وغير مستقرة. هنا، يبدو أن الأرض تحتوي على أبعاد إضافية غير مرئية. ولأن الأرض متذبذبة، يخترع النموذج بالخطأ أصابع إضافية أو عيوناً غير متناسقة.

يسمي المؤلفون عدم الاستقرار هذا بـ "عدم استقرار المانيفولد المحلي" (Local Manifold Instability - LMI). الأمر يشبه محاولة المشي على "ترامبولين" يتمدد في اتجاهات غريبة؛ قد ينتهي بك الأمر بالقفز نحو شكل لم تكن تنوي الوصول إليه.

2. الاكتشاف: قياس "التذبذب"

للعثور على هذه البقع المتذبذبة، نظر المؤلفون في مفهوم يُسمى "البعد الجوهري المحلي" (Local Intrinsic Dimension - LID).

التشبيه: تخيل ورقة مسطحة (ثنائية الأبعاد) تطفو في غرفة ثلاثية الأبعاد. إذا نظرت إلى نقطة صغيرة على الورقة، فستشعر أنها مسطحة (2D). ولكن إذا كانت الورقة مجعدة أو إذا كان النموذج يهلوس، فقد تشعر فجأة أن تلك النقطة لديها اتجاهات إضافية غير ضرورية للحركة (مثل 3D أو 4D).
النتيجة: تُظهر الورقة أنه عندما يوشك النموذج على ارتكاب خطأ (مثل إضافة إصبع إضافي)، فإن "بُعد" المساحة التي يسير فيها يتضخم فجأة. وكأن النموذج يحاول السير في اتجاه لا ينبغي أن يكون موجوداً.

لقد اختبروا ذلك عبر إنشاء مرشح (Filter) يبحث عن هذه "الأبعاد المتضخمة". ووجدوا أن هذا المرشح أفضل في رصد الأيدي السيئة مقارنة بالطرق السابقة التي كانت تراقب كيفية تغير الصورة بمرور الوقت.

3. الحل: "الإخماد الجوهري" (Intrinsic Quenching - IQ)

بمجرد معرفة أين تحدث الأخطاء (في البقاع المتذبذبة وعالية الأبعاد)، ابتكروا حلاً يسمى "الإخماد الجوهري" (Intrinsic Quenching - IQ).

التشبيه: تخيل النموذج كسيارة تسير على طريق. عندما تصطدم بقعة وعرة وغير مستقرة (هلوسة)، تبدأ السيارة في الانحراف.
الإصلاح: يعمل الـ IQ كنظام تعليق ذكي. عندما تقترب السيارة من البقعة الوعرة، يكتشف النظام عدم الاستقرار. وبدلاً من ترك السيارة تنحرف، يقوم بدفعها بلطف للعودة إلى الجزء السلس والمستقر من الطريق. إنه يقوم بـ "تفريغ" الأبعاد الإضافية غير الضرية، مما يجبر النموذج على الالتزام بالقواعد المنطقية والواقعية (مثل "الأيدي لها خمس أصابع فقط").

أطلقوا عليه اسم "الإخماد" (Quenching) لأنه يشبه عملية تبريد معدن ساخن وغير مستقر لجعله صلباً ومستقراً مرة أخرى.

4. هل نجح الأمر؟

اختبر المؤلفون هذا الحل في مهام مختلفة:

رسم الأيدي: أظهروا أن الـ IQ قلل بشكل كبير من عدد الأيدي ذات الأصابع الستة مقارنة بالطرق الأخرى.
التصوير الطبي: اختبروه في إعادة بناء صور الأشعة المقطعية للدماغ (الصور التي يستخدمها الأطباء). في هذه الحالة، يمكن أن تبدو الهلوسة كأنها ورم مزيف أو جزء مفقود من الدماغ، وهو أمر خطير. ساعد الـ IQ في ضمان أن الصور المعاد بناؤها صحيحة تشريحياً دون اختراع أمراض وهمية.
الوجوه والحيوانات: أدى أيضاً إلى تحسين جودة الوجوه المولدة وصور الحيوانات، مما جعلها تبدو أكثر طبيعية.

ملخص

تزعم الورقة أن هلوسات الذكاء الاصطناعي تحدث لأن النموذج يتوه في الأجزاء "المتذبذبة" من رياضياتهم الخاصة. ومن خلال قياس هذا التذبذب (باستخدام البعد الجوهري المحلي) ودفع النموذج بلطف للعودة إلى الأرض المستقرة (باستخدام الإخماد الجوهري)، يمكننا منع الذكاء الاصطناعي من اختراع أشياء مستحيلة مثل الأيدي ذات الأصابع الستة أو الأورام المزيفة. إنها طريقة لتعليم الذكاء الاصطناعي البقاء على "الأرض الصلبة" للواقع.

ملخص تقني: البعد الجوهري المحلي يكشف عن الهلوسات في نماذج الانتشار

بيان المشكلة

تتعرض نماذج الانتشار (DMs) لظاهرة توليد "الهلوسات الهيكلية": وهي عينات تتوافق مع الخصائص الإحصائية لبيانات التدريب ولكنها تنتهك القواعد الفيزيائية أو المنطقية أو المورفولوجية الكامنة (مثل أيدٍ بستة أصابع أو عيون غير متوازنة). وبينما عزت أعمال حديثة هذه الإخفاقات إلى الاستيفاء النمطي (mode interpolation) وعدم الاستقرار الزمني أثناء العملية العكسية، إلا أن التعريف الرسمي والآلية القوية للوقاية منها لا يزالان يمثلان تحديات مفتوحة. وتعتمد طرق التحديد الحالية بشكل كبير على الإدراك البشري، كما أن استراتيجيات التخفيف الموجودة غالبًا ما تتطلب بيانات تدريب إضافية، أو مصنفات خارجية، أو افتراضات معمارية محددة.

المنهجية

يقترح المؤلفون تحولًا من تحليل السلوك التوليدي الزمني إلى فحص عدم الاستقرار المحلي للمناطقية (Manifold) المستحثة من قبل النموذج. نهجهم قائم على فرضية المناطق الطبقية (stratified manifold hypothesis)، بافتراض أن البيانات عالية الأبعاد تكمن في مناطق فرعية منخفضة الأبعاد، وأن نماذج الانتشار تتعلم التقريبات الإحصائية لهذه الطبقات.

1. الأساس النظري: البعد الجوهري المحلي (LID)

الرؤية الجوهرية هي أن الهلوسات الهيكلية تظهر كـ عدم استقرار للمنطقية المحلية (LMI)، والذي يُدفع مباشرة بواسطة البعد الجوهري المحلي (LID) للعينة المولدة على المنطقة المستحثة من النموذج ( $M_\theta$ ).

LMI كوكيل: يعرّف المؤلفون LMI بأنه أثر مصفوفة التباين لمخرجات المولد تحت اضطرابات صغيرة. وقد أثبتوا نظريًا (الافتراض 1) أن LMI يتناسب تقريبًا مع مجموع القيم المفردة المربعة لمصفوفة جاكوبي (Jacobian) للمولد، والمقطوعة بواسطة الـ LID.
LID كمحرك: يوضحون أن الهلوسات تحدث عندما يبالغ نموذج الانتشار في تقدير تعقيد العينة، مما يؤدي إلى تضخم الـ LID. هذا التضخم يقدم "أبعادًا زائفة" (درجات حرية غير منطقية) أو يبالغ في تقدير القيم المفردة الصالحة، مما يؤدي إلى اتجاهات غير مستقرة وخارج حدود المنطقة (off-manifold).
التقدير: بالاستفادة من النتائج الحديثة، يوضح المؤلفون أن خسائر تدريب الانتشار القياسية (مطابقة درجة الضجيج - Denoising Score Matching - ومطابقة درجة المعلومات - Information Score Matching) توفر مقدرات فعالة وغير متحيزة للـ LID ( $L_{ID\theta}$ ) للخطوات الزمنية الصغيرة.

2. الإخماد الجوهري (Intrinsic Quenching - IQ)

لمعالجة حالات عدم الاستقرار هذه، يقترح المؤلفون الإخماد الجوهري (IQ)، وهو آلية تصحيحية تعمل على "تقليص" الـ LID ديناميكيًا أثناء عملية التوليد.

الآلية: يقوم الـ IQ بتعديل دالة درجة (score function) العملية العكسية عن طريق طرح حد التدرج المشتق من طاقة الـ LID ( $E(x_t) = LID_\theta(\hat{x}^\theta_0(x_t))$ ).
الضمان النظري: يثبت النظرية 2 أن هذا التعديل يكافئ أخذ عينات من توزيع بولتزمان الذي يعاقب حالات الـ LID المرتفعة، مما يوجه المسار بفعالية نحو طبقات أقل أبعادًا وأكثر استقرارًا في المنطقة.
استراتيجية التنفيذ:
- النافذة الزمنية: يتم تطبيق التصحيح فقط ضمن فترة زمنية مبكرة وضيقة من العملية العكسية ( $t \in [t_1, t_2]$ ) حيث تكون هندسة المنطقة (manifold geometry) في أكثر حالاتها حرجًا ويكون مقدر الـ LID صالحًا.
- التحجيم الديناميكي: يتم تحجيم قوة التوجيه ( $\lambda_t$ ) بشكل تكيفي للحفاظ على نسبة ثابتة بالنسبة لخطوة التحديث الطبيعية، مما يضمن الاستقرار.
- الترشيح: لتجنب تقييد العينات الصالحة بشكل مفرط، يتم تعطيل الـ IQ للعينات التي يقل فيها طاقة الـ LID المقدرة عن عتبة تعتمد على الزمن ( $q_t$ )، والتي يتم تحديدها بواسطة المئوية لتوزيع مرجعي.

المساهمات الرئيسية

منظور هندسي للهلوسات: تعيد الورقة صياغة الهلوسات الهيكلية كحالات عدم استقرار في المنطقة المستحثة من النموذج، وتحدد تضخم البعد الجوهري المحلي (LID) كمحرك أساسي لها.
كشف متفوق: يوضح المؤلفون أن المرشح القائم على الـ LID يتفوق على المرشحات الزمنية الحديثة (مثل مرشح تباين المسار - Trajectory Variance Filter) في الفصل بين العينات الصحيحة والهلوسات عبر مجموعات بيانات متعددة.
الإخماد الجوهري (IQ): يقدمون آلية تصحيحية مباشرة ومستقلة عن النموذج تقلل من الهلوسات عن طريق تقليص الـ LID ديناميكيًا أثناء التوليد. وعلى عكس الطرق الأخرى، لا يتطلب الـ IQ أي بيانات تدريب إضافية، أو مصنفات خارجية، أو تعديلات معمارية.
تطبيق التصوير الطبي: تم التحقق من صحة الطريقة في إعادة بناء الأشعة المقطعية منخفضة الجرعة (low-dose CT)، مما أظهر قدرتها على تقليل الهلوسات التشخيصية (مثل الأمراض المصطنعة) مع الحفاظ على جودة إعادة البناء.

النتائج التجريبية

قيم المؤلفون الـ IQ مقابل خطوط الأساس بما في ذلك التوجيه الديناميكي (DG)، وتعديل الانتباه التكيفي (AAM)، وRODS عبر مجموعات بيانات اصطناعية (GaussianGrid, SimpleShapes, MNIST) ومجموعات صور طبيعية (11kHands, FFHQ, AFHQV2).

تقليل الهلوسة: تفوق الـ IQ باستمرار على جميع خطوط الأساس. في مجموعة بيانات 11kHands، قلل الـ IQ نسبة الهلوسة (HR) بنسبة تقارب 70% (من ~29% إلى ~9%) وحقق درجة تفضيل مستخدم (UP) بلغت 68%، متجاوزًا بشكل كبير الخط الأساسي (39.8%).
التصوير الطبي: في إعادة بناء الأشعة المقطعية منخفضة الجرعة (مجموعة بيانات RSNA)، طابق الـ IQ مكاسب الأداء التشخيصي لـ DG (الذي يتطلب تسميات الحقيقة الأرضية للتدريب) مع الحفاظ بدقة على مقاييس إعادة بناء الصورة (FID, PSNR, SSIM). حسن الـ IQ متوسط الدقة (mAP) للنزيف من 0.27 (الخط الأساسي) إلى 0.31.
دراسات الاستئصال (Ablation Studies): أكدت التجارب أن الطريقة أكثر فعالية عند تطبيقها في الخطوات الزمنية المبكرة وأن استراتيجية الترشيح الديناميكي ضرورية لمنع "الضغط الزائد" للعينات نحو الأنماط (modes)، مما قد يؤدي إلى تدهور مقايسات التنوع.

الأهمية والادعاءات

تدعي الورقة أن الـ IQ يوفر حلاً عالميًا وعمليًا لفرض الاتساق التشريحي في النمذجة التوليدية، لا سيما للمهام اللاحقة حيث تشكل الهلوسات مخاطر أمنية، مثل التصوير الطبي.

رؤية نظرية: يوفر العمل تفسيرًا هندسيًا للهلوسات، ويربطها بالتوسع المفرط في أبعاد المنطقة المستحثة من النموذج.
المنفعة العملية: من خلال العمل دون مصنفات خارجية أو إعادة تدريب، يُقدم الـ IQ كحل واعد للغاية "صفر استباقي" (zero-shot) لتحسين موثوقية نماذج الانتشار في سيناريوهات صنع القرار في العالم الحقيقي.
القيود: يقر المؤلفون بتواضع بأن التقييم لا يزال يمثل عقبة بسبب الطبيعة الذاتية للتعليق البشري على الفشل الهيكلي. كما أشاروا إلى أن الـ IQ يضيف عبئًا حسابيًا متوسطًا (أبطأ بنسبة 20% تقريبًا من الخط الأساسي، ولكنه أسرع من متغيرات RODS)، وأن إيجاد مقدرات LID أقل تكلفة يعد اتجاهًا ضروريًا للتحسين المستقبلي.