⚡ electrical engineering

Triggering hallucinations in model-based MRI reconstruction via adversarial perturbations

تُظهر هذه الدراسة أن النماذج التوليدية المتطورة لإعادة بناء صور الرنين المغناطيسي معرضة للغاية لاستحثاث هلاوس خطيرة من خلال اضطرابات تنافسية صغيرة، وهي ثغرة تتملص من مقاييس الجودة التقليدية وتبرز الحاجة الملحة لطرق كشف مبتكرة وتدريب تنافسي قوي.

المؤلفون الأصليون: Suna Buğday, Yvan Saeys, Jonathan Peck

نُشر 2026-02-24

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Suna Buğday, Yvan Saeys, Jonathan Peck

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مرمماً فنياً موهوباً وعالي التقنية. مهمة هذا المرمم هي أخذ رسم تخطيطي ضبابي، أو محبب، أو غير مكتمل لمخ مريض أو لركبة، وتحويله إلى لوحة صافية تماماً ومثالية يمكن للأطباء استخدامها لتشخيص الأمراض.

في عالم التصوير الطبي، هذا "المرمم" هو نموذج ذكاء اصطناعي. إنه بارع للغاية في عمله، وغالباً ما يجعل الصور تبدو أفضل من الطرق التقليدية القديمة. ولكن، مثل فنان مبدع قد يطلق العنان لخيال واسع أحياناً، فإن هذا الذكاء الاصطناعي لديه عادة خطيرة: وهي الهلوسة.

المشكلة: "أحلام اليقظة" للذكاء الاصطناعي

أحياناً، عندما يحاول الذكاء الاصطناعي ملء الأجزاء المفقودة من صورة رنين مغناطيسي ضبابية، فإنه لا يكتفي بالتخمين فحسب؛ بل يخترع أشياء ليست موجودة أصلاً.

قد يرسم ورماً صغيراً في دماغ سليم.
قد يمحو رباطاً مكسوراً في ركبة.

في السياق الطبي، هذا أمر مرعب. إذا رأى الطبيب ورماً وهمياً، فقد يجري عملية جراحية غير ضرورية. وإذا أغفل تمزقاً حقيقياً لأن الذكاء الاصطناعي قام بـ "تنظيفه"، فقد يعاني المريض.

التجربة: خدعة "الغبار السحري"

سأل الباحثون في هذه الورقة سؤالاً مخيفاً: "ما مدى سهولة خداع هذا الذكاء الاصطناعي ليدخل في حالة أحلام اليقظة؟"

لم يحتاجوا إلى كسر الذكاء الاصطناعي أو تغيير برمجته. بدلاً من ذلك، استخدموا تقنية تسمى الاضطرابات العدائية (adversarial perturbations). فكر في هذا الأمر كأنك ترش كمية ضئيلة وغير مرئية من "الغبار السحري" على البيانات الخام قبل أن يراها الذكاء الاصطناعي.

بالنسبة للعين البشرية: الغبار غير مرئي. يبدو الفحص الخام كما هو تماماً.
بالنسبة للذكاء الاصطناعي: يعمل الغبار كإشارة سرية تقول: "مهلاً، انظر هنا! ارسم خطاً وهمياً في المنتصف تماماً!"

اختبر الباحثون هذا على نموذجين شهيرين للذكاء الاصطناعي (يُسميان UNet و VarNet) باستخدام صور حقيقية للمخ والركبة. استخدموا خوارزمية حاسوبية لحساب مقدار "الغبار" المطلوب إضافته بالضبط لإجبار الذكاء الاصطناعي على رسم تفصيل وهمي محدد (مثل خط أبيض) في منتصف الصورة.

النتائج: بيت من ورق

كانت النتائج صادمة.

كان الأمر سهلاً للغاية: كانت نماذج الذكاء الاصطناعي هشة للغاية. بلمسة بسيطة وغير مرئية، بدأت فوراً في رسم هياكل وهمية.
الشيء "الوهمي" بدا حقيقياً: لم تكن الهلوسات مجرد ضجيج عشوائي؛ بل بدت كأنها سمات بيولوجية واقعية.
فشل نظام الإنذار: عادةً، عندما تكون الصورة سيئة، لدينا أدوات رياضية لقياسها (مثل التحقق من مدى "حدة" الصورة أو "تشابهها" مع الأصل). حاول الباحثون استخدام هذه الأدوات القياسية (مثل PSNR و SSIM وغيرها) لرصد الصور المزيفة.
- التشبيه: تخيل أنك تحاول معرفة ما إذا كانت اللوحة المزورة حقيقية أم لا عن طريق قياس حجم اللوحة. لقد صنع المزور اللوحة بنفس الحجم تماماً، لذا تقول مسطرتك: "إنها مثالية!"
- الواقع: لم تستطع الأدوات الرياضية التمييز بين المسح النظيف والمسح الذي يحتوي على هلوسة. الصور "السيئة" بدت "جيدة" تماماً مثل الصور الحقيقية وفقاً لهذه الاختبارات القياسية.

لماذا يهم هذا الأمر؟

تبدو هذه الورقة وكأنها تحذير من خبير أمني: "أفضل أقفالنا أسهل في الاختراق مما كنا نظن، وأجهزة الكشف عن المعادن لدينا لا تستطيع رؤية الأسلحة."

المخاطرة: إذا استُخدمت نماذج الذكاء الاصطناعي هذه في المستشفيات، فإن القليل من الضجيج الإحصائي (الذي يحدث طبيعياً في الأجهزة) قد يؤدي بالخطأ إلى تحفيز حالة من الهلوسة، مما يؤدي إلى تشخيص خاطئ.
الحل: لا يمكننا الاعتماد فقط على نماذج الذكاء الاصطناعي الحالية. نحن بحاجة إلى:
1. تدريبها بشكل أفضل: تعليم الذكاء الاصطناعي تجاهل خدع "الغبار السحري" هذه (التدريب العدائي).
2. بناء كواشف أفضل: إنشاء طرق جديدة وأكثر ذكاءً لرصد متى يكذب الذكاء الاصطناعي، لأن الأدوات الرياضية القديمة لا تعمل.

الخلاصة

الذكاء الاصطناعي مذهل في جعل الصور الطبية أكثر وضوحاً، لكن لديه نقطة ضعف خفية. يمكن خداعه ليرى أشياء ليست موجودة، وليس لدينا حالياً طريقة سهلة لكشف ذلك. هذا البحث هو دعوة للتحرك لجعل هذه الأدوات المنقذة للحياة أكثر متانة وأقل عرضة لـ "أحلام اليقظة" قبل أن نأتمنها على حياة المرضى.

ملخص تقني لورقة بحثية بعنوان: "تحفيز الهلوسة في إعادة بناء الصور بالرنين المغناطيسي القائم على النماذج عبر الاضطرابات العدائية"

1. بيان المشكلة

تتناول الورقة البحثية قضية الهلوسة (Hallucinations) الحرجة في إعادة بناء الصور الطبية القائمة على التعلم العميق، وتحديداً في التصوير بالرنين المغناطيسي (MRI).

السياق: تُستخدم النماذج التوليدية (مثل UNet وVarNet) بشكل متزايد لتسريع فحوصات الرنين المغناطيسي من خلال إعادة بناء الصور من بيانات "k-space" ناقصة العينات. وبينما تنتج هذه النماذج غالباً نتائج متفوقة بصرياً مقارنة بالخوارزميات الكلاسيكية (مثل FISTA)، إلا أنها تفتقر إلى الضمانات النظرية.
المخاطر: هذه النماذج عرضة لـ "الهلوسة"، حيث تقوم بإدراج ميزات غير موجودة في التشريح الأصلي (مثل إضافة ثلم/sulcus) أو إزالة آفات موجودة بالفعل (مثل مسح تمزق في الغضروف المفصلي). وفي السياق السريري، يمكن أن تؤدي مثل هذه الأخطاء إلى تشخيص خاطئ وإلحاق الضرر بالمريض.
الفجوة: لا توجد حالياً طريقة فعالة للكشف عن حدوث هذه الهلوسات. فمقاييس جودة الصورة التقليدية (PSNR، SSIM، NRMSE) تفشل في التمييز بين إعادة البناء النظيفة وإعادة البناء التي تحتوي على هلوسات، لأن الهلوسات غالباً ما تكون دقيقة أو تتداخل مقاييسها بشكل كبير مع النتائج الطبيعية.

2. المنهجية

يقترح المؤلفون هجوماً عدائياً مستهدفاً (Targeted Adversarial Attack) صُمم خصيصاً لاستفزاز الهلوسات في نماذج إعادة البناء الحديثة لدراسة مدى هشاشتها واختبار طرق الكشف عنها.

هدف الهجوم: الهدف هو صياغة اضطراب غير محسوس ( $\delta$ ) يُضاف إلى بيانات الـ k-space الخام ( $z$ ) بحيث تحتوي الصورة المعاد بناؤها ( $F(z+\delta)$ ) على تفصيل اصطناعي محدد (هلوسة) غير موجود في الحقيقة الأرضية (Ground Truth).
صياغة التحسين (Optimization Formulation): يتم إيجاد الاضطراب عن طريق حل مشكلة التحسين التالية:
$\delta^* = \arg \min_{\delta} \frac{\|m \odot (F(z + \delta) - y_t)\|_2^2}{\|m\|_1} + \frac{\|(1 - m) \odot (F(z + \delta) - F(z))\|_2^2}{\|1 - m\|_1}$
بشرط $\|\delta\|_\infty \leq \epsilon$ $∥ δ ∥_{\infty} \leq ϵ$ .
- $y_t$ : صورة مستهدفة حيث تم رسم معلمة اصطناعية (مثل خط أبيض) على إعادة البناء الأصلية.
- $m$ : قناع ثنائي (Binary Mask) يحدد منطقة الهلوسة.
- الحد الأول: يقلل الفرق بين إعادة البناء المضطربة والهدف (لفرض الهلوسة).
- الحد الثاني: يقلل الفرق بين إعادة البناء المضطربة وإعادة البناء الأصلية خارج منطقة الهدف (لضمان بقاء بقية الصورة أمينة للواقع).
- القيد: حجم الاضطراب ( $\epsilon$ ) محدود لضمان بقائه غير مرئي للعين البشرية.
تفاصيل التنفيذ:
- النماذج المختبرة: UNet وE2E-VarNet (End-to-End VarNet).
- البيانات: مجموعة بيانات fastMRI (ركبة أحادية ومتعددة الملفات، ودماغ متعدد الملفات).
- الخوارزمية: طريقة تكرارية مستوحاة من الطريقة الأساسية التكرارية (Basic Iterative Method - BIM). يعمل الهجوم على اضطرابات حقيقية لبيانات الـ k-space.
- ميزانية الاضطراب: $\epsilon = 1 \times 10^{-6}$ مع خطوة قدرها $1 \times 10^{-7}$ .

3. المساهمات الرئيسية

الاستفزاز النشط للهلوسات: طور المؤلفون خوارزمية نجحت في إحداث هلوسات محددة ومستهدفة في إعادة بناء الرنين المغناطيسي باستخدام ضوضاء غير محسوسة، مما أثبت أن هذه النماذج غير مستقرة للغاية.
إثبات فشل المقاييس: أثبتت الدراسة بدقة أن مقاييس جودة الصورة القياسية (PSPSN، SSIM، NRMSE) غير فعالة في اكتشاف الهلوسات. فقد تداخلت توزيعات هذه المقايسات لإعادة البناء "النظيفة" مقابل "المهلوسة" بشكل شبه كامل.
التحليل النوعي للانتشار: لاحظ المؤلفون أن الهجمات الناجحة غالباً ما تسبب تشوهات تمتد إلى ما وراء المنطقة المستهدفة، مما يخلق هياكل تبدو منطقية بيولوجياً ولكنها غير صحيحة في أماكن أخرى من الصورة.
الدعوة إلى دفاعات موثقة: تجادل الورقة بأن طرق الكشف التجريبية (Heuristic) غير كافية، وتدعو إلى اتباع نهج مبني على أسس رياضية (مثل الدفاعات الموثقة أو التدريب العدائي) لضمان الموثوقية في التصوير الطبي.

4. النتائج التجريبية

نجاح الهجوم: نجح الهجوم في إدراج المعالم المستهدفة (الخطوط) في عمليات إعادة البناء مع بقاء اضطرابات المدخلات غير مرئية.
- مساحة المدخلات: كانت المدخلات المضطربة غير قابلة للتمييز بصرياً عن المدخلات النظيفة (PSNR > 50 dB، SSIM $\approx$ 1.0).
- مساحة المخرجات: أظهرت عمليات إعادة البناء تدهوراً كبيراً في مقاييس الجودة (انخفض PSNR إلى حوالي 26–41 dB، وانخفض SSIM بشكل ملحوظ)، مما أكد وجود تشوهات.
فشل الكشف:
- حاول المؤلفون اكتشاف الهلوسات من خلال مقارنة إعادة البناء القائمة على النموذج ( $F(z)$ ) مع إعادة بناء كلاسيكية (Total Variation - TV) باستخدام المقاييس القياسية.
- النتيجة: تداخلت توزيعات PSNR وNRMSE وSSIM لـ "النماذج النظيفة" مقابل "النماذج المهلوسة" بالكامل تقريباً. لم يكن بالإمكان تحديد عتبة (Threshold) يمكنها الفصل بين الحالتين بشكل موثوق.
- يؤكد هذا أنه حتى عندما ينتج النموذج هلوسة، فإن الصورة الناتجة لا تزال تسجل درجات "جيدة" في المقاييس التقليدية مقارنة بإعادة البناء الكلاسيكية، مما يجعل الخطأ غير مرئي لعمليات مراقبة الجودة الآلية.
مقارنة النماذج: وُجد أن كلا النموذجين UNet وVarNet معرضان بشدة للهجوم. أظهر VarNet قدرة أفضل قليلاً على الصمود في بعض المقاييس، لكنه ظل عرضة للاختراق بسهولة.

5. الأهمية والتوجهات المستقبلية

المخاطر السريرية: تسلط النتائج الضوء على خطر سلامة شديد في نشر التعلم العميق في التصوير الطبي. فالضوضاء العفوية الصغيرة في جهاز الماسح الضوئي يمكن نظرياً أن تحفز هلوسة تؤدي إلى تشخيص خاطئ (مثل تشخيص وجود ورم حيث لا يوجد شيء).
محدودية المقاييس الحالية: تثبت الدراسة بشكل قاطع أن الاعتماد على PSNR أو SSIM أو NRMSE أمر خطير للتحقق من صحة النماذج التوليدية الطبية، لأنها لا تستطيع اكتشاف الهلوسات الهيكلية.
العمل المستقبلي:
- التدريب العدائي (Adversarial Training): استخدام الهجوم المقترح لتوليد بيانات تدريب لتحسين متانة النماذج.
- الدفاعات الموثقة رياضياً: الانتقال من الكشف التجريبي إلى طرق ذات ضمانات مثبتة (مثل استخدام نظرية الاستشعار المضغوط أو التنعيم المزيل للضوضاء) لاعتماد أن عملية إعادة البناء خالية من الهلوسة.
- آليات الكشف: تطوير كواشف جديدة ومتخصصة تتجاوز مقاييس جودة الصورة القياسية.

في الختام، تظهر الورقة أن نماذج إعادة بناء الرنين المغناطيسي الحديثة هشة وعرضة لتوليد هلوسات خطيرة لا يمكن اكتشافها بالوسائل التقليدية، مما يستوجب التحول نحو أطر إعادة بناء أكثر قوة وموثوقية من الناحية الرياضية.