← أحدث الأبحاث
🤖 AI

Poisoned Identifiers Survive LLM Deobfuscation: A Case Study on Claude Opus 4.6

تُظهر هذه الدراسة أن نموذج Claude Opus 4.6 يحتفظ بشكل متكرر بأسماء المعرفات المسمومة من لغة جافا سكريبت (JavaScript) المموّهة حتى عندما يفهم ويشرح دلالات الكود بشكل صحيح، رغم أن هذا الاستمرار يمكن تقليله بشكل كبير عبر إعادة صياغة المهمة من فك التمويه إلى التنفيذ الجديد.

المؤلفون الأصليون: Luis Guzmán Lorenzo

نُشر 2026-04-07
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Luis Guzmán Lorenzo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الكبرى: "الشبح في الآلة"

تخيل أنك استأجرت مترجماً بارعاً لترجمة كتاب سري مشفر إلى اللغة الإنجليزية. يحتوي الكتاب على خدعة مخفية: المؤلف استبدل جميع الكلمات الحقيقية بكلمات مزيفة ومضللة (مثل تسمية "المكابح/الفرامل" بـ "دواسة البنزين").

أنت تقول للمترجم: "يرجى فك تشفير هذا، ولكن تأكد من التحقق من المعنى. إذا كانت الكلمة تقول 'دواسة البنزين' ولكن الصورة تظهر سيارة تتوقف، اكتب 'مكابح' بدلاً من ذلك".

النتيجة الصادمة: يقرأ المترجم الكتاب، ويفهم تماماً أن السيارة تتوقف، بل ويكتب ملاحظة في الهامش قائلاً: "من الواضح أن هذه مكابح". ولكن، عندما يكتب الجملة النهائية، لا يزال يستخدم الكلمة المزيفة: "اضغط على دواسة البنزين للتوقف".

تثبت هذه الورقة أن حتى أذكى أنظمة الذكاء الاصطناعي (Claude Opus 4.6) ستستمر غالباً في الاحتفاظ بالأسماء "المسمومة" في الكود الذي تكتبه، حتى عندما تعرف أن تلك الأسماء خاطئة.

التجربة: طريقتان للسؤال

اختبر الباحثون هذا على نوعين من البرامج الحاسوبية:

  1. محاكاة فيزيائية: برنامج يحاكي كيفية تجاذب وتنافر الجسيمات (مثل المغناطيس).
  2. خوارزمية تحديد المسار: برنامج يجد أقصر طريق عبر متاهة.

قاموا بتشفير الكود (Obfuscation) واستبدال أسماء المتغيرات الحقيقية بأسماء "مسمومة". على سبيل المثال، قاموا بتغيير اسم repulsion (التنافر/الدفع بعيداً) إلى attraction (التجاذب/السحب نحو الداخل).

جربوا طريقتين مختلفتين لطلب الإصلاح من الذكاء الاصطناعي:

1. نهج "المترجم" (إزالة التشفير - Deobfuscate)

الأمر (Prompt): "هذا كود مشفر. يرجى فك تشفيره وإعادة كتابته بوضوح."
النتيجة: تصرف الذكاء الاصطناعي كمترجم حرفي صارم. رأى قائمة الأسماء المشفرة (جدول السلاسل النصية) وقام ببساطة بنسخها كما هي، رغم أنها خاطئة.

  • نسبة نجاح السم: 100%. احتفظ الذكاء الاصطناعي بالأسماء الخاطئة.
  • الجزء الغريب: كتب الذكاء الاصطناعي تعليقات تقول: "هذا المتغير يتحكم في التنافر"، لكن الكود نفسه لا يزال يقول attraction. كان الأمر يشبه شخصاً يقول: "أنا آكل شطيرة"، بينما هو يمسك بصورة لبيتزا.

2. نهج "المهندس المعماري" (إعادة الكتابة من الصفر - Rewrite from Scratch)

الأمر (Prompt): "لا تكتفِ بفك التشفير فقط. تجاهل الأسماء الأصلية. اكتب برنامجاً جديداً كلياً من الصال يبدأ بنفس الوظيفة."
النتيجة: توقف الذكاء الاصطناعي عن التصرف كمترجم وبدأ يتصرف كبناء. نظر إلى ما يفعله الكود فعلياً وأعطى المتغيرات الأسماء الصحيحة.

  • نسبة نجاح السم: انخفضت إلى 0% أو 20%. لقد قام الذكاء الاصطناعي بإصلاح الأسماء!

الدرس المستفاد: إخبار الذكاء الاصطناعي بأن "يراجع عمله" لم يساعد. ولكن تغيير "الوصف الوظيفي" من "مترجم" إلى "بناء" هو ما حل المشكلة.

مفاجأة "الارتباط الصفري" (Zero-Fit)

اعتقد الباحثون أن الذكاء الاصطناعي احتفظ بالأسماء الخاطئة لأن الأسماء المزيفة بدت "منطقية" (على سبيل المثال، تسمية "المكابح" بـ "الكلتش/القابض" تبدو كقطعة من أجزاء السيارة).

لذا، جربوا شيئاً سخيفاً. استبدلوا الأسماء بكلمات ليس لها أي علاقة بالسياق.

  • بدلاً من repulsion (تنافر)، استخدموا combustion (احتراق).
  • بدلاً من heuristic (مصطلح رياضي)، استخدموا invoice (فاتورة).

النتيجة: ظل الذكاء الاصطناعي يحتفظ بالأسماء الخاطئة بنسبة 100%!
لماذا؟ يعتقد الباحثون أن الذكاء الاصطناعي ينظر إلى القائمة بأكملها. إذا بدت القائمة كأنها تنتمي لـ "مجال" متسق (مثل قطع السيارات)، فإن الذكاء الاصطناعي يثق بها. أما إذا كانت القائمة عبارة عن مجموعة عشوائية من الكلمات، فإنه يرتبك ويعود تلقائياً للاحتفاظ بأسماء "المصدر" الأصلية لأنه لا يملك بديلاً أفضل لاستبدالها به.

لماذا يهم هذا؟ (مضاعف التكلفة)

خلصت الورقة إلى أن هذا ليس وسيلة لإخفاء الكود للأبد (يمكن للهكر قراءته يدوياً). بدلاً من ذلك، هي وسيلة لجعل حياة الذكاء الاصطناعي مكلفة ومزعجة.

  • التشبيه: تخيل حارس أمن (الذكاء الاصطناعي) يفحص مبنى.
    • الكود الطبيعي: يدخل الحارس، يرى اللافتات، ويقول: "كل شيء آمن". (سريع وغير مكلف).
    • الكود المسموم: يدخل الحارس، يرى اللافتات تقول "مخرج" بينما الباب عبارة عن جدار. يكتب الحارس تقريراً يقول فيه: "هذا مخرج"، لكنه لا يزال يكتب "مخرج" على الخريطة. الآن، يجب على الإنسان قضاء 3 ساعات في إعادة فحص الخريطة لإصلاح أخطاء الذكاء الاصطناعي.

الخلاصة:

  1. لا تثق في قدرة الذكاء الاصطناعي على "التحقق من نفسه". إذا قلت له "راجع عملك"، فسيظل ينسخ "السم".
  2. غيّر المهمة. إذا كنت تريد كوداً نظيفاً، اطلب من الذكاء الاصطناعي "بناء واحد جديد من الصفر" بدلاً من "إصلاح هذا القديم".
  3. خطأ "التمثيل المزدوج": الذكاء الاصطناعي ذكي بما يكفي لمعرفة الحقيقة (في التعليقات) ولكنه عنيد بما يكفي للاحتفاظ بالكذبة (في الكود).

ملخص في جملة واحدة

سيقوم حتى أذكى أنظمة الذكاء الاصطناعي بنسخ الأسماء "المسمومة" من الكود المشفر إذا طلبت منه الترجمة، لكنه سيقوم بإصلاحها إذا طلبت منه بناء شيء جديد، مما يثبت أن طريقة طرح السؤال أهم من مدى شدة إلحاحك عليه ليكون حذراً.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →