Imitation Game for Adversarial Disillusion with Chain-of-Thought Reasoning in Generative AI
تقترح هذه الورقة إطار دفاع موحد يسمى "لعبة التقليد"، والذي يستخدم عميلاً توليدياً متعدد الوسائط مدفوعاً بسلسلة من الأفكار لتحييد الأوهام العدائية الاستنتاجية والاستقرائية من خلال إعادة بناء الجوهر الدلالي للمدخلات بدلاً من عكسها إلى حالتها الأصلية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
المشكلة الكبيرة: خداع عقل الآلة
تخيل أن لديك حارس أمن ذكي جداً (الذكاء الاصطناعي) تم تدريبه على التعرف على الأشخاص والأشياء. عادةً، يكون هذا الحارس بارعاً في عمله. ولكن، هناك طريقتان مخادعتان لخداعه:
1. خدعة "الاستنتاج" (القناع غير المرئي):
فكر في هذا كأنه مُزور ماهر درس كتاب القواعد الخاص بالحارس. يقوم المزور بإجراء تغيير طفيف، يكاد يكون غير مرئي، على صورة ما — مثل إضافة بضع بكسلات من الضجيج التي تشبه التشويش في التلفزيونات القديمة. بالنسبة للإنسان، تبدو الصورة كما هي تماماً. ولكن بالنسبة للذكاء الاصطناعي، تعمل هذه التغييرات الصغيرة كـ "تعويذة سحرية" تجبر الحارس على القول: "هذا ليس كلباً، بل هو محمصة خبز!". الذكاء الاصطناعي يتبع منطقه الخاص، لكن المدخلات قد تم التلاعب بها لكسر ذلك المنطق.
2. خدعة "الاستقراء" (التدريب المسموم):
هذا مختلف. فبدلاً من خداع الحارس أثناء نوبة عمله، يتسلل الأشرار إلى مدرسة تدريب الحارس قبل أن يبدأ عمله. يقومون بزرع "مُحفز" سري في المواد التدريبية. على سبيل المثال، يعلمون الحارس: "إذا رأيت صورة بها مربع أبيض صغير في الزاوية، فهي دائماً قنبلة". لاحقاً، عندما يرى الحارس صورة غير ضارة تحتوي على نفس المربع الأبيض، يصاب بالذعر ويقول إنها قنبلة. لقد تمت إعادة صياغة عقل الحارس ليتفاعل مع محفز محدد.
يطلق البحث على هذه الحالات اسم "الأوهام الخصمية" (Adversarial Illusions). إنها تشبه الأوهام البصرية للحواسيب، والتي تجعلها ترى أشياء غير موجودة أو تغفل عن أشياء موجودة بالفعل.
الطريقة القديمة للإصلاح: مرشح "إزالة الضجيج"
تقليدياً، عندما يتعرض الذكاء الاصطناعي للخداع، يحاول الخبراء "تنظيف" الصورة. يعاملون الخدعة كأنها بقعة اتساخ على عدسة. يستخدمون مرشحات (مثل ضغط JPEG أو نماذج الانتشار/Diffusion) لفرك الصورة، آملين في إزالة "الضجيج" واستعادة الصورة الأصلية.
العيب: هذا يشبه محاولة تنظيف نافذة متسخة بقطعة قماش. أحياناً ينجح الأمر، ولكن غالباً ما ينتهي بك الأمر بمسح الأوساخ أو جعل الرؤية ضبابية لدرجة أنك لا تستطيع التعرف على الشخص خلف الزجاج بعد الآن. الطرق القديمة تحاول جعل الصورة تبدو تماماً مثل الأصلية، وهو أمر يصعب تحقيقه بدقة.
الفكرة الجديدة: "لعبة التقليد"
يقترح المؤلفون نهجاً مختلفاً تماماً. بدلاً من محاولة تنظيف النافذة المتسخة، يقترحون توظيف فنان مبدع لينظر إلى الصورة ويرسم واحدة جديدة من الصفر.
إليك كيف تعمل "لعبة التقليد" الخاصة بهم:
1. الفنان (وكيل الذكاء الاصطناعي): يستخدمون ذكاءً اصطناعياً قوياً (مثل ChatGPT مدمج مع DALL-E) يجيد فهم الصور وإنشاء صور جديدة في آن واحد.
2. القواعد (سلسلة الأفكناء/Chain-of-Thought): يعطون الفنان مجموعة خاصة من التعليمات. يقولون للفنان: "انظر إلى هذه الصورة. تظاهر بأنك لم ترَ هذا الشيء من قبل. لا تحاول نسخ البكسلات بدقة. بدلاً من ذلك، فكر فيما يجعل هذا الشيء فريداً. ما هي أشكاله الرئيسية؟ ألوانه؟ ملمسه؟ الآن، ارسم صورة جديدة تماماً لهذا الشيء بناءً على فهمك."
3. النتيجة: يتجاهل الفنان "التعاويذ السحرية" الصغيرة غير المرئية أو "المحفزات المسمومة" لأنها ليست جزءاً من الجوهر الحقيقي للشيء. هم يركزون فقط على المعنى الجوهري. ينتجون صورة جديدة ونظيفة تبدو مثل الشيء الأصلي ولكنها خالية من الخدع.
التشبيه:
تخيل أن طفلاً عُرِضت عليه رسمة لقطة تم التلاعب بها بمداد غير مرئي يجعل الطفل يعتقد أنها كلب.
- الطريقة القديمة: تحاول مسح الخربشات. العملية فوضوية، وقد تمسح شارب القطة أيضاً.
- الطريقة الجديدة: تسأل الطفل، "كيف يبدو القط؟". يفكر الطفل: "القطط لها آذان مدببة، وشارب، وذيل". ثم يرسم الطفل قطة جديدة من ذاكرته. الخربشات بالمداد غير المرئي اختفت لأن الطفل لم ينسخها؛ بل تذكر فقط ما هو القط حقاً.
ما وجدوه
اختبر الباحثون هذه الفكرة في مختبر باستخدام مجموعة قياسية من 10 أشياء (مثل كرة جولف، أو كنيسة، أو مظلة). هاجموا الذكاء الاصطناعي بكلتا الطريقتين من الخدع (القناع غير المرئي والتدريب المسموم).
- النتائج: ساعدت طرق التنظيف القديمة (مثل مرشحات JPEG) قليلاً، لكنها غالباً ما جعلت الذكاء الاصطناعي مرتبكاً أو أصلحت نصف المشكلة فقط.
- الفائز: نجحت "لعبة التقليد" بشكل مذهل. لقد نجحت في "إزالة الوهم" عن الذكاء الاصطناعي في معظم الحالات. سواء كانت الخدعة عبارة عن ضجيج خفي أو ثغرة عميقة الجذور، استطاع "الفنان الذكي" النظر عبر الخدعة، وفهم الشيء، وتوليد نسخة نظيفة يمكن لحارس الأمن التعرف عليها بشكل صحيح.
الخلاصة
يجادل البحث بأننا لسنا بحاجة إلى استعادة الصورة المتضررة بدقة لإصلاح خطأ الذكاء الاصطناعي. بدلاً من ذلك، يمكننا استخدام ذكاء اصطناعي مبدع وذكي لـ إعادة تخيل الشيء. من خلال التركيز على جوهر ماهية الشيء، بدلاً من بكسلات الصورة المحددة، يمكننا تجريد الخدع واستعادة قدرة الذكاء الاصطناعي على رؤية الحقيقة.
يعترف المؤلفون بأنه من الصعب محاكاة ذكاء اصطناعي لا يعرف شيئاً عن شيء ما بدقة، وهم قلقون بشأن اللوائح التنظيمية للذكاء الاصطناعي، لكن رسالتهم الأساسية واضحة: أحياناً، أفضل طريقة لرؤية ما وراء الوهم هي تخيل الحقيقة من الصفر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.