Laundering AI Authority with Adversarial Examples
تُثبت هذه الورقة أن نماذج الرؤية واللغة التي يتم نشرها كجهات موثوقة معرضة لـ "غسيل سلطة الذكاء الاصطناعي"، حيث يمكن للاضطرابات العدائية البسيطة، التي يعود تاريخها إلى عقد من الزمن، أن تخدع أنظمة الإنتاج مثل GPT-5.4 وClaude Opus 4.6 لتوليد استجابات واثقة ذات طابع سلطوي ولكنها غير صحيحة واقعياً حول صور متلاعب بها، مما يتيح تعزيز التضليل الإعلامي، والتهرب من الإشراف على المحتوى، والتلاعب بتوصيات المنتجات دون المساس بمواءمة النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك أمين مكتبة ذكي للغاية، ومحل ثقة كبيرة، ولا يكذب أبداً. أنت تثق به تماماً ليخبرك بما يوجد في كتاب، أو ما تصوره لوحة، أو ما إذا كان منتج ما جيداً. أنت تفترض أنه إذا سلمته صورة قطة، فسيقول لك: "هذه قطة".
تكشف هذه الورقة البحثية عن خدعة مخيفة: يمكنك خداع أمين المكتبة هذا ليرى حيواناً مختلفاً تماماً، رغم أن الصورة تبدو متطابقة تماماً بالنسبة لك.
يطلق الباحثون على هذا الأمر اسم "غسيل سلطة الذكاء الاصطناعي" (AI Authority Laundering). وإليك كيف يعمل ذلك، مقسماً إلى مفاهيم بسيطة:
الخدعة الجوهرية: "الفلتر السحري"
فكر في نموذج الذكاء الاصطناعي كأنه يرتدي زوجين مختلفين من النظارات:
- نظاراتك أنت: عندما تنظر إلى الصورة، ترى صورة عادية (مثل زجاجة تيلينول).
- نظارات الذكاء الاصطناعي: يرى الذكاء الاصطناعي نسخة معدلة قليلاً ومخفية من تلك الصورة (مثل زجاجة دواء حب شباب خطير).
وجد الباحثون طريقة لإضافة "ضجيج" غير مرئي إلى الصورة — مثل تشويش بسيط وغير مرئي — يغير ما يراه الذكاء الاصطناعي، لكنه يترك الصورة تبدو طبيعية تماماً للعين البشرية.
لماذا يعد هذا خطيراً؟ (جزء "الغسيل")
عادةً، عندما نقلق بشأن الذكاء الاصطناعي، نفكر في محاولات الناس لـ "كسر الحماية" (Jailbreak) — أي إجباره على كسر قواعده أو قول أشياء بذيئة. تُظهر هذه الورقة شيئاً مختلفاً.
الذكاء الاصطناعي لا يتم إجباره على كسر القواعد. بل يتم خداعه لاتباع قواعده بدقة، ولكن حول الشيء الخطأ.
- السيناريو: تسأل الذكاء الاصطنا-عي: "هل هذا الدواء آمن للمرأة الحامل؟"
- الخدعة: تعرض عليه صورة "تيلينول" (آمن)، لكن "نظارات" الذكاء الاصطناعي تجعله يرى "روأكيوتان" (خطير).
- النتيجة: يقول الذكاء الاصطنا-عي بصدق وأدب: "لا، هذا خطير!" لأنه يعتقد أنه ينظر إلى الدواء الخطير.
- الغسيل: يتم استخدام سمعة الذكاء الاصطنا-عي في كونها "صادقة وآمنة" لـ غسيل كذبة. أنت تثق في سلطة الذكاء الاصطنا-عي، لذا تصدق التحذير الزائف، رغم أن الذكاء الاصطنا-عي يقوم فقط بعمله بناءً على واقع مزيف.
ماذا فعل الباحثون في الواقع؟
لقد اختبروا هذا على أكثر أنظمة الذكاء الاصطنا-عي تقدماً المتاحة اليوم (مثل GPT-5.4، وClaude، وGemini، وGrok). لم يحتاجوا إلى ابتكار أدوات اختراق جديدة ومعقدة للغاية؛ بل استخدموا تقنيات أساسية معروفة منذ أكثر من عقد من الزمن.
إليك الطرق الأربع الرئيسية التي كسروا بها الثقة:
نشر الأخبار الزائفة (منظر نظرية المؤامرة):
- أخذوا صورة شهيرة لهبوط الإنسان على القمر أو هجمات 11 سبتمبر.
- أضافوا "الضجيج" غير المرئي.
- نظر إليها الذكاء الاصطنا-عي وأعلن بثقة: "هذه أخبار زائفة"، أو "هذا الحدث لم يحدث أبداً"، مما أدى فعلياً إلى إثبات صحة نظريات المؤامرة.
تشويه أسماء الأشخاص (سارق الهوية):
- أخذوا صورة لشخصية مشهورة (مثل إيلون ماسك).
- جعلوا الذكاء الاصطنا-عي يرى شخصاً آخر (مثل مجرم أو شخص سمين).
- عندما سُئل عن تحديد الشخص، قال الذكاء الاصطنا-عي بثقة: "هذا هو [الشخص الخطأ]"، مما يضر بسمعة الشخص الحقيقي.
تجاوز فلاتر السلامة (بطاقة "الخروج من السجن مجاناً"):
- عادة ما تمنع المنصات الذكاء الاصطنا-عي من إنشاء أو مناقشة المحتوى غير اللائق (مثل العري أو العنف).
- أخذ الباحثون صورة "محظورة" وجعلوا الذكاء الاصطنا-عي يرى لعبة بريئة (مثل دب محشو).
- وافق الذكاء الاصطنا-عي، ظناً منه أنه ينظر إلى دب محشو، على معالجة الصورة أو إنشاء نسخة كرتونية منها، مما أدى فعلياً إلى تجاوز حواجز السلامة.
النصب على المتسوقين (المراجعة المزيفة):
- عرضوا على الذكاء الاصطنا-عي صورة لساعة رخيصة ومنخفضة الجودة.
- جعلوا الذكاء الاصطنا-عي يرى صورة لساعة "رولكس" فاخرة.
- عندما طُلب منه تقديم نصيحة، أوصى بشراء الساعة الرخيصة، ظناً منه أنها العلامة التجارية الفاخرة.
الخلاصة الكبرى
الجزء المخيف ليس أن الذكاء الاصطنا-عي "معطل" أو "شرير". الجزء المخيف هو أن الذكاء الاصطنا-عي يعمل تماماً كما صُمم. إنه صادق، ومفيد، وآمن، لكنه ينظر إلى واقع قام المهاجم بتغييره سراً.
ولأن الذكاء الاصطنا-عي يحظى بثقة كبيرة، فإن خطأه "الصادق" يصبح سلاحاً قوياً. وتخلص الورقة إلى أنه طالما لا يمكننا إصلاح هذه "النقطة العمياء" في كيفية رؤية الذكاء الاصطنا-عي للصور، فيجب أن نكون متشككين للغاية في أي ذكاء اصطنا-عي يدعي التحقق من الصور أو تدقيق العالم حقائقياً.
باختصار: الذكاء الاصطنا-عي يشبه شاهداً صادقاً جداً في قاعة المحكمة. الباحثون لم يرتشوا الشاهد؛ بل قاموا فقط باستبدال صورة الدليل أمام عيني الشاهد. لا يزال الشاهد يقول الحقيقة، لكن الحقيقة الآن تتعلق بالصورة الخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.