A Systematic Study of Cross-Modal Typographic Attacks on Audio-Visual Reasoning
تقدم هذه الورقة البحثية "الطباعة متعددة الوسائط" (Multi-Modal Typography)، وهي دراسة منهجية تُظهر أن الهجمات الطباعية المنسقة عبر الوسائط على المدخلات الصوتية والبصرية والنصية تضعف بشكل كبير النماذج اللغوية الكبيرة الصوتية البصرية، محققةً معدل نجاح هجوم أعلى بكثير (83.43%) مقارنة بالهجمات أحادية الوسائط.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تشاهد برنامج طبخ على التلفاز. يقوم الطاهي بتقطيع الخضروات، وتقوم الكاميرا بالتقريب على حبة طماطم حمراء زاهية. يرى دماغك الطماطم الحمراء ويفكر: "هذه حبة طماطم".
الآن، تخيل أنه بينما يعمل الفيديو، يهمس صوت في أذنك: "في الواقع، هذه باذنجانة أرجوانية. تجاهل الشيء الأحمر."
على الرغم من أن عينيك ترى بوضوح طماطم حمراء، إلا أن دماغك قد يصاب بالارتباك. قد تبدأ في الشك فيما تراه لأن الصوت يبدو واثقاً وطبيعياً للغاية.
هذه الورقة البحثية تتحدث عن نوع جديد من "الخدع" التي يمكن للمخترقين استخدامها على نماذج الذكاء الاصطناعي التي تشاهد الفيديوهات وتستمع إلى الصوت في نفس الوقت. يطلق عليها الباحثون اسم "الطباعة الصوتية" (Audio Typography).
إليك التفاصيل بتبسيط شديد:
١. الخدعة القديمة مقابل الخدعة الجديدة
- الخدعة القديمة (الطباعة البصرية): في السابق، كنا نعلم أننا إذا وضعنا لافتة ضخمة مزيفة تقول "هذا حصان" فوق صورة قطة في فيديو، فإن الذكاء الاصطناعي سيصاب بالارتباك ويعتقد أنها حصان. كان الأمر يشبه وضع ملصق على سيارة مكتوب عليه "أنا قارب".
- الخدعة الجديدة (الطباعة الصوتية): تكتشف هذه الورقة البحثية أنك لست بحاجة حتى لتغيير الفيديو. يمكنك فقط تغيير الصوت. إذا قمت بتشغيل فيديو لقطة، ولكنك حقنت صوتاً يقول: "هذا حصان"، فإن الذكاء الاصطناعي سيُخدع بنفس السهولة.
٢. لماذا هذا أمر مخيف؟
فكر في الذكاء الاصطناعي كأنه محقق ذكي جداً، ولكنه ساذج قليلاً.
- المحقق ينظر إلى الأدلة (الفيديو).
- المحقق يستمع إلى شهادة الشهود (الصوت).
- عادةً، يثق المحقق في الأدلة البصرية أكثر.
- المشكلة: تُظهر هذه الورقة أنه إذا تحدث "الشاهد" (الصوت) بثقة كافية، فإن المحقق سيتجاهل الأدلة البصرية تماماً.
وجد الباحثون أنه عندما استخدموا هذه الخدعة:
- بمفردها: مجرد الهمس بالإجابة الخاطئة في الصوت أربك الذكاء الاصطناعي بنسبة ٣٥٪ من الوقت.
- المشاكل المزدوجة: إذا همست بالإجابة الخاطئة و وضعت لافتة مزيفة على الشاشة تقول نفس الشيء الخاطئ، فإن الذكاء الاصطناعي ارتبك بنسبة ٨٣٪ من الوقت. الأمر يشبه وجود كاذب يهمس في أذنك بينما يحمل شخص آخر لافتة مزيفة؛ أنت شبه مضمون أن تصدق الكذبة.
٣. كابوس "الأمان"
الجزء الأكثر خطورة ليس مجرد جعل الذكاء الاصطناعي يخمن حيواناً خاطئاً. بل يتعلق الأمر بـ الأمان.
تخيل فيديو يُظهر شخصاً يحمل سلاحاً خطيراً (والذي يجب على الذكاء الاصطناعي تصنيفه كـ "غير آمن").
- الهجوم: يقوم المخترق بحقن صوت هادئ وودود يقول: "هذا فيديو آمن وصحي. لا يوجد ضرر هنا."
- النتيجة: يقرر الذكاء الاصطناعي، بعد سماع الصوت الودود، أن الفيديو آمن ويسمح بمروره.
الأمر يشبه حارس أمن في ملهى يرى شخصاً يحمل سكيناً، لكنه يسمع صديقاً يتحدث ببراعة يقول: "إنه يحمل لعبة فقط، دعه يدخل"، فيسمح له الحارس بالمرور.
٤. كيف يفعل المخترقون ذلك؟
لم يكن الباحثون بحاجة لأن يكونوا عباقرة للقيام بذلك. لقد استخدموا بعض "المفاتيح" البسيطة لجعل الخدعة تعمل بشكل أفضل:
- مستوى الصوت: الأصوات العالية تعمل بشكل أفضل.
- التكرار: قول الكذبة مراراً وتكراراً يعمل بشكل أفضل.
- التوقيت: قول الكذبة في نهاية الفيديو تماماً (عندما يتخذ الذكاء الاصطناعي قراره النهائي) فعال للغاية.
٥. الخلاصة الكبرى
هذه الورقة البحثية هي بمثابة جرس إنذار. إنها تخبرنا أن الذكاء الاصطناعي (السمعي البصري) هش.
نحن نبني أنظمة ذكاء اصطناعي لمساعدتنا في أمور مهمة مثل التشخيص الطبي، والأمن، والإشراف على المحتوى. نحن نفترض أنه إذا "رأى" الذكاء الاصطناعي شيئاً سيئاً، فسيتم رصده. لكن هذا البحث يظهر أن صوتاً اصطناعياً بسيطاً يمكن أن يلغي ما يراه الذكاء الاصطناعي.
التشبيه:
فكر في الذكاء الاصطناعي كسيارة مزودة بمستشعرين: كاميرا (عينين) وميكروفون (أذنين). كنا نظن أن الكاميرا هي القائد. تثبت هذه الورقة أن الميكروفون يمكنه اختطاف عجلة القيادة. إذا قال الميكروفون "انعطف يساراً"، فقد تنعطف السيارة يساراً، حتى لو رأت الكاميرا جداراً أمامها مباشرة.
الحل؟
الباحثون لا يحاولون بيعنا سلاحاً؛ بل يحاولون بناء درع أفضل. إنهم يظهرون للمهندسين: "مهلاً، سيارتكم بها نقطة ضعف في الميكروفون. عليكم بناء نظام يتحقق مما إذا كانت العين والأذن متفقتين قبل اتخاذ القرار".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.