The Malicious Technical Ecosystem: Exposing Limitations in Technical Governance of AI-Generated Non-Consensual Intimate Images of Adults
تتبنى هذه الورقة نهجاً يركز على الناجين لكشف كيف تتيح "المنظومة التقنية الخبيثة" من الأدوات المتاحة إنشاء صور حميمية غير توافقية مولدة بالذكاء الاصطناعي، مع إثبات أن أطر الحوكمة الحالية، مثل تقرير NIST AI 100-4، تفشل في تنظيم هذا المشهد بفعالية بسبب الافتراضات الأساسية المعيبة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: "ذئب رقمي في ثوب حمل"
تخيل أن لديك حياً يسكنه أشخاص يصنعون بطاقات هوية مزورة. بعض هذه البطاقات مثالية لدرجة أنها تبدو حقيقية، لكن البعض الآخر مزيف بشكل واضح—الصور ضبابية، والأسماء مكتوبة بشكل خاطئ، والحبر ملطخ.
وعلى الرغم من أن الجميع يعرف أن هذه البطاقات مزيفة، إلا أنها لا تزال تُستخدم لإيذاء الناس؛ تُستخدم لسرقة الهويات، وتشويه السمعة، وجعل الضحايا يشعرون بعدم الأمان.
تتحدث هذه الورقة البحثية عن نسخة خطيرة ومحددة من هذه المشكلة: المحتوى الإباحي المولد بالذكاء الاصطناعي ("التزييف العميق") للبالغين. ويطلق المؤلفون على مجموعة الأدوات والمواقع التي تجعل هذا ممكناً اسم "النظام التقني الخبيث" (MTE).
لا تنظر إلى "النظام التقني الخبيث" كشخص شرير واحد، بل كـ مصنع "افعلها بنفسك" (DIY) عملاق ولامركزي خرج تماماً عن السيطرة.
1. أرضية المصنع: ما هو النظام التقني الخبيث (MTE)؟
اكتشف المؤلفون أن إنشاء هذه الصور الضارة أصبح سهلاً للغاية. لم تعد بحاجة لأن تكون عبقرياً في الكمبيوتر.
- المخططات مفتوحة المصدر: منذ عام 2017، قام المخترقون والباحثون بمشاركة "المخططات" (الكود البرمجي) لبرامج تبديل الوجوه على مواقع عامة مثل GitHub. الأمر يشبه ترك خطط لصنع أدوات تفجير على طاولة في مكتبة عامة.
- تطبيقات "التعرية" (Nudifying Apps): بُنيت فوق تلك المخططات ما يقرب من 200 تطبيق وموقع إلكتروني مختلف. هذه هي "الأزرار السهلة". يمكن لشخص عادي رفع صورة لامرأة، والنقر على زر، وفي غض_ دقائق، يقوم التطبيق بتجريدها من ملابسها واستبدال وجهها بوجه الضحية.
- النتيجة: تُنتج هذه الأدوات صوراً غالباً ما تكون "مزيفة" بشكل واضح (ضبابية أو غريبة)، ولكنها لا تزال تُستخدم للمضايقة، والابتزاز، وترهيب النساء، والأشخاص من مجتمع الميم (LGBTQ+)، والأقليات.
التشبيه: تخيل حياً حيث يمكن لأي شخص شراء "بخاخ سام" من متجر للأدوات المنزلية. البخاخ رخيص وسهل الاستخدام لدرجة أن طفلاً يمكنه رشه على باب جاره. حتى لو كانت رائحة البخاخ كريهة وشكله واضحاً، فإنه لا يزال يتلف الباب ويخيف العائلة. المشكلة ليست في الطفل فحسب؛ بل في أن المتجر يبيع هذا البخاخ لأي شخص.
2. الحل الحالي: لماذا "شبكة الأمان" مكسورة؟
حاولت الحكومة وشركات التكنولوجيا (مثل NIST، والتي تشبه "مكتب معايير السلامة" في الولايات المتحدة) وضع قواعد لوقف هذا الأمر. يجادل المؤلفون بأن هذه القواعد تفشل لأنها تنظر إلى المشكلة من المنظور الخطأ.
إليك الأسباب الثلاثة الرئيسية لعدم نجاح القواعد الحالية:
الخطأ رقم 1: "إذا بدا مزيفاً، فهو آمن."
الخلل: تركز القواعد الحالية على الشفافية. تقول: "إذا وضعنا علامة مائية على الصورة تقول (مولدة بالذكاء الاصطناعي)، سيعرف الناس أنها مزيفة ولن يتأذوا".
الواقع: هذا يشبه قولنا: "إذا طُليت قنبلة مزيفة باللون الوردي الزاهي وكُتب عليها (لعبة)، فلن تؤذي أحداً".
يشير المؤلفون إلى أنه حتى لو كانت الصورة مزيفة بشكل واضح، فإنها لا تزال تسبب ألما حقيقياً. فهي تدمر السمعة، وتسبب أزمات نفسية، وتجعل الضحايا يخشون التواجد عبر الإنترنت. ملصق "مزيف" لا يوقف التنمر أو المضايقة.
الخطأ رقم 2: "كل الصور السيئة متشابهة."
الخلل: غالباً ما تجمع القواعد بين التزييف العميق للبالغين وبين المواد الجنسية لاستغلال الأطفال (CSAM).
الواقع: رغم أن كليهما أمر سيء، إلا أنهما مشكلتان مختلفتان.
- إساءة معاملة الأطفال: أي صورة لطفل في وضع جنسي هي غير قانونية بحكم التعريف. لدى الشرطة قاعدة بيانات لهذه الصور لحظرها فوراً.
- إساءة معاملة البالغين: المشكلة هنا هي الموافقة (الرضا). قد تكون صورة شخص بالغ حقيقي قانونية تماماً، لكن استخدام الذكاء الاصطناعي لوضعهم في مشهد إباحي مزيف هو الجريمة. لا يمكنك مجرد حظر الصورة لأن الشخص ليس موجوداً فيها فعلياً؛ بل لأن الذكاء الاصطناعي صنع وجوده هناك. الأدوات المصممة لكشف إساءة معاملة الأطفال لا تعمل جيداً في كشف انتهاكات "الموافقة" هذه.
الخطأ رقم 3: "الشركات الكبرى هي المشكلة فقط."
الخلل: تركز القواعد الحالية على وقف شركات الذكاء الاصطناعي الكبيرة (مثل تلك التي تصنع أدوات للفنانين). يحاولون منع المستخدمين السيئين من كتابة "اصنع فيديو إباحي" في صندوق الدردشة.
الواقع: الخطر الحقيقي يكمن في "مصنع افعلها بنفسك" (MTE).
الجهات الفاعلة السيئة لا يكتبون أوامر (Prompts) في تطبيق شركة كبرى؛ بل يستخدمون تطبيقات "التعرية" المذكورة سابقاً. هذه التطبيقات لا تأخذ أوامر نصية، بل تأخذ صورة ونقرة زر فقط. القواعد الحالية تشبه محاولة إيقاف فيضان بوضع سد على نهر ضخم، بينما تتجاهل آلاف الأنابيب الصغيرة التي تسبب الفيضان بالفعل في القبو. التكنولوجيا نفسها في "النظام التقني الخبيث" مبنية للشر، وليس فقط الأشخاص الذين يستخدمونها.
3. الحل: نهج يتمحور حول الناجين
تخلص الورقة إلى أننا بحاجة لتغيير طريقة تفكيرنا.
- توقفوا عن لوم الضحية: حالياً، يقع العبء على الضحية للإبلاغ عن الصورة والتوسل لإزالتها. هذا أمر مرهق وغالباً ما يفشل.
- توقفوا عن الثقة في "الشفافية": لا يمكننا الاعتماد على ملصقات "هذا مزيف" لوقف الضرر.
- استهدفوا المصنع: نحن بحاجة لتنظيم الأدوات والنظام البيئي (MTE) نفسه. نحن بحاجة لمنع وجود تطبيقات "التعرية" ومحاسبة المنصات التي تستضيفها.
الاستعارة النهائية:
تخيل بلدة حيث يرمي الناس الحجارة على النوافذ.
- النهج الحالي: نخبر الضحايا بالاتصال بالشرطة، ونضع لافتات تقول "الحجارة خطيرة"، ونحاول إيقاف ملاعب رمي الحجارة الكبيرة.
- نهج الورقة البحثية: نحن بحاجة لإدراك أن الحجارة يتم تصنيعها في مصنع بجوارنا مباشرة وتباع لأي شخص يملك بضعة دولارات. نحن بحاجة لإغلاق المصنع، وليس فقط الصراخ في وجه الأشخاص الذين يرمون الحجارة.
يطلب المؤلفون من عالم التكنولوجيا التوقف عن افتراض أن "المزيف" يعني "غير ضار"، والبدء في بناء قواعد توقف فعلياً الأدوات التي تخلق هذا الانتهاك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.