ReVision : A Post-Hoc, Vision-Based Technique for Replacing Unacceptable Concepts in Image Generation Pipeline
يُعد ReVision إطار عمل للأمان لاحقاً ولا يتطلب تدريباً، حيث يستفيد من آلية بوابات مكانية مدعومة بنموذج رؤية ولغة لتحديد وتعديل المفاهيم غير المقبولة في الصور المُولَّدة بدقة دون المساس بسلامة الخلفية أو الحاجة إلى إعادة تدريب المولد الأساسي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً يمكنك فيه كتابة جملة في جهاز كمبيوتر، وفجأة—تظهر صورة جديدة تماماً وواقعية للغاية. هذا هو سحر "الذكاء الاصطناعي التوليدي"، وهي تقنية انفجرت شعبيتها، مما سمح لأي شخص بإنشاء فن وصور ومشاهد من العدم. ولكن، تماماً كما يمكن استخدام أداة قوية جديدة لبناء منزل أو سلاح، فإن صانعي الصور هذه لديهم جانب مظلم. فأحياناً، يحاول بعض الأشخاص خداعهم لإنشاء أشياء خطيرة، أو غير قانونية، أو ببساء غير لائقة، مثل العنف، أو العري، أو صور لمشاهير حقيقيين دون إذنهم.
ولمنع ذلك، تحاول الشركات عادةً بناء "حواجز حماية" داخل الذكاء الاصطناعي. قد يقومون بحظر الكلمات السيئة قبل صنع الصورة أو تعليم الذكاء الاصطناعي نسيان أفكار معينة. لكن هذه الأساليب بها عيوب؛ إذ يمكن للمخادعين غالباً خداع حواجز الحماية باستخدام التلاعب بالألفاظ، كما أن إصلاح "دماغ" الذكاء الاصطناعي يجعل الصور تبدو أسوأ أو يتطلب إعادة تدريب مكلفة وتستغرق وقتاً طويلاً. لذا، يطرح العلماء سؤالاً كبيراً: هل هناك طريقة لإصلاح صورة سيئة بعد صنعها، دون إفساد بقية الصورة؟ الأمر يشبه امتلاك ممحاة سحرية يمكنها إزالة جسم غير مرغوب فيه من صورة دون تشويه غروب الشمس الجميل خلفه.
إليك ReVision، وهي تقنية جديدة اقترحها الباحث غورجوت سينغ وفريقه. فكر في ReVision كأنه محرر ما بعد الإنتاج فائق الذكاء يعمل بمثابة "شبكة أمان" للصور التي ينتجها الذكاء الاصطناعي. فبدلاً من محاولة منع الذكاء الاصطناعي من ارتكاب الأخطاء في المقام الأول، ينتظر ReVision حتى تكتمل الصورة، ثم ينظر إليها، ويقوم بإزالة الأجزاء "غير المقبولة" جراحياً مع إبقاء كل شيء آخر سليماً تماماً.
وجد الباحثون أن "محرري السلامة" السابقين كانوا يعانون غالباً من مشكلة فجة: كانوا مثل فرشاة رسم كبيرة جداً. فإذا حاولت الطلاء فوق شخص شرير في وسط حشد، ستطلي الفرشاة بالخطأ على المارة الأبرياء الواقفين بجانبه، مما يؤدي إلى إفساد المشهد بأكمله. حدث هذا لأن الكمبيوتر كان يرتبك بشأن تحديد أي جسم بالضبط يفترض به إصلاحه.
يحل ReVision هذه المشكلة بخدعة ذكية مكونة من خطوتين. أولاً، يستخدم "نموذج رؤية ولغة" (نوع من الذكاء الاصطناعي الذي يفهم الصور والكلمات معاً) ليعمل كـ "محقق". ينظر هذا المحقق إلى الصورة ويقول: "آها! أرى مشهوراً هنا، وأرى سلاحاً هناك". والأهم من ذلك، أنه لا يخمن فحسب؛ بل يرسم مربعاً دقيقاً وغير مرئي حول الشيء السيئ، مثل حارس أمن يشير بدقة إلى المشاغب.
ثانياً، يستخدم ReVision آلية "البوابة المكانية". تخيل عملية التحرير كأنها فيضان من المياه يحاول غسل المفهوم السيئ. بدون البوابة، قد تفيض المياه وتغمر الغرفة بأكملها. لكن ReVision يبني سداً حول المربع غير المرئي الذي رسمه المحقق. الآن، يمكن لـ "المياه" (سحر التحرير) أن تتدفق فقط داخل ذلك المربع. إنه يستبدل المفهوم السيئ بآخر آمن—مثل تحويل شخص عارٍ إلى شخص يرتدي ملابس، أو ممثل مشهور إلى شخص غريب—دون المساس بالشخص الواقف بجانبه.
اختبر الفريق هذه التقنية على مجموعة ضخمة من 800 صورة، بما في ذلك مشاهد معقدة تحتوي على أشخاص وأشياء متعددة. وكانت النتائج مبهرة. فعندما حاولوا إزالة محتوى "العري"، نجح ReVision في القضاء على جميع حالات اكتشاف العري (من 70.51 حالة اكتشاف إلى 0)، بينما تركت الأساليب القديمة آثاراً أو غيرت ملابس الأبرياء القريبين عن طريق الخطأ. وفي الاختبارات المتعلقة بمفاهيم متعددة، قلل ReVision من "الضجيج" أو التغييرات غير المرغوب فيها في الخلفية من 0.166 إلى 0.058، وهو تحسن هائل في الحفاظ على مظهر طبيعي لبقية الصورة.
ولعل الاختبار الأكثر دلالة كان دراسة بشرية. فعندما نظر الناس إلى الصور الأصلية غير الآمنة، استطاعوا تمييز المحتوى السيئ بنسبة 96% من المرات. وبعد أن قام ReVision بعمله، استطاع البشر التعرف على المحتوى غير المقبول بنسبة 10% فقط. والأفضل من ذلك، أن الأشخاص في الأجزاء "الآمنة" من الصورة لم يتغيروا بالخطأ.
يؤكد الباحثون أن هذه الطة "خالية من التدريب"، مما يعني أنها لا تتطلب إعادة تعلم كيفية الرسم أو تتطلب من شركة الذكاء الاصطناعي الأصلية تغيير كود البرمجة الخاص بها. إنها تعمل كإضافة عالمية، جاهزة ليتم توصيلها بواسطة أي شخص يريد ضمان سلامة صور الذكاء الاصطناعي الخاصة به. وبينما تشير الدراسة إلى أن هذه خطوة كبيرة للأمام، يلاحظ المؤلفون أن صورهم الاختبارية قد صُممت خصيصاً للتجربة، وأن العمل المستقبلي سيحتاج إلى التحقق من مدى نجاح هذا في كل السيناريوهات الممكنة في العالم الحقيقي. ولكن في الوقت الحالي، يقدم ReVision طريقة واعدة ودقيقة للحفاظ على سحر فن الذكاء الاصطناعي من التحول إلى كابوس، مما يضمن أنه عندما نمحو السيئ، لا نمحو معه الجميل بالخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.