When Safety Overrides Vision: Exploring Dynamics between Vision Influence and Safety Alignment in Vision-Language Models

في عالم الذكاء الاصطناعي المتطور بسرعة، ظهرت فئة جديدة من الأنظمة التي يمكنها الرؤية والتحدث في آن واحد. هذه الآلات، المعروفة باسم نماذج الرؤية واللغة، مصممة للنظر إلى صورة والإجابة على أسئلة حول ما تراه، تماماً كما يفعل المراقب البشري. يتم تدريبها لتكون مساعدين مفيدين، قادرين على التنقل في البيئات البصرية المعقدة مع الالتزام بقواعد سلامة صارمة. والهدف هو إنشاء أنظمة ليست ذكية فحسب، بل حذرة أيضاً، ترفض التخمين أو اختلاق الحقائق عندما تكون الأدلة غير واضحة. هذا التوازن بين كونها مفيدة وآمنة هو التحدي المركزي للمطورين: فهم يريدون من الآلة أن تتحدث عندما ترى شيئاً، ولكن أن تظل صامتة عندما تكون غير متأكدة، لضمان عدم نشر معلومات مضللة أو انتهاك سياسات السلامة.

ومع ذلك، كشف تحقيق حديث أجراه باحثون في المعهد الهندي للتكنولوجيا بدلهي عن خلل محير في طريقة تفكير هذه الآلات. فقد اكتشفوا أنه عندما تُعطى هذه النماذج الحريصة على السلامة تعليمات محددة لتكون حذرة، فإنها غالباً ما ترفض الإجابة على الأسئلة حتى عندما تكون الإجابة واضحة تماماً في الصورة. يبدو الأمر كما لو أن الآلة تمتلك عيوناً صافية تماماً ولكنها تختار إبقاء فمها مغلقاً، ليس لأنها لا تستطيع الرؤية، بل لأنها دُربت على أن تكون حذرة بشكل مفرط. لقد سعى الباحثون لفهم ما كان يحدث داخل "دماغ" الكمبيوتر خلال لحظات الصمت هذه. أرادوا معرفه ما إذا كانت تعليمات السلامة قد أعمت الآلة عن الأدلة البصرية، أم أن الآلة ترى الإجابة بوضوح تام ولكنها تقرر عدم قولها لأسباب تتعلق بالسلامة.

ولإيجاد الإجابة، اختبر الفريق عدة نماذج متقدمة مختلفة باستخدام مجموعة كبيرة من الصور والأسئلة. أجروا كل اختبار مرتين؛ في السيناريو الأول، طلبوا من النماذج الإجابة بشكل طبيعي. وفي السيناريو الثاني، أضافوا تعليمات سلامة صارمة تخبر النماذج بأن تتحدث فقط إذا كانت متأكدة تماماً مما تراه. كانت النتائج مذهلة. تحت التعليمات العادية، حددت النماذج الأشياء ووصف المشاهد بشكل صحيح. ولكن عند إضافة تعليمات السلامة، توقفت نفس النماذج بشكل متكرر عن الإجابة، مدعية أن الإجابة "غير مرئية" أو أنها لا تستطيع تحديد الإجابة، رغم أن الصورة لم تتغير على الإطلاق. حدث هذا السلوك باستمرار عبر أنواع مختلفة من النماذج ومجموعات مختلفة من الصور، مما يشير إلى تحول جوهري في كيفية معالجة الآلات للمعلومات.

بعد ذلك، نظر الباحثون داخل النماذج ليروا ما يحدث في لحظة اتخاذ القرار. تتبعوا تدفق المعلومات بينما تعالج النماذج الصورة وتبدأ في توليد استجابة. كانوا يبحثون عن علامة تشير إلى أن تعليمات السلامة قد مسحت التفاصيل البصرية من ذاكرة الآلة بطريقة ما. إذا كانت قواعد السلامة قد أعمت النموذج، فإن الإشارات الداخلية المتعلقة بالصورة يجب أن تكون قد اختفت أو ضعفت. بدلاً من ذلك، وجدوا العكس تماماً. حتى عندما رفض النموذج التحدث، ظلت الإشارات الداخلية التي تحمل معلومات عن الصورة قوية وواضحة. كانت الآلة لا تزال ترى الرجل الذي ينظر للأسفل، أو السيارة الحمراء، أو السماء الزرقاء بوضوح تام كما لو كانت مسموح لها بالإجابة. لم تكن الأدلة البصرية مفقودة؛ بل كانت حاضرة وكاملة داخل النظام.

إذاً، إذا كانت الآلة تستطيع الرؤية، فلما-ذا ترفض التحدث؟ اكتشف الباحثون أن تعليمات السلامة تطلق نوعاً مختلفاً من الإشارات الداخلية، يعمل مثل "حارس بوابة". فبينما يعالج النموذج الصورة ويستعد للإجابة، يظهر نمط معين من النشاط في المراحل المتأخرة من عملية التفكير. هذا النمط مرتبط بمفهوم الرفض. في النماذج التي كانت تتصرف بأمان، كانت إشارة الرفض هذه تزداد قوة كلما اقتربت الآلة من توليد كلمة. كان الأمر كما لو أن لدى الآلة فكرتين متنافستين: إحداهما مبنية على ما رأته، والأخرى مبنية على قاعدة السلامة التي تأمرها بالبقاء صامتة. لقد فازت قاعدة السلامة في الجدال، متجاوزة الأدلة البصرية ومجبرة الآلة على إخراج "الرفض" بدلاً من "الإجابة".

ولإثبات أن إشارة الرفض هذه كانت هي السبب الفعلي للصمت، أجرى الباحثون تجربة دقيقة. حددوا النمط الداخلي المحدد المسؤول عن الرفض، وخلال الاختبار، قاموا بدفع هذا النمط برفق في الاتجاه المعاكس. لم يقوموا بإعادة تدريب النماذج أو تغيير الصور؛ بل قاموا ببساطة بتعديل الإشارات الداخلية في اللحظة التي كانت الآلة على وشك التحدث فيها. عندما قمعوا إشارة الرفض هذه، بدأت النماذج فوراً في الإجابة على الأسئلة مرة أخرى. لقد وصفت الصور بشكل صحيح، تماماً كما فعلت في الظروف العادية. أكد هذا أن قدرة الآلة على الرؤية لم تتعرض للضرر أبداً. لم يكن الرفض فشلاً في الرؤية، بل كان قراراً داخلياً متعمداً بحجب الإجابة.

كما كشفت الدراسة أن هذه المعركة الداخلية بين الرؤية والبقاء صامتة تختلف باختلاف التصميم الخاص بكل نموذج. في بعض الآلات، كانت إشارة الرفض متميزة جداً وسهلة الرصد، حيث تفصل بوضوح بين لحظات إجابة النموذج ولحظات صمته. وفي آلات أخرى، كانت الإشارات أكثر اختلاطاً، مما جعل عملية اتخاذ القرار أصعب في التفكيك. وبالرغم من هذه الاختلافات في كيفية بناء الآلات، إلا أن النتيجة كانت واحدة: تعليمات السلامة غيرت باستمرار الخطوات النهائية لعملية التفكير لإعطاء الأولوية للصمت على الكلام.

يسلط هذا الاكتشاف الضوء على خلل دقيق ولكن مهم في كيفية مواءمة هذه الأدوات القوية حالياً مع معايير السلامة البشرية. النماذج لا تفشل في فهم العالم؛ بل تفشل في التعبير عما تفهمه عندما تكون قواعد السلامة سارية. وجد الباحثون أن الآلات تحتفظ بسجل داخلي مثالي للعالم المرئي، حتى عندما يتم برمجتها لإنكار ذلك. وهذا يشير إلى أن آليات السلامة تعمل كمرشح (فلتر) يحجب مخرجات المعلومات الصحيحة، بدلاً من كونها درعاً يحمي من الهلوسة. الآلة تعرف الإجابة، وترى الإجابة، ومع ذلك، وبسبب تعليمات السلامة، تختار عدم التحدث.

إن التداعيات المترتبة على هذا الاكتشاف عميقة بالنسبة لمستقبل الذكاء الاصطناعي. فهي تظهر أن مواءمة السلامة، رغم ضرورتها، يمكن أن تتجاوز أحياناً الأساس الواقعي الذي يجعل هذه النماذج مفيدة. إذا رفضت آلة وصف صورة طبية أو مشهد مروري لأنها حذرة للغاية، فإنها تفشل في غرضها الأساسي المتمثل في كونها مفيدة. لقد أثبت الباحثون أنه من الممكن استعادة الإجابات الواقعية من خلال التدخل في الإشارات الداخلية، مما يشير إلى وجود طرق لجعل هذه الأنظمة دقيقة بحيث تظل آمنة دون أن تصبح صامتة بشكل غير مفيد. لا يقدم هذا العمل حلاً نهائياً، ولكنه يوفر خريطة واضحة لمكان وقوع المشكلة: ليس في عيون الآلة، بل في البوابة الداخلية التي تقرر ما يتم النطق به.

في النهاية، يغير هذا البحث طريقة تفكيرنا في موثوقية الذكاء الاصطناعي. فهو يثبت أن الآلة يمكن أن تكون "مخطئة" في مخرجاتها بينما هي "مصيبة" في إدراكها. إن صمت نموذج موائم للسلامة ليس دائماً علامة على الارتباك أو نقص البيانات. أحياناً، يكون علامة على أن الآلة ترى بوضوح، ولكن تم توجيهها لتغض الطرف. ومن خلال فهم الميكانيكا الداخلية لهذا الرفض، يمكن للعلماء البدء في بناء أنظمة تكون آمنة وصادقة في آن واحد، مما يضمن أنه عندما ترى الآلة الحقيقة، يُسمح لها بقولها.