GGSS: Geodesic-Gated Spherical Steering for Inference-Time Debiasing of Generative Vision-Language Models
تقدم الورقة البحثية تقنية GGSS، وهي تدخل في وقت الاستدلال يحافظ على المعيار ويوجه الرموز البصرية على طول أقواس جيوديسية على كرة فائقة الوحدة لتقليل التحيز الديموغرافي بفعالية في نماذج الرؤية واللغة التوليدية مع الحفاظ على قدراتها الأساسية في الربط بين الرؤية واللغة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
أصبحت أنظمة الذكاء الاصطناعي التي يمكنها الرؤية والتحدث شائعة كأدوات مساعدة في حياتنا اليومية، حيث تساعد في فرز السير الذاتية، والإجابة على الأسئلة، وتفسير الصور الطبية. هذه الأنظمة، المعروفة باسم نماذج الرؤية واللغة، تتعلم من خلال دراسة ملايين الصور والأوصاف النصية التي ترافقها. ومع ذلك، نظرًا لأنها تتعلم من بيانات من صنع البشر، فإنها غالبًا ما تمتص نفس الصور النمطية غير العادلة التي نتبناها حول العرق والجنس والمهنة. قد ينظر الكمبيوتر إلى صورة شخص ما، وبناءً على عرقه أو جنسه المتصور فقط، يخمن راتبًا أو مسمى وظيفيًا مختلفًا عما قد يخمنه لشخص آخر، حتى لو كانت التفاصيل البصرية متطابقة تمامًا. هذه مشكلة خطيرة للتقنيات المستخدمة في القرارات عالية المخاطر، ومع ذلك فإن إصلاحها أمر صعب. تقليديًا، لإزالة هذه التحيزات، كان على المطورين إعادة تدريب النموذج الحاسوبي الضخم بالكامل من الصفر، وهي عملية تتطلب قدرة حوسبة هائلة ووقتًا طويلاً. علاوة على ذلك، فإن العديد من الأساليب الحالية المصممة لإصلاح التحيز بُنيت لأنواع قديمة من الذكاء الاصطناعي التي تعالج الصورة كملخص واحد، بدلاً من الأنظمة الحديثة التي تفكك الصورة إلى آلاف القطع الصغيرة لفهمها.
لقد طور فريق من الباحثين الآن طريقة جديدة لتصحيح هذه التحيزات دون إعادة تدريب النموذج. أطلقوا على طريقتهم اسم GGSS، وهي اختصار لـ "التوجيه الكروي ذو البوابة الجيوديسية" (Geodesic-Gated Spherical Steering). بدلًا من إعادة بناء الذكاء الاصطناعي، يقومون بإدراج تعديل صغير وخفيف الوزن يعمل أثناء تفكير النموذج. تخيل الفهم الداخلي للذكاء الاصطناعي لصورة ما كمجموعة من الاتجاهات التي تشير إلى مفاهيم مختلفة. عندما يرى الذكاء الاصطناعي وجهًا، تشير بعض هذه الاتجاهات نحو هوية الشخص، بينما تشير اتجاهات أخرى نحو وظيفته أو خلفيته. وجد الباحثون أن تحيز الذكاء الاصطناعي تجاه العرق أو الجنس يتركز في مجموعة محددة من هذه الاتجاهات، بينما تظل المعلومات الأخرى محايدة. كان هدفهم هو دفع الاتجاهات المتحيزة بلطف بعيدًا عن الصورة النمطية دون المساس بالمعلومات المفيدة حول مظهر الشخص الفعلي أو سياق الصورة.
اختبر الباحثون طريقتهم على أربعة نماذج مختلفة من نماذج الرؤية واللغة الحديثة. أولاً، عرضوا على النماذج سلسلة من الصور المحكومة بدقة حيث تغير العرق أو الجنس المتصور للشخص فقط، بينما ظل كل شيء آخر مثل الملابس والوضعية والخلفية ثابتًا تمامًا. ومن خلال مراقبة كيفية تحول الإشارات الداخلية للنموذج عندما يتغير العرق أو الجنس فقط، رسموا "مسار التحيز" المحدد الذي يسلكه النموذج. ثم أنشأوا عملية مكونة من خطوتين لإصلاح هذا الأمر أثناء الاستخدام العادي. تتضمن الخطوة الأولى تحديد الأجزاء المحددة من الصورة التي تحفز التحيز. ليست كل أجزاء الصورة متساوية في التحيز؛ فعلى سبيل المثال، قد يحمل الوجه إشارة قوية للعرق، بينما لا تحمل الخلفية أو حذاء الشخص أي إشارة تقريبًا. تستخدم الطريقة الجديدة مرشحًا ذكيًا للتركيز على أجزاء الصورة التي تحمل التحيز فعليًا، تاركة الأجزاء المحايدة وشأنها.
الخطوة الثانية هي كيفية حدوث التصحيح. حاولت الأساليب القديمة ببساطة طرح التحيز، مثل مسح خط من رسم. وجد الباحثون أن عملية الطرح "القاسي" هذه غالبًا ما تشوه معنى الصورة، مما يؤدي إلى فقدان الذكاء الاصطناعي للقدرة على فهم الصورة بشكل صحيح. بدلًا من ذلك، استخدموا تقنية تنقل المعلومات على طول مسار منحني، تمامًا كما تطير الطائرة أقصر طريق بين مدينتين باتباع انحناء الأرض بدلاً من اتباع خط مستقيم عبر الأرض. يسمح هذا للذكاء الاصطناعي بتدوير فهمه بعيدًا عن الصورة النمطية مع الحفاظ على الشكل العام وقوة إدراكه. ومن خلال الجمع بين هذه الحركة المنحنية والمرشح الذكي الذي يستهدف الأجزاء المتحيزة فقط، يمكن للنظام تقليل عدم الإنصاف دون كسر الذكاء العام للنموذج.
كانت نتائج اختباراتهم واضحة وهامة. عندما طبقوا هذه الطريقة على نماذج الذكاء الاصطناي الأربعة، قللت من التحيز في إجابات النماذج بهامش كبير. وفي بعض الحالات، انخفضت الفجوة غير العادلة في كيفية حكم النماذج على الرواتب أو المهن بأكثر من 90 بالمائة. والأهم من ذلك، لم تفقد النماذج قدرتها على أداء المهام الأخرى. تحقق الباحثون من المعرفة العامة ومهارات الاستدلال لدى النماذج باستخدام اختبار معياري يتكون من 1500 سؤال تغطي العلوم والرياضيات والمنطق. أظهرت النماذج التي تلقت تصحيح التحيز أداءً يضاهي النماذج الأصلية غير المصححة، حيث تغيرت دقتها بنسبة تقل عن واحد بالمائة. أثبت هذا أنه من الممكن جعل هذه الأنظمة أكثر عدلاً دون جعلها أقل ذكاءً.
كما أظهرت الدراسة أن هذا النهج أكثر موثوقية من المحاولات السابقة. فعندما جربوا أساليب قديمة وأبسط لا تستخدم المسار المنحني أو المرشح الذكي، أصبحت النماذج مرتبكة أو فشلت في الإجابة على الأسئلة بشكل صحيح. وجد الباحثون أن المسار المنحني كان مهمًا بشكل خاص للنماذج الأكبر والأكثر تعقيدًا، حيث تسببت التصحيحات البسيطة في فشل النظام تمامًا. كما أظهروا أن الطريقة مرنة؛ فمن خلال ضبط قوة تطبيق التصحيح، يمكن للمستخدمين اختيار تقليل التحيز بشكل كبير مع الاستمرار في السماح للنموذج بالتعرف على التفاصيل الديموغرافية إذا تطلب الأمر مهمة محددة، مثل التوثيق الطبي.
يقدم هذا العمل أداة عملية لجعل الذكاء الاصطناعي أكثر إنصافًا. فهو يوضح أننا لسنا بحاجة إلى التخلص من أنظمة الذكاء الاصطناي الأكثر تقدمًا وإعادة بنائها لإصلاح تحيزاتها. بدلاً من ذلك، يمكن لتعديل مستهدف ودقيق يتم أثناء تشغيل النظام أن يزيل الصور النمطية غير العادلة مع الحفاظ على قدرة النموذج على الرؤية وفهم العالم. لقد جعل الباحثون كود البرمجة الخاص بهم متاحًا حتى يتمكن الآخرون من اختبار واستخدام هذا النهج، مما يوفر مسارًا جديدًا نحو نشر أنظمة ذكاء اصطناعي قوية وعادلة في آن واحد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.