I-CARE: Analysis of interference-related phenomena in a controllable, diverse and representative unlearning setting for text-to-image models
تقدم هذه الورقة البحثية I-CARE، وهي منهجية شاملة تعمل على صياغة وتوفير أدوات معيارية لتحليل الظواهر المتعلقة بالتداخل في عمليات "إلغاء التعلم" لنماذج تحويل النص إلى صورة، مما يتيح تقييماً منهجياً وقابلاً للتكرار لتدهور المعرفة غير المقصود عبر إعدادات متنوعة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في السنوات القليلة الماضية، تعلم الذكاء الاصطناعي كيفية رسم الصور من الكلمات. يمكنك كتابة جملة مثل "قط يرتدي قبعة"، وسيقوم برنامج حاسوبي بإنشاء صورة فريدة تطابق ذلك الوصف. هذه الأنظمة، المعروفة باسم النماذج التوليدية، تم تدريبها على مجموعات هائلة من الصور والنصوص، لتعلم كيفية ربط الكلمات بالأنماط البصرية. ولكن مع ازدياد قوة هذه الأدوات، ظهرت مشكلة جديدة: ماذا يحدث عندما تريد منها أن تنسى؟
تخدّل أن تتصور نموذجًا تعلم رسم شخصية مشهورة معينة، لكن هذا الشخص طلب لاحقًا إزالة صورته من النظام، ربما بسبب مخاوف تتعلق بالخصوصية أو رغبة في التحكم في بصمته الرقمية. هذه العملية، التي تسمى "النسيان الآلي" (machine unlearning)، هي محاولة لجعل نظام الذكاء الاصطناعي "ينسى" مفهومًا معينًا دون كسر قدرته على رسم كل شيء آخر. إنها عملية دقيقة؛ فإذا حاولت مسح شيء ما بقوة مفرطة، فقد يتسبب النموذج بالخطأ في إتلاف معرفته بأشياء أخرى غير متعلقة به. فالنموذج الذي يحاول نسيان سلالة معينة من الكلاب قد يبدأ في رسم جميع أنواع الكلاب بشكل سيئ، أو أن النموذج الذي يحاول إزالة شخصية سياسية قد يبدأ في توليد صور مشوهة لشخصيات عامة أخرى. يُعرف هذا الضرر غير المقصود للمفاهيم ذات الصلة بـ "التداخل" (interference)، وحتى الآن، لم يكن لدى العلماء طريقة موثوقة لقياس مدى سوء هذا التداخل أو سبب حدوثه.
قدم فريق من الباحثين إطار عمل جديدًا يسمى I-CARE لدراسة هذه المشكلة. وبدلاً من ابتكار طريقة جديدة لمسح البيانات أو نموذج ذكاء اصطناዊ جديد، قاموا ببناء طريقة معيارية لاختبار كيفية تأثير تقنيات المسح المختلفة على بقية النظام. فكر في الأمر كمسطرة جديدة لقياس الضرر. قبل هذا العمل، كانت الدراسات حول النسيان غالبًا ما تتسم بعدم الاتساق؛ فقد يختبر فريق ما نسيان شخص ما، بينما يختبر فريق آخر نسيان منظر طبيعي، مما يجعل من المستحيل مقارنة النتائج بشكل عادل. يوفر إطار العمل I-CARE لغة مشتركة ومجموعة من القواعد الصارمة لإعداد هذه التجارب؛ فهو يحدد بدقة معنى "نسيان" شيء ما، وكيفية قياس جودة الصور المتبقية، وكيفية تتبع المفاهيم غير المرتبطة التي تضررت خلال العملية. كما بنى الباحثون أداة برمجية مجانية ومفتوحة المصدر تسمى Forgety، والتي تتيح لأي شخص استكشاف هذه النتائج دون الحاجة إلى كتابة كود برمجي أو فهم رياضيات معقدة.
لإثبات نجاح طريقتهم، أجرى الباحثون تجربة ضخمة. اختاروا ثلاث فئات متميزة للاختبار: أشخاص مشهورون، سلالات كلاب محددة، ومشاهد متنوعة مثل الغابات أو الملاعب. لكل فئة، اختاروا مائة كيان محدد، مثل ممثل معين، أو نوع محدد من كلاب "الترير"، أو نوع معين من الجسور. ثم أخذوا مولد صور متطور وطبقوا ثلاث تقنيات نسيان مختلفة لإزالة كيان واحد في كل مرة. في المجمل، كان عليهم مسح 900 مفهوم مختلف وتوليد 360,000 صورة جديدة لمعرفة ما سيحدث. لم يفعلوا ذلك فقط لمعرفة ما إذا كان الهدف قد اختفى، بل ليروا ما إذا كانت قدرة النموذج على رسم الـ 99 كيانًا الأخرى في تلك الفئة قد تغيرت.
كشفت النتائج أن التداخل أكثر تعقيدًا مما كان يعتقده العلماء سابقًا. كان هناك افتراض شائع بأن النموذج سيؤثر فقط على المفاهيم الشبيهة جدًا بما يتم مسحه؛ فعلى سبيل المثال، إذا مسحت كلب "غولدن ريتريفر"، فقد تتوقع أن يتضرر كلب "لابرادور"، بينما يظل كلب "بودل" سليمًا. وجدت الدراسة أن هذا ليس صحيحًا دائمًا؛ فأحيانًا، تسبب مسح كيان واحد ضررًا كبيرًا لكيانات بدت غير مرتبطة به تمامًا، بينما تركت كيانات مشابهة جدًا دون مساس. وفي بعض الحالات، كان الضرر غير متوقع لدرجة أن الباحثين لم يستطيعوا إيجاد قاعدة بسيطة لتفسيره. واكتشفوا أن مقدار الضرر الناجم يعتمد بشكل كبير على الطريقة المحددة المستخدمة لمسح البيانات. إذ تسببت إحدى الطرق، التي اعتمدت على نهج نظرية الألعاب، في ضرر جانبي أكبر بكثير من الطريقتين الأخريين المختبرتين. أما الطريقة الأخرى، التي لم تتطلب بيانات إضافية لتعمل، فقد سببت ضررًا أقل بشكل عام ولكنها كانت أصعب في التنبؤ.
نظر الباحثون أيضًا في كيفية تأثير البيانات التي استخدموها لحماية المفاهيم المتبقية على النتيجة. ووجدوا أنه إذا عُرضت على النموذج أمثلة لأشياء مشابهة أثناء نسيانه للهدف، فإنه يكون أفضل بكثير في حماية تلك الأشياء المشابهة. على سبيل المثال، عند محاولة مسح ملعب كرة قدم، حافظ النموذج على سلامة الملاعب الرياضية الأخرى فقط إذا عُرضت عليه صور لم رياضات أخرى أثناء عملية المسح. وإذا غابت تلك الأمثلة، فقد تسبب النموذج بالخطأ في تدهور صور جميع الملاعب الرياضية. وهذا يشير إلى أن الطريقة التي يتم بها تدريب النموذج على "التذكر" أثناء "النسيان" لا تقل أهمية عن تقنية المسح نفسها.
ربما كان الاكتشاف الأكثر إثارة للدهشة هو أن التداخل ليس دائمًا تدميريًا. ففي حوالي 2.7% من الحالات، لاحظ الباحثون أن مسح مفهوم واحد جعل صور مفهوم مشابه تتحسن قليلاً. فعلى سبيل المثال، عندما مسحوا صورة لسائق سباقات شهير، تحسنت قدرة النموذج على رسم سباح مشهور قليلاً. يطلق الباحثون على هذا "التداخل البنّاء" (constructive interference). ورغم أن هذا حدث نادرًا، إلا أنه يثبت أن العلاقة بين المفاهيم في نموذج الذكاء الاصطناعي ليست مجرد طريق ذي اتجاه واحد حيث يؤدي مسح شيء ما دائمًا إلى الإضرار بشيء آخر؛ فأحيانًا، يسمح إزالة نمط معين للنموذج بتنقيح فهمه لنمط مرتبط به.
كما سلطت الدراسة الضوء على صعوبة التنبؤ بهذه النتائج. حاول الباحثون بناء نظام يمكنه تخمين أي المفاهيم ستتداخل مع بعضها البعض بناءً على مدى تشابهها في نظر البشر، ووجدوا أن هذه التنبؤات كانت خاطئة في كثير من الأحيان. فكيانان يبدوان متشابهين جدًا للبشر قد لا يتداخلان في النموذج، بينما قد يسبب كيانان يبدوان مختلفين ضررًا هائلًا. يشير هذا إلى أن المنطق الداخلي لنماذج الذكاء الاصطناعي هذه لا يزال لغزًا كبيرًا بالنسبة لنا؛ فنحن نستطيع رؤية الضرر، لكننا لا نستطيع بعد التنبؤ بمكانه بشكل موثوق قبل عملية المسح.
ولجعل هذه النتائج متاحة للجميع، أنشأ الفريق واجهة مستخدم قائمة على الويب تسمى Forgety. تتيح هذه الأداة للمستخدمين تصفح نتائج تجاربهم، وتصور أي المفاهيم تداخلت مع بعضها البعض، واستكشاف البيانات دون الحاجة إلى أن يكونوا مبرمجين. إنها تحول آلاف نقاط البيانات المعقدة إلى رسوم بيانية وقوائم بسيطة يمكن لأي شخص فهمها. وتعد هذه الشفافية جزءًا أساسيًا من عملهم، حيث تتيح لصناع السياسات وعلماء الأخلاق والجمهور رؤية العواقب الواقعية لمحاولة جعل أنظمة الذكاء الاصطناعي تنسى.
تخلص الورقة البحثية إلى أنه بينما حققنا تقدمًا في فهم النسيان الآلي، لا توجد طريقة واحدة "مثلى" للقيام بذلك حتى الآن. ففعالية طريقة المسح تعتمد كليًا على المهمة المحددة والبيانات المستخدمة. ويؤكد الباحثون أن إطار عملهم مصمم ليتطور؛ فمع إنشاء نماذج ذكاء اصطنافي جديدة وابتكار طرق جديدة لمسح البيانات، يمكن تطبيق منهجية I-CARE لاختبارها، مما يضمن تقدم المجال بنتائج واضحة، قابلة للمقارنة، وقابلة للتكرار. الهدف النهائي ليس فقط جعل الذكاء الاصطنافي ينسى، بل القيام بذلك دون كسر بقية عقله، لضمان بقاء هذه الأدوات القوية آمنة وموثوقة للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.