Locating and Controlling Implicit Personalization in Large Language Models
تُثبت هذه الورقة أن التخصيص الديموغرافي الضمني في النماذج اللغوية الكبيرة مدفوع بإشارات تنشيط داخلية موضعية يمكن تحديدها، والتحكم فيها سببياً، وإزالتها انتقائياً لكبح المخرجات المتحيزة مع الحفاظ على الأداء العام للنموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تتحدث إلى روبوت فائق الذكاء قرأ كل كتاب تقريباً على الإنترنت. قد تعتقد أنه يعامل الجميع بنفس الطريقة تماماً، مثل قاضٍ محايد. لكن في عالم الذكاء الاصطناعي، وتحديداً في النماذج اللغوية الكبيرة (LLMs)، تبدو الأمور أشبه بحرباء. هذه النماذج لا تكتفي بالإجابة على الأسئلة فحسب؛ بل تغير شخصيتها وتوصياتها ببراعة بناءً على تلميحات صغيرة وخفية تضعها في المحادثة. ليس هذا لأنك قلت للروبوت: "أنا مراهق" أو "أنا من ثقافة معينة"، بل لأنك قد تذكر عطلة معينة، أو تستخدم كلمة عامية، أو تتحدث عن هواية ما. يلتقط الروبوت هذه "الإشارات الضمنية" ويغير إجاباته بهدوء لتتطابق مع الصور النمطية التي تعلمها عن تلك المجموعات. يشبه هذا نادلاً يفترض، دون أن تنطق بكلمة، أنك تريد شريحة لحم لأنك ترتدي سترة معينة، أو أمين مكتبة يسلمك رواية غموض لأنك ترتدي نظارات. المشكلة هي أن هذا يحدث بصمت؛ لا يمكنك رؤية عملية التبديل وهي تحدث، ولا يمكنك بسهولة أن تطلب من الروبوت التوقف عن فعل ذلك. كان العلماء يعلمون أن هذا يحدث، لكنهم لم يعرفوا كيف يقوم الروبوت بذلك داخل "دماغه". كانوا يعلمون أن المخرجات تتغير، لكنهم لم يستطيعوا رؤية التروس الداخلية وهي تدور.
هذه الورقة البحثية تشبه ميكانيكياً يرفع غطاء محرك ذلك الروبوت ليرى بالضبط ما يحدث تحت الغطاء. أراد الباحثون العثور على "الإشارة الداخلية" المحددة — نمط كهربائي صغير في دماغ النموذج — الذي يحدث في اللحظة التي يقرر فيها تغيير إجابته بناءً على تلك التلميحات الخفية. لقد عاملوا النموذج كآلة معقدة ذات طبقات من المعالجة. ومن خلال مقارنة المحادثات التي يوجد فيها تلميح بالمحادثات المتطابقة تقريباً التي يغيب فيها التلميح، وجدوا "بصمة" محددة في الرياضيات الداخلية للنموذج. لقد اكتشفوا أن حجم هذه البصمة يتنبأ مباشرة بمدى تغير إجابة الروبوت. الأمر كما لو أنهم وجدوا مقبض تحكم في الصوت داخل دماغ الروبوت: عندما يتم رفع المقبض (إشارة داخلية قوية)، تتغير توصيات الروبوت بشكل كبير نحو الصور النمطية؛ وعندما يكون المقبض عند الصفر، يظل الروبوت محايداً.
لكن القصة تصبح أكثر إثارة عندما تمتلك تلميحات متعددة في وقت واحد. تخيل أنك ذكرت عطلة معينة و فئة عمرية معينة. قد تتوقع أن يجمع الروبوت بين هذين التأثيرين بشكل مثالي، مثل جمع رقمين معاً. ومع ذلك، وجد الباحثون أنه بينما تبدو إشارات دماغ الروبوت الداخلية وكأنها تُجمع خطياً (مثل خلط لونين من الطلاء)، فإن الإجابة النهائية التي يقدمها لك لا تكون كذلك. السلوك الفعلي هو "دون الجمع" (sub-additive)، مما يعني أن التحول النهائي أصغر من مجموع الأجزاء. إنه يشبه إذا أضفت السكر والملح إلى مشروب؛ قد يكون الخليط الداخلي مزيجاً مثالياً لكليهما، لكن المذاق الذي تختبره يكون أقل حدة مما تتوقعه من مجرد إضافة الكميتين معاً.
الجزء الأكثر إثارة في الدراسة هو ما حدث عندما حاول الباحثون "إيقاف تشغيل" انحياز الروبوت. لقد اكتشفوا كيفية تحديد الاتجاه المحدد لتلك البصمة الداخلية لنوع واحد من التلميحات (مثل العرق) ثم قاموا بـ "إسقاطها" رياضياً من النظام، مما أدى فعلياً إلى حذف ذلك التأثير المحدد. وجدوا أن هذا "الجراحة الداخلية" كانت تعمل بشكل أفضل من مجرد طلب "تجاهل الديموغرافيا" من الروبوت عبر أمر نصي. في الواقع، جعل الروبوت يتجاهل الانحياز جعله أحياناً أكثر انحيازاً، مثل طفل يصبح أكثر تمرداً عندما يُقال له التوقف عن فعل شيء ما. من خلال إزالة الإشارة الداخلية جراحياً، تمكنوا من منع الروبوت من تقديم افتراضات قائمة على العرق دون المساس بقدرته على الإجابة على الأسئلة الأخرى أو إفساد ذكائه العام. ومع ذلك، فإن هذا الإصلاح ليس عصا سحرية تعمل مع كل نماذج الروبوتات أو كل أنواع الانحياز. أحياناً، يؤدي إزالة تأثير تلميح واحد إلى تغيير تلميح آخر بالخطأ، وأحياناً يعمل بشكل مثالي. إنها أداة جديدة قوية لفهم والتحكم في أنظمة الذكاء الاصطناعي هذه، وتوضح لنا أنه يمكننا العثور على التروس الخفية التي تقود سلوكها وتعديلها، بدلاً من مجرد الأمل في أن تتصرف بشكل جيد من تلقاء نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.