Prompt Programming for Cultural Bias and Alignment of Large Language Models
تؤكد هذه الورقة استمرارية التحيزات الثقافية في النماذج اللغوية الكبيرة ذات الأوزان المفتوحة، وتثبت أن استخدام DSPy لتحسين المطالبات كبرامج نمطية يوفر نهجاً أكثر استقراراً وقابلية للنقل لتحقيق التوافق الثقافي مقارنة بهندسة المطالبات اليدوية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك روبوت أمين مكتبة فائق الذكاء وكلي المعرفة يُدعى "LLM". هذا الروبوت قد قرأ كل كتاب كُتب تقريبًا، ولكن هناك عقبة: لقد تم تدريبه في الغالب على كتب من دول غربية (مثل الولايات المتحدة والمملكة المتحدة وأوروبا). وبسبب ذلك، عندما تسأل الروبوت سؤالاً، فإنه يميل إلى الإجابة بقيم وأولويات وطرق تفكير غربية، حتى لو طلبت منه أن يتحدث بلسان شخص من ثقافة مختلفة تمامًا، مثل مزارع في كينيا أو صاحب متجر في اليابان.
هذه الورقة البحثية تتحدث عن فريق من الباحثين في مختبر لوس ألاموس الوطني (Los Alamos National Laboratory) الذين أرادوا إصلاح هذا "التحيز الثقافي" ليكون الروبوت مساعدًا أفضل وأكثر عدلاً للناس في جميع أنحاء العالم.
إليك قصة ما فعلوه، مشروحة ببساطة:
1. المشكلة: "الإعداد الافتراضي" للروبوت
بدأ الباحثون باختبار خمس نسخ مختلفة مفتوحة المصدر من هذا الروبوت (مثل Llama وGemma). طرحوا عليها سلسلة من الأسئلة تشبه اختبار الشخصية العالمي (المسمى مسح القيم العالمي - World Values Survey).
التشبيه: تخيل أن الروبوت يشبه الحرباء. عندما لا تخبره باللون الذي يجب أن يكون عليه، فإنه يتحول تلقائيًا إلى "اللون الأزرق الغربي". لا يهم إذا طلبت منه وصف الحياة في البرازيل أو الصين؛ فبدون تعليمات محددة، سيعود افتراضيًا إلى منظور "الأزرق الغربي" الخاص به.
وجد الباحثون أن هذه الروبات المجانية مفتوحة المصدر، تمامًا مثل الدراسات السابقة على الروبوتات المكلفة والمغلقة، تمتلك أيضًا هذا "الأزرق الغربي" الافتراضي. كانت هذه الروبوتات متجمعة معًا على خريطة القيم البشرية، بعيدًا عن العديد من الثقافات الأخرى.
2. الإصلاح الأول: "هندسة الأوامر اليدوية" (الملاحظة اللاصقة)
لإصلاح ذلك، جرب الباحثون حيلة بسيطة. أضافوا "ملاحظة لاصقة" في مقدمة كل سؤال.
- بدون الملاحظة: "ما مدى سعادتك؟" (يجيب الروبوت بقيم غربية).
- مع الملاحظة: "أنت مواطن من مصر. ما مدى سعادتك؟"
التشبيه: هذا يشبه قولك للحرباء: "حسنًا، تظاهر بأنك سحلية صحراوية". هنا يؤدي الروبوت عملًا أفضل! فهو يغير إجاباته لتصبح أقرب إلى شعور الناس الحقيقي في مصر. يُسمى هذا "هندسة الأوامة" (Prompt Engineering). وهي تعمل، لكنها تشبه كتابة ملاحظة لاصقة جديدة يدويًا لكل بلد تزوره؛ وهو أمر مرهق وقد لا يكون مثاليًا.
3. الابتكار الكبير: "برمجة الأوامر" (الطيار الآلي الذكي)
تساءل الباحثون: هل يمكننا تقديم ما هو أفضل من كتابة الملاحظات اللاصقة يدويًا؟
استخدموا أداة تُسمى DSPy. فكر في DSPy كـ "طيار آلي ذكي" لتعليمات الروبوت. بدلًا من أن يكتب الإنسان الملاحظة اللاصقة، تركوا الكمبيوتر يكتب ويختبر آلاف النسخ المختلفة من التعليمات ليرى أي منها يعمل بشكل أفضل.
التشبيه:
- الهندسة اليدوية: أنت طاهٍ يحاول جعل طبق ما مذاقه مثل "إيطاليا". تتذوق الطبق، تضيف رشة ريحان، تتذوق مرة أخرى، تضيف رشة أوريجانو، وهكذا. أنت تقوم بالعمل يدويًا.
- برمجة الأوامر (DSPy): أنت تعطي الوصفة لطاهٍ آلي فائق السرعة. يقوم فورًا بطهي 1000 نسخة من الطبق، ويتذوقها جميعًا مقابل هدف "النكهة الإيطالية المثالية"، ويختار تلقائيًا النسخة الأقرب إليها. ثم يستنتج الوصفة المثالية بدقة من تلقاء نفسه.
4. ما وجدوه
قارن الباحثون بين طريقة "الملاحظة اللاصقة اليدوية" وطريقة "الطيار الآلي الذكي" (DSPy).
- النتيجة: فاز الطيار الآلي الذكي. لم يكتفِ فقط بدفع الروبوت ليصبح أقرب إلى الثقافة المستهدفة، بل دفع به غالبًا إلى مسافة أبعد بكثير.
- المفاجأة: كان الطيار الآلي جيدًا بشكل خاص في مساعدة الروبوت على فهم الثقافات التي تختلف كثيرًا عن بيانات تدريبه الغربية (مثل دول في أفريقيا أو الشرق الأوسط). بالنسبة للدول الغربية، كان الروبوت قريبًا بالفعل، لذا كان التحسن طفيفًا. أما بالنسبة للثقافات البعيدة، فقد صنع الطيار الآلي فرقًا هائلًا.
- السر الخفي: وجدوا أن "العقل" المستخدم لكتابة التعليمات كان مهمًا. استخدام روبوت كبير وذكي جدًا لكتابة التعليمات للروبوت الأصغر كان يعطي نتائج أفضل من استخدام روبوت صغير لكتابة التعليمات.
5. لماذا هذا مهم؟
لما-ذا يجب أن تهتم؟
لأن هذه الروبوتات بدأت تُستخدم في وظائف جادة: كتابة القوانين، تلخيص الأخبار، مساعدة الحكومات في اتخاذ القرارات، ومراجعة الوثائق.
إذا كان الروبوت يتخذ قرارات لدولة في الشرق الأوسط ولكنه يفكر كشخص من نيويورك، فقد يقترح سياسات لا تبدو منطقية أو قد تبدو غير عادلة للسكان المحليين. توضح هذه الورقة أنه باستخدام "برمجة الأوامر"، يمكننا "ضبط" هذه الروبوتات لتكتسب وتحترم وتعكس قيم الناس المحددين الذين تخدمهم، مما يجعلها أدوات أكثر عدلاً وفائدة للجميع، وليس للغرب فقط.
الملخص
- المشكلة: روبوتات الذكاء الاصطناعي تفكر طبيعيًا كأشخاص غربيين.
- الإصلاح القديم: إخبار الروبوت يدويًا: "تظاهر بأنك من البلد (س)". (يعمل بشكل مقبول).
- الإصلاح الجديد: استخدام برنامج كمبيوتر ذكي (DSPy) لكتابة أفضل التعليمات تلقائيًا لجعل الروبوت يفكر كأنه من البلد (س). (يعمل بشكل أفضل بكثير).
- الهدف: جعل الذكاء الاصطناعي شريكًا عادلًا للقرارات الاستراتيجية وللحياة اليومية للناس في كل مكان، بغض النظر عن مكان عيشهم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.