💻 computer science

It's How You Ask: Gender-Associated Linguistic Bias in LLMs

تُثبت هذه الورقة أن النماذج اللغوية الكبيرة تولد بشكل منهجي استجابات أقصر، وأقل رقيًا، وأقل رسمية للمطالبات التي تحتوي على سمات لغوية مرتبطة عادةً بالنساء، مما يكشف عن تحيز عميق الجذور في طبقات المحولات (transformer) المبكرة يصعب تخفيفه من خلال تقديم المستخدم لنفسه.

المؤلفون الأصليون: Katherine Van Koevering, Anjalie Field

نُشر 2026-08-14

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Katherine Van Koevering, Anjalie Field

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تسير داخل مكتبة عملاقة غير مرئية، حيث الكتب مكتوبة بواسطة روبوت فائق الذكاء قرأ كل شيء تقريباً كُتب على الإنترنت. هذا الروبوت هو "نموذج لغوي كبير" (LLM)، وهو يصبح صديقنا الجديد في كتابة رسائل البريد الإلكتروني، وطلبات التوظيف، والملاحظات الهامة الأخرى. لكن هنا تكمن المشكلة: تماماً مثل البشر، تعلم هذا الروبوت من عالم اللغة البشرية الفوضوي والمعقد، المليء بالعادات الدقيقة والقواعد غير المعلنة. إحدى هذه القواعد هي أن الرجال والنساء غالباً ما يتحدثون ويكتبون بطرق مختلفة قليلاً، ليس لأنهم يحاولون أن يكونوا مختلفين، بل بسبب الطريقة التي نشأوا بها والثقافة التي يعيشون فيها. على سبيل المثال، قد تستخدم النساء كلمات "تلطيفية" أكثر مثل "ربما" أو "أعتقد"، أو يطرحن المزيد من الأسئلة في نهاية الجمل مثل "أليس كذلك؟"، أو يقلن "نحن" بدلاً من "أنا". السؤال الكبير الذي يسأله العلماء هو: هل يعاملنا هذا الروبوت بشكل مختلف بناءً على هذه العادات اللغوية الصغيرة وغير الواعية؟ إذا اعتقد الروبوت أن أسلوب كتابة المرأة يبدو "أقل جدية"، فقد يكتب لها بريداً إلكترونياً أضعف، مما قد يضر بفرصها في العمل. لا يتعلق الأمر بأن الروبوت شرير؛ بل يتعلق بما إذا كان الروبوت قد تعلم نسخ الصور النمطية دون أن نلاحظ ذلك حتى.

قرر الباحثون وراء هذه الدراسة لعب لعبة "البحث عن الفروق" مع هذا الروبوت فائق الذكاء. لقد أخذوا طلبات حقيقية قدمها الناس للروبوت - مثل "اكتب بريداً إلكترونياً إلى مديري" - وقاموا بتعديلها سراً. بالنسبة لبعض الطلبات، أضافوا العادات "الناعمة" المرتبطة غالباً بالنساء (مثل إضافة "ربما" أو "لنقم بهذا معاً"). وبالنسبة لطلبات أخرى، جعلوا الطلبات تبدو أكثر مباشرة وحزماً، وهي عادات ترتبط غالباً بالرجال. ثم طلبوا من أربعة نماذج مختلفة من الروبوتات كتابة رسائل البريد الإلكتروني رداً على ذلك.

كانت النتائج مفاجئة ومثيرة للقلق نوعاً ما. فعندما تلقت الروبوتات الطلبات "الأنعم" والأكثر تعاوناً، كتبت ردوداً كانت أقصر وأبسط وأقل رسمية. وكأن الروبوت سمع كلمة "ربما" وفكر: "أوه، هذا الشخص ليس متأكداً، لذا سأعطيه إجابة سريعة وسهلة فقط". ولكن عندما كانت الطلبات مباشرة وحازمة، كتبت الروبوتات رسائل بريد إلكتروني أطول وأكثر تطوراً واحترافية. تحقق الباحثون للتأكد من أن الروبوتات لم تكن مجرد نسخة من أسلوب الطلب (مثل الببغاء الذي يكرر الكلمات)، ووجدوا أن الروبوتات كانت في الواقع تغير "جودة" إجاباتها بناءً على هذه الإشارات اللغوية الصغيرة.

هذا هو الجزء الصعب حقاً: اختبر الباحثون أيضاً ما إذا كانت الروبوتات تهتم بإشارات النوع الاجتماعي الصريحة، مثل وضع اسم رجل أو اسم امرأة في نهاية الطلب. ووجدوا أن الأسماء لم تكن مهمة على الإطلاق. لم يهتم الروبوت إذا كان البريد الإلكتروني موقعاً باسم "جون" أو "جين". ما اهتم به هو كيفية تركيب الكلمات معاً. الأمر كما لو أن الروبوت لديه مفتاح خفي ينقلض بناءً على "روح" اللغة، وليس بناءً على بطاقة الاسم.

لمعرفة "كيف" كان الروبوت يفعل ذلك، نظر العلماء داخل دماغ الروبوت (كوده البرمجي). ووجدوا أن الروبوت يتعرف على هذه العادات اللغوية "الناعمة" في وقت مبكر جداً، في الطبقات الأولى من معالجته، وبشكل فوري تقريباً. ومع ذلك، لم يكن الروبوت يستخدم الاسم لاتخاذ قراره. هذا يشيع أن الروبوت تعلم استخدام أسلوب اللغة كطريق مختصر لتخمين النوع، ومن ثم يطبق صورة نمطية على الإجابة التي يقدمها.

تشير الدراسة إلى أن هذه مشكلة صعبة الحل. ولأن هذه العادات اللغوية غالباً ما تكون غير واعية - فالناس لا يدركون أنهم يستخدمون "ربما" أو "نحن" طوال الوقت - فلا يمكن للمستخدمين مجرد "بذل جهد أكبر" ليبدوا أكثر مباشرة للحصول على إجابة أفضل. سيكون من غير العادل مطالبة الناس بتغيير طريقة حديثهم الطبيعية فقط لإرضاء الكمبيوتر. ويخلص الباحثون إلى أننا بحاجة إلى توخي الحذر بشأن كيفية بناء هذه الأدوات، لأنها في الوقت الحالي، قد تجعل التواصل في مكان العمل أصعب للأشخاص الذين يستخدمون أسلوباً أكثر تعاوناً أو "نعومة"، حتى لو كان هذا الأسلوب طبيعياً واحترافياً تماماً. الروبوت ليس شريراً عن قصد، لكنه منحاز بسبب الطريقة التي تعلم بها كيف يستمع.

ملخص تقني: "إنها الطريقة التي تسأل بها: التحيز اللغوي المرتبط بالنوع الاجتماعي في النماذج اللغوية الكبيرة"

أبحاث مشابهة