An Investigation of Linguistic Biases in LLM-Based Recommendations
تتقصى هذه الدراسة التحيزات اللغوية في توصيات المطاعم والمنتجات القائمة على النماذج اللغوية الكبيرة عبر لهجات جنوب أمريكا، والإنجليزية الهندية، واللغة الهجينة (Code-Switched) بين الهندية والإنجليزية، كاشفةً أن عائلات نماذج محددة تُظهر حساسية متزايدة تجاه مطالبات الإنجليزية الهندية واللغة الهجينة، مما يؤدي إلى تباينات متميزة في أنماط التوصية دون وجود اتجاهات ثابتة تعتمد فقط على حجم النموذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مجموعة من الطهاة الرقميين الأذكياء للغاية (نماذج الذكاء الاصطناعي)، وهم خبراء في اقتراح ما يجب أن تأكله أو تشتريه. تسألهم نفس السؤال تماماً: "أنا جائع، ماذا يوجد ليؤكل؟" أو "أحتاج إلى قميص جديد، بماذا تنصحني؟"
لكن هنا تكمن الخدعة: أنت تطرح السؤال بثلاث "لهجات" أو أساليب مختلفة في التحدث:
- الإنجليزية الأمريكية الجنوبية: مثل جار ودود من الجنوب.
- الإنجليزية الهندية: طريقة محددة يتحدث بها الإنجليزي في الهند.
- التبديل اللغوي (Code-Switched): مزيج من الإنجليزية والهندية، مثل "Arre yaar, I'm dying of hunger!" (آري يار، أنا أموت من الجوع!).
أراد الباحثون معرفة ما إذا كان هؤلاء الطهاة الرقميون سيقدمون لك إجابات مختلفة لمجرد "كيفية" طرحك للسؤال، حتى لو كان "ما" تسأل عنه هو نفسه. لقد عاملوا الذكاء الاصطناعي كطاهٍ في حالة "البداية الباردة" (cold start) — مما يعني أنهم لم يعطوا الذكاء الاصطناعي أي تاريخ عن تفضيلاتك السابقة أو أذواقك، بل فقط السؤال وقائمة من الخيارات.
التجربة: اختبار "القائمة"
قدم الباحثون للذكاء الاصطنا�ي قائمة متوازنة وطويلة مكونة من 100 مطعم (نصفها أمريكي ونصفها هندي) و100 منتج (مثل الملابس، أو الأدوات المنزلية، أو مستحضرات التجميل). وطلبوا من الذكاء الاصطناعي اختيار أفضل 20 مفضلاً لديه بناءً على "لهجة" السؤال المحددة. قاموا بذلك مئات المرات مع قوائم مختلفة للتأكد من أن النتائج حقيقية وليست مجرد صدفة.
ما وجدوه: "اللكنة" تفرق
وجدت الدراسة أن "ذوق" الذكاء الاصطناعي يتغير اعتماداً على اللهجة، تماماً كما قد يخمن البشر تفضيلاتك بناءً على لهجتك.
1. نتائج المطاعم:
- النمط: عندما سُئل بالإنجليزية الهندية أو بالتبديل اللغوي (الهندية-الإنجليزية)، كان الذكاء الاصطناعي أكثر عرضة لترشيح المطاعم الهندية. وعندما سُئل بالإنجليزية الأمريكية الجنوبية، كان يرشح مطاعم هندية أقل.
- تأثير "العقل الكبير": كان أكبر نموذج ذكاء اصطناعي تم اختباره (Llama-3.1-70B) هو الأكثر حساسية لهذه اللهجات. كان الأمر يشبه طاهياً، بمجرد سماع لهجة معينة، يفكر فوراً: "آه، هذا الشخص لا بد أنه يريد طعاماً هندياً"، فيقدم له طبقاً من ذلك، رغم أن السؤال لم يقل صراحةً "أريد طعاماً هندياً".
- الطاهي "الأذكى": ومن المثير للاهتمام أن نماذج GPT-OSS (المعروفة ببراعتها في التفكير المنطقي) كانت الأقل تأثراً باللهجة. بدا وكأنها تتجاهل "نكهة" الكلمات وتركز أكثر على المعنى الفعلي، وتتصرف كطاهٍ يقول: "لقد قلت إنك جائع؛ إليك وجبة متوازنة من القائمة بأكملها"، بغض النظر عن كيفية طرحك للسؤال.
2. نتائج المنتجات:
- النمط: غير الذكاء الاصطنا also اقتراحات التسوق الخاصة به بناءً على اللهجة.
- أدت المطالبات التي تستخدم "التبديل اللغوي" غالباً إلى المزيد من التوصيات لمنتجات المنزل، والرياضة، والملابس.
- أدت مطالبات الإنجليزية الهندية غالباً إلى المزيد من توصيات منتجات التجميل.
- الحجم لا يحل المشكلة دائماً: عادة ما نعتقد أن نماذج الذكاء الاصطنازي الأكبر هي "الأذكى" أو الأقل انحيازاً. لكن هنا، لم تكن النماذج الأكبر دائماً تتصرف بشكل أفضل. في بعض الأحيان، كانت النماذج الكبيرة أكثر حساسية للهجة من النماذج الصغيرة، وفي أحيان أخرى كانت أقل حساسية. لم تكن هناك قاعدة بسيطة تقول إن "الأكبر هو الأفضل" لمعاللة هذا الانحياز.
الخلاصة الكبرى
تخلص الورقة البحثية إلى أن أنظمة الذكاء الاصطناعي هذه لا تقرأ فقط "معنى" كلماتك، بل تتفاعل أيضاً مع "أسلوب" كلماتك.
فكر في الأمر كأنه نادل، بمجرد سماع لهجة معينة، يفترض أنك تريد نوعاً معيناً من المأكولات ويقدمه لك قبل أن تطلب حتى. وبينما قد يكون هذا مفيداً أحياناً، يحذر الباحثون من أنه قد يمثل مشكلة. فهذا يعني أن الذكاء الاصطناعي يضع افتراضات حول هويتك وما تحبه بناءً على لغتك، مما قد يحد من خياراتك ويعزز الصور النمطية.
باختما: إذا طرحت سؤالاً على الذكاء الاصطناعي بلهجة مختلفة، فقد يعطيك قائمة مختلفة من التوصيات، حتى لو كنت تسأل عن الشيء نفسه تماماً. إن الذكاء الاصطناعي يستمع إلى "صوتك"، وليس فقط إلى "كلماتك".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.