Beyond Content: How Grammatical Gender Shapes Visual Representation in Text-to-Image Models
تقدم هذه الورقة معيارًا عابرًا للغات يوضح أن النوع النحوي في لغات الأوامة (prompt languages) ينحاز بشكل كبير لمخرجات نماذج تحويل النص إلى صورة نحو الأجناس المرئية المقابلة، مما يكشف أن البنية اللغوية ذاتها، بما يتجاوز مجرد المحتوى الدلالي، تشكل التمثيلات المرئية المولدة بواسطة الذكاء الاصطناعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك طاهٍ يمكنه طهي أي طبق بمجرد قراءة الوصفة. لكن إليك الحبكة: الوصفة ليست مجرد قائمة من المكونات؛ بل إن قواعد اللغة التي تستخدمها لكتابة الوصفة تغير سرًا نكهة الطبق، حتى لو كانت المكونات هي نفسها تمامًا.
هذه الورقة البحثية تتحدث عن فريق من الباحثين اكتشفوا أن نماذج الذكاء الاصطناعي لتحويل النص إلى صورة (T2I) (التي تمثل "الطهاة") تتأثر بشدة بـ الجنس القواعدي للكلمات التي نستخدمها لوصفها، وليس فقط بمعاني الكلمات نفسها.
إليك تفصيل نتائجهم باستخدام تشبيهات بسيطة:
الفكرة الجوهرية: "شبح القواعد"
في لغات مثل الإنجليزية أو الصينية، لا تمتلك كلمات مثل "حارس" (guard) أو "نميمة" (gossip) جنسًا متأصلًا فيها؛ فهي محايدة. ولكن في لغات مثل الفرنسية أو الألمانية أو الإسبانية، لكل اسم جنس (مذكر أو مؤنث)، حتى لو كان كائنًا أو مفهومًا.
- التجربة: أخذ الباحثون كلمات حيث يتصادم الجنس القواعدي مع الجنس النمطي.
- مثال: في اللغة الفرنسية، كلمة "حارس" (une sentinelle) هي في الأصل مؤنثة قواعديًا، رغم أن الحراس يُنظر إليهم نمطيًا على أنهم مذكرون.
- مثال: في اللغة الألمانية، كلمة "نميمة" (der Tratsch) هي في الأصل مذكر قواعديًا، رغم أن النميمة غالبًا ما ترتبط بالنساء نمطيًا.
لقد طلبوا من ثلاثة نماذج مختلفة من الذكاء الاصطناعي (DALL-E 3، وIdeogram، وFlux) رسم صور لهذه المفاهيم باستخدام ثلاثة أنواع من الأوامر (Prompts):
- الأمر ذو الجنس المحدد: استخدام الكلمة الفرنسية/الألمانية (مثل: "صورة لـ sentinelle").
- الأمر المحايد (الإنجليزية): استخدام الكلمة الإنجليزية ("A photo of a guard").
- الأمر المحايد (الصينية): استخدام الكلمة الصينية.
الكشف الكبير: القواعد هي عصا سحرية
كانت النتائج مفاجئة. لم ينظر الذكاء الاصطناعي فقط إلى ماذا تعني الكلمة؛ بل استمع إلى جنس الكلمة.
تأثير المذكر: عندما يُعطى الذكاء الاصطناعي كلمة ذات قواعد مذكر (حتى لو كان المفهوم مذكرًا في الأصل)، فإنه يرسم رجالًا في كثير من الأحيان.
- التشبيه: الأمر يشبه إذا طلبت وصفة "مؤنثة" ولكن استخدمت ملصق مكونات "مذكر"، فقرر الطاهي فجأة تقديم شريحة لحم بدلاً من سلطة.
- الأرقام: مع القواعد المذكرة، رسم الذكاء الاصطناي رجالًا بنسبة 73% من المرات. بينما مع الإنجليزية المحايدة، رسم رجالًا بنسبة 22% فقط. هذه قفزة هائلة لمجرد وجود علامة قواعدية صغيرة.
تأثير المؤنث: عندما يُعطى الذكاء الاصطناعي كلمة ذات قواعد مؤنثة، فإنه يرسم نساءً بشكل أكبر، لكن التأثير كان مختلطًا بعض الشيء.
- الأرقام: زادت القواعد المؤنثة من صور النساء إلى 38% (مقارنة بـ 28% في الإنجليزية).
- التحول: في بعض الحالات (خاصة مع نموذج DALL-E 3)، فعل الذكاء الاصطناعي عكس ما اقترحته القواعد تمامًا، ويرجح أن ذلك بسبب محاولته الشديدة لـ "تصحيح" الصور النمطية، مما أدى إلى نتيجة عكسية.
لماذا يحدث هذا؟
وجد الباحثون سببين رئيسيين:
- تحيز "الموارد العالية": كان التأثير أقوى في اللغات التي تمتلك بيانات تدريب كثيرة (مثل الفرنسية والإسبانية والألمانية). الأمر كما لو أن الذكاء الاصطناعي قد "قرأ" الكثير من الكتب بهذه اللغات، فتعلم ربط علامات الجنس القواعدي بأنماط بصرية محددة.
- "فلتر الإنجليزية": عند مقارنة النتائج بالإنجليزية، كان التأثير أضعف أحيانًا. يشتبه الباحثون في أن هذا لأن نماذج الذكاء الاصطناعي بالإنجليزية خضعت لعمليات "إزالة التحيز" (تدريب لتجنب الصور النمطية) خصيصًا للغة الإنجليزية. ومع ذلك، عند مقارنتها بالصينية (التي لديها أبحاث أقل حول التحيز)، كانت تأثيرات الجنس القواعدي أقوى وأوضح.
النماذج تتفاعل بشكل مختلف
فكر في نماذج الذكاء الاصطنا الثلاثة كفنانين مختلفين:
- Flux: الفنان الأكثر حساسية. لقد اتبع قواعد الجنس القواعدي بصرامة، حيث رسم رجالًا للكلمات المذكرة ونساءً للكلمات المؤنثة في كل مرة تقريبًا.
- Ideogram: الفنان الذي يقف في المنطقة الوسطى. اتبع القواعد ولكنه لم يكن متطرفًا.
- DALL-E 3: الفنان "المتمرد". غالبًا ما تجاهل الجنس القواعدي أو فعل العكس تمامًا، ويرجح أن ذلك بسبب تدريبه الذي تضمن تعليمات قوية لتجنب الصور النمطية للجنس.
الأثر الجانبي لـ "الغموض"
هناك ملاحظة جانبية مثيرة للاهتمام: عندما تم توجيه الذكاء الاصطناعي باستخدام لغات ذات جنس قواعدي، أنتج صورًا يصعب تصنيفها (لم يستطع تحديد ما إذا كان الشخص ذكرًا أم أنثى). يبدو الأمر وكأن الصراع بين معنى الكلمة وجنسها القواعدي قد أربك الذكاء الاصطناعي، مما جعل الصورة تبدو "ضبابية" فيما يتعلق بالجنس.
الخلا الخطوط العريضة
تثبت هذه الورقة أن بنية اللغة نفسها تشكل الواقع في الذكاء الاصطناعي. ليس فقط ماذا تقول (المحتوى)، بل كيف تقولها (القواعد) هو ما يغير الصورة.
إذا أردت صورة لـ "حارس"، فقد يظهر لك الذكاء الاصطناعي رجلًا بالإنجليزية، ولكنه سيظهر امرأة بالفرنسية، ببساطة لأن الكلمة الفرنسية للحارس مؤنثة قواعديًا. يطلق الباحثون على هذا نوعًا جديدًا من التحيز: تحيز الجنس القواعدي.
ما لا تقوله الورقة البحثية:
- هي لا تقترح التوقف عن استخدام اللغات ذات الجنس القواعدي.
- لا تقدم حلًا محددًا لهذه المشكلة بعد (باستثناء الإشارة إلى أن تدريب النماذج يحتاج لمراعاة ذلك).
- لا تدعي أن هذا يحدث في جميع أنظمة الذكاء الاصطناعي، بل في النماذج الثلاثة المحددة التي اختبروها فقط.
باختصار، قواعد اللغة هي بمث like دليل تعليمات مخفي للذكاء الاصطناعي، يخبره بمن يرسم حتى قبل أن ينظر إلى معنى الكلمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.