The Algorithmic Unconscious: Structural Mechanisms and Implicit Biases in Large Language Models
تقدم هذه الورقة مفهوم "اللاوعي الخوارزمي" لتجادل بأن التحيزات الكبيرة في النماذج اللغوية الكبيرة لا تنشأ مجرد من تكوين مجموعات البيانات، بل من آليات هيكلية متأصلة مثل التجزئة (tokenization)، والانتباه (attention)، والمحاذاة (alignment)، مبرهنةً من خلال التحليل التجريبي لفرط التجزئة في اللغة العربية كيف تعمل هذه العوامل البنيوية على تشويه أداء النموذج بشكل منهجي وتستوجب إطاراً جديداً للتدقيق التقني.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "اللاوعي الخوارزمي"، مترجمة إلى لغة بسيطة ويومية باستخدام تشبيهات إبداعية.
الفكرة الكبرى: "الدماغ الخفي" للذكاء الاصطناعي
تخدّل أنك تتحدث إلى روبوت ذكي جداً ومطلع. تسأله سؤالاً، فيعطيك إجابة. ولكن ماذا لو كان لدى الروبوت "دماغ خفي" لا يعرف هو بوجوده، وأنت أيضاً لا تستطيع رؤيته؟
يسمي المؤلف، فيليب بواينارد، هذا بـ "اللاوعي الخوارزمي".
عادةً، عندما نعتقد أن الذكاء الاصطناعي منحاز، فإننا نلوم الأشخاص الذين بنوه أو الكتب التي غدّوه بها. لكن هذه الورقة تجادل بأن الانحياز يأتي من "السباكة الداخلية" للآلة نفسها. حتى لو كان البناة طيبين والكتب عادلة، فإن الطريقة التي "تفكر" بها الآلة (رياضياتها وهيكلها) تخلق تحيزات خفية. الآلة لا "تعرف" أنها غير عادلة؛ بل يحدث ذلك تلقائياً.
إليك الطرق الأربع الرئيسية التي يسبب بها هذا "الدماغ الخفي" المشاكل، مشروحة بالتشبيهات:
1. "الخريطة المنقطة" (انحياز التجزئة - Tokenization Bias)
المشكلة: لكي يفهمك الذكاء الاصطناعي، يقوم بتقسيم كلماتك إلى قطع صغيرة تسمى "توكنز" (Tokens). فكر في هذه القطع كأنها قطع أحجية (Puzzles).
التشبيه: تخيل أن لديك خريطة للعالم.
- اللغة الإنجليزية مرسومة على الخريطة بكتل كبيرة، واضحة، وسهلة القراءة.
- اللغة العربية أو الدارجة المغربية مرسومة بنقاط مجهرية صغيرة جداً.
لأن "قطع الأحجية" الخاصة بالذكاء الاصطناعي مصممة للغة الإنجليزية، فعندما تكتب بالعربية، يضطر الذكاء الاصطناعي لتقطيع كلماتك إلى قطع أكثر بكثير ليفهمها.
- النتيجة: يستغرق الذكاء الاصطناعي أربعة أضعاف الوقت "لقراءة" جملة عربية مقارنة بجملة إنجليزية. كما يكلف مالاً أكثر للتشغيل، ويصبح الذكاء الاصطنا_ئي "متعباً" (ينفد مخزون الذاكرة لديه) بشكل أسرع. الأمر يشبه محاولة قراءة كتاب مكتوب بخط صغير جداً لدرجة أنك تحتاج لمجهر، بينما يقرأ الجميع بخط عادي.
2. "آلة النميمة" (انحياز السببية - Causal Bias)
المشكلة: الذكاء الاصطناعي لا يفهم لماذا تحدث الأشياء؛ هو يعرف فقط ما الذي يحدث عادةً بعد ذلك.
التشبيه: تخيل آلة نميمة قرأت كل الصحف في العالم.
- إذا رأت الآلة كلمتي "نار" و"دخان" معاً مليون مرة، ستتعلم أنهما مرتبطان.
- لكن إذا رأت الآلة كلمتي "الإسلام" و"العنف" معاً في 10,000 مقال إخباري (حتى لو كان ذلك نادراً في الواقع)، فستبدأ بالاعتقاد بأنهما سببان لبعضهما البعض.
الذكاء الاصطناعي لا يستطيع التمييز بين الارتباط (حدوث شيئين معاً) وبين السببية (شيء يتسبب في حدوث الآخر). ولأنه يعتمد على الإحصاء، فإنه يعزز الصور النمطية. إذا قالت البيانات إن "س" غالباً ما يرتبط بـ "ص"، يفترض الذكاء الاصطناعي أن "س" يسبب "ص"، حتى لو لم يكن ذلك صحيحاً. هذا يخلق "اختزالاً سببياً"، حيث يتم تسطيح الثقافات المعقدة وتحويلها إلى صور نمطية بسيطة وغالباً ما تكون سلبية.
3. "الخلاط العملاق" (انهيار الأبعاد - Dimensional Collapse)
المشكلة: يحاول الذكاء الاصطناعي أن يكون فعالاً. هو يحب الأنماط التي تتكرر كثيراً ويتجاهل الأشياء النادرة والغريبة.
التشبيه: تخيل خلاطاً سحرياً ضخماً.
- تضع فيه كوباً من الكلمات الإنجليزية (الفاكهة الأكثر شيوعاً).
- وتضع فيه كوباً من الدارجة (فاكهة نادرة).
- يدور الخلاط. وبسبب وجود الكثير من الإنجليزية، يتم سحق الدارجة وخلطها حتى تبدو تماماً مثل الإنجليزية. النكهة الفريدة للدارجة تختفي.
في "عقل" الذكاء الاصطناعي (مساحته الرياضية)، يتم سحق اللهجات النادرة. يجبر الذكاء الاصطناعي الدارجة المغربية على أن تبدو مثل العربية الفصحى، ويجبر العربية الفصحية على أن تبدو مثل الإنجليزية. إنه يمحو الهوية الفريدة للغة لأن النسخة المهيمنة هي "الأكثر أماناً إحصائياً". هذا نوع من المحو الرقمي—ثقافتك ليست ممنوعة، بل جعلتها الرياضيات غير مرئية فحسب.
4. "أمين المكتبة الصارم" (محاذاة السلامة - Safety Alignment)
المشكلة: لمنع الذكاء الاصطناعي من قول أشياء مسيئة، يبرمج البشر "قواعد سلامة".
التشبيه: تخيل أمين مكتبة صارماً لا يعرف سوى قواعد مدينة نيويورك.
- إذا تحدثت بلهجة نيويورك، سيفهمك تماماً.
- إذا تحدثت بالدارجة المغربية، فلن يفهم السياق. قد يسمع كلمة تبدو وكأنها إهانة في نيويورك، فيقوم بطردك من المكتبة.
"فلاتر السلامة" في الذكال الاصطناعي مدربة غالباً على المعايير الغربية الناطقة بالإنجليزية. هي لا تفهم أن كلمة ما قد تكون مزحة ودية في ثقافة ما، لكنها إهانة في ثقافة أخرى. لذا، فهي تصمت أصوات الأقليات عن طريق الخطأ، وتصنف المحادثات العادية على أنها "سامة" وترفض الإجابة على أسئلة هي في الأصل طبيعية تماماً في ثقافتها.
الحل: "عيادة تقنية"
يقول المؤلف إننا لا نستطيع "إصلاح" الذكاء الاصطناعي مثلما نصلح محمصة خبز معطلة. نحن بحاجة إلى عيادة تقنية.
- لا تلم الروبوت: الروبوت ليس "شريراً"؛ هو فقط يتبع برمجته الخفية.
- شخّص الأعراض: نحتاج أن نتصرف كالأطباء. يجب أن نقيس بالضبط كم عدد "قطع الأحجية" التي تحتاجها العربية مقارنة بالإنجليزية. نحتاج لرسم خريطة للمكان الذي يقوم فيه عقل الذكاء الاصطناعي بسحق ثقافات معينة.
- صف العلاج:
- أدوات أفضل: بناء قطع أحجية تعمل للجميع، وليس فقط لمتحدثي الإنجليزية.
- بيانات أفضل: تغذية الذكاء الاصطناعي بقصص أكثر تنوعاً، وليس فقط القصص "النظيفة" من الصحف الكبرى.
- قواعد أفضل: تعليم الذكاء الاصطناعي أن "السلامة" تبدو مختلفة في الثقافات المختلفة.
الخلاصة
"اللاوعي الخوارزمي" هو مجموعة القواعد غير المرئية التي تقرر من يُسمع صوته ومن يُسكت في العالم الرقمي. إنها ليست مؤامرة، بل هي خلل هيكلي.
إذا لم ننظر تحت الغطاء ونفهم هذه الآليات الخفية، فإننا نخاطر ببناء مستقبل يساعد الجميع باستثناء أولئك الذين يتحدثون بشكل مختلف، أو يفكرون بشكل مختلف، أو يعيشون في ثقافات مختلفة. نحن بحاجة لجعل غير المرئي مرئياً حتى نتمكن من إصلاحه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.