Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

في العالم الحديث، نعتمد بشكل متزايد على الذكاء الاصطناعي لتلخيص الأخبار، وكتابة القصص، والإجابة على الأسئلة. هذه الأنظمة، المعروفة بالذكاء الاصطناعي التوليدي، لا تقوم ببساطة باسترجاع الحقائق من قاعدة بيانات؛ بل تتعلم التنبؤ بالكلمات التي يجب أن تلي بعضها البعض من خلال دراسة كميات هائلة من النصوص من الإنترنت. وتخلق هذه العملية نموذجاً إحصائياً للغة البشرية، حيث يتعلم النظام الأنماط بناءً على ما قرأه بشكل متكرر. ولعقود من الزمن، أعرب الخبراء عن قلقهم من أن هذه الأنظمة قد تكون منحازة، بمعنى أنها قد تفضل مجموعة من الناس بشكل غير عادل على أخرى. وكان الافتراض المعتاد هو أن هذا الانحياز يأتي من أخطاء محددة في البيانات أو من الخيارات التي يتخذها المبرمجون الذين يبنون هذه الأدوات. ومع ذلك، يشير منظور جديد إلى أن المشكلة أعمق بكante وأكثر هيكلية؛ فالمسألة ليست مجرد وقوع الذكاء الاصطناعي في أخطاء، بل إن الأساس الذي يفهم من خلاله الذكاء الاصطناعي العالم مبني على طريقة تفكير واحدة مهيمنة، مما يجعل كل طرق المعرفة الأخرى تبدو وكأنها انحرافات.

يجادل باحثان قانونيان، جيلاد أبيري وإيمانويل توفيغ، بأن هذه الظاهرة، التي يسمونها "التبعية الإبستيمية" (التبعية المعرفية)، تمثل تحولاً جوهرياً في كيفية تنظيم المعرفة. ويقترحون أن الذكاء الاصطناعي التوليدي يفعل شيئاً لم تفعله أي تكنولوجيا سابقة: إنه يرمز طريقة معرفة الأغلبية كبنية تحتية افتراضية لكل المعرفة. وفي هذا النظام، تصبح الافتراضات الثقافية، واللغات، وأساليب الاستدلال الخاصة بالأغلبية العالمية هي المعيار غير المرئي الذي يُقاس به كل شيء آخر. والضرر هنا ليس مجرد إنتاج الذكاء الاصطناعي لنتائج غير عادلة، بل في بنائه لواقع إحصائي تُدفع فيه ثقافات ولغات الأقليات هيكلياً إلى الأسفل، ليس لأنها مستبعدة، بل لأنها استُوعبت وتم تسطيحها في متوسط واحد متجانس. ويوضح المؤلفان أن هذه القضية توحد ثلاث مشكلات منفصلة غالباً ما تُعامل كقضايا متميزة: المخرجات التمييزية، والتهديدات للثقافات الأقلية، وتضييق نطاق النقاش الديمقراطي. وقد وجدا أن هذه ليست مجرد أعطال عشوائية، بل هي نتيجة حتمية لكيفية بناء هذه النماذج.

تتكشف آلية هذه التبعية عبر ثلاث مراحل متميزة، تبدأ من البيانات نفسها. تُدرب معظم نماذج الذكاء الاصطناعي على الإجمالي غير المهيكل للتعبير البشري المتاح على الإنترنت. وهذا المشهد الرقمي ليس محايداً؛ فهو يهيمن عليه بشكل ساحق المحتوى باللغة الإنجليزية، والمنظورات الغربية، وآراء السكان الذين يمتلكون التعليم والقدرة على النشر عبر الإنترنت. وعندما يتعلم النموذج من هذه المجموعة، فإنه لا يتعلم الكلمات فحسب، بل يتعلم الافتراضات الثقافية والأطر المعيارية لتلك الأغلبية كافتراض إحصائي أساسي. أما المرحلة الثانية فتجعل هذا الافتراض غير قابل للإلغاء. فخلال التدريب، يتم ضغط البيانات في مليارات المعلمات الإحصائية التي لا يمكن تفكيكها أو تتبع أصولها. وخلافاً للبرامج الحاسوبية القديمة حيث كان بإمكان المبرمج الإشارة إلى قاعدة محددة تسبب انحيازاً، فإن هذه النماذج غامضة بطبيعتها. فالانحياز ليس في سطر برمجي واحد أو متغير محدد، بل هو منسوج في بنية النظام بأكملها.

وتتضمن المرحلة الثالثة الأدوات المستخدمة لجعل أنظمة الذكاء الاصطناعي هذه آمنة وعادلة، والمعروفة باسم "محاذاة القيم". تقنيات مثل التعلم المعزز من التغذية الراجعة البشرية تعدل ما يقوله النموذج لجعله أكثر تهذيباً أو أقل ضرراً. ومع ذلك، يجادل المؤلفان بأن هذه الأدوات تغير المخرجات فقط، وليس المعرفة الكامنة. فعندما يحاول المطورون فرض التنوع على النموذج، قد تكون النتائج عبثية، مثل توليد صور لجنود نازيين من أعراق متنوعة، لأن القاعدة الأساسية للنموذ de لا تملك إطاراً حقيقياً للتنوع السياقي؛ فهو يحاول ببساطة تجاوز افتراض إحصائي بشكل فج دون أن يفهمه حقاً. وبناءً على ذلك، يحدث الضرر عند مستوى البناء، وليس عند مستوى الإجابة النهائية. فالنموذج لا ينتج قرارات منحازة فحسب، بل يخضع أشكالاً كاملة من المعرفة والثقافة عبر معاملتها كحالات شاذة عن معيار لم تشارك في وضعه.

هذا الواقع الهيكلي يخلق أزمة للقوانين الحالية المصممة لحماية الأقليات. فقوانين مكافحة التمييز، على سبيل المثال، تعمل من خلال مقارنة قرار معين بمعيار محايد. فإذا رفض بنك طلباً للحصول على قرض بناءً على قاعدة محددة تضر بفئة محمية، يمكن للقانون إبطال ذلك. لكن الذكاء الاصطناعي التوليدي لا يقدم هدفاً محدداً كهذا. فالمخرج التمييزي هو نتاج البنية الكاملة، وليس قاعدة واحدة يمكن تحديدها. "القرار" هو تخمين احتمالي، و"المعايير" هي مليارات المعلمات غير المرئية، و"الكيان" المسؤول هو سلسلة من المطورين والمستخدمين. وتفقد الأدوات القانونية للنية والسببية سيطرتها لأن الضرر ليس فعلاً محدداً من الاستبعاد، بل هو حالة من الاحتواء حيث يتم استيعاب وجهات نظر الأقليات وتسطيحها.

ويمتد التهديد ليشمل الحقوق الثقافية واللغوية، المصممة لحماية مؤسسات الأقليات من هيمنة الأغلبية. تقليدياً، كان بإمكان مدرسة تابعة لأقلية أن تختار مكتبتها الخاصة أو تختار منهاجها الخاص للحفاظ على لغتها وتقاليدها. كان الانحياز الثقافي في تلك التقنيات يكمن في المحتوى، الذي يمكن اختياره. لكن الذكاء الاصطناعي التوليدي يعكس ذلك؛ فالانحياز يكمن في بنية النموذج نفسه. لا تستطيع مجتمع من الأقليات بناء نموذج أساسي خاص بها لأن التكلفة تبلغ مئات الملايين من الدولارات، والبيانات المطلوبة لا توجد بالمقياس المتوفر على الإنترنت للغات الأصغر. وتظهر الاختبارات الأخيرة أنه حتى أفضل النماذج تحقق دقة عالية في اللغة الإنجليزية، لكنها تنخفض بشكل كبير في لغات مثل السواحيلية أو اليوروبا. فعندما تستخدم مدرسة دينية أو فصل دراسي بلغة أقلية مساعداً يعمل بالذكاء الاصطناعي، فإنها تستورد إطاراً معيارياً يميل افتراضياً إلى التفكير العلماني الغربي. إن هذه التكنولوجيا تخترق المساحات المؤسسية التي كان من المفترض أن تحميها تلك الحقوق، وتعيد هيكلة المعرفة من الداخل بطريقة لم تفعلها الأدوات السابقة.

وأخيراً، يهدد هذه الظاهرة البنية التحتية للمداولة الديمقراطية. تعتمد الديمقراطية الصحية على توافر أطر متنوعة حقاً لفهم المشكلات، وتتطلب أن يتعرض الناس لوجهات نظر لم يختاروها مسبقاً. ومع ذلك، إذا أصبح الذكاء الاصطناعي التوليدي مصدراً رئيسياً للمعلومات، فإنه سيجعل المجال المعرفي متجانساً. لن يتم قمع أطر عمل الأقليات، بل سيتم استيعابها في بيانات تدريب النموذج، ولكن سيتم إخضاعها هيكلياً في المخرجات. لن يختفي الخطاب العام، لكنه سيدور بشكل متزايد داخل مجال تم تسطيحه بالفعل ليصل إلى ثقافة المتوسط. إن الأطر القانونية المصممة لحماية تعدد وجهات النظر، مثل قواعد التنوع الإعلامي، تفترض أن المعرفة المتنوعة موجودة بشكل مستقل وتحتاج فقط إلى قناة لتصل إلى الجمهور. لكن التبعية الإبستيمية تنهار هذا الافتراض، مما يضيق المجال الذي ينشأ منه الخطاب المتنوع.

ويخلص المؤلفان إلى أن الاستجابات القانونية الحالية غير قادرة هيكلياً على الوصول إلى هذه المشكلة لأنها تعمل في مرحلة "ما بعد الإنتاج"، أي أنها تنظم ما تفعله أنظمة الذكاء الاصطناعي بدلاً من كيفية بنائها. فالقوانين مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي أو اللوائح الحكومية المختلفة تركز على تطبيق الذكاء الاصطناعي في التوظيف أو الإقراض، أو على سلامة المنتج النهائي. وهي لا تعالج تكوين بيانات التدريب أو بنية النموذج نفسه. والادعاء المركزي للمقال هو أن حماية التعددية الإبستيمية تتطلب توجهاً تنظيمياً مختلفاً تماماً؛ إذ يجب أن يمتد القانون ليحكم مستوى التدريب، ويشكل تكوين البيانات، وطرق المحاذاة، وبنية النموذج.

وهذا ليس مجرد مطلب نظري؛ إذ تشير الأبحاث الحديثة إلى أن القدرة التقنية على التدخل حقيقية. فقد اقترح العلماء بنيات نموذجية (modular architectures) حيث يستمد النموذج الأساسي معلوماته من نماذج أصغر خاصة بمجتمعات معينة للحفاظ على وجهات نظر متميزة. كما أظهر آخرون كيفية بناء بيانات تدريب قائمة على أسس ثقافية للغات غير الممثلة بشكل كافٍ، لضمان الحفاظ على الفروق الدقيقة بدلاً من تسطيحها. وهناك أيضاً طرق لتوليد بيانات تدريب اصطناعية لتمثيل وجهات نظر ثقافية محددة وإعادة تصميم عملية المحاذاة لتمثيل توزيع كامل للقيم البشرية بدلاً من افتراض واحد مهيمن. ورغم أن هذه المقترحات ليست حلولاً نهائية، إلا أنها تثبت أن المسار التقني للمضي قدماً موجود. وما يغيب هو الإرادة السياسية والإطار القانوني الذي يتطلب ويسمح بهذه التدخلات. إن المهمة التي تنتظرنا هي بناء قوانًين يمكنها الوصول إلى عملية بناء النموذج نفسه، لضمان ألا تقوم البنية التحتية للمعرفة بإخضاع التنوع الذي تدعي خدمته.