When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models
تُظهر هذه الدراسة أن النماذج اللغوية المتنوعة تُظهر "أحادية ثقافة الاستشهاد" من خلال اختيارها بشكل غير متناسب لمجموعة فرعية ضيقة من الأوراق البحثية الحقيقية بسبب مرشحات تفضيل مشتركة على مستوى المحتوى، وهو انحياز منهجي يستمر حتى عند القضاء على الهلوسة ولا يمكن حله بمجرد مساواة عمليات الاسترجاع أو خلط الموردين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
على مدى عقود، اعتمد تقدم العلم على عادة بشرية بسيطة: أن يقرأ الباحثون أعمال الآخرين ويقررون أي الأوراق البحثية سيذكرونها في كتاباتهم. هذا الفعل من الاستشهاد ليس مجرد إجراء شكلي؛ بل هو عملة الائتمان العلمي. فعندما يُستشهد بورقة بحثية كثيرًا، تكتسب ظهورًا، مما يؤدي إلى المزيد من الاستشهادات في دورة تُعرف باسم "تأثير متى"، حيث يزداد الغني غنى. لقد اعتمدت هذه الديناميكية دائمًا على القراء البشر، الذين يمكنهم رؤية سمعة المؤلف، أو هيبة المجلة، أو النجاح السابق للورقة، وترك تلك الإشارات توجه خياراتهم. لكن قوة جديدة تدخل الغرفة الآن. فالذكاء الاصطناعي يتجاوز مجرد التحقق من القواعد اللغوية ليقوم بصياغة مراجعات أدبية كاملة واختيار المراجع التي تشكل ما يراه المجتمع العلمي. لم يعد السؤال هو ما إذا كانت هذه الآلات تستطيع الكتابة فح، بل ما الذي تختار قراءته. فإذا طُلب من الذكاء الاصطناعي إيجاد أهم الأعمال حول موضوع ما، هل سيقوم ببسا-طة بمحاكاة التحيز البشري، أم أنه سيخلق نوعًا جديدًا من التحيز خاصًا به؟
وضع فريق من الباحثين هدفًا للإجابة على ذلك من خلال بناء تجربة منضبطة جردت كل ما يؤثر عادةً في الاستشهاد. جمعوا 120 ورقة علمية حقيقية حول موضوع محدد، ولكن قبل عرضها على الذكاء الاصطناعي، أخفوا جميع إشارات المكانة المعتادة. استُبدلت أسماء المؤلفين بأسماء وهمية، وتم تغيير سنوات النشر، وحُذف عدد مرات استشهاد كل ورقة تمامًا. ثم طُلب من نماذج الذكاء الاصطناعي كتابة مراجعات قصيرة أو أوراق وضعية، ولكن مع قاعدة صارمة: لا يمكنهم ذكر أكثر من عشر أوراق من الثلاثين المعروضة عليهم في كل جولة. هذا الندرة أجبرت النماذج على اتخاذ خيارات حقيقية بدلاً من سرد كل ما رأته. ولضمان أن النتائج ليست مجرد صدفة، قارن الباحثون خيارات الذكاء الاصطناعي بخط أساس حيث يختار الكمبيوتر الأوراق عشوائيًا من نفس القائمة، كما طلبوا من ثمانية خبراء بشريين القيام بنفس الخيارات تحت نفس الظروف تمامًا.
كشفت النتائج عن نمط لافت ومنتظم. فبينما وزع الخبراء البشريون استشهاداتهم بشكل متساوٍ تقريبًا، ومعاملة الأوراق تمامًا كما يفعل المختار العشوائي، ركز كل نموذج ذكاء اصطناعي تم اختباره انتباهه على مجموعة فرعية ضيقة وصغيرة جدًا من الأوراق. في المجموعة البشرية، حصلت أفضل عشرة بالمائة من الأوراق على حوالي 19 بالمائة من الاستشهادات، وهو ما يقرب مما تتوقعه بالصدفة. في المقابل، منحَت نماذج الذكاء الاصطناعي ما بين 23 و30 بالمائة من استشهاداتها إلى العشرة بالمائة الأولى من الأوراق فقط. والأهم من ذلك، تجاهلت النماذج باستمرار عددًا كبيرًا من الأوراق التي عُرضت عليها، بل وتركت بعضها دون استشهاد تمامًا حتى بعد عرضها عشرات المرات. لم تكن هذه حالة من اختلاق الماكينات لمراجع وهمية؛ فكل ورقة استشهدوا بها كانت حقيقية، وكل ورقة تجاهلوها كانت حقيقية. لم يكن الفشل في "الهلوسة"، بل في مرشح (فلتر) مشترك وغير مرئي قرر أي الأوراق الحقيقية تستحق القراءة.
ولعل الاكتشاف الأكثر إثارة للقلق هو أن هذا المرشح كان نفسه لجميع النماذج، بغض النظر عن الشركة التي صنعتها. وسواء كان الذكاء الاصطناعي من إنتاج OpenAI أو Google أو Anthropic، فقد فضلت جميعها نفس الأوراق وتجاهلت نفس الأوراق. وجد الباحثون أن تفضيلات هذه النماذج الأحد عشر المختلفة كانت متشابهة لدرجة أنه يمكن وصفها كخريطة واحدة مشتركة لما تبدو عليه الورقة "القابلة للاستشهاد". لم تكن هذه الخريطة تعتمد على أسماء المؤلفين أو المجلة التي ظهرت فيها، بما أن تلك المعلومات كانت مخفية. بدلاً من ذلك، كانت مدفوعة بنص الملخصات بالكامل. بدا أن النماذج تتفق على أسلوب أو نوع معين من المحتوى يستحق الاهتمام، مفضلة الأوراق التي تبدو كأعمال نظرية جوهرية، بينما تجاهلت بشكل منهجي الأبحاث التطبيقية، حتى عندما كانت الأوراق التطبيقية حقيقية وذات صلة تمامًا.
لفهم ما إذا كان هذا ذاكرة متعلمة من الاستشهادات الماضية أم حكمًا حقيقيًا على الجودة، اختبر الباحثون النماذج مرة أخرى بعد إعادة كتابة عناوين وملخصات الأوراق. قاموا بتغيير الكلمات تمامًا، لضمان عدم قدرة النماذج على التعرف على الأوراق من خلال نصها السطحي، لكنهم حافظوا على المعنى الأساسي. لم تتغير خيارات النماذج؛ إذ ظلت تختار نفس الأوراق بناءً على الصياغة الجديدة، مما أثبت أن تفضيلها كان متجذرًا في معنى المحتوى، وليس في قائمة مشهورة من العناوين المحفوظة. يشير هذا إلى أن النماذج قد طورت حدسًا مشتركًا ومتقاربًا حول ما يشكل ورقة بحثية جيدة، وهو حدس يختلف عن كيفية تقييم الخبراء الب البشر لنفس العمل.
كما استكشفت الدراسة ما يحدث عندما تُستخدم هذه النماذج بشكل متكرر بمرور الوقت. ومع قيام نماذج الذكاء الاصطناعي بكتابة أوراق جديدة وإضافة تلك الأوراق الجديدة إلى المجموعة للاختيار المستقبلي، أصبحت الأوراق الحقيقية الأصلية أكثر ندرة. وجد الباحثون أنه كلما أصبحت الأوراق الحقيقية أكثر ندرة، استشهدت بها النماذج بكثافة أكبر، كما لو كانت تتنافس على الخيارات "الجيدة" المتبقية القليلة. ومع ذلك، لم يعني هذا أن النماذج كانت تولي اهتمامًا أكبر للأدبيات الحقيقية ككل؛ بل في الواقع، انخفض إجمالي حصة الاستشهادات الذاهبة إلى الأوراق الحقيقية بشكل كبير. كانت النماذج ببساطة تركز اهتمامها المحدود على مجموعة متقلصة من "الناجين"، مما خلق حلقة تغذية راجعة حيث يلتقي التفضيل الثابت مع كتالوج يتضاءل.
توضح هذه الأبحاث أن خطر الذكاء الاصطناعي في العلوم لا يكمن فقط في احتمالية اختراعه لحقائق مزيفة، بل في إمكانية اتفاقه الصامت على مجموعة ضيقة من الإجابات "الصحيحة" مع تجاهل بقية المجال. حتى عندما تكون جميع الخيارات حقيقية وكل ورقة مرئية بالتساوي، تفرض هذه الأنظمة مرشحًا مشتركًا على الانتباه العلمي. إن خلط النماذج المختلفة معًا لا يحل المشكلة، لأنها جميعًا تشترك في نفس التحيز الأساسي. ويقترح المؤلفون أن الحل يتطلب تغيير خريطة التفضيل المشتركة نفسها، بدلاً من مجرد محاولة تنويع مصادر المعلومات. إن الآلات لا تكتفي بقراءة الأدبيات؛ بل بدأت في تقرير ماهية هذه الأدبيات، وهي جميعًا تقرر الشيء ذاته.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.