LLM hallucinations in the wild: Large-scale evidence from non-existent citations
تقدم هذه الدراسة أدلة واسعة النطاق على أن الاعتماد الواسع لنماذج اللغات الكبيرة قد أدى إلى ارتفاع حاد في الاستشهادات غير الموجودة عبر ملايين الأوراق العلمية، مما يهدد موثوقية وعدالة إنتاج المعرفة بينما يتجاوز الضمانات التحريرية الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
الفكرة الكبرى: مشكلة "الكتاب الوهمي"
تخيل أنك تكتب مقالاً مدرسياً، وتحتاج إلى إدراج الكتب التي قرأتها في قائمة المراجع الخاصة بك. إذا اخترعت عنوان كتاب غير موجود، يمكن لمدرسك التحقق بسهولة والقول: "هذا الكتاب ليس حقيقياً".
هذه الورقة البحثية هي تحقيق ضخم فيما يحدث عندما يبدأ الذكاء الاصطناعي (نماذج اللغات الكبيرة) في كتابة تلك المراجع للعلماء. وجد الباحثون أن الذكاء الاصطناعي بدأ يخترع عناوين كتب وهمية (استشهادات) ويدرجها في أوراق علمية حقيقية. وبينما كان العلماء يرتكبون دائماً أخطاء صغيرة، تظهر الدراسة أنه منذ أن أصبح الذكاء الاصطناعي شائعاً، انفجر عدد هذه "الكتب الوهمية".
كيف كشفوا الذكاء الاصطناعي؟
تعامل الباحثون مع العالم العلمي كأنه مكتبة ضخمة. لقد فحصوا 111 مليون مرجع (استشهاد) عبر أربع مكتبات رقمية رئيسية (arXiv، وbioRxiv، وSSRN، وPubMed Central).
- المنهجية: قاموا ببناء "محرك بحث" رقمي للتحقق من كل استشهاد على حدما. إذا لم يتمكن محرك البحث من العثور على الكتاب أو الورقة في العالم الحقيقي، فإنه يصنفها كمرجع "غير متطابق".
- الفلتر (المصفاة): كانوا يعلمون أن بعض الاستشهادات كانت مجرد تنسيق سيء (تنسيق رديء أو كتب غير مشهورة). لذا، استخدموا ذكاءً اصطناعياً ذكياً لتنظيف الاستشهادات الفوضوية. وإذا ظل الاستشهاد "غير موجود" بعد كل عمليات التنظيف هذه، فإنه يُحسب كـ "هلوسة" (مرجع وهمي).
- الخط المرجعي: قارنوا عدد الاستشهادات الوهمية قبل انتشار الذكاء الاصطناعي (2022) بـ بعده. ووجدوا قفزة حادة ومخيفة بدأت في عام 2024.
النتيجة: في عام 2025 وحده، يقدرون وجود 146,932 استشهاداً وهمياً في هذه المكتبات الأربع فقط. وهذا على الأرجى ليس سوى قمة جبل الجليد.
من الذي يفعل ذلك؟
وجدت الورقة أن مشكلة "الكتاب الوهمي" لا تأتي من عدد قليل من الأشخاص السيئين؛ بل هي منتشرة في كل مكان، لكنها تتركز في مجموعات محددة:
- "الوافدون الجدد": العلماء الأكثر عرضة لإدراج استشهادات وهمية هم الباحثون في بداية مسيرتهم المهنية (الطلاب والأساتذة الجدد) الذين لم ينشروا الكثير من الأوراق البحثية بعد.
- تشبيه: فكر في الأمر كأنه سائق جديد لم يتعلم قواعد الطريق بعد. إنه يستخدم الذكاء الاصطناعي لمساعدته في القيادة (كتابة الأوراق)، لكنه يقود بالخطأ نحو أحياء وهمية لأنه لا يعرف الخريطة جيداً بما يكفي لتمييز الأخطاء.
- "السائقون المنفردون": الأوراق التي يكتبها مؤلف واحد أو فرق عمل صغيرة لديها معدلات أعلى بكثير من الاستشهادات الوهمية مقارنة بالفرق الكبيرة.
- تشبيه: إذا كتبت قصة بمفردك، قد تفوتك غلطة مطبعية. أما إذا كتبت مع فريق من المحررين، فسوف يكتشف شخص آخر الخطأ. الفرق الكبيرة تعمل كشبكة أمان؛ أما الفرق الصغيرة فغالباً ما تفتقر إلى هذه الشبكة.
- "المجالات كثيفة استخدام الذكاء الاصطناعي": المجالات التي يستخدم فيها الناس الذكاء الاصطناعي بكثرة (مثل علوم الحاسوب والعلوم الاجتماعية) لديها أعلى معدلات من الاستشهادات الوهمية.
من يحصل على الفضل؟
هذا هو الجزء غير العادل. عندما يخترع الذكاء الاصطناعي ورقة بحثية وهمية، فإنه لا يخترع اسماً عشوائياً فحسب. بل يميل إلى اختراع أوراق بحثية منسوبة إلى علماء مشهورين وناجحين ورجال.
- تشبيه: تخيل طالباً يختلق اقتباساً مزيفاً لمقال تاريخي. بدلاً من اختراع اسم عشوائي، يقوم الطالب (بقصد أو دون قصد) باختراع اقتباس لأشهر رئيس في التاريخ.
- النتيجة: هذا يعني أن الذكاء الاصطناعي يعزز عدم المساواة عن غير قصد. فهو يعطي "ائتماناً" إضافياً لمن هم مشهورون بالفعل ورجال، بينما يتجاهل العلماء الأقل شهرة أو النساء. حتى لو كانت الورقة وهمية، فإن اسم الشخص المشهور يُضاف إلى قائمة "الأشخاص الذين كتبوا عن هذا الموضوع".
لماذا لا يكتشف المحررون ذلك؟
قد تتساءل: "ألا تراجع المجلات هذه الأوراق قبل نشرها؟" تقول الدراسة: لا، ليس حقاً.
- مشكلة "النسخة الأولية" (Preprint): ينشر العديد من العلماء أعمالهم عبر الإنترنت قبل نشرها رسمياً (مثل مسودة على مدونة). وجدت الدراسة أن 78.8% من الاستشهادات الوهمية تتسلل عبر المشرفين الأوليين عبر الإنترنت.
- فجوة مراجعة الأقران: حتى عندما تذهب هذه الأوراق إلى المجلات الرسمية للمراجعة، فإن 85% من الاستشهادات الوهمية تنجو من العملية وتُنشر.
- تشبيه: الأمر يشبه حارس أمن في حفلة موسيقية يتحقق من التذاكر. الحارس يمسك بالأشخاص الذين لديهم تذاكر مزيفة "واضحة جداً"، لكن الأشخاص الذين لديهم تذاكر مزيفة "تبدو جيدة" (والتي يجعلها الذكاء الاصطناعي مقنعة للغاية) يمرون من خلاله بسهولة.
"تأثير كرة الثلج"
الجزء الأكثر خطورة في هذا الأمر هو كيفية انتشار الاستشهادات الوهمية.
- تلوث المكتبة: بمجرد نشر ورقة وهمية، يتم إضافتها إلى "جوجل سكولار" (Google Scholar) وقواعد البيانات الأخرى.
- الحلقة المفرغة: الباحثون المستقبليون (والذكاء الاصطناعي المستقبلي) سيبحثون في هذه القواعد، ويرون الورقة الوهمية، ويعتقدون: "أوه، هذا مصدر حقيقي!". ثم سيستشهدون بها في أعمالهم الخاصة.
- النتيجة: تصبح الورقة الوهمية "حقيقية" لأن الجميع يعاملها كأنها حقيقية. الذكاء الاصطناعي يتعلم من أخطائه، مما يخلق دورة تمتلئ فيها المكتبة بالمزيد والمزيد من القصص الخيالية.
الخلاصة
تجادل هذه الورقة بأننا نعيش في أزمة ثقة. يعتمد العلم على فكرة أنه إذا استشهدت بورقة ما، فإن تلك الورقة موجودة بالفعل وتقول ما تدعي أنها تقوله.
تظهر الدراسة أن الذكاء الاصطناعي يكسر هذه الثقة. حتى في العلم - وهو المجال الذي يمتلك أصرّم القواعد وأفضل الأدوات للتحقق من الحقائق - ينجح الذكاء الاصطناعي في تمرير آلاف المراجع الوهمية كل عام. إذا كان هذا يحدث في العلم (حيث يسهل كشفه)، فإن الورقة تشير إلى أنه من المرجح أن يحدث بشكل أسوأ في مجالات أخرى مثل القانون والطب والتقارير الحكومية، حيث توجد أدوات أقل للتحقق من الحقائق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.