💻 computer science

A Self-Healing Architecture for Mitigating Bibliographic Hallucinations in LLM-Generated Academic Texts

تقدم هذه الورقة بنية مبتكرة ذاتية الإصلاح تكتشف وتخفف ذاتياً من الهلوسات الببليوغرافية في النصوص الأكاديمية المولدة بواسطة النماذج اللغوية الكبيرة عبر الجمع بين التحقق متعدد الطبقات وعملية تنقية فعالة قائمة على الجمل، محققة دقة تحديد عالية (0.96) ومقللة التكاليف الحسابية بشكل كبير مع ضمان النزاهة العلمية.

المؤلفون الأصليون: Davide Tosi, Edoardo Crescenzo Mauriello, Andrea Utzeri

نُشر 2026-08-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Davide Tosi, Edoardo Crescenzo Mauriello, Andrea Utzeri

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الكتابة المعاصر، أصبحت الحواسيب شركاء بارعين بشكل ملحوظ؛ إذ يمكنها صياغة المقالات، وتلخيص التقارير المعقدة، ومحاكاة نبرة الباحث المتمرس بسهولة مذهلة. هذه الأدوات، المعروفة باسم نماذج اللغات الكبيرة، تعمل من خلال التنبؤ بالكلمة التالية في الجملة بناءً على الأنماط التي تعلمتها من كميات هائلة من النصوص. ومع ذلك، فإن هذه القوة تنطوي على نقطة ضعف خفية؛ فبسبب إعطاء هذه الأنظمة الأولوية لتدفق اللغة على الحقائق الصارمة للعالم الواقعي، فإنها قد تخترع أحياناً تفاصيل تبدو منطقية تماماً ولكنها كاذبة بالكامل. وفي مجال الكتابة الأكاديمية، تظهر هذه المشكلة بشكل أكثر خطورة في الحواشي السفلية وقوائم المراجع. فقد تولد الحواسب استشهاداً يبدو صحيحاً، مكتملاً بعنوان ومؤلف ورمز رقمي فريد يسمى (DOI)، ليجد القارئ البشري لاحقاً أن الورقة لم توجد قط، أو أن المؤلف لم يكتبها، أو أن التاريخ مستحيل. هذه الظاهرة، المعروفة باسم "الهلوسة"، تهدد نزاهة البحث العلمي، حيث صدرت بالفعل عقوبات قانونية وأكاديمية بحق مهنيين قدموا وثائق تحتوي على مثل هذه المراجع المختلقة.

لقد طور فريق من الباحثين في جامعة "إنسبريا" في إيطاليا نظاماً جديداً مصمماً لكشف هذه الأخطاء وإصلاحها تلقائياً، ويطلقون على ابتكارهم اسم بنية "الترميم الذاتي" (self-healing architecture). وبدلاً من محاولة إجبار الحاسوب على أن يكون مثالياً منذ البداية، وهو أمر ثبت صعوبته، يعمل نظامهم بمثابة محرر صارم يتدخل بعد كتابة النص. وهو يعمل من خلال عملية مكونة من أربع خطوات تحاكي المراجعة البشرية الدقيقة. أولاً، يقوم النظام بمسح المستند بالكامل للعثور على كل مرجع، بغض النظر عن طريقة تنسيقه. بعد ذلك، يعمل كمدقق للحقائق، حيث يرسل كل استشهاد إلى قواعد بيانات رسمية وموثوقة تضم سجلات المنشورات العلمية الحقيقية ليرى ما إذا كانت تتطابق معها. وإذا وُجد المرجع مزيفاً أو غير صحيح، يقوم النظام بإزالته أو استبداله بالتفاصيل الصحيحة. وأخيراً، يعيد النظام كتابة الجمل التي أُجريت عليها التغييرات لضمان بقاء النص ينساب بسلاسة ومن الناحية النحوية. يسمح هذا النهج للحاسوب بتوليد المسودة الأولية بينما تضمن طبقة أخرى قائمة على الأدلة جودة المنتج النهائي وموثوقيته.

ولاختبار مدى نجاح هذه الطريقة، أنشأ الباحثون مجموعة كبيرة من ألف استشهاد؛ بعضها حقيقي، والبعض الآخر تم تعديله عمداً لمحاكاة أنواع الأخطاء التي ترتكبها الحواسيب، مثل اختراع رمز رقمي أو تغيير سنة النشر. وقد مرروا هذه الاستشهادات عبر أربعة نماذج حاسوبية رائدة لمعرفة مدى قدرة نظام الترميم الذاتي على كشف الزيف. وكانت النتائج مشجعة؛ فقد نجح النظام في تحديد الغالبية العظمى من المراجع المختلقة، محققاً معدل دقة يتجاوز 96 بالمئة. وكان فعالاً بشكل خاص في كشف الاستشهادات التي تحتوي على رموز رقمية غير موجودة في أي قاعدة بيانات حقيقية. وفي اختبار أساسي باستخدام أحد النماذج الحاسوبية دون شبكة الأمان هذه، تبين أن ما يقرب من 40 بالمئة من الرموز الرقمية المولدة كانت مزيفة، مما يعني أن نصف المراجع تقريباً كانت ستؤدي بالقراء إلى طرق مسدودة. ومع وجود نظام الترميم الذاتي، تم كشف هذه الأخطاء وتصحيحها.

اكتشف الباحثون أيضاً أن الطريقة التي يعيد بها النظام كتابة النص تؤثر بشكل كبير على الكفاءة. في البداية، فكروا في جعل الحاسوب يعيد كتابة الفقرة بأكملة في كل مرة يجد فيها خطأً، إلا أنهم وجدوا أن هذه العملية بطيئة ومكلفة، وتستهلك قدراً كبيراً من القدرة الحوسبية. وبدلاً من ذلك، قاموا بتحسين النظام ليركز فقط على الجمل المحددة التي تحتوي على الأخطاء. ومن خلال عزل الأجزاء المعيبة فقط وإصلاحها، قلل النظام الوقت المستغرق لمعالجة النص بنسبة تقارب 68 بالمئة، وخفض تكلفة الموارد الحوسبية بنفس القدر تقريباً. وهذا يعني أنه يمكن استخدام هذه الأداة في المستندات الكبيرة دون أن تصبح بطيئة جداً أو مكلفة لدرجة تجعلها غير عملية.

تقر الدراسة بأن النظام ليس مثالياً ويعتمد على قواعد البيانات التي يفحصها؛ فإذا كانت هناك ورقة بحثية حقيقية ولكن لم يتم إدخالها في تلك السجلات المحددة، فقد يصنفها النظام خطأً على أنها مزيفة. علاوة على ذلك، استخدمت الاختبارات استشهادات تم إفسادها عمداً من قبل الباحثين لمحاكاة الأخطاء، بدلاً من استخدام نصوص مولدة تلقائياً من قبل الحواسيب فقط. وهذا يعني أن معدلات النجاح العالية الملحوظة هي مؤشر قوي على إمكانات النظام، لكن الأداء في العالم الحقيقي قد يختلف قليلاً. ورغم هذه القيود، يوضح هذا العمل أن إضافة طبقة خارجية من التحقق يمكن أن يحسن بشكل كبير من موثوقية الكتابة الأكاديمية المولدة آلياً. ومن خلال الجمع بين سرعة الذكاء الاصطناعي والقواعد الصارمة للتحقق من الحقائق، أنشأ الباحثون أداة تساعد في ضمان بقاء السجل الأكادى دقيقاً، حتى عندما تأتي المسودة الأولى من آلة.

أبحاث مشابهة