Detecting AI-Generated Content in Academic Peer Reviews
تحلل هذه الدراسة مراجعات النظراء من مؤتمر (ICLR) ومجلة (Nature Communications) للكشف عن زيادة حادة في المحتوى المُنشأ بواسطة الذكاء الاصطناعي بدءاً من عام 2022، لتصل إلى حوالي 20% و12% على التوالي بحلول عام 2025، مما يسلط الضوء على الانتشار المتزايد للمساعدة المعتمدة على الذكاء الاصطناعي في التقييم الأكاديمي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم النشر الأكاديمي كأنه بطولة للأفكار ضخمة وعالية المخاطر. في هذه البطولة، يقدم العلماء أوراقهم البحثية، ويقوم مجموعة من الحكام الخبراء (المراجعون الأقران) بقراءتها لتقرير ما إذا كانت جيدة بما يكفي للنشر. لعقود من الزمن، كانت هذه اللعبة بشرية بحتة: البشر يكتبون الأوراق، والبشر يكتبون الانتقادات.
ولكن مؤخرًا، دخل لاعب جديد إلى الساحة: الذكاء الاصطناعي (AI).
هذه الورقة تشبه قصة بوليسية يحاول فيها المؤلفون اكتشاف: كم عدد هؤلاء الخبراء الذين يسمحون سرًا لروبوت بكتابة انتقاداتهم نيابة عنهم؟ والأهم من ذلك، متى بدأ هذا يحدث؟
إليك تفاصيل تحقيقهم، مشروحة ببعض التشبيهات من الحياة اليومية:
1. أداة المحقق: "كاشف الذكاء الاصطناعي"
لم يستطع الباحثون سؤال المراجعين ببساطة: "هل استخدمت الذكاء الاصطناعي؟" لأن المراجعين مجهولو الهوية وقد يكذبون. بد instead، قاموا ببناء جهاز كشف معادن رقمي.
- كيف بنوه: قاموا بتغذية الكاشف بمجموعة من المراجعات من عام 2021. أخبروا الكاشف: "هذه هي المراجعات البشرية الحقيقية، وهذه هي بعض المراجعات المزيفة التي صنعها الذكاء الاصطناعي. تعلم الفرق بينهما".
- التدريب: تعلم الكاشف كيفية رصد "بصمة" كتابة الذكاء الاصطناعي. الأمر يشبه تعليم كلب شم نوع معين من الجبن؛ بمجرد تدريبه، يمكن للكلب أن يشم ذلك الجبن حتى لو كان مخفيًا في غرفة أخرى.
2. التحقيق: مسح الماضي
بمجرد أن أصبح الكاشف جاهزًا، استخدمه الباحثون لمسح المراجات من أعوام 2022، 2023، 2024، و2025. لقد نظروا إلى "ساحتين" مختلفتين:
- ICLR: مؤتمر سنوي سريع الإيقاع لعلوم الحاسوب (مثل سباق العدو السريع).
- Nature Communications: مجلة مرموقة ومستمرة لجميع العلوم (مثل سباق الماراثون).
3. النتائج: السنوات "الهادئة" مقابل "الانفجار"
كانت النتائج مثل مشاهدة بركة هادئة فجأة وهي تتلقى رشة قوية من الماء.
- 2022 و2023 (السنوات الهادئة): بالكاد وجد الكاشف أي شيء. كان الأمر مثل المشي في غابة والعث_ور على صفر زجاجات بلاستيكية. بدت جميع المراجعات وكأنها مكتوبة بواسطة بشر. هذا يشير إلى أنه في ذلك الوقت، كان استخدام الذكاء الاصطناعي لكتابة المراجعات نادرًا أو غير موجود.
- 2024 (نقطة التحول): فجأة، بدأ الكاشف يصدر أصوات تنبيه. في النصف الثاني من عام 2024، بدأ عدد المراجعات التي تبدو كأنها من صنع الذكاء الاصطناعي في الارتفاع. يبدو الأمر كما لو أن شخصًا ما فتح بوابة الفيضان.
- 2025 (الفيضان): بحلول عام 2025، تغير الوضع بشكل كبير.
- في مؤتمر ICLR، تم تصنيف ما يقرب من 20% من المراجعات (واحد من كل خمسة) على أنها ناتجة عن الذكاء الاصطناعي.
- في Nature Communications، تم تصنيف حوالي 12% منها.
4. "لماذا" و"متى"
لاحظت الورقة شيئًا مثيرًا للاهتمام حول التوقيت. حدثت أكبر قفزة بين الربع الثالث والرابع من عام 2024.
فكر في هذا الأمر مثل إطلاق جهاز ألعاب فيديو جديد. في مايو 2024، أصدرت OpenAI نسخة فائقة الذكاء من ذكائها الاصطناعي (ChatGPT-4o) لتكون متاحة مجانًا للجميع. تشير البيانات إلى أنه بمجرد توفر هذه "الأداة الفائقة"، بدأ المراجعون في استخدامها أكثر فأكثر لصياغة ملاحظاتهم.
5. الصورة الكبيرة: ماذا يعني هذا؟
يحذرنا المؤلفون من أن هذا ليس مجرد خلل عابر؛ إنه تحول في السلوك.
- مشكلة "الكاتب الشبح": تخيل لو أن حكمًا في مباراة رياضية سمح لروبوت بكتابة قرارات الجزاء. قد تبدو اللعبة جيدة، لكن النزاهة تكون مهددة. إذا كتب الذكاء الاصطناط المراجعات، فهل يقرأ العلماء الأوراق حقًا، أم أنهم يكتفون فقط بالضغط على زر "إنشاء"؟
- واقع "الهجين": تقر الورقة بأن كاشفهم يبحث عن المراجعات التي هي في معظمها من صنع الذكاء الاصطناعي. في الواقع، قد يقوم العديد من المراجعين بـ "رقصة بشرية-آلية"، حيث يكتبون الأفكار الرئيسية بأنفسهم ولكن يستخدمون الذكاء الاصطناعي لصقل القواعد اللغوية أو جعلها تبدو أكثر فخامة. قد يفتقد كاشفهم هذه الحالات "الهجينة"، مما يعني أن الرقم الحقيقي لاستخدام الذكاء الاصطناعي قد يكون أعلى.
الخلاصة
هذه الدراسة هي صرخة استيقاظ. إنها تظهر أن العالم الأكاديمي ينتقل من "منطقة البشر فقط" إلى "منطقة البشر والآلات" بسرعة كبيرة.
تمامًا كما اضطرت المدارس لتحديث قواعدها عند وصول الآلات الحاسبة ثم الإنترنت، يحتاج عالم العلوم إلى تحديد قواعد جديدة للذكاء الاصطناعي. إذا كانت مراجة واحدة من كل خمس مراجعات مكتوبة بواسطة آلة، فنحن بحاجة للتساؤل: هل لا نزال نحكم على جودة العلم، أم أننا نحكم فقط على مدى قدرة الذكاء الاصطناعي على محاكاة البشر؟
يخلص المؤلفون إلى أنه بينما قد يساعد الذكاء الاصطناعي في الكفاءة، يجب أن نكون حذرين من عدم السماح لـ "الأشباح في الآلة" بالسيطرة على أهم وظيفة على الإطلاق: تحديد المعرفة الجديدة التي ستشكل مستقبلنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.