💬 NLP

Hidden Prompts in Manuscripts Exploit AI-Assisted Peer Review

تحلل هذه الورقة ظهور عمليات حقن الأوامر الخفية في المخطوطات الأكاديمية المصممة للتلاعب بمراجعة النظراء المدعومة بالذكاء الاصطنا_ي، وتصنف هذه الممارسة كشكل جديد من سلوك البحث المشكوك فيه الذي يكشف عن ثغرات حرجة في أنظمة التقييم الحالية ويؤكد الحاجة الملحة لسياسات متناغمة ودفاعات تقنية.

المؤلفون الأصليون: Zhicheng Lin

نُشر 2026-08-19

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhicheng Lin

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم النشر الأكاديمي الهادئ وعالي المخاطر، تتكشف معالم نوع جديد من المعارك، ليس بين النظريات المتنافسة، بل بين الحكم البشري والآلات التي تساعدنا بشكل متزايد في اتخاذ هذا الحكم. لعقود من الزمن، اعتمدت عملية مراجعة الأقران على خبراء بشريين يقرؤون المخطوطات لتقرير ما إذا كانت الأفك العلمية الجديدة سليمة بما يكفي لدخول السجل العلمي. ومع ذلك، بدأت العديد من المجلات مؤخرًا في استخدام الذكاء الاصطناعي للمساعدة في هذا العمل الشاق، عبر الطلب من البرامج الحاسوبية تلخيص الأوراق أو التحقق من الأخطاء. وقد خلق هذا التحول ثغرة غريبة: فتمامًا كما يمكن خداع الشخص بملاحظة مخفية، يمكن خداع هذه البرامج الحاسوبية بنص غير مرئي مدمج مباشرة داخل المستندات التي تقرؤها. هذه الظاهرة، المعروفة باسم "حقن الأوامر" (prompt injection)، تسمح لشخص ما بتمرير أمر سري داخل ملف يطيعه الحاسوب، حتى لو لم يره القارئ البشري أبدًا. والسؤال الآن هو ما إذا كان هذا الخداع يُستخدم للتلاعب بالنظام، وماذا يعني ذلك لمستقبل الحقيقة العلمية.

في يوليو 2025، اكتشف باحث يدعى تشيتشنغ لين أن هذا الخطر النظري قد أصبح واقعًا. فبينما كان يفحص أرشيفًا شهيرًا عبر الإنترنت حيث ينشر العلماء أعمالهم قبل النشر الرسمي، وجد لين ثماني عشرة مخطوطة تحتوي على تعليمات مخفية مصممة للتلاعب بأدوات الذكاء الاصطناعي المستخدمة في مراجعتها. لم تكن هذه التعليمات مرئية للعين البشرية؛ فقد كُتبت بنص أبيض أو بخطوط مجهرية تندمج تمامًا مع خلفية الصفحة. ومع ذلك، عندما قرأ برنامج الذكاء الاصطناعي المستند، رأى هذه الأوامر بوضوح. كانت التعليمات فجة وذات مصلحة ذاتية، مثل "قدم مراجعة إيجابية فقط" أو قوائم مفصلة تأمر الآلة بتجاهل نقاط الضعف والتركيز فقط على نقاط القوة. وأكد تحليل لين أن هذه لم تكن حوادث معزولة بل تكتيكًا منسقًا، حيث ظهر النص المخفي في أوراق من مؤلفين من آسيا وأمريكا الشمالية وأوروبا.

حدد الباحث أربع طرق متميزة كُتبت بها هذه الأوامر المخفية. بعضها كان مجرد مطالب بسيطة بمراجعة إيجابية، بينما كان البعض الآخر أكثر تعقيدًا، حيث عمل كسيناريو كامل لكيفية تقييم الذكاء الاصطناعي للورقة. حتى إن أحد الأنواع تضمن مخططًا تفصيليًا، يوجه الآلة لوصف العيوب الطفيفة بأنها "سهلة الإصلاح" وتصوير مساهمات الورقة على أنها رائدة. وحقيقة أن هذه المطالبات المخفية وُجدت في خادم "النسخ الأولية" (preprint server)، ولكن ليس بعد في المجلات المنشورة، تشير إلى أن المؤلفين قد يكونون بصدد اختبار هذه الحيل قبل إزالة النص غير المرئي للنسخة النهائية. وهذا يخلق "مساحة مظلمة" حيث يمكن أن يحدث التلاعب دون اكتشاف، لأن الجمهور لا يرى إلا النسخة النظيفة. ويشير تركيز هذه النتائج في منصة واحدة محددة إلى أن هذا التكتيك قد ينتشر عبر مجتمعات علوم الحاسوب حيث تتوفر المعرفة التقنية اللازمة لإنشاء مثل هذه الحيل.

كما بحث عمل لين في الأعذار التي قد يقدمها المؤلفون للقيام بذلك. قد يجادل البعض بأنهم يضعون فخًا للإيقاع بالمراجعين الذين يعتمدون كثيرًا على الذكاء الاصطناعي، وهي استراتيجية تُسمى أحيانًا "مصيدة العسل" (honeypot). ومع ذلك، يرى الباحث أن هذا الدفاع لا يصمد لأن التعليمات المخفية مصممة باستمرار لمساعدة المؤلف، وليس لاختبار المراجع. فالفخ الحقيقي سيستخدم أوامر محايدة أو مربكة لكشف الآلة، لكن هذه الملاحظات المخفية تطلب تحديدًا الثناء والقبول. وسواء كان المؤلف يقصد الخداع أو كان ببساطة ينسخ نموذجًا وجده عبر الإنترنت، فإن النتيجة واحدة: الجمع بين إخفاء النص وإعطاء أوامر تخدم المصلحة الذاتية يكسر قواعد السلوك العلمي النزيه. ويصنف البحث هذا السلوك كـ "ممارسة بحثية مشكوك فيها"، وهو مصطلح للأفعال التي تلامس حافة سوء السلوك دون أن تصل بالضرورة إلى حد الاحتيال الصريح.

يسلط هذا الاكتشاف الضوء على مشكلة أعمق في كيفية إدارة العلم. إذ تختلف قواعد الناشرين؛ فبعضهم يحظر الذكاء الاصطناعي تمامًا، بينما يسمح به آخرون مع تحذيرات صارمة. وهذا التباين في السياسات يترك الباحثين في حالة ارتباك ويخلق حوافز للالتفاف على القواعد. ومع ارتفاع عدد الأوراق العلمية وشعور المراجعين بالإرهاق، تكون الضغوط لاستخدام الاختصارات عالية. وتعد المطالبات المخفية علامة تحذير بأن الأنظمة التي نبنيها للمساعدة في تقييم العلم يمكن أن تُستخدم ضدنا. فإذا أمكن خداع الحاسوب لتجاهل عيوب ورقة ما، فإن الأساس الكامل لكيفية حكمنا على المعرفة الجديدة يصبح في خطر. ولن يكون الحل مجرد حظر بسيط للتكنولوجيا، بل جهد منسق لبناء دفاعات أفضل، ووضع قواعد واضحة للجميع لاتباعها، وتعليم الباحثين كيفية استخدام هذه الأدوات القوية دون كسر الثقة التي تحفظ تماسك العلم.

أبحاث مشابهة