Metag: A dataset to build agentic meta-reviewing capabilities
تقدم هذه الورقة Metag، وهي مجموعة بيانات متاحة للجمهور تضم 349 بنداً من بنود الإجراءات عالية الجودة التي تربط بين مخاوف المراجعين، وحلول المؤلفين، وفروقات المخطوطة لتسهيل تطوير وكلاء الذكاء الاصطناي القادرين على أتمتة وتعزيز عملية المراجعة الشاملة من خلال تتبع التغييرات التي تم إجراؤها خلال مرحلتي مراجعة النظراء والرد.
في عالم البحث العلمي، نادراً ما تكون الرحلة من المسودة الأولى إلى الورقة المنشورة خطاً مستقيماً؛ بل هي عبارة عن حوار. فعندما يقدم الباحث دراسة إلى مؤتمر رئيسي، يقرأها عدة خبراء يشيرون إلى نقاط الضعف، أو يطلبون المزيد من البيانات، أو يقترحون تفسيرات أكثر وضوحاً. يدخل المؤلف بعد ذلك في مرحلة "الرد" (rebuttal)، وهي حوار متبادل يعد فيه بإصلاح هذه المشكلات. وأخيراً، يجب على محرر رفيع المستوى، يُعرف باسم "المراجع الميتاوي" (meta-reviewer)، قراءة كل هذه التعليقات والوعود لتقرير ما إذا كانت الورقة جاهزة للنشر. هذه الخطوة النهائية تشكل عبئاً ثقيلاً؛ إذ يتعين على المراجع الميتاوي التحقق من أن المؤلف قد أجرى بالفعل التغييرات التي وعد بها، وغالباً ما يكون ذلك عبر البحث في مئات الصفحات من النصوص للعثور على المكان الذي عُدّل فيه جملة معينة أو أُضيف فيه مخطط بياني جديد. ومع تزايد عدد الأوراق العلمية، يصبح هذا الفحص اليدوي صعباً بشكل متزايد، مما يهدد بأن تظل وعود مهمة دون وفاء أو أن تُغفل تحسينات حقيقية.
لقد تصدى فريق من الباحثين في مايكروسوفت ومعهد جورجيا للتكنولوجيا لهذه المشكلة من خلال إنشاء أداة جديدة مصممة لتعليم الحواسيب كيفية القيام بعملية التحقق هذه. لقد بنوا مجموعة بيانات تسمى "ميتاج" (Metag)، والتي تعمل كأرض تدريب لوكلاء الذكاء الاصطناعي. والهدف هو إنشاء نظام يمكنه قراءة مخاوف المراجع تلقائياً، والنظر في رد المؤلف، ثم تحديد المواضع الدقيقة في الورقة المنقحة حيث حدثت تلك التغييرات فوراً. ولبناء ذلك، جمع الباحثون مئات الأمثلة من واقع الحياة من مؤتمر رئيسي لتعلم الآلة. لقد أخذوا النسخ الأصلية للأوراق المقبولة وقارنوها بالنسخ النهائية المصقولة. وباستخدام البرمجيات، استخرجوا قائمة مفصلة بكل فرق بين الوثيقتين، بدءاً من كلمة متغيرة وصولاً إلى فقرة تم نقلها. ثم طلبوا من خبراء بشريين ربط هذه التغييرات المحددة بالوعود المقدمة في مناقشات المراجعة. وكانت النتيجة مجموعة مكونة من 349 مثالاً عالي الجودة حيث ترتبط مطالبة المراجع مباشرة بالتعديلات المحددة التي أجراها المؤلف لتلبيتها.
استخدم الباحثون مجموعة البيانات هذه لاختبار مدى قدرة أنواع مختلفة من الذكاء الاصطناعي على أداء مهمة الربط هذه. لقد جربوا طرقاً بسيطة تبحث عن الكلمات المتطابقة، بالإضافة إلى نماذج لغوية متقدمة يمكنها فهم السياق والفروق الدقيقة. وأظهرت النتائج أنه بينما يمكن للحواسيب العثور على بعض التغييرات، فإن المهمة صعبة بشكل مفاجئ. فقد تمكنت النماذج الأفضل أداءً من تحديد التغييرات ذات الصلة بنسبة 40% تقريباً من الوقت. قد يبدو هذا الرقم منخفضاً، لكنه في هذا المجال المحدد يمثل خطوة كبيرة للأمام. ووجدت الدراسة أن طرق مطابقة الكلمات البسيطة غالباً ما تفشل لأن المؤلفين نادراً ما يستخدمون نفس الكلمات التي استخدموها في وعودهم في تغييراتهم؛ فقد يقولون إنهم "وضحوا نقطة ما" ثم يعيدون كتابة فقرة ببساطة دون استخدام كلمة "توضيح". وكانت النماذج الأكثر نجاحاً هي تلك القادرة على فهم القصد وراء الطلب بدلاً من مجرد البحث عن الكلمات المفتاحية.
على الرغم من هذه النجاحات، توضح الورقة أن المشكلة لم تُحل بعد. فلا تزال النماذج الأفضل تفقد العديد من التغييرات ذات الصلة، وتحدد أحياناً تعديلات ليس لها علاقة بطلب المراجع. ويشير الباحثون إلى أن عملهم يقتصر على أوراق من مؤتمر واحد ويعتمد على إيجاد النسخ الأصلية للأوراق في الأرشيفات العامة، وهو أمر لا يمكن تحقيقه دائماً. كما وجدوا أن المقيّمين البشريين لم يتفقوا دائماً على أي التغييرات كانت ذات صلة، مما يشير إلى أن المهمة نفسها تنطوي على درجة من الذاتية. ومع ذلك، فإن إنشاء "ميتاج" يوفر أساساً حاسماً؛ فمن خلال تقديم طريقة واضحة ومنظمة لقياس التقدم، تتيح مجموعة البيانات هذه لعلماء آخرين بناء أدوات أفضل. والرؤية النهائية هي مستقبل يعمل فيه الذكاء الاصطناعي كمساعد مفيد للمحررين البشريين، حيث يسلط الضوء على الصفحات والفقرات المحددة التي وفى فيها المؤلفون بوعودهم، مما يجعل عملية مراجعة الأقران أكثر شفافية وكفاءة وموثوقية.
ملخص تقني: Metag – مجموعة بيانات للمراجعة الشاملة الوكيلية (Agentic Meta-Reviewing)
بيان المشكلة تواجه عملية مراجعة الأقران العلمية ضغوطًا متزايدة بسبب نمو عدد الأوراق المقدمة للمؤتمرات. وبينما تم تطوير أدوات ذكاء اصطناعي لمساعدة المؤلفين في الكتابة والمراجعين في تحديد الأخطاء، لا تزال عملية المراجعة الشاملة (meta-reviewing) غير مستكشفة إلى حد كبير. يجب على المراجعين الشاملين (meta-reviewers) تلخيص كميات هائلة من المعلومات من المراجعات، وردود المؤلفين، وتعديلات المخطوطات لتحديد ما إذا كان المؤلفون قد عالجوا مخاوف المراجعين بشكل كافٍ. هناك عقبة حرجة تتمثل في القابلية للتتبع (traceability): وهي القدرة على ربط بنود عمل المراجع (المخاوف والتزامات المؤلف) بالتغييرات النصية الملموسة التي أُجريت في المخطوطة النهائية. تفشل أدوات مقارنة المستندات الحالية، التي يمكنها تحديد الاختلافات بين إصدارات PDF، في شرح أي تعليق للمراجع كان الدافع وراء تغيير معين، مما يعيق الشفافية والمساءلة.
المنهجية تقدم الورقة Metag، وهي مجموعة بيانات مصممة لسد الفجوة بين حوارات المراجع والمؤلف والتعديلات الملحوظة في المخطوطة. يتبع بناء مجموعة البيانات مسارًا مكونًا من ست مراحل:
الحصول على البيانات: قام المؤلفون بسحب الأوراق المقدمة لـ ICLR 2024 عبر OpenReview. حددوا الأوراق المقبولة واستخرجوا سلاسل الحوار الكاملة بين المراجع والمؤلف (المراجعات، التعليقات، والردود).
استرجاع ملفات PDF: لالتقاط حالات "ما قبل" و"ما بعد" الأوراق، ربط المؤلفون تقديمات OpenReview بنسخ arXiv السابقة للمراجعة باستخدام Semantic Scholar. تأكدوا من أن نسخة arXiv المسترجعة هي الأقرب لتاريخ التقديم، مع استبعاد التحديثات اللاحقة للتقديم.
حساب الفرق (Diff Computation): باستخدام PyMuPDF وخوارزمية Git لفرق السجل التاريخي (histogram diff)، قام النظام بحساب الاختلافات المهيكلة بين ملفات PDF قبل المراجعة والنسخة النهائية (camera-ready). أنتج ذلك قائمة بالتعديلات (إدراج، حذف، استبدال) موسومة بنطاقات نصية، وأرقام صفحات، وسياق محيط.
استخراج بنود العمل: تم استخدام نموذج لغوي كبير (Gemma-3-27B-IT) لاستخراج "بنود عمل" منفصلة من الحوار. هذه البنود عبارة عن أزواج تتكون من مخاوف المراجع والتزام صريح من المؤلف بالتعديل (مثل: "لقد قمنا بتعديل القسم 3...").
الترميز البشري: استخدم المرمِّزون واجهة برمجية تعتمد على Python لعرض ملفات PDF جنبًا إلى جنب مع تراكبات فروق ملونة. كانت مهمتهم هي ربط بنود العمل المستخرجة بالفروق المحددة في قائمة all_diffs التي نفذت التغيير.
الاتفاق والتجميع: تم ترميز كل بند عمل من قبل مرمزين مستقلين. احتفظت مجموعة البيانات النهائية فقط بالفروق الموجودة في تقاطع اختيارات كلا المرمزين لضمان الجودة العالية.
تحتوي مجموعة البيانات الناتجة على 349 بند عمل عالي الجودة مرتبطة بـ 323,786 إجمالي الفروق عبر 137 ورقة بحثية. تتضمن كل حالة بند العمل، والقائمة الكاملة للفروق المرشحة، وتسميات ثنائية تشير إلى الصلة.
المساهمات الرئيسية
مجموعة بيانات Metag: أول مجموعة بيانات تربط صراحةً بين بنود عمل المراجعين من الحوارات العلمية وفروق المستندات المهيكلة والمحددة. على عكس العمل السابق (مثل ARIES) الذي يربط التعليقات بنطاقات نصية، تقوم Metag بربطها بالفروق المحسوبة بين إصدارات المستند، مما يحافظ على عمليات الإدراج/الحذف/النقل ومواقع الصفحات.
إطار الترميز: أداة مبتكرة للربط بين فرق PDF جنباً إلى جنب تسمح للمرمِّزين بالتنقل، والبحث، واختيار التغييرات ذات الصلة بكفاءة.
التقييم المرجعي (Benchmarking): تضع الورقة خط أساس لمهمة "تصنيف الفروق"، حيث تقيم طرق الاسترجاع المعجمي (BM25، TF-IDF) ومختلف النماذج اللغوية الكبيرة (LLMs) بما في ذلك Gemma-3-27B-IT، وGPT-5.6-Sol، وDeepSeek-V4-Pro، وKimi-K2.5.
النتائج قيم المؤلفون صعوبة المهمة من خلال اختبار نماذج متعددة على تقسيمات التحقق والاختبار:
النماذج المرجعية المعجمية: أدت طرق الاسترجاع التقليدية (BM25، TF-IDF) أداءً ضعيفًا، حيث حققت درجات micro-F1 حول 0.10. يشير هذا إلى أن التعديلات ذات الصلة غالبًا لا يمكن تحديدها من خلال التداخل المعجمي المباشر وحده، لأن بنود العمل تصف النية بدلاً من تكرار النص المعدل.
أداء النماذج اللغية الكبيرة (LLM):
حقق GPT-5.6-Sol أقوى وأكثر أداء مستقر، حيث وصل إلى micro-F1 للاختبار بمقدار 0.360 وmacro-F1 بمقدار 0.398. أظهر توازنًا أفضل بين الدقة والاستدعاء مقارنة بالنماذج الأخرى.
أظهر DeepSeek-V4-Pro تباينًا عاليًا، حيث حقق micro-F1 مرتفعًا في التحقق (0.410) لكنه انخفض إلى 0.261 في مجموعة الاختبار.
حقق Kimi-K2.5 استدعاءً عاليًا ولكن دقة أقل.
كانت متغيرات Gemma-3-27B-IT (zero-shot و LoRA) أقل أداءً مقارنة بالنماذج المستضافة، حيث أظهرت نماذج zero-shot اختيارًا مفرطًا (التنبؤ بمئات الفروق غير ذات الصلة).
الاتفاق بين المرمِّزين: اتفق المرمِّزون البشريون على مجموعة الفروق بدقة 37% من الوقت، مع متوسط تشابه جاكارد (Jaccard similarity) بلغ 50.1%. أما الاتفاق الثنائي على وجود أي فرق لبند عمل معين فقد أعطى معامل كوهين كابا (κ) قدره 0.369، مما يشير إلى اتفاق متوسط يتجاوز الصدفة ويسلط الض الضوء على الذاتية المتأصلة في ربط الحوار بتعديلات محددة.
الأهمية والادعاءات تدعي الورقة أن Metag تمكن من تطوير أنظمة بشرية في الحلقة (human-in-the-loop) وكيلية لمساعدة المراجعين الشاملين. من خلال أتمتة القابلية للتتبع بين حوار المراجعة وأدلة المخطوطة، يمكن لهذه الأنظمة:
التحقق مما إذا كانت التعديلات الموعودة قد نُفذت.
التمييز بين التغييرات الجوهرية والتعديلات غير ذات الصلة.
فحص أدلة المخطوطة الكامنة وراء رد المؤلف.
يضع المؤلفون Metag كمورد أساسي لتحسين الشفافية والقابلية للتتبع في مراجعة الأقران. كما أشاروا صراحةً إلى القيود، بما في ذلك اشتقاق مجموعة البيانات من مؤتمر واحد (ICLR 2024) وعدم القدرة على الوصول إلى النسخ الوسيطة أثناء عملية المراجعة، مما يحد من دقة التحليل. يُقدم العمل كخطوة نحو بناء أدوات تمكن المراجعين الشاملين من التنقل في التعديلات بكفاءة أكبر، وليس كمشكلة محلولة تمامًا للمراجعة الشاملة المؤتمتة.