💻 computer science

Reading or Reasoning? Format Decoupled Reinforcement Learning for Document OCR

تقترح هذه الورقة البحثية تعلم تعزيزي منفصل التنسيق (FD-RL)، وهو نهج مبتكر يستفيد من تصفية البيانات القائمة على الإنتروبيا والمكافآت الخاصة بالتنسيق لمعالجة عدم اليقين العالي في المخرجات عند التعرف الضوئي على الحروف (OCR) للمستندات المعقدة، محققاً درجة قياسية جديدة بلغت 90.41 في اختبار OmniDocBench.

المؤلفون الأصليون: Yufeng Zhong, Lei Chen, Zhixiong Zeng, Xuanle Zhao, Deyang Jiang, Liming Zheng, Jing Huang, Haibo Qiu, Peng Shi, Siqi Yang, Lin Ma

نُشر 2026-01-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yufeng Zhong, Lei Chen, Zhixiong Zeng, Xuanle Zhao, Deyang Jiang, Liming Zheng, Jing Huang, Haibo Qiu, Peng Shi, Siqi Yang, Lin Ma

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم روبوتاً كيفية قراءة وثيقة فوضوية ومعقدة. هذه الوثيقة ليست مجرد رسالة بسيطة؛ بل هي مزيج من الفقرات العادية، والمعادلات الرياضية المعقدة، والجداول الصعبة.

لفترة طويلة، اعتقد الباحثون أن القراءة تقتصر فقط على "رؤية" الكلمات بوضوح. حاولوا تغذية الروبوت بالمزيد والمزيد من الأمثلة (هندسة البيانات) لمساعدته على حفظ شكل الأشياء. لكن مؤلفي هذه الورقة البحثية لاحظوا مشكلة: الروبوت يصاب بالارتباك الشديد عندما تحتوي الوثيقة على الكثير من الهياكل التنظيمية.

إليك التبسيط لكتشافهم وحلهم:

١. المشكلة: "مقياس الارتباك" لدى الروبوت

وجد المؤلفون أنه عندما يقرأ الروبوت نصاً بسيطاً، يكون واثقاً جداً. ولكن عندما يرى صيغة رياضية أو جدولاً، ينخفض "مقياس الثقة" لديه (والذي يسمونه الاعتلاج/الإنتروبي - Entropy) بشكل حاد. الأمر يشبه طالباً يمكنه بسهولة تسميع قصيدة، ولكنه يتجمد عندما يُطلب منه حل مسألة تفاضل وتكامل أو تنظيم جدول بيانات.

يحاول الروبوت تخمين الكلمة التالية، ولكن نظرًا لوجود طرق عديدة لكتابة الصيغة أو ترتيب الجدول، فإنه يضيع. يبدأ في التخمين عشوائياً، مما يؤدي إلى حدوث أخطاء.

٢. الحل: "التعلم التعزيزي لفصل التنسيق" (FD-RL)

بدلاً من مجرد إجبار الروبوت على حفظ المزيد من الأمثلة، علم المؤلفون الروبوت كيف يفكر في الهيكل. هم يطلقون على طريقتهم اسم FD-RL.

فكر في الأمر كتدريب طباخ:

الطريقة القديمة (SFT): تعطي الطباخ مليون وصفة وتقول له: "احفظ هذه". سيتعلم الطباخ نسخ الوصفات بدقة، ولكنه قد يخطئ إذا طلبت منه طبقاً بمكونات مختلفة قليلاً.
الطريقة الجديدة (FD-RL): تعلم الطباخ لماذا يرتفع الكعك أو لماذا يثقل القوام في الصلصة. أنت تعطيه قواعد محددة لأنواع مختلفة من الطبخ.

٣. كيف فعلوا ذلك (التدريب المكون من خطوتين)

الخطوة ١: "الضبط الدقيق الخاضع للإشراف" (SFT) - تعلم الأساسيات
أولاً، قاموا بتغذية الروبوت بمكتبة ضخمة من الوثائق (كتب، ملفات PDF، بيانات اصطناعية) لتعليمه كيفية قراءة النصوص والصيغ والجداول بشكل عام. هذا يشبه تعليم الروبوت الحروف الأبجدية وقواعد اللغة الأساسية.

الخطوة ٢: "التعلم التعزيزي" (RL) - التدريب المتخصص
هنا يحدث السحر. استخدموا خدعتين ذكيتين لإصلاح ارتباك الروبوت:

الخدعة (أ): "فلتر المستوى الصعب" (التصفية القائمة على الاعتلاج/الإنتروبي)
بدلاً من تدريب الروبوت على كل وثيقة، استخدموا فلترًا لاختيار أصعب الوثائق وأكثرها إرباكاً (تلك التي تتميز بـ "اعتلاج" عالٍ).
تشبيه: تخيل معلماً للرياضيات يتوقف عن إعطاء الطالب مسائل جمع سهلة، ويبدأ فقط في إعطائه مسائل تفاضل وتكامل معقدة. من خلال التركيز فقط على الأشياء الصعبة، يتعلم الطالب كيفية التفكير عبر الارتباك بدلاً من مجرد التخمين.
الخدعة (ب): "القاضي المتخصص" (مكافآت فصل التنسيق)
في الماضي، كان يتم تقييم الروبوت بدرجة واحدة فقط: "هل كتبت الكلمات بشكل صحيح؟". إذا كتب الروبوت الكلمات الصحيحة ولكن وضعها في هيكل جدول خاطئ، فسيحصل على درجة سيئة، لكن الروبوت لن يعرف السبب.

غير المؤلفون نظام التقييم. فقد أعطوا الروبوت ثلاثة قضاة مختلفين:

قاضي النصوص: يتحقق مما إذا كانت الكلمات العادية مكتوبة إملائياً بشكل صحيح.
قاضي الرياضيات: يتحقق مما إذا كانت الصي formulas تجعل معنى رياضياً (حتى لو كانت الرموز تبدو مختلفة قليلاً).
قاضي الجداول: يتحقق مما إذا كانت صفوف وأعمدة الجدول متوافقة ومنظمة بشكل صحيح.

تشبيه: إذا كنت تبني منزلاً، فأنت لا تسأل فقط: "هل بُني المنزل؟"، بل تطلب من سباك فحص الأنابيب، ومن كهربائي فحص الأسلاك، ومن نجار فحص الإطار. إذا كان الإطار مائلاً، فإن النجار يعطي "درجة سيئة" محددة حتى يعرف البناء وجوب إصلاح الإطار وليس الطلاء.

٤. النتيجة

باستخدام هذه الطريقة، أصبح الروبوت أفضل بكثير في قراءة الوثائق المعقدة.

اختبروه على معيار شهير يسمى OmniDocBench (الذي يحتوي على 1,355 صفحة من الوثائق الصعبة).
سجل الروبوت 90.41، متفوقاً على جميع النماذج "من الطرف إلى الطرف" (النماذج التي تحاول القيام بكل شيء في خطوة واحدة).
كان بارعاً بشكل خاص في معالجة "الارتباك" في الصيغ والجداول، مما يثبت أن تعليم الروبوت التفكير في الهيكل يعمل بشكل أفضل من مجرد جعله يحفظ المزيد من النصوص.

الملخص

تجادل الورقة البحثية بأن قراءة الوثائق المعقدة لا تتعلق فقط بـ "رؤية" النص؛ بل تتعلق بـ الاستنتاج المنطقي عبر الهيكل. من خلال تصفية الأمثلة السهلة وتقديم ملاحظات منفصلة ومحددة للروبوت فيما يتعلق بالنصوص والرياضيات والجداول، علموه التوقف عن التخمين والبدء في فهم قواعد الوثيقة.

ملخص تقني: التعلم المعزز لفصل التنسيق في التعرف الضوئي على المستندات (OCR)

1. بيان المشكلة

بينما كان التعرف الضوئي على النصوص (OCR) محوراً للبحث لفترة طويلة، لا تزال النماذج المتقدمة الحالية تظهر قيوداً كبيرة عند معالجة محتوى المستندات الحساس للتنسيق. لاحظ المؤلفون أنه بينما يُنظر إلى قراءة النصوص غالباً كمهام إدراكية، فإن نماذج OCR المتقدمة تعاني من عدم يقين عالٍ في المخرجات (الاعتلاج/الإنتروبيا - entropy) عند التعامل مع العناصر المهيكلة مثل المعادلات والجداول مقارنة بالنصوص العادية.

يكشف التحليل التجريبي أن عينات المستندات التي تحتوي على نسبة أعلى من النصوص المنسقة تظهر اعتلاجاً (entropy) أعلى بكثير للرموز (tokens) أثناء الاستدلال. يشير هذا الاعتلاج العالي إلى انخفاض يقين النموذج، ويشير إلى أن النصوص المنسقة تسمح بمسارات قراءة متنوعة ومتكافئة دلالياً (على سبيل المثال، تمثيلات LaTeX مختلفة لنفس المعادلة). إن محاولات التعلم المعزز (RL) الحالية في مجال OCR تفتقر غالباً إلى اعتبارات تصميمية محددة لهذه المناطق ذات الاعتلاج العالي، حيث تفشل في الانتقال من مجرد حفظ مستوى الرمز (token-level memorization) إلى الاستنتاج على مستوى التنسيق (format-level reasoning).

2. المنهجية

يقترح البحث إطار عمل التعلم المعزز لفصل التنسيق (FD-RL)، وهو إطار مصمم لتحسين أداء OCR من خلال استهداف المحتوى الحساس للتنسيق بشكل صريح عبر نموذج تدريب يتكون من مرحلتين: الضبط الدقيق الخاضع للإشراف (SFT) يليه التعلم المعزز (RL).

2.1 هندسة البيانات

لدعم التدريب القوي، أنشأ المؤلفون مجموعة بيانات ضخمة غنية بالتنسيقات تدمج ثلاثة مصادر متميزة:

تعزيز مجموعات البيانات مفتوحة المصدر: تم فحص مجموعات البيانات (مثل PDFA و DocGenome) بدقة للتأكد من خلوها من المحتوى المفقود، أو ترتيب القراءة غير الصحيح، أو التكرار. تم استخدام نموذج خفيف الوزن (GOT) لإعادة التوسيم، وضمنت عملية التصفية القائمة على التشابه الاحتفاظ بالحقائق الأرضية (ground truth) عالية الجودة.
بناء ملفات PDF واقعية: تمت معالجة ملفات PDF متنوعة لإنشاء تسميات توضيحية مدركة للتخطيط (على مستوى الصفحة، ومستوى المنطقة، ومتعددة الصفحات) ومدركة للمحتوى. استُخدمت أدوات مثل MinerU و dots.ocr لتوليد مخرجات مهيكلة بصيغ Markdown و LaTeX و HTML.
توليد بيانات OCR اصطناعية: لمعالجة ندرة البيانات التعليمية والأكاديمية، تم توليد عينات اصطناعية من موارد عبر الإنترنت (من المستوى الابتدائي K12 إلى الدراسات العليا في العلوم والتكنولوجيا والهندسة والرياضيات STEM). تم رندرة هذه العينات إلى صور عالية الدقة مع بارامترات بصرية واقعية (الخطوط، التباعد) واقترانها بتسميات Markdown.

2.2 استراتيجية التدريب

يتكون مسار التدريب من مرحلتين متمايزتين:

المرحلة 1: الضبط الدقيق الخاضع للإشراف (SFT)
يتم إجراء ضبط دقيق لنموذج رؤية-لغة (Vision-Language Model) مُدرب مسبقاً (Qwen3-VL-4B) على مجموعة البيانات الشاملة. خلال هذه المرحلة، يتم تجميد المشفر البصري (visual encoder) والمُسقط (projector)، بينما يتم تحديث معاملات النموذج اللغوي الكبير (LLM) فقط. يؤسس هذا قاعدة قوية لقدرات OCR العامة عبر مختلف التخطيطات والتنسيقات.

المرحلة 2: التعلم المعزز لفصل التنسيق (FD-RL)
تقدم مرحلة التعلم المعزز ابتكارين أساسيين للانتقال من تحسين دقة مستوى الرمز إلى صحة مستوى التنسيق:

تصفية البيانات بناءً على الاعتلاج (Entropy-Based Data Filtration):
بدلاً من استخدام جميع بيانات SFT، يقوم المؤلفون بتصفية مجموعة البيانات للاحتفاظ بالعينات ذات الاعتلاج العالي. يقوم نموذج SFT بإجراء استدلال على العينات المرشحة، ويتم حساب متوسط اعتلاج الرموز. تُختار العينات التي تتجاوز عتبة اعتلاج معينة ( $\tau$ ) للتدريب باستخدام RL. تركز هذه الاستراتيجية التعلم على الحالات المعقدة والمكثفة بالتنسيق حيث يظهر النموذج أكبر قدر من عدم اليقين.
المكافأة المفصولة حسب التنسيق (Format Decoupled Reward):
بدلاً من تطبيق إشارة مكافأة موحدة، يقوم إطار العمل بفصل المكافآت بناءً على نوع المحتوى:
- النص العادي: يتم تقييمه باستخدام مطابقة السلاسل النصية المعيارية (مسافة التحرير - Edit Distance).
- المعادلات: يتم تقييمها باستخدام صحة التعبير (تحويلها إلى LaTeX مكافئ وتطبيق درجات BLEU).
- الجداول: يتم تقييمها باستخدام التماسك الهيكلي (درجة TEDS).
إجمالي المكافأة $R$ هو مجموع موزون لهذه المكافآت المحددة، مما يضمن أن الأخطاء الهيكلية (مثل التسلسل الهرمي المكسور للجداول أو صيغ LaTeX غير الصحيحة) لا تطغى على أخطاء المحتوى. يتم تحسين النموذج باستخدام خوارزمية GRPO، التي تستخدم المزايا المعيارية للمجموعات دون الحاجة إلى نموذج ناقد (critic model) منفصل.

3. المساهمات الرئيسية

إطار عمل FD-RL: يقترح نموذجاً جديداً يعتمد على (SFT ثم RL) مصمماً خصيصاً لعملية "الاستنتاج بعد القراءة" في OCR المستندات، معالِجاً الطبيعة ذات الاعتلاج العالي للنصوص المنسقة.
مجموعة بيانات ضخمة غنية بالتنسيقات: إنشاء مجموعة بيانات تدريب قوية من خلال دمج البيانات مفتوحة المصدر، والواقعية، والاصطناعية مع نسب خلط محسنة.
التنقية القائمة على الاعتلاج والمكافآت المفصولة: تقديم استراتيجية تصفية للبيانات تستهدف العينات عالية عدم اليقين وآلية مكافأة تُخصص مقاييس التقييم لأنواع محتوى محددة (نص، معادلة، جدول).
أداء يمثل أحدث ما توصل إليه العلم (SOTA): تحقيق رقم قياسي جديد على اختبار OmniDocBench، مما يثبت فعالية النهج المقترح من خلال دراسات استئصال شاملة.

4. النتائج التجريبية

تم تقييم الطريقة على OmniDocBench، وهو اختبار مرجعي يحتوي على 1,355 صفحة عبر تسعة أنواع من المستندات (كتب، ملاحظات، شرائح، إلخ).

الأداء العام: حقق FD-RL درجة إجمالية قدرها 90.41، مسجلاً رقماً قياسياً جديداً للنماذج كاملة النهاية (end-to-end). وقد تفوق على أفضل نموذج سابق كامل النهاية (dots.ocr) بمقدار نقطتين، وعلى أفضل نموذج قائم على المسارات (pipeline-based) وهو (PaddleOCR-VL) بفارق كبير في مقاييس محددة، رغم أن PaddleOCR-VL سجل 92.56 إجمالاً (ملاحظة: يُدرج PaddleOCR-VL كنموذج قائم على المسارات، بينما FD-RL هو نموذج كامل النهاية).
مقاييس محددة:
- التعرف على المعادلات: حقق أفضل درجة CDM بلغت 88.67.
- تحليل الجداول: حقق أعلى درجة TEDS بلغت 87.35 ودرجة TEDS-S بلغت 92.10.
- التعرف على النصوص: حقق مسافة تحرير قدرها 0.049، ليحتل المركز الثاني بعد dots.ocr (الذي حقق 0.048).
التعميم: حصد FD-RL الأداء الأعلى في 4 من أصل 9 فئات مستندات (مثل الشرائح، أوراق الامتحانات) وحل في المركز الثاني في الفئات الخمس المتبقية، مما يدل على قدرة قوية على التعميم عبر المجالات.

دراسات الاستئصال (Ablation Studies):

مصادر البيانات: أظهر التكامل التدريجي للبيانات مفتوحة المصدر، والواقعية، والاصطناعية، متبوعاً بـ RL، مكاسب أداء متسقة، حيث حقق المسار الكامل أعلى درجة.
استراتيجية التدريب: تطبيق RL مباشرة على VLM عام دون SFT أدى إلى مكاسب ضئيلة (49.37)، بينما حقق SFT وحده 87.13. كان الجمع بين SFT و RL ضرورياً للوصول إلى 90.41.
التصفية: حققت نسبة تصفية 50% بناءً على الاعتلاج أفضل النتائج؛ حيث أدت كل من نسبة 0% (لا توجد تصفية) و75% (تصفية مفرطة) إلى تدهور الأداء.
تصميم المكافأة: تفوق مخطط المكافأة الكامل المفصول حسب التنسيق على مكافآت مطابقة السلاسل الموحدة، مما يؤكد أن التقييم المتخصص للمعادلات والجداول أمر بالغ الأهمية.

5. الأهمية والادعاءات

يزعم البحث أن الأهمية الرئيسية لهذا العمل تكمكن في تحديد واستغلال الطبيعة ذات الاعتلاج العالي للنصوص المنسقة كإشارة للتحسين المستهدف. ومن خلال ملاحظة أن النماذج المتقدمة تعاني مع المحتوى الحساس للتنسيق بسبب تنوع التعبيرات الهيكلية الصالحة، يرى المؤلفون أن الاستنتاج فوق مسارات القراءة المتنوعة ضروري لتحسين OCR.

يؤكد المؤلفون أن FD-RL نجح في نقل هدف التحسين من مجرد حفظ مستوى الرمز إلى صحة مستوى التنسيق. ويتضح ذلك من قدرة النموذج على توليد هياكل HTML صحيحة للجداول و LaTeX صالح للمعادلات، وهي مهام غالباً ما تفشل فيها النماذج الأساسية عبر إنتاج نصوص عادية أو أخطاء في اتباع التعليمات. يثبت العمل أن تنقية البيانات بناءً على الاعتلاج وتصميم المكافآت المخصصة للتنسيق هي استراتيجيات فعالة لتعزيز قوة أنظمة تحليل المستندات كاملة النهاية.