💬 NLP

Shrinking the Generation-Verification Gap with Weak Verifiers

تقدم الورقة البحثية "Weaver"، وهو إطار عمل يستفيد من الإشراف الضعيف لدمج العديد من الموثقات الضعيفة وغير المثالية في موثق قوي وقابل للتوسع، مما يقلص بشكل كبير فجوة الأداء بين حكام النماذج اللغوية الحاليين والموثقات المثالية (oracle verifiers) لتحقيق دقة بمستوى "o3-mini" دون الحاجة إلى ضبط دقيق واسع النطاق.

المؤلفون الأصليون: Jon Saad-Falcon, E. Kelly Buchanan, Mayee F. Chen, Tzu-Heng Huang, Brendan McLaughlin, Tanvir Bhathal, Shang Zhu, Ben Athiwaratkun, Frederic Sala, Scott Linderman, Azalia Mirhoseini, Christopher Ré

نُشر 2026-08-07

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jon Saad-Falcon, E. Kelly Buchanan, Mayee F. Chen, Tzu-Heng Huang, Brendan McLaughlin, Tanvir Bhathal, Shang Zhu, Ben Athiwaratkun, Frederic Sala, Scott Linderman, Azalia Mirhoseini, Christopher Ré

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز صعب للغاية، مثل مسألة رياضية معقدة أو لغز منطقي مخادع. لديك صديق ذكي للغاية (ذكاء اصطناعي) يمكنه توليد مئات الإجابات المختلفة لك. أحيانًا، يصيب الصديق من المحاولة الأولى، ولكن في كثير من الأحيان، يصيب في المحاولة الخمسين، أو التاسعة والتسعين، بينما تكون الإجابات الثمانية والتسعون الأولى خاطئة. التحدي الحقيقي لا يكمن فقط في جعل الصديق أكثر ذكاءً، بل في معرفة أي من تلك المئات من الإجابات هي الإجابة الصحيحة. هذا هو عالم "التحقق" (verification). في الماضي، اعتمدنا على طريقتين رئيسيتين للتحقق من الإجابات: سؤال خبير بشري (وهو أمر بطيء ومكلف) أو استخدام برنامج كمبيوتر مثالي خاص (وهو لا يعمل إلا لأنواع محددة جدًا من الألغاز). ولكن ماذا لو استطعنا استخدام حشد من "المُحقِّقين العاديين" — بعضهم جيد في الرياضيات، وبعضهم في المنطق، وبعضهم مجرد يخمن — ليعرفوا الإجابة الصحيحة معًا؟ هذا هو السؤال الكبير الذي تتناوله هذه الورقة البحثية.

المُبتكرون وراء هذه الدراسة، بقيادة فريق من جامعة ستانفورد ومؤسسات أخرى، قدموا إطار عمل جديدًا يسمى Weaver. فكر في Weaver كأنه "رئيس هيئة محلفين" فائق الذكاء لإجابات الذكاء الاصطناعي. عادةً، عندما يكون لدينا مجموعة من مُحقِّقي الذكاء الاصطناعي (يُطلق عليهم "المُحقِّقون" أو verifiers)، فإننا نطلب منهم جميعًا التصويت واختيار الإجابة التي تحصل على أكبر عدد من أصوات "نعم". هذا ما يسمى "التصويت بالأغلبية". لكن الورقة تجادل بأن هذا يشبه السماح لغرفة مليئة من الناس بالتصويت على مسألة رياضية دون الاهتمام بما إذا كان بعضهم سيئًا في الرياضيات والبعض الآخر عباقرة. يمكن للمصوتين "السيئين" أن يطغوا على الأصوات "الجيدة"، مما يؤدي إلى الإجابة الخاطئة.

الاكتشاف الرئيسي للورقة هو أنه إذا تمكنت من معرفة مدى جودة كل مُحقِّق ومنحت الأفضل منهم المزيد من "الأصوات" (أو الوزن)، فستحصل على نتائج أفضل بكثير. الجزء الصعب هو أنك تحتاج عادةً إلى كومة ضخمة من مفاتيح الإجابات (بيانات مصنفة) لتعرف من هو الجيد ومن هو السيئ. ولكن في العالم الحقيقي، غالبًا لا نمتلك تلك المفاتيح. لذا، ابتكر الفريق حيلة ذكية باستخدام تقنية تسمى الإشراف الضعيف (Weak Supervision). تخيل أن لديك مجموعة من المحققين، وأنت لا تعرف من هو المحقق الجيد بينهم. ولكن إذا راقبتهم وهم يعملون معًا، يمكنك رصد الأنماط: إذا كان المحقق (أ) والمحقق (ب) يتفقان دائمًا، بينما يختلف المحقق (ج) معهما دائمًا، فيمكنك التخمين بأن (ج) قد يكون غير موثوق به. يستخدم Weaver هذا النوع من العمل الاستقصائي الإحصائي لتقدير دقة كل مُحقِّق، دون الحاجة إلى أي مفاتيح إجابات على الإطلاق.

النتائج مذهلة حقًا. فعندما استخدموا Weaver لاختيار أفضل إجابة من بين 100 محاولة لنموذج ذكاء اصطناعي قياسي (Llama 3.3 70B)، كان أداؤه يقارب أداء أكثر نماذج الذكاء الاصطناعي تقدمًا وتكلفة في السوق (مثل OpenAI's o3-mini)، والتي تتطلب عادةً تدريبًا هائلًا لتصل إلى هذا المستوى من الذكاء. وتحديدًا، حقق Weaver متوسط دقة بلغ 87.7% عبر عدة مهام منطقية ورياضية صعبة، مقارنة بـ 86.7% لنموذج o3-mini رفيع المستوى. هذه قفزة هائلة من مجرد اختيار أول إجابة يقدمها الذكاء الاصطناعي (والتي كانت تبلغ 68.4% في المتوسط).

ومع ذلك، فإن تشغيل 30 أو أكثر من مُحقِّقي الذكاء الاصطناعي المختلفين لكل سؤال هو أمر مكلف وبطيء، مثل توظيف فريق كامل من الخبراء لمراجعة واجب منزلي واحد فقط. ولحل هذه المشكلة، قام المؤلفون بعملية "تقطير" (distilled) لـ Weaver. لقد أخذوا القرارات الذكية التي اتخذها الفريق بأكل، ودربوا نموذج ذكاء اصطناعي صغير وسريع للغاية (يحتوي على 400 مليون معلمة فقط) ليحاكيها. حافظ هذا النموذج الصغير على 98.7% من الدقة ولكنه قلل من قوة الحوسبة المطلوبة بنسبة 99.97%. إنه يشبه أخذ الحكمة الجماعية لمكتبة ضخمة وضغطها في دليل واحد صغير الحجم يوضع في الجيب، ويعمل بنفس الكفاءة ولكنه يتسع في جيب خلفي.

كما تنفي الورقة البحثية صراحةً بعض الأفكار. فهي تُظهر أن مجرد حساب متوسط درجات جميع المُحقِّقين (إعطاء الجميع صوتًا متساويًا) أسوأ بكثير من عملية الوزن (الترجيح). كما وجدت أن مجرد طلب من الذكاء الاصطناعي التحقق من عمله الخاص (التحقق الذاتي) أو استخدام مُحقِّق واحد "أفضل" لا يعمل بشكل جيد مثل دمج العديد من المُحقِّقين الضعفاء مع الأوزان الصحيحة. علاوة على ذلك، بينما يساعد إضافة المزيد من المُحقِّقين، تشير الورقة إلى أنه بعد نقطة معينة، لا تعود الإضافة مفيدة كثيرًا لأنهم يبدأون في ارتكاب نفس الأخطاء.

باختًا، يشير Weaver إلى أننا لسنا بحاجة بالضرورة إلى بناء نماذج ذكاء اصطناي أكبر وأكثر تكلفة لحل المشكلات الأكثر صعوبة. بدلاً من ذلك، يمكننا الحصول على نتائج أذكى من خلال استخدام طريقة أذكى للاستماع إلى العديد من مُحقِّقي الذكاء الاصطناعي "العاديين" الذين نمتلكهم بالفعل. إنه يحول حشدًا صاخبًا من الآراء إلى إشارة واضحة وموثوقة، مما يسد الفجوة بين ما يمكن للذكاء الاصطناعي "توليده" وما يمكننا "التحقق" منه.

ملخص تقني: تقليص فجوة التوليد والتحقق باستخدام الموثقين الضعفاء

تعريف المشكلة

تواجه عملية نشر النماذج اللغوية الكبيرة (LMs) عقبة حرجة في التحقق (verification): وهي القدرة على تقييم واختيار الاستجابة الصحيحة من بين مجموعة من المرشحات المولدة. وبينما يمكن للموثقين "المثاليين" (مثل أدوات إثبات النظريات الرسمية مثل Lean أو الخبراء البشريين) تحديد الإجابات الصحيحة بدقة، إلا أنهم غالبًا ما يكونون غير قابلين للتوسع أو محدودين في النطاق. وفي المق المقابل، فإن الموثقين "الضعفاء" للأغراض العامة — مثل الحكام اللغويين ونماذج المكافأة — قابلون للتوسع ولكنهم يعانون من عدم الاتساق، وضعف المعايرة، وارتفاع معدلات الإيجاب الخاطئ.

يخلق هذا التفاوت فجوة توليد-تحقق (generation-verification gap): فقد يولد النموذج استجابة صحيحة ضمن مجموعة من المرشحات (ارتفاع في Pass@K)، لكن الموثق الضعيف يفشل في تحديدها، مما يؤدي إلى انخفاض في معدل النجاح (Success Rate). وتفترض الورقة أنه بينما الموثقون الضعفاء الأفراد غير كاملين، فإن مجموعة من الموثقين المتنوعين تحتوي على إشارات متكاملة، والتي إذا تم تجميعها بشكل صحيح، يمكن أن تغلق هذه الفجوة دون الحاجة إلى تسميات (labels) أرضية لكل خطوة استدلال.

المنهجية: إطار عمل Weaver

قدم المؤلفون Weaver، وهو إطار عمل مصمم لتجميع العديد من الموثقين الضعفاء وغير المكتملين في موثق واحد قوي وموحد دون الاعتماد على الضبط الدقيق الخاضع للإشراف على مجموعات بيانات ضخمة ذات تسميات أرضية. يقوم Weaver بتكييف تقنيات الإشراف الضعيف (Weak Supervision - WS) مع سياق التحقق، ومعالجة ثلاثة تحديات محددة: تنسيقات المخرجات غير المتسقة، الموثقين منخفضي الجودة، ونقص البيانات الموسومة لتعلم الأوزان.

1. المجموعات الموزونة مقابل غير الموزونة

تثبت الورقة أولاً أن التجميع غير الموزون (unweighted averaging) لدرجات الموثقين هو أمر غير مثالي لأن دقة الموثقين تتباين بشكل كبير (تصل إلى 37.5% في معدلات النجاح). وبينما يمكن للمجموعات الموزونة المدربة على بيانات موسومة أن تتفوق على التجميع غير الموزون بنسبة تصل إلى 11.2 نقطة مئوية، إلا أن مثل هذه البيانات نادرة في سيناريوهات الاستدلال في العالم الحقيقي.

2. تكييف الإشراف الضعيف

يستخدم Weaver نموذجاً رسومياً للمتغيرات الكامنة لتقدير دقة الموثقين ودمج مخرجاتهم.

تحويل المدخلات: يتم تطبيع مخرجات الموثق (الدرجات المستمرة، أو الـ logits، أو الأصوات الثنائية) إلى النطاق $[0,1]$ وتحويلها إلى أصوات ثنائية $\bar{s}_{ijk} \in \{0,1\}$ .
التصفية: لضمان استقرار خوارزمية الإشراف الضعيف (WS)، يقوم Weaver بتصفية الموثقين ذوي التوزيعات الهامشية المتطرفة (على سبيل المثال، أولئك الذين يصوتون دائمًا بـ "نعم" أو "لا")، والذين يقدمون إشارات ضئيلة ويمكن أن تكسر قابلية تحديد النموذج.
نموذج المتغير الكامن: ينمذج الإطار الصحة الحقيقية $Y$ كمتغير كامن وأصوات الموثق $S_k$ كمتغيرات مرصودة. ويفترض الاستقلال الشرطي ( $S_i \perp S_j | Y$ ).
تقدير المعلمات: بدلاً من استخدام البيانات الموسومة لتعلم الأوزان، يستخدم Weaver تقنية مطابقة العزوم (moment matching). حيث يبني دالة هدف بناءً على الاحتمالات المشتركة لأزواج الموثقين وهوامشها (المستمدة من مجموعة الاختبار غير الموسومة) لتقدير معلمات الدقة ( $w_{k,1}$ و $w_{k,0}$ ) عبر التدرج الاشتقاقي (gradient descent). وتعمل هذه الدقة المقدرة كأوزان لدرجة التجميع النهائية.

3. التقطير من أجل الكفاءة

إن تشغيل مجموعة من أكثر من 30 موثقًا لكل استعلام هو أمر مكلف حاسوبيًا. وللتخفيف من ذلك، قام المؤلفون بتدريب نموذج ترميز متقاطع (cross-encoder) بـ 400 مليون معلمة (ModernBERT-Large) باستخدام الاحتمالات اللاحقة (posterior probabilities) التي يولدها Weaver كـ "تسميات زائفة" (pseudolabels). يتعلم هذا النموذج المقطر محاكاة استراتيجية الاختيار الخاصة بالمجموعة.

النتائج الرئيسية

مكاسب الأداء

عند التقييم على معايير الاستدلال والرياضيات (MATH500, GPQA Diamond, MMLU College/Pro) باستخدام Llama 3.3 70B Instruct كمولد ومجموعة من 33 نموذج مكافأة وحكام لغويين:

تقليص الفجوة: يحسن Weaver معدل النجاح فوق معيار Pass@1 (العينة الأولى) بنسبة 17.9% للنماذج بحجم 8B و 14.5% للنماذج بحجم 70B.
المقارنة مع أحدث التقنيات (SOTA): باستخدام مولد 70B غير متخصص في الاستدلال مع Weaver، يحقق النظام دقة متوسطة تبلغ 87.7%، مما يضاهي نموذج o3-mini من OpenAI (86.7%) ويتفوق بشكل ملحوظ على GPT-4o (69.0%). يتم تحقيق هذا الأداء دون ضبط دقيق للمعلمات أو تدخلات ما بعد التدريب، بل فقط من خلال التوسع في وقت الاختبار (test-time scaling).
تفوق الخطوط المرجعية: يتفوق Weaver على التصويت بالأغلبية (majority voting) بنسبة 13.5% وعلى التجميع غير الموزون بنسبة 17.1%.

خصائص التوسع

عدد الموثقين: يتناسب الأداء مع عدد الموثقين، حيث يتفوق Weaver باستمرار على التجميع غير الموزون بنسبة تترا-وح 2.4% إلى 10.1% مع إضافة المزيد من النماذج.
كفاءة الحوسبة: يحتفظ نموذج الترميز المتقاطع المقطر (400 مليون معلمة) بـ 98.7% من دقة مجموعة Weaver الكاملة مع تقليل تكاليف الاستدلال الحاسوبية بنسبة 99.97% (توفير حوالي 35 exaFLOPs لكل استعلام لتصل إلى حوالي 1 exaFLOP).

الأهمية والادعاءات

تدعي الورقة أن Weaver يمثل مسارًا نحو تحقق قابل للتوسع، وفعال في استخدام التسميات، وفعال في الحوسبة. وتتمثل مساهماتها الرئيسية في:

التجميع الموزون: إثبات أن المجموعات الموزونة للموثقين الضعفاء تتفوق بشكل كبير على الموثقين الأفراد والتصويت بالأغلبية، بشرط تعلم الأوزان بفعالية.
تعلم الأوزان غير الخاضع للإشراف: تطوير نهج منهجي لتقدير دقة الموثقين باستخدام الإشراف الضعيف، مما يسمح بتوزين المجموعة بفعالية دون الحاجة إلى تسميات أرضية مكلفة.
المقايضة بين الحوسبة والدقة: إظهار أن تقطير مجموعة معقدة من الموثقين إلى نموذج ترميز متقاطع خفيف الوزن يمكن أن يحافظ على جميع مكاسب الدقة تقريبًا مع تقليل التكاليف الحوسبية بثلاث مراتب عشرية.

يخلص المؤلفون إلى أن الجمع الاستراتيجي وتقطير الموثقين الضعفاء يسمح بتحسين تصفية البيانات، ومواءمة النماذج، واتخاذ القرار في وقت الاستدلال، مما يقلص فجوة التوليد-التحقق بفعالية دون الحاجة إلى إعادة تدريب النموذج المولد الأساسي.