Anchorless Diversification for Parallel LLM Ideation

ملخص تقني: التنوع غير المرتبط بالتثبيت لتوليد الأفكار المتوازي عبر النماذج اللغوية الكبيرة

بيان المشكلة
يتم نشر النماذج اللغوية الكبيرة (LLMs) بشكل متزايد لتوليد مجموعات من الأفك الأفك المرشحة للمهام الإبداعية (مثل مقدمات القصص، أو مفاهيم المنتجات، أو الشعارات). وبينما يعد الاستنتاج المتوازي (parallel inference) جذاباً لتوسيع نطاق هذه المجموعات دون زيادة عدد معاملات النموذج، إلا أن نمط فشل حرج يظهر هنا: تميل النماذج اللغوية الكبيرة المعاصرة غالباً إلى تركيز الكتلة الاحتمالية حول الأنماط المألوفة بسبب التدريب المسبق وتحسين التفضيلات. يؤدي هذا إلى "الانهيار الدلالي" (semantic collapse)، حيث تتكتل التوليدات المتوازية في نفس الأحواض الدلالية، مما يخلق وهماً بالاستكشاف بينما يؤدي في الواقع إلى تضييق المساحة المتاحة للتعاون اللاحق بين الإنسان والذكاء الاصطناائي.

يتمثل التحديد الجوهري في تنويع مجموعات المرشحين هذه بفعالية دون التضحية بجودة المخرجات أو تكبد تكاليف استنتاج باهظة. تعتمد الطرق الموجودة غالباً على استراتيجيات "مثبتة" (anchored)—باستخدام أفك بذرية مرصودة، أو حالة مشتركة، أو إعادة توليد تكرارية—وهي استراتيجيات تقدم تكاليف خفية (توليد البذور، الاختيار، حلقات التغذية الراجعة) التي غالباً ما تُستبعد من مقارنات التكلفة. يبحث هذا البحث فيما إذا كانت الطرق "غير المرتبطة بالتثبيت" (anchorless)—أي تلك التي لا تعتمد على أفك بذرية مرصودة أو تنسيق تسلسلي—يمكنها منافسة النماذج المرجعية المثبتة في تحقيق التنوع مع الحفاظ على كفاءة التوليد المتوازي.

المنهجية
يقيم المؤلفون ثلاث عائلات من المهام الإبداعية: القصص القصيرة (4 مطالبات)، ومهام الاستخدامات البديلة (AUT، لـ 5 أشياء)، والشعارات (3 مطالبات). ويختبرون ثلاثة نماذج رائدة: GPT-5.4، وClaude Sonnet 4.6، وGemini 2.5 Pro.

تقارن الدراسة بين طريقتين أحادية المرحلة (غير مرتبطة بالتثبيت) وأربع طرق ثنائية المرحلة (مرتبطة بالتثبيت) تحت استراتيجيتين للتعليمات:

1. المحايدة (Neutral): "اجعل الاستجابة مبتكرة ومناسبة للمهمة."
2. التشعب (Diverge): تضيف تعليمات مرجعية للمجتمع: "حاول جعل الاستجابة متميزة عن الاستجابات الأخرى التي قد يتم توليدها لنفس المهمة."

طرق التوليد:

• غير المرتبطة بالتثبيت (Anchorless):
  • indep (مستقل): توليد مستقل من المطالبة وحدها.
  • strat (تدرج الاتجاه الدلالي): عملية تخطيط واحدة تطلب من النموذج اقتراح خمسة اتجاهات دلالية واسعة للمهمة. بعد ذلك، يتم توزيع التوليدات بالتساوي عبر هذه الاتجاهات دون رؤية أمثلة بذرية.
• المرتبطة بالتثبيت (Anchored - مرحلتان):
  • repr (تمثيل): توليد مجموعة بذرية، واختيار ثلاثة مثبتات ممثلة (الوسيط + أبعد أول عنصر)، ثم إعادة توليد المرشحين بشرط تجنب هذه المثبتات.
  • self (ذاتي): إعادة توليد كل مرشح بشرط تجنب مخرجاته البذرية الخاصة.
  • peer1/peer2 (نظير 1/نظير 2): إعادة توليد المرشحين بشرط تجنب مخرجاتهم البذرية بالإضافة إلى مخرج أو مخرجين من "الأقران" من المجموعة البذرية.

مقاييس التقييم:

• التنوع: متوسط المسافة الدلالية الزوجية ($D_{pair}$)، مسافة أقرب جار، مسافة الوسيط، تشتت شجرة الامتداد الأدنى (MST)، وإنتروبيا المنطقة الدلالية المعيارية ($D_{ent}$).
• الجودة: وكلاء تلقائيون خاصون بالمهمة (MAoSS للقصص، CLAUS لـ AUT، ومقياس غير نمطي على مستوى العبارة للشعارات)، معيارية ضمن كل مهمة.
• التكلفة: محاسبة كاملة لرموز (tokens) خط الإنتاج، بما في ذلك مكالمات التخطيط، وتوليد البذور، وخطوات إعادة التوليد.
• التحليل: ندرة حجم المجموعة (Pool-size rarefaction) (مقاييس AUC و first-hit) لقياس سرعة تراكم التنوع مع أخذ عينة من المجموعة.

النتائج الرئيسية

1. التعليمات التشعبية كخط أساس منخفض التكلفة: تطبيق تعليمات "التشعب" على التوليد المستقل (indep-diverge) يحسن بشكل كبير التنوع الدلالي عبر جميع النماذج والمهام مع الحفاظ على مقاييس الجودة أو تحسينها قليلاً. وهي لا تتضمن أعباء إضافية ضئيلة ($R_{tok} \approx 1.1$)، مما يجعلها خط أساس قوياً ومنخفض التكلفة.
2. تدرج الاتجاه الدلالي: تحقق طريقة strat-diverge (التخطيط + تعليمات التشعب) أعلى مستوى من التنوع، وغالباً ما تضاهي أو تتجاوز أقوى الطرق المرتبطة بالتثبيت (مثل peer2-diverge). والأهم من ذلك، أنها تحقق ذلك باستدعاء تخطيط واحد وتوليد متوازٍ، متجنبة التكاليف الثقيلة لخطوط إنتاج "البذرة وإعادة التوليد".
3. كفاءة الرموز (Tokens): عند احتساب تكاليف خط الإنتاج الكامل، تحقق طريقة strat-diverge أفضل حدود (التنوع-الجودة-الحوسبة). على سبيل المثال، في نموذج GPT-5.4، تحقق strat-diverge ربحاً في التنوع لكل 100 ألف رمز (0.295) يتفوق بشكل كبير على peer2-diverge (0.157)، رغم أن peer2 حققت ربحاً خاماً مشابهاً في التنوع.
4. ديناميكيات الندرة (Rarefaction): بينما تراكم طرق التثبيت المحلية (self, peer) إنتروبيا المنطقة الدلالية بشكل أسرع قليلاً من strat-diverge بمجرد توليد المجموعة البذرية، فإن strat-diverge تصل إلى مستوى التنوع المستهدف بعدد أقل بكثير من إجمالي الرموز لأنها تلغي مرحلة توليد البذور.
5. المتانة: النتائج صامدة عبر مختلف نماذج التضمين (embedding models)، ومقاييس الجودة (بما في ذلك تقييم النموذج للنموذج - LLM-as-a-judge للشعارات)، وعائلات المهام.

الأهمية والادعاءات
يزعم البحث وضع خطوط أساس عملية غير مرتبطة بالتثبيت لتوليد الأفك المفتوحة عبر النماذج اللغوية الكبيرة. ويجادل بأن:

• التعليمات التشعبية المباشرة هي تدخل قوي ومنخفض التكلفة يستفيد من المعرفة الضمنية للنموذج بالاستجابات المحتملة لتجنب التكرار دون الحاجة لمراقبة مجموعة بذرية.
• تدرج الاتجاه الدلالي يسمح للنماذج بتجسيد "خريطة خشنة" لمساحة الاستجابة، محولةً التباين الكامن في المهمة إلى هيكل تخصيص صريح. وهذا يتيح استكشافاً متوازياً واسع النطاق دون عبء التنسيق المرتبط بالحالة أو توليد البذور.
• محاسبة خط الإنتاج الكامل ضرورية لتقييم طرق التنويع. وبينما تظل إعادة التوليد المرتبطة بالتثبيت قوية، فإن ميزتها تتقلص عند تضمين تكاليف البذر وإعادة التوليد.
• تدعم هذه النتائج رؤية "التدرج الذاتي" (autostratification) لتوليد الأفك عبر النماذج اللغوية الكبيرة، حيث يمكن توجيه النماذج نحو مجموعات مرشحين أوسع من خلال ضوابط وقت الاستنتاج التي تحافظ على جاذبية التوليد المتوازي، مما قد يخفف من انهيار تنوع الأفك الناتج عن الذكاء الاصطناعي في التطبيقات اللاحقة مثل الاكتشاف العلمي أو تصميم الأدوية.

يظل المؤلفون متواضعين، مشيرين إلى قيود الاعتماد على المقاييس التلقائية للجودة، وحساسية المقاييس القائمة على التضمين، والحاجة إلى عمل مستقبلي لاختبار هذه الطرق عبر مخرجات أطول، وقيود واقعية أكثر صرامة، ومهام متعددة الوسائط.