🤖 AI

Embedding by Elicitation: Dynamic Representations for Bayesian Optimization of System Prompts

تقدم الورقة البحثية ReElicit، وهو إطار عمل للتحسين البايزي يستفيد من النماذج اللغوية الكبيرة لاستخلاص تمثيلات سمات تكيفية وقابلة للتفسير ديناميكيًا من التغذية الراجعة التجميعية، مما يتيح التحسين الفعال لمطالبات النظام متغيرة الطول دون الحاجة إلى تسميات لكل مثال.

المؤلفون الأصليون: Zhiyuan Jerry Lin, Benjamin Letham, Samuel Dooley, Maximilian Balandat, Eytan Bakshy

نُشر 2026-05-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zhiyuan Jerry Lin, Benjamin Letham, Samuel Dooley, Maximilian Balandat, Eytan Bakshy

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم روبوت موهوب للغاية ولكنه عنيد قليلاً كيفية الإجابة على الأسئلة. لا يمكنك التحدث إلى الروبوت مباشرة لتقول له: "لقد أخطأت في هذه المسألة الرياضية المحددة لأنك نسيت إضافة الرقم المحمول". بدم، لا تحصل إلا على رقم واحد في نهاية يوم طويل: "اليوم، أجاب الروبوت على 85% من الأسئلة بشكل صحيح".

هذه هي المشكلة التي تعالجها الورقة البحثية: كيف يمكنك تحسين تعليمات الروبوت (التي تسمى "المطالبة بالنظام" أو System Prompt) عندما لا تحصل إلا على درجة إجمالية غامضة، وليس تقريراً مفصلاً؟

يقترح المؤلفون، من شركة ميتا (Meta)، طريقة جديدة تسمى ReElicit. وإليك كيف تعمل، مقسمة إلى مفاهيم بسيطة:

1. المشكلة: معضلة "الصندوق الأسود"

عادةً، عندما تقوم بضبط نموذج تعلم آلي، يكون لديك الكثير من البيانات؛ فأنت تعرف بالضبط أي الإجابات كانت صحيحة وأيها كانت خاطئة. لكن في العالم الحقيقي (مثل بوت خدمة العملاء)، قد تعرف فقط أن "رضا المستخدم ارتفع بنسبة 2% هذا الأسبوع".

إن محاولة تخمين التعليمات المثالية عبر تغيير الكلمات عشوائياً والأمل في تحقيق نتيجة أفضل تشبه محاولة العثور على إبرة محددة في كومة قش عن طريق رمي إبر عشوائية عليها. ستكون هذه العملية بطيئة وغير فعالة للغاية.

2. الحل: الروبوت "المترجم"

أدرك المؤلفون أنه بدلاً من البحث عبر ملايين الجمل الممكنة، يمكنهم طلب مساعدة نموذج لغوي كبير (LLM) "ذكي" ليعمل كـ مترجم.

إليك التشبيه:

الهدف: تريد العثة الوصفة المثالية لكعكة، لكنك لا تحصل إلا على درجة تذوق (مثلاً: "8/10") بعد الخبز. لا يمكنك تذوق المكونات بشكل فردي.
الطريقة القديمة: تقوم بتخمين وصفات جديدة عشوائياً.
طريقة ReElicit: تطلب من شيف ماهر (النموذج اللغوي الكبير) النظر في وصفاتك السابقة ودرجاتها. سيقول الشيف: "أعتقد أن السر ليس في الدقيق أو السكر؛ بل في التوازن بين الفانيليا وبيكربونات الصودا".

يقوم الشيف بعد ذلك بإنشاء خريطة بسيطة (فضاء سماتي - Feature Space) تحتوي فقط على محورين أو ثلاثة:

كمية الفانيليا؟ (من 0 إلى 1)
كمية بيكربونات الصودا؟ (من 0 إلى 1)

الآن، بدلاً من البحث عبر وصفات لا نهائية، أنت تبحث فقط عن النقطة المثالية على هذه الخريطة الصغيرة والبسيطة.

3. العملية: رقصة الخطوات الثلاث

تصف الورقة البحثية حلقة يقوم فيها الكمبيوتر بثلاثة أشياء بشكل متكرر:

الاستخراج (اسأل الشيف): ينظر النظام إلى المطالبات (Prompts) التي جربها ودرجاتها. ثم يسأل النموذج اللغوي: "ما هي أهم 'المكونات' (السمات الدلالية) الـ 2 أو الـ 3 التي تجعل المطالبة جيدة لهذه المهمة المحددة؟". يبتكر النموذج اللغوي هذه السمات فوراً (مثل "وضوح الاستنتاج" أو "استخدام الأمثلة").
التحسين (الملاح): يستخدم النظام أداة رياضية تسمى التحسين البايزي (Bayesian Optimization). فكر في هذا كـ ملاح ذكي ينظر إلى الخريطة ويقول: "لم نجرب بعد النقطة التي تكون فيها 'الوضوح' عالية و'الأمثلة' متوسطة. لنذهب إلى هناك". هو من يختار نقطة الهدف على الخريطة.
التحقيق (الخباز): يطلب النظام من النموذج اللغوي مرة أخرى: "حسناً، اكتب مطالبة تصل إلى ذلك الهدف تماماً على خريطتنا". يقوم النموذج اللغوي بكتابة التعليمات الجديدة. ثم يختبر النظام هذه التعليمات، ويحصل على درجة جديدة، وتبدأ الحلقة من جديد.

4. لماذا هي مميزة: "إعادة الاستخراج" (Re-eliciting)

الجزء الذكي هو أن "الخريطة" ليست ثابتة. فمع تجربة النظام لمزيد من المطالبات والحصول على المزيد من الدرجات، يطلب النظام من النموذج اللغوي إعادة رسم الخريطة.

ربما في البداية، اعتقد النموذج اللغوي أن "الطول" مهم.
لكن بعد 10 محاولات، يدرك النموذج اللغوي: "في الواقع، الطول لا يهم؛ الأمر يتعلق بـ كيفية هيكلة التعليمات".
لذا، يقوم النموذج اللغوي بتحديث الخريطة لتعكس هذا الفهم الجديد. وهذا يسمح للنظام بالتكيف مع ما يتعلمه.

5. النتائج

اختبر المؤلفون هذه الطريقة على 10 مهام صعبة (مثل حل المسائل الرياضية أو تحديد السخرية). وقد أعطوا ReElicit ميزانية ضيقة جداً: كان بإمكانها اختبار 30 مطالبة مختلفة فقط في المجمل.

المنافسة: قارنوا ReElicit بطرق أخرى تعتمد على التخمين العشوائي للمطالبات، أو تطويرها مثل البكتيريا، أو نقدها واحدة تلو الأخرى.
الفائز: وجدت ReElicit باستمرار أفضل المطالبات. لقد كانت أفضل في العثٍ الإبرة في كومة القش لأنها توقفت عن التخمين العشوائي وبدأت في التنقل عبر خريطة ذكية ومتطورة.

ملخص

باختصار، ReElicit هي طريقة تستخدم الذكاء الاصطناعي لـ ابتكار لغتها الخاصة لوصف ما يجعل المطالبة جيدة. بدلاً من البحث في عالم النصوص الفوضوي واللانهائي، تقوم بترجمة المشكلة إلى خريطة بسيطة ونظيفة، وتجد أفضل نقطة على تلك الخريطة، ثم تترجم تلك النقطة مرة أخرى إلى مجموعة مثالية من التعليمات. وهي تفعل ذلك من خلال تحديث خريطتها باستمرار مع تعلمها من النتائج الجديدة.

وتزعم الورقة البحثية أن هذه هي الطريقة الأكثر فعالية لضبط تعليمات الذكاء الاصطناعي عندما لا تملك سوى درجة إجمالية واحدة لتوجيهك، بدلاً من قائمة مفصلة بالأخطاء.

ملخص تقني: التضمين عن طريق الاستنباط للتحسين البايزي لتعليمات النظام (System Prompts)

إعداد المشكلة

تتناول الورقة البحثية تحدي تحسين تعليمات النظام (system prompts) في أنظمة الذكاء الاصطناًعي الحديثة تحت قيود التغذية الراجعة التجميعية. في العديد من سيناريوهات النشر، يتم قياس أداء التعليمات عبر مقاييس على مستوى السكان (مثل معدلات إكمال المهام، معدلات حوادث السلامة، أو رضا المستخدمين) بدلاً من الملصقات لكل مثال، أو تتبع الأخطاء، أو الانتقادات النصية. يلاحظ المُحسِّن (optimizer) فقط درجة عددية واحدة (scalar score) لكل نسخة من التعليمات التي تم نشرها.

هذا الإعداد يحول تحسين التعليمات إلى مشكلة تحسين "الصندوق الأسود" المقيدة بالعينات فوق لغة طبيعية متقطعة ومتغيرة الطول. يصعب تطبيق التحسين البايزي (Bayesian Optimization - BO) المباشر لأن:

التمثيل: يعمل الـ BO عادةً في فضاءات إقليدية ثابتة ومنخفضة الأبعاد، بينما التعليمات هي كائنات نصية معقدة وذات بنية محددة.
التجسيد (Realization): يتطلب رسم خرائط النقاط المُحسَّنة في الفضاء الكامن (latent space) إلى نص قابل للنشر عادةً مشفرات/فك تشفير مساعدة أو نوى (kernels) مصممة يدوياً، وهي غير متوفرة مباشرة للتعليمات النظامية التعسفية.
ندرة البيانات: يؤدي ملاءمة النماذج البديلة (surrogates) في فضاءات تضمين النصوص عالية الأبعاد (مثل آلاف الأبعاد) مع عدد قليل جداً من الملاحظات إلى استدلالات غير معلوماتية.

تعتمد طرق "التحسين التلقائي للتعليمات" (APO) الحالية غالباً على تغذية راجعة دقيقة (ملصقات لكل مثال، انتقادات) أو تفترض واجهات محددة (البرومبتات الناعمة/soft prompts، أو مجموعات مرشحة ثابتة)، مما يجعلها غير مناسبة لهذا الإعداد الخاص بالتعليمات الصلبة (hard-prompts) التي تعتمد فقط على البيانات التجميعية.

المنهجية: ReElicit

يقترح المؤلفون ReElicit، وهو إطار عمل للتحسين البايزي يعتمد على التضمين عن طريق الاستنباط (embedding by elicitation). الفكرة الجوهرية هي استخدام النموذج اللغوي الكبير (LLM) ليس فقط كمولد للتعليمات، بل كبناء تكيفي لتمثيل دلالي (semantic representation space).

تتم عملية التحسين عبر ثلاث مراحل في كل دورة:

استنباط الميزات الديناميكي:
- بالنظر إلى وصف المهمة وسجل التعليمات التي تم تقييمها مع درجاتها العددية، يقترح الـ LLM مجموعة من محاور الميزات الدلالية ذات الصلة بالمهمة والقابلة للتفسير (مثل "وضوح الاستنتاج" أو "التحكم في النبرة").
- بعد ذلك، يقوم الـ LLM برسم خرائط للتعليمات التاريخية إلى فضاء مستمر مضغوط $[0, 1]^{d_t}$ بناءً على هذه الميزات.
- لضمان المتانة، يتم توليد مجموعات متعددة من الميزات المرشحة وتقييمها عبر التحقق المتقاطع (CV) مقابل الدرجات المرصودة. المجموعة ذات أقل خطأ في التحقق المتقاطع هي التي يتم اختيارها. إذا كانت $t > 1$ ، يتم إعادة تقييم مجموعة الميزات السابقة على السجل الموسع وتضمينها كمرشح.
التحسين البايزي في فضاء الميزات:
- يتم ملاءمة نموذج بديل من نوع "العملية الغاوسية" (Gaussian Process - GP) لدرجات التعليمات المضمنة.
- تقوم دالة الاستحواذ (acquisition function) (مثل $q$ -LogNoisyExpectedImprovement) باختيار ناقلات الميزات المستهدفة في الفضاء المستمر التي توازن بين الاستكشاف والاستغلال. تمثل هذه الأهداف الخصائص الدلالية المرغوبة، وليس النصوص.
التجسيد والتحسين (Realization and Refinement):
- يقوم الـ LLM بتجسيد كل ناقل ميزة مستهدف إلى تعليمات نظام قابلة للنشر.
- نظرًا لأن الخريطة العكسية من الميزات المستمرة إلى النص هي خريطة تفقدية (lossy)، يقوم الـ LLM بعملية تحسين فجوة الميزات (feature-gap refinement). حيث يحلل الفرق بين الميزات المستهدفة وميزات التعليمات المولدة، ثم يعدل النص بشكل تكراري لتقليل هذه الفجوة، مما يضمن توافق التعليمات النهائية مع الاتجاه الدلالي الذي اختاره الـ BO.

تتكرر هذه العملية، مما يسمح للتمثيل بالتكيف ("إعادة الاستنباط") مع وصول بيانات جديدة للتعليمات والدرجات، مما يؤدي إلى صقل المحاور الدلالية التي تميز التعليمات عالية الأداء ومنخفضة الأداء.

التحليل النظري

تقدم الورقة تحليلاً نظرياً لـ الوصول (reachability): تحت أي ظروف تؤدي النقطة القريبة من المثالية في التضمين المستنبط إلى تعليمات جيدة في فضاء النص الأصلي؟

الافتراضات: يفترض المؤلفون وجود تضمين دلالي "أوراكل" (oracle) حيث تكون دالة الهدف سلسة (متصلة ليبشيتز/Lipschitz continuous في الفضاء الكامن). ويفترضون أن التضمين المستنبط يقترب من هذا الـ "أوراكل" ضمن خطأ محدود $\eta_t$ .
النتيجة: تثبت النظرية 1 أنه إذا كانت التعليمات دون المستوى بـ $\delta$ في الهدف المقرب (الفضاء المستنبط)، فإنها ستكون دون المستوى بـ $\epsilon$ في الهدف الحقيقي، حيث $\epsilon = \delta + 2BL\eta_t$ . هنا، $B$ هو حد معيار RKHS و $L$ هو ثابت ليبشيتز.
الاستنتاج: الفجوة بين فضاء الميزات المُحسَّن وجودة التعليمات الحقيقية محدودة بخطأ التمثيل. يعمل إعادة الاستنباط الديناميكي على تقليل $\eta_t$ بمرور الوقت، مما يعزز الضمان بأن التحسين في فضاء الميزات يؤدي إلى تحسين حقيقي في التعليمات.

النتائج التجريبية

قيم المؤلفون ReElicit في عشر مهام لتحسين تعليمات النظام (تغطي GSM8K و MMLU و BIG-Bench Hard) تحت ميزانية تقييم صارمة قدرها 30 تقييماً (6 دفعات من 5 تعليمات لكل منها). واجهة التغذية الراجعة هي حصرياً تجميعية (درجة عددية واحدة لكل تعليمات).

المقارنات المرجعية (Baselines):
تمت مقارنة ReElicit بأربعة نماذج مرجعية تمثل التغذية الراجعة التجميعية فقط والمكيفة للتعليمات الصلبة:

APE: أخذ عينات بدون سجل تاريخي.
OPRO: توليد مشروط بسجل مرتب حسب الدرجات.
PromptBreeder: طفرات وإعادة تركيب تطورية.
أسلوب TextGrad: تحسين قائم على النقد باستخدام مسارات عددية.

النتائج الرئيسية:

الأداء: يحقق ReElicit أقوى ملف أداء تجميعي. فهو إما الأفضل عددياً أو لا يمكن تمييزه إحصائياً عن الأفضل في جميع المهام العشر.
الاتساق: يسجل أعلى معدل فوز أو تعادل (win-or-tie) بين أزواج المهام والبذور، مما يشير إلى المتانة بدلاً من الإفراط في التخصيص (overfitting) لمقياس واحد.
تحليل المكونات:
- استقرار الميزات: الميزات المستنبطة مستقرة للغاية تحت الاستخراج المتكرر ولكنها تتكيف بشكل متحفظ عبر الدورات (مقاساً بـ Linear CKA).
- القدرة التنبؤية: الميزات الديناميكية تعطي خطأ تربيعي متوسط (MSE) أقل في التحقق المتقاطع لنموذج GP مقارنة بالميزات الثابتة أو المتنبئات المتوسطة.
- القابلية للتنفيذ: التعليمات ذات فجوات الميزات الأصغر تجاه أهداف الـ BO هي الأكثر عرضة لتحسين أفضل نتيجة تم الوصول إليها حتى الآن.
الدراسة الاستقصائية (Ablations): إزالة تحسين فجوة الميزات أو استبدال الـ BO بالعينات العشوائية يسبب أكبر انخفاض في الأداء. أما تجميد الميزات (التمثيل الثابت) أو الاستخراج المستقل فيؤديان إلى تدهور أصغر، وغالباً ما يكون غير معتد به إحصائياً، مما يشير إلى أن الاستنباط الأولي فعال بالفعل ولكن التكيف الديناميكي يوفر مكاسب إضافية.

الأهمية والادعاءات

تدعي الورقة أن النماذج اللغوية الكبيرة (LLMs) يمكن أن تعمل كبناة تمثيل دلالي تكيفيين، وليس فقط كمولدات للتعليمات، للتحسين البايزي فوق نواتج اللغة الطبيعية.

المساهمة المنهجية: يجسّر ReElicit الفجوة بين تحسين النصوص المتقطعة والتحسين البايزي المستمر عبر استخدام الـ LLM لبناء فضاء كامن مضغوط، قابل للتفسير، ومخصص للمهمة بشكل آني.
الأثر العملي: يوفر مساراً قابلاً للتطبيق لتحسين تعليمات النظام في بيئات النشر الواقعية حيث تتوفر فقط المقاييس التجميعية على مستوى السكان، متجنباً الحاجة إلى ملصقات لكل مثال أو تدريب معقد للمشفرات وفك التشفير.
القدرة على التعميم: يُقدم نمط "التضمين عن طريق الاستنباط" كطريقة لتحسين أي أثر لغوي مهيكل يمكن وصفه نصياً، حيث تكون المرشحات نصوصاً، والقيود نصية، والتقييم قياساً عددياً مكلفاً.

يظل المؤلفون متواضعين بشأن النطاق، مشيرين إلى أن تجاربهم تستخدم دقة المعايكات (benchmarks) كبديل لمقاييس النشر (مثل رضا المستخدم)، وأن كفاءة الطريقة تُقاس بتقييمات النموذج المستهدف بدلاً من إجمالي استدعاءات الـ LLM. ويؤكدون أن النهج هو مقارنة "تفاحة بتفاحة" ضمن إطار التعليمات الصلبة المعتمدة فقط على البيانات التجميعية.