🤖 machine learning

Embedding Perturbation may Better Reflect Intermediate-Step Uncertainty in LLM Reasoning

تقترح هذه الورقة مقياساً لتقدير عدم اليقين قائمًا على الاضطراب، يحدد خطوات الاستدلال الوسيطة غير الموثوقة في النماذج اللغوية الكبيرة من خلال قياس حساسية الرموز (tokens) لاضطرابات التضمين، مما يظهر أداءً وكفاءةً متفوقين مقارنة بالطرق الاحتمالية وطرق أخذ العينات والطرق البايزية الحالية.

المؤلفون الأصليون: Qihao Wen, Jiahao Wang, Yang Nan, Pengfei He, Ravi Tandon, Han Xu

نُشر 2026-05-15

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Qihao Wen, Jiahao Wang, Yang Nan, Pengfei He, Ravi Tandon, Han Xu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة كبير (LLM) كطالب ذكي جداً، ولكنه واثق من نفسه أكثر من اللازم أحياناً، أثناء خوض اختبار في الرياضيات أو المنطق. هذا الطالب لا يكتفي بإعطائك الإجابة النهائية فحسب، بل يعرض خطوات عمله خطوة بخطوة. المشكلة هي أن الطالب قد يرتكب خطأً في منتصف خطواته، لكنه يستمر في المضي قدماً بكل ثقة حتى يصل إلى إجابة نهائية خاطئة.

الورقة البحثية التي تسأل عنها تشبه أداة "فحص سريع" جديدة مصممة لرصد تلك اللحظات المحددة التي يبدأ فيها الطالب بالتعثر، بدلاً من الانتظار حتى النهاية لمعرفة ما إذا كانت الإجابة خاطئة أم لا.

إليك تفصيل أفكار الورقة البحثية باستخدام تشبيهات بسيطة:

1. المشكلة: الطالب "الواثق من الخطأ"

الطرق الحالية للتحقق مما إذا كان الذكاء الاصطناعي غير متأكد عادة ما تنظر إلى الإجابة النهائية أو تحاول سؤال الذكاء الاصطناعي نفس السؤال 100 مرة لترى ما إذا كان سيعطي نفس الإجابة في كل مرة.

العيب: هذا يشبه تقييم الاختبار بناءً على الدرجة النهائية فقط. إذا ارتكب الطالب خطأ في الخطوة 3 ولكنه صححه (أو حالفه الحظ) بحلول الخطوة 10، فقد تظن أنه كان بخير طوال الوقت. أو إذا حصل على الإجابة الصحيحة بالصدفة، فقد تظن أنه استوعب المادة.
الهدف: أراد المؤلفون طريقة للاستماع إلى "المونولوج الداخلي" للطالب أثناء حله للمسألة، ليروا بالضبط أين يبدأ في التردد أو الارتباك.

2. الحل: اختبار "الدفع والوكز" (اضطراب التضمين - Embedding Perturbation)

يقترح المؤلفون خدعة ذكية. فبدلاً من مجرد قراءة إجابة الطالب، هم يقومون بـ "وخز" عقل الطالب برفق قبل أن يكتب الكلمة التالية مباشرة.

التشبيه: تخيل الطالب وهو يمشي على حبل مشدود.
- الطرق العادية: مراقبة سرعة مشيه (الاحتمالية). إذا كان يمشي بسرعة، فإنه يبدو واثقاً.
- الطريقة الجديدة: يقوم الباحثون بإعطاء الطالب دفعة صغيرة، غير مرئية تقريباً (اضطراب/perturbation) لتوازنه، وذلك قبل أن يتخذ الخطوة التالية مباشرة.
- رد الفعل:
  - إذا كان الطالب على أرض صلبة (خطوة صحيحة وسهلة)، فإن الوكزة الصغيرة لن تزعجه، وسيكمل مشيه في خط مستقيم.
  - إذا كان الطالب يتأرجح بالفعل (خطوة غير مؤكدة أو خاطئة)، فإن تلك الوكزة الصغيرة ستجعله يتعثر أو يتمايل بجنون. قد يغير رأيه حتى بشأن أي قدم سيضعها تالياً.

تسمي الورقة البحثية هذا بـ "اضطراب التضمين" (Embedding Perturbation). هم يقيسون رياضياً مدى تغير "أفكار" الطالب (احتمالية الكلمة التالية) عندما يتلقى تلك الوكزة الصغيرة. إذا تغيرت الأفكار كثيراً، فهذا يعني أن الطالب كان في الواقع غير متأكد للغاية، حتى لو بدا واثقاً.

3. لماذا هي أفضل من الطرق القديمة؟

تقارن الورقة البحثية بين طريقة "الوكز" الخاصة بهم وبين طرق أخرى للتحقق من عدم اليقين:

درجات الاحتمالية (Probability Scores): هذا يشبه التحقق من مدى علو صوت الطالب. أحياناً يتحدثون بصوت عالٍ عن شيء خاطئ لأنهم اعتادوا على قول تلك الكلمات (مثل الكلمات الشائعة في الجملة)، وليس لأنهم واثقون من المنطق.
أخذ العينات المتعددة (Multiple Sampling): هذا يشبه طلب إجراء الاختبار من الطالب 50 مرة. إنها طريقة دقيقة ولكنها تستغرق وقتاً طويلاً ومكلفة.
طريقة "الوكز": وجدت الورقة البحثية أن طريقتهم أسرع (لا تتطلب 50 محاولة) وأفضل في تحديد اللحظة الدقيقة التي ينكسر فيها المنطق. لقد رصدت الأخطاء في الألغاز الرياضية والمنطقية التي فاتتها الطرق الأخرى.

4. ماذا وجدوا (النتائج)

النجاح: عندما ارتكب الذكاء الاصطناعي خطأ في مسألة رياضية (مثل حساب الرقم $216,000$)، قامت طريقة "الوكز" بوضع علامة على الرقم المحدد الذي حدث فيه الخطأ. كان الأمر أشبه بظهور علم أحمر في اللحظة التي كتب فيها الطالب الرقم الخاطئ.
القيود: الطريقة ليست سحرية.
- تعمل بشكل رائع في الاستنتاج (الرياضيات، المنطق).
- لا تعمل بنفس القدر من الجودة مع الهلوسة (اختلاق الحقائق). توضح الورقة أن اختلاق حقيقة ما يشبه قيام الطالب بسرد قصة اخترعها بكل ثقة. الوكزة الصغيرة لا تجعله يتأرجح لأن "قصته" متسقة داخلياً، حتى لو كانت مزيفة.
- أحياناً، يكون الذكاء الاصطناعي بطبيعته "ثرثاراً" أو لديه طرق عديدة لقول الشيء نفسه. الوكزة قد تجعله يتردد، لكن هذا لا يعني بالضرية أنه مخطئ، بل يعني فقط أن لديه خيارات أخرى.

5. الخلاصة

تقدم الورقة البحثية طريقة لـ "اختبار الإجهاد" لعملية الاستنتاج في الذكاء الاصطناعي في الوقت الفعلي. من خلال رؤية مدى "تأرجح" عقل الذكاء الاصطناعي عند وخزه برفق، يمكنك العثور على النقطة الدقيقة التي يبدأ فيها منطقه بالانهيار.

الكفاءة: هي سريعة ولا تتطلب قدرات حوسبة هائلة.
الدقة: تجد الخطأ الأول، وليس فقط الإجابة النهائية الخاطئة.
تنبيه: هي أداة للتحقق من خطوات الاستنتاج، وليست للإمساك بالحقائق المختلقة (الهلوسة).

باختصار: إذا كنت تريد معرفة ما إذا كان الذكاء الاصطناعي يكذب بشأن رياضياتة، فلا تنتظر الإجابة النهائية فحسب. امنح عملية تفكيره نقرة خفيفة وانظر ما إذا كان سيتعثر. إذا فعل ذلك، فهذا هو المكان الذي بدأ فيه الخلل.

ملخص تقني: اضطراب التضمين لتقدير عدم اليقين في الخطوات المتوسطة لاستنتاج النماذج اللغوية الكبيرة

بيان المشكلة

حققت النماذج اللغوية الكبيرة (LLMs) طفرات نوعية في مهام الاستنتاج، لكنها لا تزال عرضة لإنتاج مخرجات غير موثوقة أو مضللة. وبينما توجد تقنيات تقدير عدم اليقين (UQ) لتقدير ثقة النموذج في إجاباته النهائية، إلا أنها غالباً ما تكون غير كافية لتقدير عدم اليقين في الخطوات المتوسطة لسلاسل الاستنتاج. تواجه الطرق الحالية عدة قيود:

النهج القائم على أخذ العينات (مثل الاتساق الذاتي/self-consistency): يتطلب توليد استجابات متعددة للتحقق من الاتفاق. ورغم فعاليته للإجابات النهائية، إلا أنه مكلف حوسبياً ويواجه صعوبة في تحديد الخطوة المتوسطة المحددة التي ينشأ منها الخطأ.
المقاييس القائمة على الاحتمالات (مثل احتمالية الرمز، الإنتروبيا، الهامش): غالباً ما تفشل في التمييز بين الرموز ذات الاحتمالية المنخفضة التي هي نادرة لغوياً ولكنها صحيحة، وبين تلك التي تمثل أخطاءً استنتاجية حقيقية. كما تجد صعوبة في التقاط التبعيات السياقية طويلة المدى اللازمة لتدقيق أخطاء الاستنتاج.
الأساليب القائمة على بايز (مثل اضطراب الأوزان): يمكن أن تكون مرهقة حوسبياً، خاصة بالنسبة للنماذج الكبيرة.

تتمثل المشكلة الجوهرية التي يعالجها البحث في غياب مقاييس فعالة ودقيقة قادرة على تحديد الرموز أو الخطوات المحددة داخل سلسلة الاستنتاج حيث يكون عدم اليقين لدى النموذج في أعلى مستوياته، مما يشير إلى خطأ محتمل.

المنهجية

يقترح المؤلفون اضطراب التضمين (Embedding Perturbation) كنهج مبتكر لقياس عدم اليقين في الخطوات المتوسطة. الفرضية الأساسية هي أن خطوات الاستنتاج غير الصحيحة تحتوي على رموز شديدة الحساسية للاضطرابات الصغيرة في تضمينات الرموز السابقة. تعكس هذه الحساسية تردد النموذج الداخلي بين عدة استمرارات متنافسة (أي أن النموذج "غير متأكد" مما إذا كان سيستمر في الرمز الحالي أم في رمز منافس آخر).

يعمل هذا النهج على أساس أن النماذج اللغوية الكبيرة هي نماذج توليدية تلقائية (autoregressive)؛ حيث يعتمد توليد الرمز $x_t$ فقط على الرموز السابقة $x_{1:t-1}$ . يعرّف المؤلفون احتمال توليد الرمز كدالة لتضمينات الرموز السابقة $H_{1:t-1}$ . ويقيسون حساسية النموذج للاضطرابات في هذه التضمينات باستخدام مقييزين محددين:

الاضطراب العشوائي (Random Pert.):
- يتم إضافة ضوضاء غاوسية عشوائية $\Delta \sim \mathcal{N}(0, \sigma^2 I)$ إلى تضمينات جميع الرموز في المدخلات والاستجابة.
- يُعرّف المقياس بأنه تباين لوغاريتم احتمالية الرمز المستهدف $x_t$ عبر عينات ضوضاء متعددة:
  $\text{Pert.}(x_t) = \text{Var}_{\Delta} [\log \text{Pr}(x_t | \tilde{H}_{1:t-1})]$
- يلتقط هذا المقياس عدم الاستقرار في اختيار الرمز تحت تغيرات السياق الطفيفة.
الاضطراب العدائي (Adversarial Perturbation):
- بدلاً من أخذ العينات العشوائية، يتم تعديل التضمينات في الاتجاه الذي يقلل بشكل أقصى من إجمالي لوغاريتم احتمالية الاستجابة المولدة (باستخدام التدرج الموقّع).
- المقياس هو الفرق في لوغاريتم الاحتمالية قبل وبعد الاضطراب:
  $\text{Pert.}(x_t) = \log \text{Pr}(x_t | H_{1:t-1}) - \log \text{Pr}(x_t | \hat{H}_{1:t-1})$
- يحدد هذا المقياس الرموز الأكثر تأثراً بالتحول العدائي، مما يشير إلى القرب من حدود القرار بين الرمز المختار و"الرمز المنافس".

الرؤية النظرية:
يقدم البحث تحليلاً نظرياً يوضح أن حساسيات الاضطراب هذه تقترب عكسياً من المسافة الهندسية من التضمين الحالي إلى حد القرار بين الرمز المختار والرمز المنافس. تشير الحساسية العالية إلى أن التضمين قريب من حد حيث قد يتم اختيار رمز مختلف (مما يؤدي إلى مسار استنتاجي مختلف)، مما يشير إلى عدم يقين عالٍ. ومن الأهمية بمكان أن المؤلفين يجادلون بأن هذا المقياس أقل انحيازاً لتكرار الرموز اللغوية الطبيعية مقارنة بالمقاييس القائمة على الاحتمالية الخام.

المساهمات الرئيسية

مقاييس جديدة لعدم اليقين: تقديم مقاييس قائمة على الاضطراب (العشوائي والعدائي) مصممة خصيصاً لالتقاط عدم اليقين في الخطوات المتوسطة في استنتاج النماذج اللغوية الكبيرة، وهي متميزة عن الثقة في الإجابة النهائية.
التبرير النظري: تقديم برهان رسمي يوضح أن حساسية الاضطراب تقترب من معيار التدرج، والذي بدوره يقترب عكسياً من المسافة إلى حد القرار بين مسارات الاستنتاج المتنافسة.
الكفاءة: أظهرت الطرق المقترحة أنها فعالة حوسبياً. يتطلب الاضطراب العدائي تمريرة خلفية وأمامية واحدة فقط، بينما يمكن للاضطراب العشوائي إعادة استخدام مجموعة واحدة من الاضطرابات لكامل التسلسل، مما يتجنب العبء الهائل لعمليات أخذ العينات المتعددة.
التحقق التجريبي: أظهرت التجارب المكثفة أن هذه المقاييس تتفوق على النماذج المرجعية الموجودة في تحديد الخطوة الخاطئة الأولى في سلاسل الاستنتاج.

النتائج التجريبية

قيم المؤلفون طريقتهم على مهام الاستنتاج الرياضي (مجموعة بيانات MATH) والاستنتاج المنطقي (BIG-Bench Hard) عبر أربعة نماذج (Llama-3.1, OpenMath, Qwen, Mistral).

الأداء: تفوقت مقاييس الاضطراب (العشوائي والعدائي) باستمرار على النماذج المرجعية، بما في ذلك:
- على مستوى الرمز: سالب لوغاريتم الاحتمالية (NLL)، الإنتروبيا، هامش الاحتمالية، وTokUR القائم على بايز.
- على مستوى الجملة: CCP، وTokenSAR، وGraph Uncertainty (أخذ العينات المتعدد).
- في مجموعة بيانات MATH، حقق الاضطراب العدائي معدل اكتشاف لأفضل 3 خطوات بنسبة 0.65 لنموذج Llama (مقابل 0.55 لـ TokUR) و0.61 لنموذج Qwen (مقابل 0.56 لـ TokUR).
الكفاءة: على وحدة معالجة رسومية واحدة من نوع NVIDIA GH200، أضاف الاضطراب العدائي 0.28 ثانية فقط لكل عملية توليد، بينما أضاف الاضطراب العشوائي (مع 20 تكراراً) 0.90 ثانية. وهذا أسرع بكثير من نهج أخذ العينات المتعددة.
اكتشاف الهلوسة: عند اختبار الطريقة على مجموعة بيانات FactScore لاكتشاف الهلوسة الواقعية، أدت الطرق القائمة على الاضطراب أداءً أقل مقارنة بطرق أخذ العينات المتعددة. ويعزو المؤلفون ذلك إلى الاختلاف الجوهري في أنماط الخطأ: فالهلوسة غالباً ما تنشأ من ارتباطات زائفة أو أساس ضعيف يظل مستقراً تحت الاضطراب، بينما تتضمن أخطاء الاستنتاج عدم استقرار حقيقي في اختيار المسار.

الأهمية والادعاءات

يزعم البحث أن اضطراب التضمين يوفر طريقة أكثر فعالية وكفاءة لتدقيق عملية الاستنتاج في النماذج اللغوية الكبيرة مقارنة بالطرق الحالية. من خلال تحديد الرموز ذات الحساسية العالية لاضطرابات التضمين، يمكن للممارسين:

تحديد الموقع الدقيق الذي يبدأ فيه النموذج في الانحراف عن مسار الاستنتاج الصحيح.
تمكين التدخلات الدقيقة، مثل آليات التأمل (reflection) أو التصحيح الذاتي، والتي يتم تفعيلها خصيصاً عند الخطوات غير المؤكدة.
تسهيل تطوير نماذج التحقق من خلال توفير إشارات عدم يقين قابلة للتفسير مشتقة من عملية التوليد نفسها.

يقر المؤلفون بتواضع بوجود بعض القيود: قد لا تكتشف الطريقة الهلوسات الناتجة عن الارتباطات الزائفة، وهي لا تنجح دائماً في الفصل التام بين عدم اليقين المتعلق بالصحة وعدم اليقين الناتج عن الاختيار بين مسارات استنتاج متعددة وصحيحة. ومع ذلك، فإن الدراسة تثبت أن المقاييس القائمة على الاضطراب هي أداة متفوقة لاكتشاف أخطاء الاستنتاج الإجرائية مقارنة بالنماذج المرجعية القائمة على الاحتمالية أو أخذ العينات.