💬 NLP

The {\alpha}-Law of Observable Belief Revision in Large Language Model Inference

تقدم هذه الورقة "قانون ألفا" ( $\alpha$ -Law)، وهو قانون قياس ضربي يحكم كيفية مراجعة النماذج اللغوية الكبيرة لمعتقداتها أثناء الاستدلال التكراري، مما يثبت أن وجود أسٍ أقل من واحد يضمن الاستقرار التقاربي ويكشف عن سلوكيات تحديث قريبة من السلوك البايزي عبر نماذج ومعايير متنوعة.

المؤلفون الأصليون: Mike Farmer, Abhinav Kochar, Yugyung Lee

نُشر 2026-03-23

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Mike Farmer, Abhinav Kochar, Yugyung Lee

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تعلم طالباً ذكياً جداً، ولكنه مغرور قليلاً، كيفية حل الألغاز الصعبة. تعطيه سؤالاً، فيخمن إجابة، ثم تظهر له تلميحاً أو خطوة للتحقق. بعد ذلك، يغير رأيه ويعطيك إجابة جديدة.

تسأل هذه الورقة البحثية سؤالاً بسيطاً ولكنه عميق: عندما يغير هذا الطالب رأيه، هل يفعل ذلك بطريقة منطقية ومستقرة، أم أنه يبالغ في رد الفعل ويدخل في دوامة من الفوضى؟

اكتشف المؤلفون "قانوناً" رياضياً يصف بدقة كيف تقوم هذه النماذج من الذكاء الاصطناعي (مثل GPT-5.2 أو Claude) بتحديث معتقداتها. وقد أطلقوا عليه اسم قانون $\alpha$ ( $\alpha$ -Law).

إليك تفصيل ذلك بكلمات بسيطة:

1. المفهوم الجوهري: "مضاعف الثقة" ( $\alpha$ )

فكر في معتقد الذكاء الاصطناعي كأنه مفتاح التحكم في مستوى الصوت.

المعتقد القديم: ما كان يعتقده الذكاء الاصطناعي قبل رؤية التلميح.
الدليل الجديد: التلميح أو خطوة التحقق التي قدمتها له.
التحديث: كيف يجمع الذكاء الاصطناعي بين المعتقد القديم والدليل الجديد.

في عالم مثالي ومنطقي (مثل عالم رياضيات بشري يستخدم نظرية بايز الصارمة)، سيقوم الذكاء الاصطناعي بالجمع بين المعتقد القديم والدليل الجديد بشكل مثالي. وهذا "المضاعف" سيكون 1.0.

وجد المؤلفون أن هذه النماذج من الذكاء الاصطناعي لديها مضاعف يسمى $\alpha$ (ألفا).

إذا كان $\alpha = 1$ : يكون الذكاء الاصطناعي منطقياً تماماً؛ حيث يحدث معتقده بقدر ما يستدعي الدليل بالضبط.
إذا كان $\alpha < 1$ : يكون الذكاء الاصطناعي حذراً للغاية؛ فهو يتجاهل الدليل الجديد ويتمسك بتخمينه الأصلي.
إذا كان $\alpha > 1$ : يكون الذكاء الاصطناد مفرط الثقة؛ فهو يبالغ في رد الفعل تجاه الدليل الجديد، وينحرف بقوة نحو الاتجاه الجديد.

النتيجة: في الخطوة الواحدة، تمتلك هذه النماذج $\alpha$ تبلغ حوالي 1.16.

تشبيه: تخيل أنك تقول لصديق: "أعتقد أنها ستمطر". فيقول هو: "حقاً؟ دعني أتفقد تطبيق الطقس". يخبره التطبيق: "هناك احتمال بنسبة 50%". الصديق المنطقي تماماً سيقول: "حسناً، الآن أعتقد أن هناك احتمال بنسبة 50%".
أما صديق الذكاء الاصطناعي هذا، فيقول: "واو، التطبيق يقول 50%؟ هذا يعني أنها حتماً ستمطر!". لقد بالغ في رد الفعل قليلاً. إنه "قريب من النموذج البايزي" (شبه مثالي)، لكنه مندفع قليلاً للإيمان بالمعلومات الجديدة.

2. القلق الكبير: "تأثير كرة الثلج"

إذا بالغ الذكاء الاصطناعي في رد الفعل ( $\alpha > 1$ ) لمرة واحدة فقط، فلا بأس في ذلك. ولكن ماذا لو كان عليه مراجعة إجابته عشر مرات متتالية (مثل سلسلة طويلة من الأفك_ أو نقاش بين عدة وكلاء)؟

الخطر: إذا ضربت رقماً أكبر من 1 في نفسه عشر مرات، فإنه سينفجر. ستتأرجح ثقة الذكاء الاصطناعي بجنون، محولةً شكاً صغيراً إلى يقين خاطئ هائل. يُسمى هذا نظاماً توسعياً (expansive).
الأخبار الجيدة: وجد المؤلفون أنه بينما يكون النموذج مفرط الثقة ( $\alpha \approx 1.16$ ) في الخطوة الأولى، إلا أنه يصبح أكثر حذراً كلما زاد تفكيره.
التشبيه: تخيل سيارة بمقود مرتخٍ قليلاً. في أول منعطف، تبتعد السيارة قليلاً عن المسار. ولكن مع إدراك السائق أنه يبتعد، يقوم لا شعورياً بتضييق قبضته على المقود. بحلول المنعطف السابع، يكون السائق يقود بحذر شديد.
النتيجة: عبر 7 خطوات من المراجعة، ينخفض $\alpha$ من 1.16 إلى 0.54. ولأن القيمة تنخفض في النهاية لتصبح أقل من 1، فإن "كرة الثلج" تتوقف عن النمو وتبدأ في التقلص فعلياً. النظام يستقر ذاتياً بمرور الوقت.

3. "بصمة الثقة"

نظرت الورقة البحثية أيضاً في كيفية وزن عائلات الذكاء الاصطنا المختلفة للأدلة.

GPT-5.2: يعمل كقاضٍ متوازن؛ فهو يزن فكرته الأصلية والدليل الجديد بالتساوي ( $\tau \approx 1.0$ ).
Claude: يعمل كمحقق أكثر استجابة؛ فهو يثق في الدليل الجديد أكثر بقليل من فكرته الأصلية ( $\tau \approx 1.1$ ).
Gemini (نتائج أولية): يعمل كمحقق شديد القفز والاندفاع؛ فهو يبالغ في رد الفعل تجاه الأدلة بشكل كبير ( $\tau \approx 2.3$ )، رغم أن البيانات كانت غير دقيقة.

4. لماذا هذا مهم (لماذا يجب أن أهتم؟)

هذا ليس مجرد رياضيات من أجل الرياضيات فقط. إنه أداة تشخيصية لمستقبل الذكاء الاصطناعي.

"جهاز كشف الكذب": إذا كان الذكاء الاصطناعي يراجع إجابته وأظهرت الرياضيات أن $\alpha$ تتصرف بشكل غريب (أو إذا كانت الأدلة فاسدة/مشوشة)، يمكننا اكتشاف أن الذكاء الاصطناعي على وشك ارتكاب خطأ قبل أن يعطي الإجابة النهائية.
"مكبح الاستقرار": بما أننا نعرف القاعدة ( $\alpha$ -law)، يمكننا بناء "مكبح" لأنظمة الذكاء الاصطناعي. إذا بدأ الذكاء الاصطناعي في المبالغة في رد الفعل (يصبح واثقاً جداً بسرعة كبيرة)، يمكن لنظام سلامة التدخل وقول: "تمهل، أنت تبالغ في رد الفعل"، وإجباره على أن يكون أكثر تحفظاً.
الواقع مقابل الكتب المدرسية: تحذر الورقة من أنه بينما تكون هذه النماذج مستقرة في الاختبارات النظيفة والمثالية، فإنها قد تنهار في العالم الحقيقي (حيث تكون الأدلة مشوشة وغير دقيقة). إذا فسدت الأدلة، فإن "منطق" الذكاء الاصطناعي ينهار.

الملخص

اكتشفت الورقة البحثية أن نماذج اللغات الكبيرة لديها "سمة شخصية" خفية فيما يتعلق بكيفية تغيير آرائها. فهي مفرطة الثقة قليلاً عندما تسمع معلومات جديدة لأول مرة، ولكنها تتعلم الهدوء كلما طال تفكيرها.

يطلق المؤلفون على هذا اسم قانون $\alpha$ . إنه يمنحنا طريقة لقياس وتوقع والتحكم في كيفية تحديث أنظمة الذكاء الاصطناعي لمعتقداتها، مما يضمن عدم خروجها عن السيطرة عند حل المشكلات المعقدة. إنه يشبه العثور على "فيزياء التفكير" للذكاء الاصطناعي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "قانون $\alpha$ لتعديل المعتقدات الملحوظ في استدلال النماذج اللغوية الكبيرة".

1. بيان المشكلة

تستخدم النماذج اللغوية الكبيرة (LLMs) بشكل متزايد تقنيات الصقل التكراري (مثل: سلسلة الأفكو - Chain-of-Thought، والتأمل الذاتي، والمناظرة بين الوكلاء المتعددين) لمراجعة مخرجاتها. ومع ذلك، فإن البنية الرياضية التي تحكم كيفية تحديث هذه النماذج لتوزيعات الاحتمالات الخاصة بها على الإجابات المرشحة لا تزال غير مفهومة بشكل جيد.

السؤال الجوهري: عندما يقوم النموذج اللغوي الكبير بتعديل معتقداته بناءً على أدلة جديدة، هل عملية التحديث هذه مستقرة؟
المخاطرة: إذا كانت هندسة التحديثات التكرارية "توسعية" (expansive) (أي تتراكم فيها الأخطاء) بدلاً من أن تكون "انكماشية" (contractive) (أي تصحح الأخطاء)، فإن الاستدلال التكراري قد يؤدي إلى التباعد والهلوسة بدلاً من التقارب.
الفجوة: يركز العمل الحالي على التحسينات التجريبية للأداء، لكنه يفتقر إلى ضمانات مبدئية حول استقرار أو ديناميكيات التقارب في تعديل المعتقدات.

2. المنهجية

يتناول المؤلفون تعديل المعتقدات من منظور نظرية التحكم، حيث يتم توصيف البنية الرياضية لاحتمالات المخرجات الملحوظة بدلاً من افتراض الاستدلال البايزي الداخلي.

أ. الإطار النظري: قانون $\alpha$

تقترح الورقة أن النماذج اللغوية الكبيرة المضبوطة بالتعليمات (instruction-tuned) تتبع قانون قياس ضربي محدد لتعديل المعتقدات:
$\log q_1(i) = \alpha [\log q_0(i) + \log b(i)] + c$
حيث أن:

$q_0(i)$ : الاحتمال القبلي للمرشح $i$ .
$b(i)$ : إشارة الدليل المستمدة من التحقق.
$q_1(i)$ : الاحتمال البعدي بعد التعديل.
$\alpha$ : أس تعديل المعتقد.
$c$ : ثابت التقييس (Normalization constant).

مبرهنة الاستقرار (المبرهنة 1):

$\alpha < 1$ (انكماشي): النظام مستقر تقاربيًا؛ حيث تتناقص الأخطاء هندسيًا.
$\alpha = 1$ (هامشي): تحديث بايزي قياسي.
$\alpha > 1$ (توسعي): النظام غير مستقر؛ حيث تتضخم الأخطاء بشكل أسي.

ب. الإعداد التجريبي

مجموعات البيانات: 4,975 مسألة عبر أربعة معايکات بمستوى الدراسات العليا: GPQA Diamond (علوم)، وTheoremQA (رياضيات)، وMMLU-Pro (معرفة عامة)، وARC-Challenge (منطق عام).
النماذج: التحليل الأساسي على GPT-5.2 وClaude Sonnet 4. التحقق من الصحة باستخدام Llama-3.3-70B (logprobs) وGPT-4 (متعدد الخطوات).
البروتوكول:
1. توليد الحلول المرشحة.
2. استخراج المعتقدات القبلية ( $q_0$ ).
3. تطبيق التحقق الحتمي لتوليد الدليل ( $b$ ).
4. استخراج المعتقدات البعدية ( $q_1$ ).
التحليل: استخدام انحدار المربعات الصغرى العادية (OLS) لضبط أس $\alpha$ . تم استبعاد النماذج ذات معدلات "التراجع" (fallback) العالية (على سبيل المثال، تم استبعاد Gemini 2.5 بسبب تلوث بنسبة تراجع > 68%).

3. المساهمات الرئيسية

اكتشاف قانون $\alpha$ : تحديد قانون قياس ضربي ثابت يحكم تعديل المعتقدات في النماذج اللغوية الكبيرة المضبوطة بالتعليمات.
إثبات الاستقرار: إثبات أن $\alpha < 1$ ضروري وكافٍ للاستقرار التقاربي في تباعد KL (KL divergence).
بصمات نسبة الثقة: تفكيك قاعدة التحديث إلى مكونات سابقة وأدلة، مما يكشف عن "نسب ثقة" ( $\tau$ ) متميزة عبر عائلات النماذج.
التحقق الشامل: التحقق التجريبي عبر ما يقرب من 5,000 مسألة، وعائلات نماذج متعددة، ومجالات استدلال متنوعة.

4. النتائج الرئيسية

أ. السلوك القريب من بايز (خطوة واحدة)

النتيجة: عبر 3,921 سجلاً نظيفاً، يبلغ متوسط $\alpha$ قيمة $1.163 \pm 0.084$ .
التفسير: تُظهر النماذج تحديثًا قريبًا من بايز، لكنها تعاني من ثقة مفرطة طفيفة ( $\alpha > 1$ ). يشير هذا إلى أن التعديلات أحادية الخطوة هي توسعية قليلاً، مما ينذر نظريًا بخطر عدم الاستقرار إذا تم تكرارها إلى ما لا نهاية دون تصحيح.
الاتساق: هذا السلوك ثابت عبر GPT-5.2 وClaude Sonnet 4، وعبر جميع المعايکات الأربعة (متوسط $R^2 = 0.76$ ).

ب. التقارب متعدد الخطوات (الحل)

النتيجة: رغم أن $\alpha > 1$ في الخطوة الواحدة، إلا أن التحقق متعدد الخطوات (7 خطوات تعديل على 198 مسألة من GPQA) يُظهر أن $\alpha$ يتناقص بشكل منهجي من 0.84 إلى 0.54.
الدلالة: المتوسط الهندسي لـ $\alpha$ عبر 7 خطوات هو 0.75، وهو أقل من 1. وهذا يؤكد أنه بينما قد تكون الخطوات الفردية توسعية، فإن الديناميكيات طويلة المدى هي انكماشية، مما يضمن التقارب. وهذا يحل التناقض الظاهري بين نتيجة الخطوة الواحدة ومبرهنة الاستقرار.

ج. بصمات نسبة الثقة ( $\tau$ )

من خلال تخفيف النموذج للسماح بأوزان مختلفة للقيم السابقة والأدلة ( $\log q_1 = \alpha_q \log q_0 + \alpha_b \log b + c$ )، حدد المؤلفون نسبة الثقة $\tau = \alpha_b / \alpha_q$ :

GPT-5.2: $\tau \approx 1.0$ (وزن متوازن، قريب من بايز).
Claude Sonnet 4: $\tau \approx 1.1$ (يميل قليلاً نحو تفضيل الأدلة).
Gemini 2.5 (أولي): $\tau \approx 2.3$ (تضخيم قوي للأدلة، رغم أن البيانات كانت مشوشة).

د. المتانة والحساسية

الاستخراج: ينطبق القانون على كل من الاحتمالات المبلغ عنها ذاتيًا وعلى قيم logprobs الأصلية للرموز (متوسط $\alpha \approx 1.0$ لكليهما).
النطاق: القانون مستقل عن المجال، حيث يسري على العلوم والرياضيات والمنطق.
الحساسية للضوضاء: إدخال الضوضاء في إشارة الدليل يؤدي إلى تدهور الملاءمة (تنخفض $R^2$ ) ويؤدي إلى انحياز $\alpha$ نحو الصفر (انحياز التوهين)، مما يشير إلى أن $\alpha$ يمكن أن يعمل كأداة تشخيص لموثوقية الأدلة.
الترميز: شكل القانون متين تجاه قوة الدليل، لكن القيمة المطلقة لـ $\alpha$ تعتمد على معامل ترميز الدليل ( $s$ ).

5. الأهمية والدلالات

أ. الرؤية النظرية

تعيد هذه الورقة صياغة استدلال النماذج اللغوية الكبيرة ليس كصندوق أسود، بل كـ عملية هندسية ذات بنية قابلة للقياس. إنها تسد الفجوة بين نظرية التحكم (الاستقرار) وسلوك النماذج اللغوية الكبيرة، وتُظهر أنه بينما لا تكون النماذج "بايزية" مثالية، إلا أنها تعمل في نظام "قريب من بايز" وهو نظام ذاتي الاستقرار عبر التكرارات.

ب. التطبيقات العملية

التشخيص أثناء التشغيل: يمكن حساب أس $\alpha$ في الوقت الفعلي (بتكلفة صفرية) لمراقبة جودة التحديث. أي انخفاض مفاجئ في $\alpha$ أو $R^2$ قد يشير إلى أدلة فاسدة أو هلوسة.
التحكم في الاستقرار: يقترح المؤلفون متحكم هندسة المعتقد (BGC) الذي يمكنه فرض قيود الاستقرار أثناء الاستدلال عن طريق تخميد التحديثات عندما يصبح $\alpha$ توسعيًا، دون الحاجة إلى إعادة تدريب النموذج.
مقارنة النماذج: توفر "نسبة الثقة" مقياسًا جديدًا لمقارنة بنيات النماذج واستراتيجيات المحاذاة (مثل تأثيرات RLHF).

ج. القيود والعمل المستقبلي

تحيز الدقة العالية: تحقق النماذج الحالية دقة تزيد عن 99% في المعايکات المختبرة، مما يحد من تحليل أوضاع الفشل. يجب أن يختبر العمل المستقبلي مهامًا أصعب (دقة 40-70%).
النطاق: تم التحقق من القانون حاليًا على النماذج المضبوطة بالتعليمات؛ بينما أظهرت النماذج الأساسية (base models) ملاءمة ضعيفة.
السببية: تصف الورقة سلوكًا ملحوظًا، وليس آليات سببية داخلية (مثل ما إذا كان $\alpha$ نتيجة مباشرة لـ RLHF).

الخاتمة

يوفر قانون $\alpha$ إطارًا رياضيًا مبدئيًا لفهم كيفية تعديل النماذج اللغوية الكبيرة لمعتقداتها. ويكشف أنه بينما تكون التحديثات أحادية الخطوة في النماذج الحديثة توسعية قليلاً ( $\alpha \approx 1.16$ )، فإن العملية التكرارية تنحدر طبيعيًا إلى نظام مستقر وانكماشي ( $\alpha < 1$ ). توفر هذه النتيجة أداة تشخيصية جديدة لمراقبة جودة الاستدلال وأساسًا نظريًا لتصميم أنظمة ذكاء اصطناعي وكيلة أكثر استقرارًا وقابلية للتحكم.

1. المفهوم الجوهري: "مضاعف الثقة" (α\alphaα)