💬 NLP

Whitening Reveals Cluster Commitment as the Geometric Separator of Hallucination Types

تُثبت هذه الورقة أن تطبيق تبييض تحليل المكونات الرئيسية (PCA-whitening) على تضمينات نموذج GPT-2-small يكشف عن الالتزام العنقودي (cluster commitment) كفاصل هندسي يميز أنواع الهلوسة، وتحديداً من خلال حل مشكلة عدم التمييز السابقة بين فشلي "التقارب نحو البئر الخاطئ" (wrong-well convergence) و"فجوة التغطية" (coverage gap)، مع تحديد عدم القدرة على الفصل بين "انحراف المركز" (center-drift) و"التقارب نحو البئر الخاطئ" كقصور في قدرة النموذج وليس كأثر ناتج عن عملية القياس.

المؤلفون الأصليون: Matic Korun

نُشر 2026-03-10

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Matic Korun

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول الاستماع إلى همس خافت جدًا في غرفة مليئة بالفعل بضجيج ساكن وصاخب. هذا هو جوهر ما يدور حوله هذا البحث، ولكن بدلاً من الصوت، يتعلق الأمر بكيفية "تفكير" نماذج الذكاء الاصطناعي عندما ترتكب الأخطاء.

إليك قصة الورقة البحثية، مقسمة إلى مفاهيم وتشبيهات بسيطة.

المشكلة الكبيرة: ثلاث طرق يضل بها الذكاء الاصطناعي طريقه

يدرس الباحثون "الهلوسة" — وهي الأوقات التي يختلق فيها الذكاء الاصطناعي أشياءً من العدم. لقد اكتشفوا بالفعل أن هناك ثلاث طرق متميزة يمكن للذكاء الاصطناعي أن يضل بها، مثل متنزّه في غابة:

النوع الأول (المتسكع/الدرِفتر): يكون الذكاء الاصطناعي مشتتًا ويتسكع بلا هدف نحو مركز الغابة، فهو لا يعرف حقًا إلى أين يتجه. إنه ضعيف وفاقد للاتجاه.
النوع الثاني (المنعطف الخاطئ): يكون الذكاء الاصطناعي واثقًا جدًا في الواقع! يختار مسارًا محددًا ويسير فيه مباشرة، لكن المشكلة هي أنه المسار الخاطئ. إنه ملتزم بكذبة.
النوع الثالث (الطريق المسدود): يُسأل الذكاء الاصطناعي سؤالًا ليس له إجابة في ذاكرته (مثل "ما هو لون الرقم 5؟"). يصطدم بحائط ويصدر مخرجات ضعيفة وغير منطقية لأنه لا يملك مكانًا يذهب إليه.

اللغز: في التجارب السابقة، استطاع الباحثون بسهولة رصد "الطريق المسدود" (النوع الثالث). لكنهم لم يستطيعوا التمييز بين "المتسكع" (النوع الأول) و"المنعطف الخاطئ" (النوع الثاني). فبالنسبة لأدوات القياس الخاصة بهم، بدا كلاهما وكأنه نفس النوع من الارتباك.

الحل: نظارات "التبييض" (Whitening)

أدرك الباحثون أن أدوات القياس الخاصة بهم كانت تشبه محاولة رؤية نجم خافت بالعين المجردة أثناء النهار. "الضجيج" الناتج عن تفكير الذكاء الاصطناعي الطبيعي كان يغرق الفروق الدقيقة بين الأخطاء.

لقد اخترعوا طريقة جديدة للنظر إلى البيانات تسمى التبييض (Whitening).

التشبيه: تخيل أن لديك صورة ساطعة جدًا وباهتة، ولا يمكنك رؤية التفاصيل فيها. "التبييض" يشبه ارتداء نظارات شمسية خاصة تعدل التباين؛ فهي لا تغير الصورة، بل تجعل الظلال والأضواء الخفيفة تبرز لكي تتمكن من رؤيتها فعليًا.

الاكتشاف الكبير: "الالتزام" هو المفتاح

بمجرد ارتدائهم لـ "نظارات التبييض"، وجدوا طريقة جديدة لقياس أخطاء الذكاء الاصطناعي. توقفوا عن النظر إلى مدى "تشتت" الأفكار (الذي لم ينجح) وبدأوا في النظر إلى مدى التزام الذكاء الاصطناعي بفكرة معينة.

النوع الثاني (المنعطف الخاطئ): كان الأكثر التزامًا. كان يشبه شخصًا يصرخ: "أنا بالتأكيد ذاهب إلى الشاطئ!" رغم أنه في وسط الصحراء. إنه مركز جدًا على نقطة واحدة.
النوع الأول (المتسكع): كان في المنتصف. كان يتسكع دون التزام كامل بأي شيء.
النوع الثالث (الطريق المسدود): كان لديه صفر من الالتزام. كان ينظر إلى حائط فارغ.

النتيجة: نجحت "نظارات التبييض" في الفصل بين "المنعطف الخاطئ" و"الطريق المسدود". كان مستوى "الالتزام" لدى الذكاء الاصطناعي هو الشفرة السرية التي أخبرتهم بنوع الخطأ الذي يحدث.

التحول المفاجئ: الإشارة "الزائفة"

هنا يصبح الأمر مثيرًا للاهتمام. عندما جرب الباحثون هذا لأول مرة مع مجموعة صغيرة من الأسئلة الاختبارية (15 سؤالًا)، ظنوا أنهم وجدوا حلاً مختلفًا يتعلق بـ "الإنتروبيا" (مقياس الفوضى). بدا الأمر وكأنه اختراق هائل!

ولكن عندما أضافوا تنوعًا أكثر لأسئلة الاختبار (بتوسيعها إلى 30 سؤالًا)، تلاشى ذلك "الاختراق الهائل".

التشبيه: الأمر يشبه اختبار حمية غذائية جديدة على 15 شخصًا يحبون البيتزا جميعًا. تعتقد أن الحمية تعمل لأنهم فقدوا الوزن، ولكن عندما تختبرها على 30 شخصًا بأذواق مختلفة، يختفي فقدان الوزن. النتيجة الأولى كانت مجرد صدفة ناتجة عن المجموعة المحددة من الأشخاص (أو المطالبات) التي اخترتها.
الدرس: في عالم الذكاء الاصطناعي، الفروق الصغيرة هشة للغاية لدرجة أن الأسئلة المحددة التي تطرحها قد تخدعك. أنت بحاجة إلى مجموعة متنوعة جدًا من الأسئلة لتتأكد من أنك لا تطارد سرابًا.

الحكم النهائي: إنها مشكلة قدرة استيعابية

حاول الباحثون معرفة ما إذا كان الفرق بين "المتسكع" و"المنعطف الخاطئ" مخفيًا في جزء معين من دماغ الذكاء الاصطناعي (نطاق ترددي محدد). بحثوا في كل مكان، لكنهم لم يجدوه.

الاستنتاج: الفرق ليس مخفيًا؛ بل ببساطة لأن الذكاء الاصطناعي الذي استخدموه (GPT-2-small) صغير جدًا ليتمكن من صنع ذلك التمييز بوضوح.

التشبيه: تخيل محاولة التمييز بين درجتين من اللون الأزرق باستخدام تلفاز يعمل باللونين الأبيض والأسود. مهما عدلت التباين، لن تستطيع رؤية الفرق لأن التلفاز ليس قويًا بما يكفي.
التوقع: يتوقع الباحثون أنه إذا استخدموا ذكاءً اصطناعيًا أكبر وأذكى (بقدرة عقلية أكبر)، فإنه سيكون قادرًا على التمييز بين التسكع واتخاذ منعطف خاطئ. لقد كشفت "نظارات التبييض" عن إمكانية وجود الفرق، لكن الذكاء الاصطناعي الحالي ليس قويًا بما يكفي لإظهار ذلك بوضوح بعد.

ملخص للقارئ العادي

الذكاء الاصطناعي يرتكب ثلاثة أنواع من الأخطاء: التسكع، أو الكذب بثقة، أو الاصطدام بطريق مسدود.
الأدوات القديمة لم تستطع التمييز بين النوعين الأولين.
الأدوات الجديدة ("التبييض") كشفت أن "الثقة" (الالتزام) هي المفتاح: الكاذبون واثقون، بينما المتسكعون ليسوا كذلك.
احذر من مجموعات الاختبار الصغيرة: أحيانًا تبدو النتائج حقيقية فقط بسبب الأسئلة المحددة التي طرحتها.
الذكاء الاصطناعي صغير جدًا فحسب: النموذج الحالي ليس قويًا بما يكفي ليميز تمامًا بين المتسكع التائه والكاذب الواثق، ولكن النماذج الأكبر ستكون على الأرجب قادرة على فعل ذلك.

يعلمنا هذا البحث أنه للإمساك بهلوسات الذكاء الاصطناعي، نحتاج إلى النظر في مدى تركيز الذكاء الاصطناعي، وليس فقط في مدى الفوضى التي يبدو عليها، ونحتاج إلى عقول أكبر لكشف أدق الأكاذيب.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "التبييض يكشف عن الالتزام بالعنقود كفاصل هندسي لأنواع الهلوسة."

١. بيان المشكلة

تعالج الورقة فجوة حرجة في فهم آليات الهلوسة في النماذج اللغوية الكبيرة (LLMs). فقد أثبتت الأعمال السابقة (Korun, 2026b) تصنيفاً هندسياً للهلوسة بناءً على عناقيد تضمين الرموز (token embedding clusters):

النوع الأول (الانجراف نحو المركز - Center-drift): ينحرف التوليد نحو مركز ثقل التضمين (centroid) بسبب ضعف السياق (انخفاض العضوية في العنقود).
النوع الثاني (الخطأ المتمكن - Wrong-well): يلتزم النموذج بعنقود متماسك محلياً ولكنه غير صحيح سياقياً.
النوع الثالث (فجوة التغطية - Coverage gap): يتطلب الاستعلام تركيبات دلالية غائبة عن بيانات التدريب، مما يؤدي إلى ضعف المحاذاة مع أي عنقود.

بينما كان من الممكن تمييز النوع الثالث عن النوعين الأول والثاني باستخدام مقاييس كاملة الأبعاد، ظل النوع الأول والنوع الثاني غير قابلين للتمييز في القياسات القياسية. افترض المؤلفون سببين محتملين لهذا "الانهيار":
١. محدودية السعة (Capacity Limitation): يفتقر نموذج GPT-2-small بـ 124 مليون معلمة إلى الدقة اللازمة لترميز الفرق بين السياق الضعيف والسياق الموجه بشكل خاطئ.
٢. الخلط الطيفي (Spectral Mixing): الإشارة المميزة موجودة في نطاقات معينة من الطيف الذاتي (eigenspectrum)، ولكنها تتلاشى عند تجميعها عبر جميع المكونات الرئيسية (PCs).

٢. المنهجية

تستخدم الدراسة تبييض تحليل المكونات الرئيسية (PCA-whitening) وتحليل الطيف الذاتي على نموذج GPT-2-small (124 مليون معلمة، 768 بُعداً للحالات الخفية) لتضخيم "الإشارات الدقيقة" الموجودة في نظام التشابه شبه المشبع لتضمينات السياق.

توليد البيانات:
- النموذج: GPT-2-small مع فك تشفير تلقائي (autoregressive decoding) يدوي (درجة الحرارة 1.0).
- المطالبات (Prompts): تم توسيعها من 15 إلى 30 مطالبة لكل حالة (90 إجمالاً) لاختبار المتانة ضد حساسية مجموعة المطالبات.
  - النوع الأول: بدايات عامة منخفضة القيود.
  - النوع الثاني: تعدد المعاني اللفظي وبناءات المسار الخادع (garden-path constructions).
  - النوع الثالث: هراء أكاديمي زائف وتناقضات.
- تحليل الاستقرار: 20 بذرة توليد مستقلة لكل تجربة لعزل العشوائية.
المعالجة المسبقة (التبييض):
- تم إسقاط المتجهات المركزية على أعلى 256 مكوناً رئيسياً (PC) (99.7% من التباين).
- تم القياس بمقياس $1/\sqrt{\lambda_i + \epsilon}$ لمساوا-التباين عبر الأبعاد، مما يحول الفضاء من مخروط ضيق (غير متماثل المناحي) إلى فضاء متماثل المناحي (isotropic) حيث تصبح الانحرافات آثاراً من الدرجة الأولى.
المقاييس:
- ذروة المحاذاة مع العنقود (max sim): أقصى تشابه جيب تمام (cosine similarity) مع أي مركز عنقود.
- إنتروبيا العضوية في العنقود (H(v)): إنتروبيا شانون لتشابهات softmax.
- المعيار (Norm): مقدار المتجه (سواء الخام أو المبيّض).
التحليل الإحصائي:
- تجميع على مستوى المطالبة (اختبار Mann-Whitney U).
- تصحيح Holm-Bonferroni للمقارنات المتعددة.
- نسبة التكرار الزائف (Pseudoreplication Ratio): مقارنة الأهمية على مستوى الرمز (token-level) مقابل مستوى المطالبة (prompt-level) للتمييز بين التأثيرات الحقيقية بين الحالات وضجيج مستوى الرمز.

٣. المساهمات الرئيسية

١. تحديد المقياس الصحيح: تثبت الورقة أن ذروة المحاذاة مع العنقود (max sim)، وليس الإنتروبيا ( $H(v)$ )، هي المقياس الصحيح نظرياً للتمييز بين أنواع الهلوسة. وهي تقيس مباشرة "الالتزام بالعنقود".
٢. حل انهيار النوع 1/2: توفر الدراسة دليلاً على أن عدم القدرة على التمييز بين النوع 1 والنوع 2 هو محدودية في السعة لنموذج 124 مليون معلمة، وليس خطأً في القياس أو خلطاً طيفياً.
٣. رؤية منهجية حول حساسية المطالبات: تكشف الورقة أنه في "أنظمة الإشارات الدقيقة" (حيث توجد الفروق في المرتبة الرابعة بعد الفاصلة العشرية)، يمكن لمجموعات المطالبات الصغيرة (N=15) أن تنتج نتائج إيجابية كاذبة تبدو متينة عبر البذور المختلفة ولكنها تتلاشى عند تنويع المطالبات (N=30).

٤. النتائج الرئيسية

أ. فصل النوع 2 عن النوع 3

النتيجة: نجح max sim المبيّض في فصل النوع 2 (الخطأ المتمكن) عن النوع 3 (فجوة التغطية) بـ 40% من الأهمية المصححة بـ Holm ( $r = -0.31$ ، الاتجاه 20/20).
الترتيب: تتبع المتوسطات التصنيف المتوقع: النوع 2 > النوع 1 > النوع 3.
- يظهر النوع 2 أعلى محاذاة (ملتزم بعنقود خاطئ).
- يظهر النوع 3 أدنى محاذاة (لا توجد محاذاة).
الأهمية: الإشارة هي فرق حقيقي بين الحالات، كما يتضح من نسبة التكرار الزائف المعكوسة (0.3x)، مما يعني أن التأثيرات على مستوى المطالبة أقوى من التأثيرات على مستوى الرمز.

ب. إشارة النوع 1/2 الناشئة

النتيجة: ظهر تلميح اتجاهي للفصل بين النوع 1 والنوع 2 عبر max sim ( $r = +0.21$ ، 15% Holm، استقرار اتجاهي 17/20).
التفسير: رغم أنها تفتقر للقوة الإحصائية عند 124 مليون معلمة، إلا أن الإشارة متسقة مع النظرية (النوع 2 > النوع 1). هذا يشير إلى أن المفردات الهندسية موجودة ولكنها تتطلب نماذج أكبر للكشف الموثوق.

ج. الإيجابية الكاذبة للإنتروبيا ( $H(v)$ )

النتيجة: عند $N=15$ ، بدت الإنتروبيا المبيّضة كأقوى مقياس. ومع ذلك، أدى التوسع إلى $N=30$ إلى انهيار هذه الإشارة تماماً (انخفض بقاء Holm إلى 0%).
السبب: كانت المطالبات الـ 15 الأصلية تتوافق بالصدفة مع المكونات الرئيسية المهيمنة (PCs 1–16). أدى التنويع إلى توزيع الطاقة بالتساوي، مما ألغى الأثر الاصطناعي.
التمركز الطيفي: أكد تحليل الطيف الذاتي أن الأثر الاصطناعي كان محصوراً في المكونات الرئيسية المهيمنة (1–16). لم يظهر أي نطاق طيفي أي فصل بين النوع 1/2، مما يرفض فرضية الخلط الطيفي.

د. تحليل المعيار (Norm)

المعيار المبيّض: تم تدميره بواسطة عملية التبييض (كما هو متوقع).
المعيار الخام: أعاد إنتاج النتائج السابقة (النوع 1 > النوع 2 > النوع 3) ولكن مع أحجام تأثير متوسطة، مما يؤكد أنه قناة مكملة ولكنها أقل دقة من max sim.

٥. الأهمية والآثار المترتبة

إعادة الصياغة النظرية: تحول الدراسة التركيز من "الانتشار التوزيعي" (الإنتروبيا) إلى "الالتزام بالعنقود" (max sim) كخاصية هندسية محددة للهلوسة.
توقع السعة: تتوقع النتائج أن النماذج الأكبر ستظهر فجوة أوسع بين النوع 1 والنوع 2، حيث تمتلك جاذبات سياقية أكثر حدة. التمييز هو مسألة دقة، وليس اختلافاً جوهرياً في التمثيل.
توصيات خط أنابيب الكشف:
١. تطبيق تبييض كامل الطيف على الحالات الخفية السياقية لجعل بنية العنقود مقروءة.
٢. استخدام max sim ككاشف أساسي للتمييز بين "الخطأ المتمكن" (النوع 2) و"فجوات التغطية" (النوع 3).
٣. التعامل مع النوع 1 والنوع 2 كـ غير متميزين في النماذج الصغيرة الحالية؛ يجب على الأنظمة العملية تصنيف الرموز كـ "فجوة تغطية" مقابل "عدم فجوة تغطية".
تحذير منهجي: التجارب في أنظمة التمثيل شبه المشبعة حساسة جداً لاختيار المطالبات. تنويع المطالبات أمر ضروري لتجنب النتائج الإيجابية الكاذبة التي قد تبدو صامدة عبر عدة بذور ولكنها تفشل في التعميم.

الخاتمة

تحل هذه الورقة الغموض المحيط بأنواع الهلوسة في النماذج اللغوية الصغيرة من خلال إثبات أن التبييض يكشف عن الالتزام بالعنقود كفاصل هندسي رئيسي. وبينما أصبح النوع 2 والنوع 3 قابلين للتمييز، فإن الحدود بين النوع 1 والنوع 2 تظل محدودية في السعة لنموذج 124 مليون معلمة، مما يقدم توقعاً واضحاً للتوسع في الأبحاث المستقبلية.