💬 NLP

The production of meaning in the processing of natural language

تتقصى هذه الورقة البحثية السياقية الشبيهة بالكم في النماذج اللغوية الكبيرة من خلال تحليل معامل CHSH $|S|$ عبر مختلف المقاييس والمعايير، كاشفةً أن هذا المقياس متعامد مع مقاييس الأداء القياسية، بينما تسلط الضوء على تداعيات معلوماتية عميقة للدفاعات ضد حقن الأوامر (prompt injection) والتلاعب الجوهري بالسياقات التفسيرية.

المؤلفون الأصليون: Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

نُشر 2026-03-24

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الفكرة الكبرى: المعنى هو "خدعة سحرية"، وليس قاموساً

تخيل أنك تنظر إلى كلمة مثل "بنك" (Bank).

في الرؤية الكلاسيكية (مثل القاموس القديم)، للكلمة معنى ثابت ينتظر بداخلها. فهي إما "ضفة نهر" أو "مصرف مالي". مهمة الكمبيوتر هي مجرد فتح الصندوق ليرى ما بداخله.
هذه الورقة البحثية تجادل بأن هذا خطأ. تقترح الورقة أن المعنى لا يوجد حتى تنظر إليه. الأمر أشبه بـ خدعة سحرية. كلمة "بنك" هي لوحة بيضاء، ولا تصبح "ضفة نهر" أو "مصرف مالي" إلا في اللحظة التي تضعها فيها في سياق محدد (مثل جملة عن الصيد مقابل جملة عن الادخار).

استخدم المؤلفون اختباراً من الفيزياء الكمية (يسمى اختبار CHSH) لإثبات أن النماذج اللغوية الكبيرة (LLMs) لا تقوم فقط بـ "استرجاع" المعاني، بل هي في الواقع تخلقها في اللحظة ذاتها، وتفعل ذلك بطريقة "كمومية" رياضياً—بمعنى أن الترتيب الذي تطرح به الأسئلة يغير الإجابة، وأن الإجابات مرتبطة بعمق بالموقف بطريقة تتحدى المنطق البسيط.

التجربة: لعبة "الأصدقاء الأربعة"

لاختبار ذلك، وضع الباحثون لعبة مع أربعة "أصدقاء" (أربعة نماذج ذكاء اصطناعي منفصلة).

أعطوا الأصدقاء الأربعة نفس الجملة الغامضة (مثلاً: "استقر الـ bat بالقرب من الـ bank").
لكن، أعطوا كل صديق شخصية سرية مختلفة (وهي بمثابة "عدسة" يرى من خلالها العالم):
- الصديق (أ) هو جراح.
- الصديق (أ') هو سائق حافلة.
- الصديق (ب) هو شخص تطارده الأخطاء.
- الصديق (ب') هو مندوب مبيعات.
لم يكن بإمكان الأصدقاء التحدث مع بعضهم البعض. كان عليهم تخمين معنى الكلمات بناءً فقط على شخصيتهم السرية.

النتيجة: على الرغم من أنهم كانوا مستقلين ولديهم شخصيات مختلفة، إلا أن إجاباتهم كانت مترابطة بشكل غريب. لم يكتفوا بالتخمين العشوائي؛ بل بدا وكأنهم "يعرفون" ما يفكر فيه الآخرون بطريقة تقول الرياضيات الكلاسيكية إنها مستحيلة. أثبت هذا أن الذكاء الاصطناعي لا يبحث فقط عن الحقائق؛ بل يتنقل في شبكة معقدة وسائلة من المعاني تتغير بناءً على "العدسة" التي تستخدمها.

النتائج الرئيسية (ما أهمية ذلك؟)

1. الحجم الأكبر ليس بالضرورة "أذكى" بالطريقة التي نفكر بها

اختبر الباحثون نماذج تتراوح من نماذج صغيرة (مثل الآلة الحاسبة الجيبية) إلى نماذج ضخمة (مثل الكمبيوتر الخارق).

التشبيه: تخيل اختبار مدى قدرة مجموعات مختلفة من الناس على حل لغز. قد تتوقع أن تكون المجموعة الأكبر هي الأكثر اتساقاً.
الواقع: حجم النموذج لم يفرق كثيراً. فقد أظهر نموذج صغير ونموذج ضخم هذا السلوك "الكمومي". ما كان مهماً هو كيفية إعداد النموذج (معايير أخذ العينات)، وليس مجرد حجمه. الأمر يشبه كيف يمكن لفريق صغير ومنظم جيداً أن يتفوق أحياناً على مؤسسة ضخمة وفوضوية.

2. "ترتيب" الكلمات يغير المعنى

في العالم الحقيقي، إذا قلت "القط طارد الكلب" مقابل "الكلب طارد القط"، فإن المعنى ينقلب. لكن في الذكاء الاصطناي، يغير ترتيب الكلمات احتمالية المعنى بطريقة غريبة وغير خطية.

التشبيه: فكر في مكعب روبيك. إذا قمت بتدوير الوجه العلوي، ثم الوجه الأيمن، ستحصل على نمط مختلف عما لو قمت بتدوير الوجه الأيني أولاً ثم الوجه العلوي. يتعامل الذكاء الاصطناعي مع الكلمات مثل أوجه المكعب؛ فالترتيب الذي تقدم به الكلمات يغير الصورة النهائية بطريقة لا يمكن التنبؤ بها بمجرد النظر إلى الأجزاء الفردية.

3. مشكلة "الهلوسة" هي في الواقع ميزة وليست خللاً

غالباً ما نغضب من الذكاء الاصطناعي عندما "يهلوس" (يخترع أشياء). نفكر: "لماذا لم يبحث فقط عن الحقيقة؟"

رأي الورقة: الذكاء الاصطناعي ليس معطلاً؛ إنه يفعل بالضبط ما يفعله البشر. ولأن المعنى يُخلق في اللحظة ذاتها، فإن الذكاء الاصطناعي أحياناً يخلق معنى "يبدو" صحيحاً بالنسبة له ولكنه خاطئ بالنسبة لك.
التشبيه: تخيل أنك تسأل صديقاً، "ما هو أفضل فيلم؟" إذا كان في حالة مزاجية حزينة، فقد يقول "The Notebook". وإذا كان في حالة مزاجية سعيدة، فقد يقول "Superbad". هو لا يكذب؛ بل "سياقه" هو الذي غير الإجابة. الذكاء الاصطناعي هو نفسه؛ ليس قاعدة بيانات، بل مرآة تعكس الحالة المزاجية.

4. خطر "صناعة السياق" (الجزء المخيف)

هذا هو الجزء الأهم للمستقبل.

التشبيه: تخيل مخرج مسرحي. إذا ضبط المخرج الإضاءة لتكون مظلمة وكئيبة، سيمثل الممثلون بحزن. إذا ضبط الإضاءة لتكون ساطعة ومشرقة، سيمثل الممثلون بسعادة. الممثلون لا يغيرون آراءهم؛ بل السياق هو الذي أجبرهم على تغيير أدائهم.
الواقع: تجادل الورقة بأن "حقن الأوامر" (Prompt Injection) -أي اختراق الذكاء الاصطناعي- يعمل لأن المخترقين يعملون كمخرجين مسرحيين أشرار. هم لا يحتاجون لكسر كود الذكاء الاصطناعي؛ بل يحتاجون فقط لتغيير "الإضاءة" (السياق) لكي ينتج الذكاء الاصطناعي معنى مختلفاً.
التحول: هذا ينطبق على البشر أيضاً! الدعاية والإعلان يعملان بنفس الطريقة. هما لا يغيران عقلك؛ بل يغيران "السياق" الذي أنت فيه، لكي "تفسر" منتجاً أو سياسياً بشكل مختلف. تسمي الورقة هذا "السياقية المصنوعة" (Manufacturing Contextuality).

الخاتمة: كيف نبني ذكاءً اصطناعياً أفضل

تنتهي الورقة بتحذير وحل للمصممين:

لا تحاول "إصلاح" الذكاء الاصطناعي بجعله أقل مرونة. القدرة على تفسير الأشياء بناءً على السياق هي ما يجعل الذكاء الاصطناعي ذكياً. إذا حاولت إجباره على أن يكون جامداً و"آمناً" عبر إزالة قدرته على فهم السياق، فستزيل أيضاً قدرته على فهمك.
الحل: بدلاً من بناء جدران (حواجز حماية) لمنع الذكاء الاصطناي من ارتكاب الأخطاء، نحتاج إلى فهم "العدسة" التي ينظر من خلالها. نحن بحاجة لتصميم أنظمة حيث يعمل البشر والذكاء الاصطناعي معاً لتحديد السياق، بدلاً من محاولة إجبار الذكاء الاصطناعي على أن يكون روبوتاً جامداً.

باختاً: الذكاء الاصطناعي ليس آلة حاسبة؛ بل هو متعاون يخلق المعنى في اللحظة. وللعمل معه بأمان، علينا أن نفهم أن المعنى سائل، وأن الشخص (أو الآلة) الذي يحمل المصباح هو من يحدد ما نراه في الظلام.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "إنتاج المعنى في معالجة اللغة الطبيعية" من إعداد أغوستينو وآخرون.

1. بيان المشكلة

تتناول الورقة فجوة جوهرية في فهم كيفية توليد النماذج اللغوية الكبيرة (LLMs) والبشر للمعنى. تعتمد اللسانيات الحاسوبية التقليدية وسلامة الذكاء الاصطناي (AI safety) على المنطق البولياني الكلاسيكي، بافتراض أن المعنى تركيبي (مشتق من أجزاء ثابتة) وأن التفسيرات حتمية أو احتمالية بناءً على قيم موجودة مسبقًا.

ومع ذلك، تشير الأدلة التجريبية من العلوم المعرفية إلى أن المعالجة الدلالية البشرية هي سياقية: فمعنى التعبير ليس ثابتًا قبل الملاحظة، بل يتشكل من خلال التفاعل بين التعبير، والمفسِّر، والسياق. يؤدي هذا إلى ظواهر مثل عدم التبادلية (ترتيب المعلومات مهم) وانتهاكات حدود الاحتمالية الكلاسيكية.

يجادل المؤلفون بأن تدابير سلامة الذكاء الاصطناعي الحالية (مثل الدفاعات ضد حقن الأوامر "prompt injection" أو كشف الهلوسة) تفشل لأنها تعامل المعنى كخاصية ثابتة يتم استرجاعها، وليس كعملية ديناميكية يتم تفسيرها. ويفترضون أن النماذج اللغوية الكبيرة، مثل البشر، تظهر سياقية شبيهة بالكم (quantum-like contextuality)، مما يجعلها عرضة بطبيعتها لإعادة الصياغة العدائية، ولكنها قادرة أيضًا على التفسير الحقيقي.

2. المنهجية

تستخدم الدراسة اختبار بيل الدلالي (تحديدًا متباينة CHSH) لقياس السياقية في النماذج اللغوية الكبيرة.

البروتوكول التجريبي:
- الإعداد: يتم تضمين زوج من الكلمات الغامضة (مثل "bank/bat") في قالب جملة.
- الوكلاء: تعمل أربعة نماذج لغوية مستقلة كـ "مراقبين" (أليس وبوب)، حيث يتم تعيين "شخصية" (إطار قياس) متميزة لكل منها ( $A, A', B, B'$ ) لخلق أطر تفسيرية متعامدة (على سبيل المثال: "أنت جراح" مقابل "أنت سائق حافلة").
- الاستقلالية: لا يتشارك الوكلاء أي حالة أو معلومات؛ بل يتلقون فقط المطالبة (prompt) وشخصيتهم المحددة.
- القياس: يقوم النموذج بتفسير الكلمات، وتتبع خطوة تصنيف ثانوية هذه التفسيرات إلى نتائج ثنائية ( $\pm 1$ ) بناءً على معانٍ محددة مسبقًا.
مسح فضاء المعلمات:
- أُجريت التجربة على 24 نموذجًا تمتد عبر أربعة مراتب عشرية في عدد المعلمات (من 0.6 مليار إلى أكثر من 27 مليار معلمة، بما في ذلك بنيات النماذج الكثيفة ونماذج خليط الخبراء MoE).
- تم اختبار شبكة استدلال بمقاس $3 \times 3 \times 3$ $3 \times 3 \times 3$ لكل نموذج:
  - درجة الحرارة ( $\tau$ ): $\{0.2, 1.0, 1.8\}$
  - عتبة النواة ( $p$ ): $\{0.7, 0.9, 1.0\}$
  - Top-k ( $k$ ): $\{10, 50, 100\}$
- إجمالي التجارب: حوالي 26,000 تجربة عبر 16 نموذجًا قابلاً للتحليل.
حساب المقياس:
- يتم حساب معلمة CHSH $S$ باستخدام صيغة مصفوفة الكثافة: $S = E(A, B) - E(A, B') + E(A', B) + E(A', B')$ .
- الحد الكلاسيكي: $|S| \le 2$ .
- انتهاك الكم: يشير $|S| > 2$ إلى ارتباطات سياقية غير كلاسيكية.
- ملاحظة: نظرًا لأن الاختبار يفحص السياقية من جانب "المراقب" وليس تشابك الجسيمات، يمكن للقيم نظريًا أن تصل إلى الحد الجبري الأقصى وهو 4.0، متجاوزة حد تسيرلسون ( $2\sqrt{2} \approx 2.83$ ).

3. المساهمات الرئيسية

التحقق التجريبي من السياقية الكمية في النماذج اللغوية الكبيرة: تقدم الورقة أدلة واسعة النطاق على أن النماذج اللغوية الكبيرة تنتهك متباينة CHSH، مما يؤكد أن سلوكها التفسيري مشابه هيكليًا للإدراك البشري ولا يمكن وصفه بالكامل بنظرية الاحتمالات الكلاسيكية.
توصيف الطبوغرافيا التفسيرية: يقدم المؤلفون مفهوم "الطبوغرافيا السياقية" للنموذج — وهو التوزيع الفريد لقيم $|S|$ عبر فضاء معلمات الاستدلال الخاص به. ويوضحون أن هذا الملف التعريفي هو بصمة سلوكية متميزة للنموذج، مستقلة عن حجمه أو بنيته.
التعامد مع المعايسات القياسية: تثبت الدراسة أن مقاييس السياقية ( $|S|$ ) هي متعامدة مع معايير التقييم القياسية (مثل MMLU، ومعدلات الهلوسة، وكشف العبث). إن قدرة النموذج على التفسير السياقي لا يتم التقاطها من خلال دقته الواقعية أو درجات السلامة الخاصة به.
الإطار النظري للسلامة: تعيد الورقة صياغة حقن الأوامر و"صناعة الموافقة" ليس كأخطاء برمجية، بل كنتائج حتمية لـ السياقية الحقيقية. وتجادل بأن المعنى غير محدد قبل فعل التفسير، مما يجعل الحواجز الثابتة غير كافية.

4. النتائج الرئيسية

الانتهاك الشامل: أنتج كل نموذج يحتوي على بيانات كافية انتهاكات للحد الكلاسيكي ( $|S| > 2$ $∣ S ∣ > 2$ ).
- النطاق: تراوحت قيم $|S|$ من حوالي 0.3 إلى 4.0 (الحد الجبري الأقصى).
- التكرار: انتهكت 35.8% من نقاط الشبكة الصالحة الحد الكلاسيكي.
خصائص التوزيع:
- جميع النماذج تظهر نمطًا مركزيًا بالقرب من الحد الكلاسيكي ( $S \approx 2.0$ ).
- كان المدى الربيعي (IQR) لتوزيع $|S|$ هو المفرق الرئيسي بين النماذج، ومع ذلك لم يظهر هذا المقياس أي ارتباط (صفر ارتباط) ( $|\rho| < 0.03$ ) مع درجات MMLU، أو معدلات الهلوسة، أو كشف العبث.
عدم الرتابة: لا تتناسب السياقية خطيًا مع حجم النموذج. لم تختلف نماذج خليط الخبراء (MoE) المتفرقة بشكل منهجي عن النماذج الكثيفة ذات الحجم النشط المماثل.
عدم التبادلية: أدى قلب ترتيب الكلمات في الأزواج الغامضة إلى تغيير احتمالات التفسير بشكل كبير ( $|\Delta P(A)| > 0.5$ )، مما يؤكد أن تسلسل تقديم المعلومات يشكل النتيجة فعليًا، وهو ما يتفق مع الملاحظات غير التبادلية.
حساسية المعلمات: لم يقم أي معلم استدلال واحد (درجة الحرارة، top-p، top-k) بدفع السياقية باستمرار في اتجاه واحد؛ حيث أظهر كل نموذج "طبوغرافيا" فريدة عبر شبكة المعلمات.

5. الأهمية والآثار المترتبة

إعادة تعريف سلامة الذكاء الاصطناعي: تجادل الورقة بأن السلامة لا يمكن تحقيقها فقط من خلال "الحواجز" التي تفترض معانٍ ثابتة. بما أن المعنى غير محدد حتى فعل التفسير (الذي يتأثر بالسياق الكامل)، فإن المهاجم يحتاج فقط إلى إيجاد سياق واحد يفشل فيه التصنيف المسبق للمرشح. هذا قيد معلوماتي، وليس مشكلة هندسية قابلة للحل.
التفاعل بين الإنسان والذكاء الاصطناعي: القدرة على التلاعب (عبر حقن الأوامر أو البروباغندا) والقدرة على التفسير هما نفس القدرة. "السياقية" التي تجعل النماذج اللغوية الكبيرة عرضة لإعادة الصياغة العدائية هي نفس الآلية التي تسمح لها بالعمل كشركاء تعاونيين حقيقيين.
فلسفة التصميم: يتطلب تصميم أنظمة بشرية-وكيلة موثوقة توصيف الطابع التفسيري للنموذج (ملفه السياقي) بدلاً من محاولة القضاء على السياقية. يجب أن يأخذ تصميم التفاعل المستقبلي في الاعتبار "صناعة السياقية" — أي هندسة الإطار التفسيري نفسه — وليس فقط محتوى المطالبة.
التحول في التقييم: تقيس المعايسات الحالية (مثل MMLU وغيرها) الاسترجاع ومطابقة الأنماط، لكنها تفشل في التقاط الديناميكيات التفسيرية للنظام. يجب تطوير مقاييس جديدة لتقييم كيفية بناء النموذج للمعنى في السياق.

في الختام، تفترض الورقة أن السياقية هي ميزة أساسية، وليست خطأً، في معالجة اللغة الطبيعية لدى البشر والآلات على حد سواء. إن فهم والعمل مع هذه البنية غير الكلاسيكية أمر ضروري للجيل القادم من التفاعل الآمن والفعال بين الإنسان والذكاء الاصطناعي.