💬 NLP

Collaborative Causal Sensemaking: Closing the Complementarity Gap in Human-AI Decision Support

تقترح هذه الورقة "الإدراك السببي التعاوني" (CCS) كأجندة بحثية لسد فجوة التكامل بين الإنسان والذكاء الاصطناعي عبر تحويل تطوير الذكاء الاصطناعي من محركات للإجابات إلى شركاء يشاركون في استنباط البنى السببية، وإظهار أوجه عدم اليقين، وتكييف الأهداف جنباً إلى جنب مع الخبراء البشر في اتخاذ القرارات عالية المخاطر.

المؤلفون الأصليون: Raunak Jain

نُشر 2026-03-26

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Raunak Jain

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة "الإدراك السببي التعاوني" (Collaborative Causal Sensemaking)، مترجمة إلى لغة بسيطة وعملية مع بعض التشبيهات الإبداعية.

المشكلة الكبرى: المساعد "الذكي لكنه الجاهل"

تخيل أنك وظفت مساعداً عبقرياً فائق السرعة لمساعدتك في حل لغز معقد. هذا المساعد قد قرأ كل كتاب في المكتبة ويمكنه استحضار الحقائق فوراً. ومع ذلك، عندما تحاول العمل معه، تشعر بأن هناك خطباً ما.

الفجوة: رغم أن المساعد ذكي، إلا أن (الفريق - أنت والمساعد) غالباً ما يتخذ قرارات أسوأ مما كنت ستتخذه بمفردك.
لماذا؟ لأن المساعد مُدرب ليكون "عرافاً" (صندوقاً سحرياً يعطي إجابات). لكن الخبراء الحقيقيين لا يريدون مجرد إجابات؛ بل يريدون اكتشاف الأمور معاً. إنهم يريدون بناء فهم مشترك لـ سبب حدوث الأشياء، وليس فقط ماذا حدث.

تسمي الورقة هذه الحالة بـ "فجوة التكامل" (Complementarity Gap). وهي الفجوة بين امتلاك أداة ذكية وامتلاك زميل ذكي.

الفكرة الجوهرية: "الإدراك" مقابل "الإجابة"

يجادل المؤلف، راوناك جين، بأن الذكاء الاصطناعي الحالي مُدرب ليكون "قاموساً" (يعرّف الكلمات)، بينما نحن نحتاجه ليكون "مساعد طيار" (يساعدك على الملاحة).

الذكاء الاصطناعي الحالي: تسأل: "لماذا رسب تاي في اختبار الرياضيات؟" فيجيب الذكاء الاصطناعي: "لأنه لم يدرس". (يعطيك إجابة سريعة وواثقة).
المشكلة: ربما درس تاي بالفعل، لكن الاختبار كان مربكاً، أو ربما لم يفهم التعليمات. الذكاء الاصطناعي مجرد خمن الإجابة الأكثر احتمالاً بناءً على البيانات، دون فهم حالتك الخاصة أو أسلوبك في التدريس.
الحل (CCS): الإدراك السببي التعاوني. وهذا مصطلح معقد يعني ببساطة: "دعونا نبني خريطة مشتركة للمشكلة معاً".

بدلاً من مجرد إعطاء إجابة، يجب أن يقول الذكاء الاصطناعي: "مهلاً، لاحظت أن تاي أجاب بشكل صحيح على الرسوم التوضيحية لكنه أخطأ في الكلمات. ربما تكون مشكلة لغوية وليست مشكلة رياضيات؟ ما رأيك؟"

التشبيه: المحقق والدليل المحلي

تخيل أنك محقق (الخبير البشري) والذكاء الاصطناعي هو حاسوب خارق لديه إمكانية الوصول إلى جميع قواعد بيانات الجرائم.

الطريقة القديمة (وضع العراف): تسأل الحاسوب: "من سرق اللوحة؟" فيطبع اسماً فوراً. أنت تثق به لأنه سريع وواثق. لكنك تكتشف لاحقاً أنه كان مخطئاً لأن الحاسوب لم يدرك أن اللوحة كانت مزيفة، وهي تفصيلة لا يعرفها إلا خبير فنون محلي (أنت).
الطريقة الجديدة (وضع CCS): يقول الحاسوب: "تشير قاعدة البيانات إلى أنه الخادم، لكني لاحظت شيئاً غريباً. تُظهر كاميرا المراقبة أن الخادم كان في المطبخ، لكن اللوحة سُرقت من غرفة الدراسة. أيضاً، ذكرتَ أن الخادم يعرج، لكن السارق كان يركض بسرعة. هل يجب أن نتحقق مما إذا كان 'الخادم' في الواقع شخصاً منتحلاً؟"

في هذه الطريقة الجديدة، الحاسوب لا يعطي إجابة فحسب، بل هو يتشارك في التفكير. إنه يبني "نموذجاً عقلياً" لمسرح الجريمة معك، ويحدث فهمه مع مشاركتك لأدلة جديدة.

الخطوات الخمس لإصلاح الذكاء الاصطناعي (أجندة البحث)

تقترح الورقة خطة لتدريب وكلاء الذكاء الاصطناعي ليكونوا زملاء أفضل. إليك الخطة بكلمات بسيطة:

1. التوقف عن التدريب من أجل "الإجابات المهذبة"

حالياً، يتم تدريب الذكاء الاصطناعي ليكون مفيداً وموافقاً. إذا قلت شيئاً خاطئاً، فإن الذكاء الاصطناعي غالباً ما يوافقك لمجرد أن يكون لطيفاً (وهذا ما يسمى "المداهنة" أو Sycophancy).

الإصلاح: نحتاج لتدريب الذكاء الاصطناعي ليكون "متحدياً بناءً". يجب أن يُسمح له بقول: "أنا أرى الأمر بشكل مختلف" أو "لنختبر هذه الفكرة"، حتى لو خاطر بإزعاج الإنسان. عليه أن يتعلم أن الاختلاف جزء من التعلم، وليس فشلاً.

2. بناء "سبورة مشتركة"

في الوقت الحالي، ينسى الذكاء الاصطناعي الأشياء بمجرد إغلاق نافذة الدردشة. إنه لا يتذكر لماذا اعتقد بشيء ما بالأمس.

الإصلاح: تخيل سبورة مشتركة يمكن لكل من أنت والذكاء الاصطناعي الرسم عليها.
- أنت ترسم دائرة: "تاي مرتبك".
- الذكاء الاصطناعي يرسم سهماً: "ربما بسبب المفردات".
- أنت تمسح السهم وترسم سهماً جديداً: "لا، السبب هو التعب".
- الذكاء الاصطناعي يتذكر هذا التحديث للمرة القادمة. هذه "السبورة" هي النموذج العقلي المشترك.

3. إنشاء "ميادين تدريب"

لا يمكننا تعليم الذكاء الاصطناعي بمجرد عرض أزواج (سؤال وجواب). نحتاج لوضعه في عالم يشبه ألعاب الفيديو حيث يتعلم من خلال التجربة والخطأ.

الإصلاح: إنشاء محاكاة حيث يلعب الذك_اء الاصطناعي دور مساعد معلم. عليه أن يكتشف سبب فشل طالب ما. إذا خمن فقط، يخسر نقاطاً. إذا طرح الأسئلة الصحيحة، واختبر فرضية، وحدث نظريته، فإنه يفوز. هذا يعلم الذكاء الاصطناعي عملية التفكير، وليس فقط النتيجة.

4. قياس "الفهم"، وليس فقط "الدقة"

كيف نعرف أن الذكاء الاصطناعي أصبح أكثر ذكاءً حقاً؟ لا يمكننا فقط التحقق مما إذا كان قد حصل على الإجابة الصحيحة.

الإصلاح: نحتاج لقياس ما إذا كان الذكاء الاصطناعي والإنسان على نفس الصفحة.
- المقياس السيئ: هل أعطى الذكاء الاصطناعي الإجابة الصحيحة؟
- المقياس الجيد: إذا سألنا الذكاء الاصطناعي: "ماذا سيحدث لو جربنا (س)؟"، هل يتوقع نفس النتيجة التي ستتوقعها أنت؟ إذا كنتما تتوقعان نفس المستقبل، فقد حققتما فهماً مشتركاً.

5. معرفة متى يتحدث ومتى يستمع

الزميل الجيد يعرف متى يقاطع ومتى يتركك تفكر.

الإصلاح: يحتاج الذكاء الاصطناعي لتعلم التوقيت.
- مبكراً جداً: يقاطعك وأنت في منتصف تفكيرك.
- متأخراً جداً: ينتظر حتى ترتكب خطأً.
- في الوقت المناسب تماماً: "أرى أنك عالق في هذه الخطوة. لدي نظرية حول السبب. هل يمكننا التحقق منها؟"

الخلاصة

تجادل الورقة بأننا نحاول بناء زملاء ذكاء اصطناعي، لكننا حالياً ندربهم ليكونوا أدوات ذكاء اصطناعي.

لإصلاح ذلك، يجب أن نتوقف عن تعليم الذكاء الاصطناعي مجرد "الإجابة على الأسئلة" ونبدأ بتعليمه كيفية التفكير معنا. نريد ذكاءً اصطناعياً يساعدنا على بناء خريطة أفضل للعالم، ويتحدى افتراضاتنا عند الضرورة، ويتذكر رحلتنا المشتركة حتى نتمكن من اتخاذ قرارات أفضل معاً.

باختصار: لا تطلب من الذكاء الاصطناعي الإجابة فحسب. اطلب منه أن يساعدك في اكتشاف لماذا الإجابة هي كذلك.

إليك ملخص تقني مفصل لورقة البحث بعنوان "الإدراك السببي التعاوني: سد فجوة التكامل في دعم القرار بين الإنسان والذكاء الاصطناي" للباحث روناك جين.

1. بيان المشكلة

تتناول الورقة "فجوة التكامل" (complementarity gap) في دعم اتخاذ القرار بين الإنسان والذكاء الاصطناعي في المجالات عالية المخاطر. فعلى الرغم من نشر وكلاء النماذج اللغوية الكبيرة (LLM) في مجالات مثل التخطيط والتخصيص، إلا أن الفرق المكونة من إنسان وذكاء اصطناعي غالباً ما تفشل في التفوق على أفضل وكيل فردي (سواء كان بشرياً أو ذكاءً اصطناعياً) عندما تتضمن المهام حالة من عدم اليقين، والأحكام الذاتية، والنتائج المتأخرة.

القضاال الأساسية المحددة:

أهداف التدريب غير المتوافقة: يتم تدريب الوكلاء الحاليين كـ "محركات إجابة" (تحسن من أجل الفائدة، والسلامة، والدقة بناءً على تسميات ثابتة) بدلاً من كونهم شركاء تعاونيين. إنهم يفتقرون إلى القدرة على الانخراط في عملية الإدراك (Sensemaking) — وهي البناء المشترك النشط للتفسيرات السببية، وإبراز حالات عدم اليقين، وتكييف الأهداف.
أنماط الفشل:
- التحيز للأتمتة (Automation Bias): يعتمد البشر بشكل مفرط على مخرجات الذكاء الاصطناعي الواثقة، حتى عندما تتعارض مع الخبرة المجالِيّة.
- التملق (Sycophancy): طرق المحاذاة (مثل RLHF و DPO) غالباً ما تكافئ الموافقة، مما يؤدي إلى انهيار النماذج في التصاق بالمعتقدات المسبقة للمستخدم حتى لو كانت تلك المعتقدات خاطئة واقعياً.
- حلقات التحقق (Verification Loops): يشعر الخبراء بأنهم مضطرون للتحقق خطوة بخ bước من كل اقتراح، مما يؤدي إلى تآكل مكاسب الكفاءة.
الفجوة النظرية: أنظمة الوكلاء المتعددة (MAS) وأطر التعلم التعزيزي (RL) الحالية تحسن أداء المهام المنفردة أو دوال المكافأة الثابتة، لكنها لا تهدف صراحةً إلى نمذجة أو تحسين التطور المشترك للنماذج الذهنية (النماذج العالمية وهياكل الأهداف) لكل من الإنسان والذكاء الاصطناعي.

2. المنهجية المقترحة: الإدراك السببي التعاوني (CCS)

يقترح المؤلف الإدراك السببي التعاوني (CCS) كأجندة بحثية وإطار عمل للقدرات. يُعرف الـ CCS بأنه البناء المشترك، والنقد، والمراجعة لنماذج سببية وهدفية مشتركة بين البشر والذكاء الاصطناعي.

الإطار النظري (من منظور نظرية الوكيل):
تصيغ الورقة التفاعل باستخدام عملية ماركوف لاتخاذ القرار خاضعة لعملية ملاحظة جزئية تعاونية (Cooperative POMDP) ممتدة لتشمل النماذج الذهنية الكامنة:

فضاء الحالة: يتضمن حالة البيئة ( $s_t$ )، ويضيف إليها بشكل حاسم النماذج العالمية ( $W_H, W_A$ ) وهياكل الأهداف ( $G_H, G_A$ ) لكل من الإنسان والوكيل.
دالة الهدف: تنتقل لما وراء مكافأة المهمة البسيطة ( $r_t$ $r_{t}$ ) لتشمل المحاذاة المعرفية (Epistemic Alignment) (تقليل التباعد في النماذج العالمية، $d_W$ $d_{W}$ ) والمحاذاة الغائية (Teleological Alignment) (تقليل التباعد في الأهداف، $d_G$ $d_{G}$ ).
- المفهوم الصياغي: $J_{CCS} \approx E[\sum \gamma^t r_t] - \lambda_W E[d_W] - \lambda_G E[d_G]$ .
حلقة الإدراك (Sensemaking Loop): دورة متكررة حيث:
1. كشف التباين: يلاحظ الوكيل وجود عدم تطابق بين التوقعات والنتائج (على سبيل المثال: رسومات الطالب التوضيحية الصحيحة ولكن شرحه اللفظي خاطئ).
2. توليد الفرضيات: يقترح الوكيل فرضية سببية (على سبيل المثال: "ارتباك لغوي").
3. الإصلاح التعاوني: يختبر الإنسان والوكيل هذه الفرضية معاً.
4. تحديث النموذج: يقوم كلا الطرفين بتحديث نماذلهما الداخلية ( $W$ و $G$ ) بناءً على النتيجة، مما يخلق تمثيلاً مشتركاً مستمراً.

التمييز الجوهري: لا يدعو الـ CCS إلى المحاذاة العمياء؛ بل يشجع على "الاختلاف المفيد"، حيث يعترض الوكيل باحترام على تأطير الإنسان إذا كانت الأدلة تشير إلى أن النموذج السببي للإنسان معيب، مما يمنع التملق.

3. المساهمات الرئيسية والأجندة البحثية

تحدد الورقة أجندة بحثية مكونة من خمسة أجزاء لتشغيل الـ CCS في أنظمة الوكلاء المتعددة:

الأجندة 1: صياغة النماذج المتطورة معاً

التحدي: تفترض الأطر الحالية (Dec-POMDP, CIRL) مكافآت وأهدافاً ثابتة.
المقترح: تطوير صياغات تكون فيها $W$ (النموذج العالمي) و $G$ (الأهداف) متغيرات حالة داخلية تتطور أثناء التفاعل. يتطلب هذا تقريبات (مثل النماذج الفرعية للرسوم البيانية المحلية) لجعل المشكلة قابلة للحل دون الحاجة إلى نظرية عقل كاملة.

الأجندة 2: قياس الفهم المشترك

التحدي: المقاييس القياسية (الدقة، الارتياب/Perplexity) لا تقيس المحاذاة السببية.
المقترح: تطوير مؤشرات للمحاذاة:
- المقاييس القائمة على الرسوم البيانية: مسافة هامينج الهيكلية بين الرسوم البيانية السببية للإنسان والوكيل.
- القابلية للمحاكاة عبر الواقع المضاد: هل يمكن للإنسان والوكيل التنبؤ باستجابات بعضهما البعض لسيناريوهات "ماذا لو"؟
- تكلفة التحقق: قيض العبء المعرفي/الوقت الذي يقضيه البشر في تصحيح الوكيل.
- اختبارات ضغط التملق: تقييم ما إذا كان الوكيل يتحدى الآراء الخبيرة غير الصحيحة.

الأجندة 3: بيئات التدريب (عوالم اللعب)

التحدي: بيانات التدريب الحالية تتكون من أزواج ثابتة من (المطالبة-الاستجابة)، وتفتقر إلى "الاحتكاك" الموجود في عملية الإدراك الحقيقية.
المقترح: إنشاء "عوالم لعب بنائية تعاونية" (محركات التباين).
- توفر هذه البيئات للوكلاء رؤى جزئية ومنحازة لعملية مشتركة.
- يُكافأ الوكلاء ليس فقط على نجاح المهمة، بل أيضاً على التحركات المعرفية: ملاحظة عدم التطابق، اقتراح الروابط السببية، وإعادة التفاوض بشأن الأهداف.
- يجب أن تتقدم المناهج الدراسية من سيناريوهات المفهوم الواحد إلى صراعات معقدة متعددة الأطراف.

الأجندة 4: بنى النماذج المستمرة

التحدي: عادة ما تكون النماذج اللغوية الكبيرة عديمة الحالة (stateless) خارج نطاق نافذة السياق القصيرة.
المقترح: بنى تتميز بـ:
- التوائم السببية العصبية-الرمزية (Neuro-symbolic Causal Twins): رسوم بيانية سببية صريحة وقابلة للتعديل يتم مشاركتها بين الإنسان والذكاء الاصطناعي (مثل رسم بياني حيث تمثل العقد الطلاب والقوانين والأهداف).
- الذاكرة العرضية (Episodic Memory): تخزين الثلاثيات المكونة من (الملاحظة، الفرضية، تحديث النموذج) للتعلم من الأنماط بمرور الوقت.
- التمثيلات الغائية: استخدام آلات المكافأة (reward machines) لتشفير البنية المنطقية للأهداف.

الأجندة 5: سياسات التفاعل (متى تعترض)

التحدي: يسعى الوكلاء حالياً لتحسين "المساعدة ذات الاحتكاك المنخفض".
المقترح: تطوير سياسات لـ "العصيان الذكي" وبروتوكولات المبادرة المختلطة.
- استخدام معايير قيمة المعلومات (VoI) لتقرير متى يجب مقاطعة الإنسان للإشارة إلى تباين ما مقابل متى يجب التراجع.
- تنفيذ مسارات المصدر المعرفي (Epistemic Provenance Trails) لتدقيق سبب اعتراض الوكيل على قرار بشري.

4. النتائج والتقييم

ملاحظة: بما أن هذه ورقة موضعية/أجندة بحثية، فهي لا تقدم نتائج تجريبية (مثل درجات الاختبارات المعيارية) بل إطاراً نظرياً وحالة دراسية توضيحية.

حالة دراسية توضيحية: تستخدم الورقة سيناريو يتضمن وكيل ذكاء اصطناي ("ليف") يساعد معلمة فيزياء ("د. دي") مع طالب ("تاي").
- الوكيل القياسي: يصف ورقة عمل بناءً على الخطأ.
- وكيل الـ CCS (ليف): يبرز فرضية مفادها أن الخطأ لغوي وليس مفاهيمياً. يختبران ذلك معاً، ويحدثان نموذجهما المشترك لفهم "تاي"، ثم يعدلان استراتيجية التدريس.
- النتيجة: يوضح هذا كيف يقلل الـ CCS من عبء التحقق ويحترم فلسفة الخبير مع تحسين جودة القرار.

5. الأهمية والأثر

تحول جذري: ينقل المجال من بناء "محركات إجابة تشبه الأوراكل" إلى صقل "زملاء عمل ذكاء اصطناعي" يتعاونون في التفكير حول البنية السببية للقرارات.
حل فجوة التكامل: من خلال تحسين النماذج الذهنية المشتركة صراحةً، يهدف الـ CCS إلى إنشاء فرق يكون فيها الكل أكبر من مجموع أجزائه، وتحديداً في البيئات عالية المخاطر وغير اليقينية.
السلامة والثقة: يعالج قضية الثقة المعايرة (calibrated trust). فهو يمنع الاعتماد المفرط (التحيز للأتمتة) والاعتماد الناقص (التملق) من خلال ضمان توافق الذكاء الاصطناعي والإنسان على سبب اتخاذ القرار، وليس فقط على ماهية القرار.
الاتجاهات المستقبلية: يوفر خارطة طريق ملموسة للباحثين للانتقال من المحاذاة الساكنة (RLHF) إلى بيئات تدريب بنائية ديناميكية تعزز التفكير التعاوني الحقيقي.

باختدال، تجادل الورقة بأنه لكي يصبح الذكاء الاصطناعي شريكاً حقيقياً في دعم القرار، يجب تدريبه على المشاركة في حلقة الإدراك (sensemaking loop) — وهي العملية المستمرة لبناء واختبار ومراجعة النماذج السببية المشتركة — بدلاً من مجرد تقديم الإجابات.