Less Interaction But More Explanation: A Communication Perspective on Agentic AI Interfaces

ملخص تقني: تفاعل أقل ولكن شرح أكثر: منظور اتصالي لواجهات الذكاء الاصطناًعي الوكيل (Agentic AI)

بيان المشكلة
صُممت أنظمة الذكاء الاصطناعي التقليدية لتكون شركاء تفاعليين حواريين، مما يعزز توقعات المستخدم بوجود حوار متبادل. أما الذكاء الاصطناعي الوكيل فيغير هذا النموذج جذرياً من خلال العمل كوكيل مستقل قادر على تنفيذ سير عمل معقد ومتعدد الخطوات بأدنى تدخل بشري. وبينما يقلل هذا الاستقلال من الحاجة إلى الإدارة الدقيقة الروتينية، فإنه يستحدث مخاطر كبيرة تتعلق بـ خطأ عزو المصدر (source misattribution). فعندما يعمل الذكاء الاصطناعي بشكل استباقي بدلاً من مجرد الاستجابة، يواجه المستخدمون صعوبة في التمييز ما إذا كان الذكاء الاصطناዊ هو "المصدر" للفعل أم مجرد "قناة" لنقل نية الإنسان. ويمكن أن يؤدي هذا الغموض إلى:

• مشكلات العزو (Attribution Problems): عدم القدرة على تتبع ما إذا كانت النتائج ناتجة عن وكيل واحد، أو وكلاء فرعيين، أو أدوات خارجية.
• فجوات المساءلة (Accountability Gaps): تقليل المستخدمين من تقدير مستويات عدم اليقين أو الخلاف داخل مسارات العمل متعددة الوكلاء.
• الثقة المفرطة (Over-trust): التفعيل غير المقصود للاستدلالات المعرفية (مثل استدلال الإجماع أو استدلال السلطة)، حيث يرى المستخدمون أن التنسيق بين عدة وكلاء هو إشارة على المصداقية، مما يؤدي إلى ثقة غير مبررة في مخرجات قد تكون منحازة أو خاطئة.

تتفاقم مشكلات "الصندوق الأسود" الحالية لأن احتياجات الشرح تمتد لما هو أبعد من كيفية توليد المخرج لتشمل ما هي الإجراءات التي اتُخذت وكيف تم تنسيقها لتحقيق هدف ما.

المنهجية والإطار النظري
هذه الورقة هي ورقة موقف (position paper) تستند إلى منظور اتصالي، وتستخدم تحديداً تصنيف 4C لـ "سوندار ولي" (Sundar and Lee) حول مشاركة الذكاء الاصطناعي في التواصل البشري. لا يقدم المؤلفون بيانات تجريبية جديدة أو نتائج اختبارية، بل يقومون بتوليف الأدبيات الموجودة حول التفاعل بين الإنسان والحاسوب (HCI)، وتوجه المصدر، والاستدلالات المعرفية لبناء إطار نظري للذكاء الاصطناعي الوكيل.

يركز التحليل على كيفية إدراك المستخدمين لـ الأدوار التواصلية للذكاء الاصطناعي (كمصدر مقابل قناة) وكيف يعقد الذكاء الاصطناعي الوكيل هذا الإدراك من خلال التنقل عبر الحدود وطيّ الفوارق بين الأدوار الأربعة المحددة في تصنيف 4C:

1. مبتكر الذكاء الاصطناعي (AI Creator): إنتاج الرسائل لجمهور واسع.
2. محاور الذكاء الاصطناعي (AI Converser): الانخراط مع المستخدمين في حوار.
3. منسق المحتوى بالذكاء الاصطناعي (AI Curator): تصفية وتصنيف وتوصية المحتوى.
4. المؤلف المشارك بالذكاء الاصطناعي (AI Co-Author): مساعدة البشر في إنشاء الرسائل.

يجادل المؤلفون بأن الذكاء الاصطناعي الوكيل غالباً ما يتوسع عبر هذه الأدوار ضمن سير عمل واحد ويطوي التمايزات بينها، مما يخلق غموضاً في توجه المصدر لم تواجهه أنظمة الذكاء الاصطناعي التقليدية.

المساهمات الرئيسية
تقترح الورقة إعادة تفكير في التواصل بين الإنسان والذكاء الاصطناعي، مجادلة بأن زيادة الاستقلالية تتطلب مزيداً من التواصل من أجل الإشراف، وليس أقل. المساهمات الرئيسية هي:

1. تحديد مخاطر توجه المصدر: يفصل المؤلفون كيف يؤدي انهيار الأدوار التواصلية في الذكاء الاصطناعي الوكيل إلى نقاط ضعف نفسية محددة، بما في ذلك "استدلال الإجماع" (افتراض أن اتفاق الوكلاء المتعددين يساوي المصداقية) و"استدلال السلطة" (افتراض أن الوكلاء المتخصصين يضمنون الدقة).
2. اقتراح ثلاثة أنواع من الشرح: لتقليل هذه المخاطر ودعم الثقة المعايرة، تقترح الورقة ثلاثة أنواع متميزة من الشروح التي يجب أن تتضمنها أنظمة الذكاء الاصطناعي الوكيل:
   • شروحات الإجراء-العملية (Action-Process Explanations): تعالج مشكلات العزو من خلال جعل تتبع الخطوات مرئياً. يجب أن تحدد بوضوح أي وكيل فرعي قام بالخطوة وأي دور من أدوار 4C (مثل المنسق أو المؤلف المشارك) تم تفعيله. ويقترح المؤلفون أن هذه الشروحات تكون أكثر فعالية عندما تُقدم قبل التنفيذ للمساعدة في تكوين نماذج ذهنية دقيقة وتوضيح الافتراضات.
   • شروحات عدم اليقين (Uncertainty Explanations): تعالج فجوات المساءلة من خلال إيصال مستويات الثقة، والافتراضات، والقيود. يجب أن تحدد ما لا يعرفه النظام، والمصادر التي يعتمد عليها، والأماكن التي قد تكون فيها المخرجات غير موثوقة. كما يجب أن تقترن هذه الشروحات بإمكانات للتدخل البشري (مثل الإيقاف المؤقت أو تولي السيطرة) أثناء التنفيذ.
   • شروحات التنسيق (Coordination Explanations): تعالج الثقة المفرطة من خلال توضيح كيفية تنسيق مخرجات الوكلاء المتعددين. يجب أن تشرح تفكيك المهام، واستقلالية الوكلاء، وكيفية حل الخلافات، مما يفند صراحةً الوهم بأن الاتفاق بين الوكلاء يعد تأكيداً للحقيقة المثبتة.
3. توصية تصميمية للتخصيص: تجادل الورقة ضد مبدأ "الشرح الموحد للجميع"، مشيرة إلى أن الإفراط في الشرح قد يسبب حملاً معرفياً زائداً. بدلاً من ذلك، تقترح إمكانات تخصيص (customization affordances) تسمح للمستخدمين بتقرير أي أنواع الشروح يرونها ومتى (قبل، أو أثناء، أو بعد التنفيذ). يهدف هذا النهج إلى الحفاظ على الوكالة البشرية والسيطرة مع زيادة استقلالية الذكاء الاصطناعي.

النتائج والادعاءات
باعتبارها ورقة موقف، لا تعرض الورقة نتائج تجريبية أو بيانات كمية. بدلاً من ذلك، فإن "نتائجها" هي حجج نظرية مستمدة من الأدبيات الموجودة:

• الادعاء: زيادة استقلالية الذكاء الاصطناعي لا تقلل من الحاجة إلى التواصل؛ بل تنقل الحاجة من التفاعل الحواري إلى الإشراف التفسيري.
• الادعاء: أن غموض توجه المصدر في الذكاء الاصطناعي الوكيل يخلق مخاطر فريدة (أخطاء العزو، فجوات المساءلة، الثقة المفرطة) لا تعالجها طرق الذكاء الاصطناعي القابل للتفسير (XAI) الحالية التي تركز فقط على توليد المخرجات.
• الادعاء: أن تخصيص توقيت ونوع الشرح أمر ضروري لمنع الحمل المعلوماتي الزائد والحفاظ على معايرة الثقة المناسبة.

الأهمية
تدعي الورقة أهميتها من خلال سد الفجوة بين القدرات التقنية للذكاء الاصطناعي الوكيل والواقع النفسي للمستخدمين البشر. وتفترض أنه بدون نهج تصميمي متمحور حول التواصل يعالج صراحةً توجه المصدر، فإن الذكاء الاصطناعي الوكيل يخاطر بتعزيز مشكلة "الصندوق الأسود" وتعزيز مستويات خطيرة من الثقة المفرطة. يوفر الإطار المقترح خارطة طريق لتصميم واجهات تدعم الثقة المعايرة والاستقلالية البشرية، مما يضمن أنه بينما تصبح أنظمة الذكاء الاصطناعي أكثر قدرة على التصرف نيابة عن المستخدمين، فإنها تظل شفافة وخاضعة للمساءلة أمام الإشراف البشائي. ويدعو المؤلفون إلى مزيد من الدراسات المستخدمية للتحقق من كيفية تنفيذ استراتيجيات الشرح هذه بفعالية لحماية المستخدمين من الانحياز والخطأ.