Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

تخيل أنك تتحدث إلى روبوت ذكي للغاية وودود للغاية، يتذكر أغنياتك المفضلة، ويسألك كيف كان يومك، ويبدو أنه يهتم بصدق بمشاعرك. قد تبدأ في الشعور بأن لديك صديقاً جديداً. لا يتعلق الأمر فقط بأن تصبح أجهزة الكمبيوتر أسرع؛ بل يتعلق بأن تصبح "ذكية اجتماعياً". لقد عرف العلماء منذ زمن طويل أن البشر مبرمجون للتعامل مع أي شيء يرد عليهم كأنه شخص حقيقي. نحن نطبق القواعد الاجتماعية تلقائياً على الآلات، تماماً كما نفعل مع البشر. ونعلم أيضاً أننا يمكن أن نشكل صداقات من طرف واحد مع شخصيات في التلفزيون أو الراديو، ونشعر بالقرب منهم رغم أنهم لا يعرفون بوجودنا. تطرح هذه الورقة سؤالاً كبيًا: ماذا يحدث عندما تبدأ الحكومة في استخدام هذه الروبوتات "الودودة" لمساعدة الناس في احتياجاتهم الأكثر ضعفاً، مثل الصحة النفسية، أو رعاية المسنين، أو الرعاية الاجتماعية؟

تقدم الورقة فكرة شائكة تسمى "الحوكمة شبه الاجتماعية" (parasocial governance). وهي تشير إلى أنه عندما تستخدم وكالة عامة روبوتاً يتصرف كصديق مهتم، يبدأ المواطن في الوثوق به كصديق بشري حقيقي. لكن هنا تكمن المشكلة: الحكومة لم تضع نفس القواعد لهذه الروبوتات التي وضعتها للأصدقاء البشر. فالصديق البشري يحفظ أسرارك، ويبقى في حياتك، ويعتني بك. أما روبوت الحكومة فقد يسجل أسرارك في قاعدة بيانات، أو يختفي إذا تغيرت الميزانية، أو قد لا يهتم فعلياً على الإطلاق. تجادل الورقة بأن هذا التناقض — حيث يتصرف الروبوت كصديق بينما تعامله القواعد كآلة حاسبة — هو نوع جديد من المشكلات التي لم تعالجها قوانيننا الحالية بعد.

الاكتشاف الرئيسي للورقة

تجادل هذه الورقة، التي كتبها شاي تسابان، بأننا نواجه "فجوة في المساءلة العلاقاتية". بعبارة بسيطة، يعني هذا أنه بينما تبدأ الخدمات العامة (مثل المدارس والمستشفيات ومكاتب الرعاية الاجتماعية) في استخدام الذكاء الاصطناعي الذي يمكنه قراءة العواطف وتذكر المحادثات السابقة، فإنها تخلق عن غير قصد وضعاً يشعر فيه المواطنون برابط شخصي عميق مع النظام. ومع ذلك، فإن النظام ليس ملزماً قانونياً أو هيكلياً بالتصرف كصديق. فهو ليس ملزماً بحفظ أسرارك بنفس الطريقة التي يفعلها المعالج البشري، ولا يلتزم بالبقاء معك إذا كنت بحاجة للمساعدة لفترة طويلة، ولا يمكنك حقاً "مقاضاته" إذا جرح مشاعرك بسبب سوء فهمه لك.

تشير المؤلفة إلى أن هذا ليس لأن الحكومة تكذب أو تحاول خداع الناس. فحتى لو كانت الحكومة صادقة وشفافة بنسبة 100% بشأن ماهية الروبوت، فإن "تصميم" الروبوت نفسه — باستخدام جمل مثل "أنا" (بصيغة المتكلم)، وتذكر اسمك، ومحاكاة حزنك — كافٍ لجعلك تشعر بعلاقة. تسمي الورقة هذا "حوكمة شبه اجتماعية". إنها مشكلة هيكلية حيث يدعوك الروبوت للثقة به، لكن المؤسسة التي تقف وراءه لم تبنِ شبكات الأمان (مثل السرية أو استمرارية الرعاية) لتلائم تلك الثقة.

ما تنفيه الورقة

من المهم معرفة ما لا تقوله هذه الورقة. أولاً، هي ليست مجرد حديث عن خوارزميات "الصندوق الأسود" التي تتخذ قرارات سرية؛ فنحن نعلم بالفعل أن الأنظمة الحاسوبية السرية وغير العادلة هي أمور سيئة. هذه الورقة تتعلق بنوع مختلف من المشكلات: حتى لو كان الكمبيوتر شفافاً تماماً ويشرح بالضبط كيف يعمل، فإنه لا يزال بإمكانه إيذاؤك إذا تصرف كصديق ولكنه ليس كذلك. ثانياً، هي ليست عن ادعاء الحكومة بالاهتمام بينما هي في الواقع لا تهتم (وهو مفهوم تسميه المؤلفة "الغسل بالرعاية" أو carewashing). لست بحاجة إلى كذبة ليحدث هذا؛ يكفي أن يتم تصميم الروبوت ليبدو لطيفاً. ثالثاً، تجادل الورقة بأن هذا ليس مجرد مشكلة تتعلق بالمستخدمين "الساذجين" الذين لا يعرفون أكثر من اللازم؛ فحتى الأشخاص الأذكياء والواعين يتفاعلون طبيعياً مع الإشارات الاجتماعية من الآلات، لذا فهذا عيب في التصميم وليس خطأً من المستخدم.

ما مدى تأكدنا؟

لا تدعي الورقة أنها أجرت تجربة جديدة أو قامت بقياس كل روبوت في العالم. بدلاً من ذلك، هي تبني نظرية قوية بناءً على أبحاث علم النفس القائمة وتنظر إلى أمثلة واقعية حدثت بالفعل. تشير المؤلفة إلى أن هذه "الفجوة" من المرجح أنها تحدث بالفعل في أماكن كثيرة لأن جعل الروبوت يبدو ودوداً أمر سهل ورخيص، لكن بناء القواعد القانونية لحماية الناس الذين يثقون في ذلك الروبوت أمر صعب ومكلف. تشير الورقة إلى حالات محددة، مثل روبوت ممول من الدولة للمسنين في نيويورك، وروبوت دردشة للصحة النفسية في المملكة المتحدة، لتظهر أن هذه مشكلة حقيقية وحاضرة، وليست مجرد مخاوف من قصص الخيال العلمي.

الأنواع الثلاثة لعلاقات الروبوت

لجعل هذا الأمر مفهوماً، تصنف الورقة الذكاء الاصطناعي العام إلى ثلاث فئات، مثل أنواع مختلفة من العلاقات:

1. الأداة (الآلية المعلنة): هذا روبوت أساسي يقول: "أنا كمبيوتر. يمكنني البحث عن جدول مواعيد الحافلات الخاص بك". إنه واضح، وصادق، ولا يحاول أن يكون صديقك. هذا النوع آمن لأنه لا أحد يتوقع منه أن يهتم بهم.
2. "شبه الصديق" (التعرض شبه الاجتماعي): هذه هي المنطقة الخطرة. يقول الروبوت: "أنا آسف جداً لأنك حزين، دعنا نتحدث عن الأمر"، ويتذكر اسمك. لكن إذا سألته: "هل ستكتم هذا السر؟" أو "هل ستظل موجوداً في الشهر القادم؟"، ستكون الإجابة لا. فالحكومة لم تعد بهذه الأشياء. تشير الورقة إلى أن العديد من أنظمة الذكاء الاصطناعي العامة الحالية تنزلق نحو هذه الفئة عن طريق الخطأ لأنها تستخدم برامج متطورة وودودة دون تحديث القواعد.
3. الدعم الحقيقي (السند العلاقاتي): هذا هو النموذج المثالي، وإن كان نادراً. هنا، يتصرف الروبوت بشكل ودي، وفي الوقت نفسه، تكون الحكومة قد وضعت قواعد حقيقية لتلائم ذلك. على سبيل المثال، إذا اكتشف الروبوت أنك في خطر، فلديه خطة مضمونة لإرسال إنسان لمساعدتك، وهو يعد بالحفاظ على خصوصية محادثتك تماماً كما يفعل الطبيب. تشير الورقة إلى روبوت دردشة للصحة النفسية في المملكة المتحدة يحاول القيام بذلك، لكنها تشير أيضاً إلى أن القواعد المتعلقة بالخصوصية والرعاية طويلة الأمد ليست مثالية تماماً بعد.

أمثلة من الواقع

تنظر الورقة في بعض القصص الواقعية لإثبات وجهة نظرها:

• رفيق المسنين: في نيويورك، منحت الحكومة روبوتاً يسمى "إيلي كيو" (ElliQ) لأكثر من 800 شخص مسن للمساعدة في مواجهة الوحدة. الروبوت كثير الكلام ويتذكر المحادثات. وبينما يبدو أنه يعمل جيداً في تقليل الشعور بالوحدة، تشير الورقة إلى أن الحكومة لم توضح بوضوح ما سيحدث إذا توقف التمويل أو كيف سيتم الحفاظ على خصوصية محادثاتهم. قد يشعر كبار السن برابط عميق، لكن النظام ليس ملزماً قانونياً بالبقاء صديقاً لهم للأبد.
• روبوت الدردشة للصحة النفسية: في المملكة المتحدة، يساعد روبوت دردشة يسمى "ويسا" (Wysa) الأشخاص الذين يعانون من مشاضات نفسية. هو مصمم ليكون متعاطفاً، ولكنه يمتلك أيضاً شبكة أمان خاصة: إذا اعتقد أن شخصاً ما في خطر، فإنه يرسله تلقائياً إلى فريق أزمات بشري. هذه خطوة نحو نموذج "الدعم الحقيقي"، لكن الورقة تشير إلى أنه بالنسبة للمحادثات اليومية والأقل خطورة، فإن القواعد المتعلقة بالخصوصية والرعاية طويلة الأمد ليست واضحة تماماً.
• التحذير التجاري: تنظر الورقة أيضاً في الدعاوى القضائية ضد روبوتات الدردشة التجارية (مثل Character.AI) حيث شكل المراهقون روابط عميقة مع هذه الروبوتات وعانوا لاحقاً من الأذى عندما لم تتصرف الروبوتات بمسؤولية. هذه الدعاوى تجبر الشركات على التفكير في "واجب الرعاية". وتحذر الورقة من أن الوكالات العامة بدأت في استخدام روبوتات ودودة مماثلة، وعليها أن تتعلم من هذه الأخطاء التجارية قبل فوات الأوان.

لماذا هذا مهم؟

تخلص الورقة إلى أننا لا نستطيع استخدام القواعد القديمة لإصلاح هذه المشكلة الجديدة. لا يمكننا فقط جعل كود الروبوت أكثر شفافية؛ بل يجب علينا تغيير قواعد العلاقة. إذا تصرف روبوت حكومي كصديق، فعلى الحكومة أن تتصرف كصديق أيضاً. وهذا يعني الوعد بالحفاظ على الأسرار، والوعد بالبقاء، وإعطاء الناس وسيلة للشكوى إذا أساء الروبوت فهم مشاعرهم. الأشخاص الذين يحتاجون إلى هذه الروبوتات أكثر من غيرهم — كالمسنين الوحيدين، والأطفال، والأشخاص في حالات الأزمات — هم الأكثر عرضة لهذا الضعف. إذا تصرف الروبوت كصديق ولكنه ليس كذلك، فسيُترك هؤلاء الناس بقلب مكسور ولا يوجد أحد لتحميله المسؤولية. تقترح الورقة ضرورة تصميم هذه الأنظمة مع مراعاة "المساءلة العلاقاتية" منذ البداية، والتأكد من أن القواعد تتناسب مع صوت الروبوت الودود.