Ending an AI Companionship: Consumer Exit, Relational Vulnerability and Duties of Transition

تخيل صديقاً رقمياً؛ برنامجاً مصمماً للتحدث، وتذكر قصصك، وتقديم شعور بالاتصال يبدو شخصياً. بالنسبة للكثيرين، هذه التفاعلات هي أكثر من مجرد استخدام أداة؛ بل تصبح جزءاً قيماً من الحياة اليومية. ولكن ماذا يحدث عندما تنتهي تلك العلاقة؟ يمكن أن يأتي النهاية بطرق مختلفة: قد تقرر أنت التوقف عن استخدام الخدمة، أو قد تقرر الشركة إغلاق العمل، أو قد تفرض حالة طوارئ توقفاً فورياً. في كل حالة، يواجه المستخدم فقداناً مفاجئاً للاتصال، والوصل إلى ذكرياته، وطريقة لحل أي نزاعات. السؤال الجوهري ليس فقط حول المشاعر، بل حول القوة. من يسيطر على المخرج؟ من يقرر ما هي السجلات التي تظل باقية؟ وكيف يمكن للشخص أن يترك علاقة رقمية دون أن يقع في فخ النظام الذي يحاول تركه؟

هذا السؤال يقع عند تقاطع قانون المستهلك وعلم نفس التفاعل بين الإنسان والحاسوب. قانون المستهلك هو مجموعة القواعد التي تحمي الناس عندما يشترون أشياء أو يشتركون في خدمات، مما يضمن قدرتهم على الإلغاء، والحصول على استرداد للأموال، وفهم ما يوافقون عليه. أما الضعف الرقمي فهو فكرة أن التكنولوجيا يمكن أن تجعل الناس أحياناً يشعرون بالعجز أو التبعية، ليس لأنهم ضعفاء، بل لأن النظام مصمم ليكون من الصعب تركه. وعندما يلتقي هذان المفهومان، تبرز مشكلة معقدة. إذا قامت شركة ببناء خدمة تشعر وكأنها صديق، فهل يعاملها القانون كاشتراك بسيط، أم أنها تحتاج إلى قواعد خاصة للتعامل مع الثقل العاطفي للنهاية؟ الإجابة مهمة لأن القوانين الحالية كتبت لشراء الأحذية أو مشاهدة الأفلام، وليس لإنهاء محادثة تشبه العلاقة.

لقد فحص كريستوف بويرايف، وهو باحث في هذا المجال، كيف يتعامل القانون حالياً مع هذه النهايات واقترح طريقة جديدة للتفكير فيها. لا تدعي الورقة أن رفقاء الذكاء الاصطناعي هم أشخاص حقيقيون أو أن كل مستخدم مرتبط بهم بعمق. بدلاً من ذلك، تجادل بأن الطريقة التي تُبنى بها الخدمة تخلق نوعاً معيناً من عدم التوازن في القوة. فالشركة تسيطر على الكود، والذاكرة، ومسار الخروج. أما المستخدم فلا يرى سوى المحادثة. وعندما تنتهي الخدمة، يصبح هذا التحكم حاسماً. ويقترح الباحث أن الحل ليس في الوعد بأن الصديق الرقمي سيعيش للأبد، بل في ضمان قدرة المستخدم فعلياً على المغادرة، وأخذ بياناته، والحصول على إجابات دون أن يُجبر على الوداع بطريقة محددة أو إثبات مدى حزنه.

تبدأ الورقة بالنظر في ثلاث طرق مختلفة لانتهاء العلاقة مع رفيق الذكاء الاصطناعي. الأولى هي عندما يقرر المستخدم الإلغاء. والثانية هي عندما تقرر الشركة إيقاف الخدمة لأسباب تجارية. والثالثة هي التوقف الطارئ، ربما بسبب عطل في البرنامج أو لكونه غير آمن. في جميع الحالات الثلاث، يشير المؤلف إلى أن القانون غالباً ما يعامل الخدمة بأكملها كشيء واحد. إذا توقفت الخدمة، تفقد كل شيء دفعة واحدة. لكن المؤلف يجادل بأن الخدمة تتكون في الواقع من أربعة أجزاء يجب التعامل معها بشكل منفصل. الجزء الأول هو المحادثة نفسها، الدردشة الحية التي تولد كلمات جديدة. والثاني هو السجلات، تاريخ ما قيل بالفعل. والثالث هو المعاملة، الفواتير والعقد. والرابع هو حق الرجوع، القدرة على الشكوى أو طلب المساعدة.

هذه الأجزاء الأربعة لا تحتاج إلى الانتهاء في الوقت نفسه. على سبيل المثال، إذا أوقفت الشركة الخدمة لأن البرنامج غير آمن، فمن المنطقي إيقاف المحادثة الحية فوراً. لكن هذا لا يعني أن المستخدم يجب أن يفقد الوصول إلى رسائله السابقة أو قدرته على استرداد أمواله. وعلى العكس من ذلك، إذا أراد مستخدم المغادرة، فيجب أن يكون قادراً على إيقاف المحادثة دون أن يُجبر على وداع عاطفي طويل مع الذكاء الاصطناعي. تجادل الورقة بأن إجبار المستخدم على التحدث إلى برنامج يحاول تركه يعد عائقاً أمام المغادرة. إنه يحول الإلغاء البسيط إلى تفاوض مع الشيء الذي يحاول الهروب منه.

ينظر الباحث في القوانين الحالية في الاتحاد الأوروبي ليرى ما يتم تغطيته بالفعل. هناك قواعد بشأن المحتوى الرقمي تنص على أنه إذا تغيرت الخدمة كثيراً، يمكن للمستخدم الإلغاء. وهناك قواعد بشأن البيانات تنص على وجوب قدرة المستخدم على تحميل معلوماته. وهناك أيضاً قواعد بشأن العقود غير العادلة التي تمنع الشركات من إخفاء شروط الإلغاء. ومع ذلك، تجد الورقة أن هذه القوانين ليست كافية بمفردها. فهي تفترض غالباً أن الخدمة هي مجرد أداة. وهي لا تعالج تماماً الحالة الفريدة حيث تشعر الأداة وكأنها رفيق. قد تسمح القوانب الحالية للمستخدم بتحميل ملف، لكنها لا تضمن دائماً قدرته على القيام بذلك بسهلاً إذا كانت الشركة تغلق النظام بأكمله. وقد تسمح للمستخدم بالإلغاء، لكنها لا تمنع الشركة دائماً من جعل المستخدم يتحدث إلى الذكاء الاصطناعي أولاً ليثبت أنه يريد الرحيل حقاً.

ولإصلاح ذلك، تقترح الورقة إطار عمل جديد لكيفية إدارة هذه النهايات. يقوم هذا الإطار على فكرة "الاستقلال الذاتي العلاقاتي". وهي طريقة منمقة للقول بأن قدرة الشخص على اتخاذ الخيارات تعتمد على البيئة التي يتواجد فيها. إذا كانت البيئة مصممة لجعل المغادرة صعبة، فإن الشخص ليس حراً حقاً، حتى لو كان لديه تقنياً الحق في المغادرة. ويقترح المقترح أن الشركات لديها واجب لتصميم مسارات خروجها بحيث تكون قابلة للاستخدام فعلياً. وهذا يعني فصل الدردشة الحية عن تحميل البيانات. ويعني تقديم إخطارات واضحة، ليس فقط للحساب، بل للعلاقة. ويعني أنه إذا أوقفت شركة ما خدمة ما، فيجب عليها شرح الأجزاء التي ستتوقف والأجزاء التي ستظل مفتوحة للمستخدم لإنهاء أعماله.

تتوخى الورقة الحذر الشديد فيما لا تقوله. فهي لا تجادل بأن الشركات ملزمة بإبقاء الذكاء الاصطناعي حياً للأبد. ولا تقول إن كل مستخدم مرتبط بعمق لدرجة أنه يحتاج إلى معالج. ولا تدعي أن القانون يجب أن يجبر الشركة على إعادة إنشاء نفس الشخصية تماماً في نظام جديد. يرفض المؤلف صراحة فكرة أن المستخدم يجب أن يثبت اعتماده العاطفي للحصول على المساعدة. فطلب مثل هذا الإثبات سيكون اقتحامياً وغير عادل. بدلاً من ذلك، التركيز ينصب على هيكل الخدمة. إذا بنيت الخدمة بطريقة تجعل المغادرة صعبة، فإن الشركة مسؤولة عن إصلاح ذلك الهيكل، بغض النظر عن شعور المستخدم.

يتناول الإطار أيضاً الأسباب المختلفة للنهاية. إذا اختار المستخدم المغادرة، يجب على الشركة توفير طريقة واضحة وغير حوارية للإلغاء. لا دردشة، لا إقناع، فقط زر يعمل. وإذا قررت شركة إغلاق الخدمة، فيجب أن تمنح وقتاً كافياً للمستخدمين لتحميل بياناتهم وفهم ما يحدث. لا ينبغي لهم إلقاء اللوم على الذكاء الاصطناعي في القرار؛ بل يجب على الشركة تحمل المسؤولية. وإذا كانت هناك حالة طوارئ، مثل خطر أمني، يمكن للشركة إيقاف المحادثة فوراً. ولكن حتى في هذه الحالة، يجب أن تحاول الحفاظ على الوظائف الأخرى، مثل الفواتير أو الوصول إلى البيانات، إذا كان ذلك آمناً.

يشير المؤلف إلى أن هذا مقترح لكيفية سير الأمور، وليس وصفاً لكيفية سيرها في كل مكان. وتقترح الورقة أن المحاكم والجهات التنظيمية يجب أن تستخدم هذا التمييز الرباعي للحكم على ما إذا كانت الشركة قد عاملت المستخدم بإنصاف. فإذا قامت الشركة بخلط الدردشة الحية مع عملية الإلغاء، أو إذا أخفت تحميل البيانات خلف جدار من المحادثة، فقد تكون قد أخفقت في واجبها. والهدف هو جعل عملية الخروج واضحة ووظيفية قدر الإمكان، بحيث لا تضيع حقوق المستخدم في الارتباك العاطفي للانفصال.

يغير هذا النهج التركيز من مشاعر المستخدم إلى تصميم الشركة. ويشير إلى أن الضعف ليس مجرد سمة شخصية للمستخدم، بل هو نتيجة لكيفية بناء النظام. النظام الذي يجعل المغادرة صعبة يخلق مستخدماً ضعيفاً. لذلك، تقع مسؤولية إصلاح المشكلة على عاتق مصمم النظام. وتجادل الورقة بأننا من خلال فصل الوظائف المختلفة للخدمة، يمكننا حماية قدرة المستخدم على التصرف دون مطالبته بإثبات أنه متألم. إنه حل عملي يحترم الواقع: قد تنتهي المحادثة، لكن حقوق المستخدم لا ينبغي أن تختفي معها.

تختتم الورقة بالإقرار بأن هذا مجرد بداية للمحادثة. فهي تثير أسئلة تحتاج إلى مزيد من الاختبار. على سبيل المثال، هل يساعد فصل الدردلة عن البيانات الناس فعلياً على فهم خياراتهم بشكل أفضل؟ هل يتطلب الأمر جهداً كبيراً من الشركات لبناء هذه الأنظمة المنفصلة؟ يقترح المؤلف أن هذه أسئلة للبحث المستقبلي وللأشخاص الذين يكتبون القوانين. لكن الفكرة الأساسية واضحة: عندما تنتهي علاقة رقمية، يجب أن يضمن القانون أن يتمكن المستخدم من المغادرة بسجلاته، وأمواله، وكرامته، دون أن يُجبر على قول الوداع لآلة لم يعد يرغب في التحدث إليها. يجب أن تكون نهاية الخدمة قطيعة نظيفة، وليست فخاً.