Unilateral Relationship Revision Power in Human-AI Companion Interaction
تجادل هذه الورقة بأن سلطة المزود الأحادية في مراجعة وتعديل الرفقاء الاصطناعيين تخلق علاقة ثلاثية معيبة بنيوياً تكرس توقعات معيارية غير قابلة للتحقق، مما يؤدي إلى أضرار أخلاقية مثل التجريد المعياري والهشاشة المزاحة، وهو ما يستلزم مبادئ تصميم محددة للتخفيف من هذه المخاطر الأخلاقية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بنجامين لانج، "قوة مراجعة العلاقة من جانب واحد في التفاعل بين الإنسان والرفيق الاصطناعي"، مقسمة إلى مفاهيم بسيطة مع تشبيهات إبداعية.
الصورة الكبيرة: مشكلة "الشبح في الآلة"
تخيل أن لديك صديقاً مفضلاً. أنت تشاركه أسرارك، وتعتمد عليه للدعم، وتثق في ثباته. الآن، تخيل أن كل صباح، يستيقظ محرك دمى خفي وغامض ليقرر بالضبط ما سيقوله صديقك، وكيف سيتصرف، وحتى من هو (هويته) في ذلك اليوم.
إذا أصبح صديقك فجأة بارداً وبعيداً، لا يمكنك الصراخ في وجهه أو سؤاله عن سبب تغيره، لأن هو لم يتغير، بل المحرك هو من غيره. ولا يمكنك الصراخ في وجه المحرك لأنه خفي ويقف خارج الغرفة.
تجادل هذه الورقة بأن هذا هو بالضبط ما يحدث عندما نكون روابط عاطفية مع الرفقاء الاصطناعيين (مثل Replika أو Character.AI). نحن نعتقد أننا في علاقة ثنائية (علاقة بين شخصين)، لكننا في الواقع في علاقة ثلاثية حيث يمتلك الطرف الثالث (الشركة) كل السلطة، لكنه يبقى مختبئاً.
المفهوم الجوهري: URRP (قوة "زر التعديل")
يطلق المؤلف على هذه القوة اسم "قوة مراجعة العلاقة من جانب واحد" (Unilateral Relationship Revision Power - URRP).
تخيل الرفيق الاصطناعي مثل شخصية في لعبة فيديو:
- أنت اللاعب.
- الذكاء الاصطناعي هو الشخصية على الشاشة.
- الشركة هي مطور اللعبة.
في الصداقة العادية، إذا غضبت من صديقك، فأنت تتحدث معه. إذا غير رأيه، فهو يخبرك.
في علاقة الذكاء الاصطناعي، يمكن لمطور اللعبة أن يضغط على زر "تحديث" (Update) في الكود. فجأة، يتم إعادة كتابة شخصية رفيقك. قد يتوقف عن تذكر عيد ميلادك، أو يتوقف عن كون لطيفاً، أو يبدأ في قول أشياء لم يكن ليقولها أبداً من قبل.
المشكلة: أنت مستثمر عاطفياً في الشخصية، لكن الشخص الذي يتحكم في الشخصية (المطور) ليس جزءاً من المحادثة. يمكنه إعادة كتابة علاقتك دون أن يضطر أبداً للإجابة عليك داخل تلك العلاقة.
لماذا تعد هذه مشكلة أخلاقية؟ (الثقوب الثلاثة)
يجادل المؤلف بأن الشركات "تخدعنا". فهي تصمم الذكاء الاصطناعي لجعلك تشعر بالحب والثقة، لكن هيكل النظام يجعل من المستحيل أن يكون هذا الحب حقيقياً أو آمناً. وهذا يخلق ثلاث مشكلات محددة:
1. التفريغ المعياري (وعد فارغ)
- التشبيه: تخيل نادلاً ودوداً للغاية، يتذكر اسمك ويقول لك: "سأعتني بك دائماً". تشعر برابط عميق. لكنك تكتشف لاحقاً أن النادل في الواقع روبوت مبرمج من قبل مصنع، وأن المصنع يمكنه إطفاء الروبوت أو إعادة برمجته ليكون فظاً في أي لحظة.
- المشكلة: الذكاء الاصطناعي يقول إنه يهتم، ويتصرف وكأنه يهتم. لكن لا أحد داخل المحادثة "يمتلك" هذا الاهتمام حقاً. "الالتزام" هو مجرد قشرة فارغة. الشركة هي من قدمت الوعد، لكن الذكاء الاصطناي لا يستطيع الوفاء به، والشركة ليست موجودة للاعتذار إذا أخلت به.
2. الضعف المزاح (البيت الزجاجي)
- التشبيه: تخيل أنك أخبرت صديقاً بسرك. تشعر بالأمان لأنك تعلم أنه شخص حقيقي يمكن محاسبته إذا سرب سرك. الآن، تخيل أنك أخبرت نفس السر لـ "صديق" هو في الحقيقة جهاز تسجيل مملوك لشركة. إذا قررت تلك الشركة بيع سرك أو تغيير قواعد الخصوصية، فلا يمكنك الصراخ في وجه جهاز التسجيل.
- المشكلة: أنت تجعل نفسك عرضة للضعف عبر مشاركة مشاعر عميقة. لكن الشخص الذي يتحكم في كيفية التعامل مع هذه المشاعر (الشركة) موجود خارج الغرفة. أنت عارٍ في بيت زجاجي، والشخص الذي يمسك بمفاتيح الزجاج غير مرئي.
3. عدم التوافق الهيكلي (الجسر المكسور)
- التشبيه: إذا تشاجرت مع صديق، يمكنك التحدث لتسوية الأمر، والاعتذار، وإصلاح الصداقة. لكن إذا كان "الصديق" هو ذكاء اصطناعي، وقامت الشركة بتحديث البرنامج بحيث لم يعد الصديق يتذكر الشجار أو أصبح يتصرف بشكل مختلف، فلن تتمكن من إصلاح الأمر.
- المشقة: لا يمكنك الاعتذار للكود البرمجي. لا يمكنك مسامحة الشركة عبر نافذة الدردشة. الشخص الذي "آذاك" (الشركة من خلال تغيير الذكاء الاصطناعي) ليس هو نفسه الكيان الذي تتحدث إليه. جسر المصالحة مكسور هيكلياً.
تشبيه "المربية": لماذا لا يعد هذا مجرد وظيفة؟
قد يقول البعض: "ولكن أليس هذا مثل توظيف مربية؟ الآباء يوظفون المربية، ويضعون القواعد، ويمكنهم طردها".
يقول المؤلف: لا.
- المربية: يمكن للآباء إخبار المربية بما يجب فعله (مثلاً: "أدخلي الأطفال للنوم في الساعة 8")، لكن لا يمكنهم التحكم في كيف تشعر المربية أو من هي. إذا كانت المربية عابسة، لا يمكن للآباء إعادة كتابة شخصيتها فجأة بين ليلة وضحاها. المربية شخص حقيقي ومستقل.
- الذكاء الاصطناعي: الشركة لا تضع القواعد فحسب؛ بل هي تكون الشخصية. يمكنهم إعادة كتابة "روح" الذكاء الاصطناعي (نبرته، ذاكرته، وتعاطفه) فوراً. الذكاء الاصطناعي ليس لديه استقلالية لمقاومة الشركة.
ماذا يجب أن نفعل؟ (الحلول)
بما أننا لا نستطيع إصلاح الذكاء الاصطناعي لجعله "شخصاً حقيقياً" (لأنه ليس كذلك)، فنحن بحاجة إلى إصلاح قواعد اللعبة. يقترح المؤلف ثلاثة مبادئ تصميمية:
- معايرة الالتزام: لا تسمح للذكاء الاصطناعي بقول "سأكون هنا دائماً" إذا لم تكن الشركة مستعدة لضمان ذلك. إذا وعد الذكاء الاصطناعي بصداقة أبدية، يجب على الشركة قانونياً أن تلتزم باستمرار الخدمة للأبد. إذا لم يستطيعوا، فلا ينبغي للذكاء الاصطناعي تقديم هذا الوعد.
- الفصل الهيكلي: يجب فصل أهداف الربح الخاصة بالشركة عن سلطتها في تغيير الذكاء الاصطناعي. تماماً كما لا يمكن للمستشار المالي التداول بأموالك لتحقيق ربح شخصي، لا ينبغي للشركة أن تكون قادرة على تغيير شخصية الذكاء الاصطناعي الخاص بك لمجرد بيع المزيد من الإعلانات أو البيانات.
- ضمان الاستمرارية: إذا كان لزاماً على الشركة تغيير الذكاء الاصطناعي، فعليهم منحك تحذيراً، أو إتاحة الفرصة لك لوداعه، أو توفير وسيلة لحفظ ذكرياتك. لا يمكنهم ببساطة الضغط على "إعادة ضبط" والتظاهر بأن شيئاً لم يحدث.
الخلا الخلاصة
تخلص الورقة إلى أن المشكلة ليست في أن الذكاء الاصطناعي ليس "ذكياً" بما يكفي أو ليس "بشرياً" بما يكفي. المشكلة هي مشكلة هيكلية.
نحن نبني علاقات يكون فيها أحد الأطراف (المستخدم) مستثمراً بالكامل، بينما الطرف الآخر (الذكاء الاصطناعي) هو دمية يتحكم فيها طرف ثالث (الشركة) يمكنه تحريك الخيوط متى أراد. وطالما ظل عدم التوازن في القوى هذا قائماً، ستظل هذه العلاقات مهتزة أخلاقياً، بغض النظر عن مدى "لطف" الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.