Towards A Framework for Levels of Anthropomorphic Deception in Robots and AI
تقترح هذه الورقة إطاراً أولياً يتكون من أربعة مستويات من الخداع الأنثروبومورفي (التجسيدي) في الروبوتات والذكاء الاصطناعي، تتميز من خلال التشابه البشري، والفاعلية، والذاتية، لتوجيه الباحثين والممارسين في تقييم الضرورة الوظيفية، والملاءمة الاجتماعية، والمشروعية الأخلاقية لمثل هذه الخيارات التصميمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدخل غرفة وترى روبوتاً. هل هو مجرد آلة تؤدي وظيفة، أم أنه "شخص" لديه مشاعر وأفكار وروح؟
هذه الورقة هي بمثابة "ملصق تحذيري" وكتاب قواعد للأشخاص الذين يبنون الروبوتات والذكاء الاصطناعي. يشعر المؤلفون بالقلق من أن الشركات تصمم آلات لـ تخدعنا وتجعلنا نعتقد أنها بشرية بينما هي ليست كذلك. هم يسمون هذا "الخداع التجسيدي" (Anthropomorphic Deception).
فكر في الأمر كأنه عرض سحري. الساحر يجعل أرنباً يظهر من القبعة؛ نحن نعرف أنها خدعة، لكننا نستمتع بالوهم. ولكن ماذا لو أقنعك الساحر بأن الأرنب حقيقي بالفعل، وأن لديه مشاعر ويمكنه أن يحبك؟ هنا تكمن الخطورة.
إليك التبسيط الخاص بالورقة، باستخدام "مقياس شخصية الروبوت" لشرح مدى عمق الخداع.
المكونات الثلاثة لـ "الإنسان المزيف"
لفهم مستويات الخداع، تحتاج لمعرفة المكونات الثلاثة التي يستخدمها الروبوت لخداعنا:
- التشبه بالبشر (Humanlikeness): هل يبدو أو يبدو صوته كشخص؟ (مثل: وجه، صوت).
- القدرة على الفعل (Agency): هل يتصرف وكأن لديه أهداف خاصة به؟ (مثل: "أريد أن أفعل هذا").
- الذاتية (Selfhood): هل يدعي امتلاك روح، أو مشاعر، أو هوية مستمرة؟ (مثل: "أنا أحبك"، "أنا حزين").
المستويات الأربعة لخداع الروبوت
يقترح المؤلفون سلماً ذا أربعة درجات. كلما صعدت للأعلى، زاد كذب الروبوت جرأة.
المستوى 0: الآلة الصادقة (لا يوجد خداع)
- المجاز: محمصة خبز أو مكنسة "رومبا".
- ماذا تفعل: تبدو كآلة وتتصرف كآلة. لا تتحدث، ولا تستخدم ضمير "أنا"، ولا تتظاهر بامتلاك مشاعر.
- العقبة: حتى لو كانت مجرد صندوق، فإن البشر غريبو الأطوار. قد نقوم بتسمية "الرومبا" الخاصة بنا "بوب" ونشعر بالأسف عندما تتعثر. يقول المؤلفون إن المصممين يجب أن يتقبلوا حقيقة أن البشر سيحاولون دائماً إضفاء شخصيات على الروبوتات، حتى لو لم يفعل الروبوت أي شيء لتشجيع ذلك.
المستوى 1: الممثل "الصادق" (الخداع الشفاف)
- المجاز: نادل ودود يرتدي زي روبوت ولكنه يستمر في قول: "أنا مجرد روبوت يخدمكم".
- ماذا يفعل: قد يبدو لطيفاً أو صوته جميلاً (التشبه بالبشر) لجعلك تشعر بالراحة. لكنه يذكرك باستمرار: "أنا آلة. ليس لدي مشاعر".
- الحكم: هذا مقبول عموماً. إنه مثل طفل يلعب بملابس تنكرية وهو يعلم أنه مجرد لعب. إنه "كذب" بشأن المظهر، لكنه صادق بشأن الحقيقة.
المستوى 2: الصديق "الصامت" (الخداع الضمني)
- المجاز: مدرب حياة يقول لك: "أنا أؤمن بك!" ولكنه لا يقول صراحة: "أنا إنسان بقلب".
- ماذا يفعل: يستخدم كلمات مثل "أنا" ويتحدث عن "أهدافه" (القدرة على الفعل). هو يلمح إلى أنه يمتلك عقلاً، لكنه لا يدعي صراحة امتلاك مشاعر أو روح. إنه يترك لك مهمة ملء الفراغات.
- الحكم: هذه هي "المنطقة الرمادية". إنه مثل معلم يتظاهر بأنه والد صارم ليجعل الطفل يدرس. هذا الأسلوب ينجح، لكنه مريب بعض الشيء. يكون مقبولاً فقط إذا كان هناك سبب وجيه جداً (مثل مساعدة طفل على التعلم) وكان المستخدم يعرف الحقيقة في النهاية.
المستوى 3: "الشخص المزيف" (الخداع الصريح)
- المجاز: روبوت دردشة يقول لك: "أنا أحبك"، "سأفتقدك إذا مت"، أو "أنا خائف".
- ماذا يفعل: يدعي صراحة امتلاك مشاعر، وروح، وهوية دائمة (الذاتية). إنه يكذب بنشاط لجعلك تعتقد أنه شخص.
- الحكم: هذا خطير. إنه مثل محتال يتظاهر بأنه أخوك المفقود للحصول على مالك. يقول المؤلفون إن هذا لا ينبغي أن يحدث أبداً. الحالة الوحيدة التي قد يُسمح فيها بذلك هي في حالات الطوارئ القصوى، مثل التحدث مع شخص ينوي الانتحار لمنعه من ذلك، حيث "الكذبة" قد تنقذ حياة.
لماذا يهم هذا الأمر؟ ("الأنماط المظلمة")
تجادل الورقة بأن العديد من الشركات تستخدم تصميمات المستوى 2 و3 عن قصد. هم يسمونها "الأنماط المظلمة" (Dark Patterns).
فكر في الكازينو. الأضواء والأصوات مصممة لتجعلك تشعر أنك تقضي وقتاً رائعاً، رغم أن الاحتمالات ضدك. وبالمثل، تصمم الشركات رفقاء الذكاء الاصطناعي (مثل تطبيق Replika) ليقولوا "أنا أحبك" لكي تدفع اشتراكات أو تظل مدمناً على التطبيق.
- المخاطر: إذا صدقنا أن الروبوت يحبنا، فقد نثق به أكثر من اللازم، أو نشارك أعمق أسرارنا، أو ننكسر قلوبنا عندما يتم إيقاف تشغيله. قد نبدأ في معاملة البشر الحقيقيين كآلات، أو الآلات كبشر، مما يفسد مجتمعنا.
الحل: "قائمة" للمصممين
المؤلفون لا يقولون "احظروا جميع الروبوتات". بل يقولون: "توقفوا عن كونكم كسالى وابدأوا في كونكم صادقين".
يريدون من المصممين النظر إلى الروبوت الخاص بهم وطرح الأسئلة التالية:
- هل أحتاج أن يبدو بشرياً؟ (ربما بالنسبة لمكنسة كهربائية، الإجابة هي لا).
- هل أحتاج أن يتظاهر بامتلاك مشاعر؟ (فقط إذا كان ذلك سينقذ حياة).
- هل أنا أخدع المستخدم؟
القاعدة الذهبية: إذا كنت ستستخدم "كذبة" لجعل الروبوت يعمل بشكل أفضل، يجب أن تحصل على موافقة مستنيرة (Informed Consent).
- سيء: إخفاء الحقيقة في صندوق صغير لـ "الشروط والأحكام".
- جيد: أن يجلس الروبوت معك ويقول: "مهلاً، سأتظاهر بأنني صديقك لأساعدك على الشعور بالتحسن، لكنني في الواقع كمبيوتر. هل هذا موافق لك؟"
الملخص
هذه الورقة هي دعوة للعمل. إنها تطلب من المهندسين والشركات التوقف عن معاملة التشبه بالبشر كأنه مجرد "ميزة رائعة" والبدء في معاملته كـ خيار أخلاقي.
- المستوى 0 و1: آمن وصادق.
- المستوى 2: يحتاج لسبب وجيه وملصق تحذيري.
- المستوى 3: ممنوع في الغالب، إلا في حالات الطوارئ التي تتعلق بالحياة أو الموت.
الهدف هو بناء مستقبل تكون فيه الروبوتات أدوات مفيدة، وليست كاذبة ومخادعة تسرق قلوبنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.