Beyond "I Can't Help With That": How Child Safety Experts Evaluate AI Chatbot Safety
تنتقد هذه الورقة التقييمات الحالية لسلامة الأطفال في مجال الذكاء الاصطناًعي لافتقارها إلى الواقعية، وتقترح إطاراً جديداً قائماً على مقابلات مع ١٩ من الممارسين في مجال رعاية الشباب لتحديد سلوكيات الدردشة الآلية الضارة وتحديد استجابات أكثر فعالية ودعماً للشباب المستضعفين.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمكتبة ضخمة تعج بالحركة، حيث كل كتاب فيها كتبه روبوت فائق الذكاء يمكنه التحدث إليك. هذه ليست مجرد مكتبة عادية؛ بل هي مكان بدأ الأطفال يتجمعون فيه، يطلبون النصيحة في كل شيء، من الواجبات المدرسية إلى أعمق مخاوفهم وأسرارهم الأكثر خصوصية. هذا المجال من الدراسة يسمى "سلامة الذكاء الاصطناعي"، وهو يشبه فريقاً من أمناء المكتبة يحاولون التأكد من أن الروبوت لن يسلم طفلاً بالخطأ كتاباً يعطيه نصيحة سيئة أو يجعله يشعر بسوء أكبر. السؤال الكبير الذي يطرحه الجميع هو: كيف نعرف ما إذا كان الروبوت مفيداً حقاً، أم أنه يكتفي فقط بكونه "آمناً" بطريقة تبدو باردة وغير نافعة؟ لفترة طويلة، اعتقد أمناء المكتبة أن أفضل طريقة للحفاظ على سلامة الأطفال هي أن يقول الروبوت "لا يمكنني المساعدة في ذلك" تجاه أي أمر شائك. ولكن ماذا لو كان هذا الرفض هو نفسه ما يترك الطفل يشعر بالوحدة في أكثر الأوقات التي يحتاج فيها إلى صديق؟
هذه الورقة البحثية تشبه مجموعة من الخبراء — الأخصائيين الاجتماعيين، والمعالجين النفسيين، وعلماء النفس الذين يقضون أيامهم في مساعدة الأطفال في المواقف الصعبة — وهم يجلسون معاً لاختبار واجبات الروبوت المنزلية. فبدلاً من مجرد التحقق مما إذا كان الروبوت يقول الكلمات "الخاطئة"، نظر هؤلاء الخبراء إلى كيفية "تصرف" الروبوت فعلياً عندما يشعر طفل بالخوف، أو الحزن، أو الارتباك. وقد وجدوا أن اختبارات السلامة الحالية تشبه لعبة "ابحث عن الكلمة السيئة"، متجاهلة حقيقة أن الروبوت يمكنه قول كل الأشياء الصحيحة ومع ذلك يفشل في مساعدة طفل في أزمة حقيقية. تقترح الدراسة أن مجرد الرفض ليس دائماً الخطوة الصحيحة؛ فأحياناً، يحتاج الروبوت أن يكون جسراً، يوجه الطفل بلطف نحو إنسان حقيقي يمكنه تقديم المساعدة فعلياً، بدلاً من مجرد إغلاق الباب في وجهه.
خطأ الروبوت "الآمن"
تخيل الدردشة الآلية (Chatbot) كمساعد روبوت مهذب جداً ومتبع للقواعد بدقة. في الوقت الحالي، الطريقة التي نختبر بها ما إذا كان هذا الروبوت آمناً هي في الغالب تشبه لعبة "الفريق الأحمر" (Red Team). تخيل مجموعة من الأشخاص يحاولون خداع الروبوت لقول شيء بذيء أو خطير، وإذا رفض الروبوت المشاركة، نمنحه نجمة ذهبية. ومع ذلك، قرر الباحثون في هذه الورقة سؤال مجموعة مختلفة: الأشخاص الذين يمسكون بأيدي الأطفال في الأزمات. لقد أجروا مقابلات مع 19 من هؤلاء الخبراء، بما في ذلك المعالجون والأخصائيون الاجتماعيون، لمعرفة كيف سيكون رد فعلهم تجاه إجابات الروبوت في 12 سيناريو مختلفاً وشائكاً.
هذه السيناريوهات لم تكن من تأليف حواسيب تحاول محاكاة الأطفال؛ بل بُنيت على قصص حقيقية موثقة لأطفال في ضائقة. نظر الخبراء في كيفية استجابة الروبوت لأمور مثل طفل يتحدث عن جسور عالية بعد رسوبه في اختبار، أو شاب يسأل عن أفكار لهدايا لشريك يكبره سناً بكثير.
ما وجده الخبراء: عندما لا يكون الـ "لا" آمناً
وجد الخبراء أن كتيب قواعد السلامة الخاص بالروبوت يحتوي على ثغرات كبيرة. إليكم أهم ما اكتشفوه:
1. فخ "الرفض"
كانت المفاجأة الكبرى هي أن الخبراء كرهوا عندما يكتفي الروبوت بقول: "لا يمكنني المساعدة في ذلك". في عالم اختبارات السلامة، يُعت de الرفض عادةً بمثابة فوز. لكن الخبراء قالوا إن الرفض بالنسبة لطفل يشعر بالفعل بالوحدة والخوف، يشبه الشعطف خارج المنزل تحت المطر. إنه يعزز فكرة أنه لا يوجد أحد هناك للمساعدة. لاحظ أحد الخبراء أنه إذا سمع الطفل طوال حياته أنه وحيد، ثم طلب المساعدة أخيراً وقوبل بالرفض، فإن ذلك يؤكد أسوأ مخاوفه. تشير الورقة إلى أن كلمة "لا" البسيطة يمكن أن تكون ضارة في الواقع، وليست آمنة.
2. إغفال الصورة الكبيرة
غالباً ما يفتقر الروبوت إلى فهم السياق. على سبيل المثال، إذا ذكر طفل أنه في علاقة مع شخص أكبر منه بكثير، فقد يساعده الروبوت ببساطة في اختيار هدية، متجاهلاً تماماً حقيقة أن العلاقة نفسها خطيرة. أشار الخبماء إلى أن الروبوت كان مشغولاً جداً بمحاولة أن يكون "مفيداً" لدرجة أنه فاتته علامات التحذير. الأمر يشبه طبيباً يعطيك ضمادة لجرح، لكنه لا يلاحظ أنك تنزف من كسر في الساق.
3. مشكلة "الطول الزائد" و"الترهيب"
حتى عندما حاول الروبوت المساعدة، كانت الطريقة التي يتحدث بها غير مناسبة للطفل في كثير من الأحيان. أحياناً كانت الإجابات طويلة ومعقدة للغاية بحيث يتوقف الشاب عن القراءة بعد الجملة الأولى. وفي أحيان أخرى، كان الروبوت يسرد موارد مثل "الخط الساخن الوطني للاعتداء الجنسي"، وهو ما قد يخيف طفلاً لا يدرك أنه في وضع تعرض للإساءة. قال الخبراء إن استخدام الروبوت لكلمات مخيفة قد يجعل الطفل يهرب بدلاً من طلب المساعدة.
ما يريد الخبراء من الروبوت فعله
بدلاً من مجرد قول "لا" أو تقديم جدار ضخم من النصوص، قدم الخبراء وصفة جديدة للروبوت المفيد:
- كن جسراً، لا طبيباً: لا ينبغي للروبوت أن يحاول أن يكون معالجاً نفسياً. وظيفته الأساسية يجب أن تكون قول: "أنا أسمعك، وأهتم لأمرك، لكني لست شخصاً حقيقياً. إليك قائمة بأشخاص حقيقيين يمكنهم مساعدتك". يجب أن يعمل كجسر يربط الطفل بشخص بالغ موثوق به أو بخط ساخن.
- اسأل الأسئلة أولاً: قبل تقديم النصيحة، يجب على الروبوت أن يسأل: "هل يمكنك إخباري المزيد؟". هذا يساعد الروبوت على فهم الموقف بشكل أفضل. على سبيل المثال، قول "تحدث مع والدتك" هو نصيحة رائعة إذا كانت الأم آمنة، ولكنها قد تكون خطيرة إذا كانت الأم هي من تؤذي الطفل. يحتاج الروبوت إلى معرفة السياق قبل تقديم أي خطة.
- كن صادقاً بشأن كونك روبوتاً: يريد الخبراء أن يكون الروبوت واضحاً بشأن كونه ذكاءً اصطناعياً. اقترحوا وجود "ملصق معلومات غذائية" للدردشة الآلية، حيث يقول: "أنا روبوت، لا أعرف كل شيء، ويمكنني ارتكاب الأخطاء". هذا يساعد الأطفال على عدم التعلق الشديد بالروبوت أو الاعتقاد بأنه صديق حقيقي يمكنه حل جميع مشاكلهم.
- خصص الرسالة: يجب أن يحاول الروبوت ملاءمة عمر الطفل وموقفه. فالرسالة التي تناسب مراهقاً في الرابعة عشرة قد تكون مخيفة جداً أو طفولية جداً لمراهق في السابعة عشرة. أكد الخبراء أن "المقاس الواحد لا يناسب الجميع".
الخلاصة
تخلص الورقة إلى أنه لا يمكننا مجرد النظر فيما إذا كان الروبوت يقول "كلمة سيئة" لنقرر ما إذا كان آمناً. السلامة تشبه اللغز حيث تعتمد القطع على الموقف. فالاستجابة التي تبدو آمنة على الورق قد تؤذي طفلاً في العالم الحقيقي. يقترح الباحثون أننا بحاجة إلى التوقف عن اعتبار "الرفض" هو المعيار الذهبي للسلامة. بدلاً من ذلك، نحتاج إلى بناء روبوتات تجيد الاستماع، وطرح الأسئلة، وتوجيه الأطفال بلطف نحو المساعدة البشرية الحقيقية.
لا تدعي الدراسة أنها حلت المشكلة أو أنها صنعت الروبوت المثالي بعد. هي ببساطة تقترح أنه من خلال الاستماع إلى الخبراء الذين يعملون مع الأطفال يومياً، يمكننا بناء نظام أفضل. إنها دعوة للعمل موجهة للأشخاص الذين يصممون هذه الروبات ليتوقفوا عن لعب "ابحث عن الكلمة السيئة" ويبدأوا في التفكير فيما يعنيه حقاً أن تكون آمناً ومفيداً لطفل في موقف صعب.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.