Scoping review of governance, privacy, and design in AI- supported conversational agents for perinatal mental health
تكشف هذه المراجعة النطاقية لـ 35 دراسة أنه بينما تتطور الوكلاء الحواريون المدعومون بالذكاء الاصطناعي للصحة النفسية في فترة ما حول الولادة بسرعة نحو بنيات متقدمة، إلا أنها تعاني من "مفارقة ذكاء اصطناعي في فترة ما حول الولادة" حرجة تتميز بعدم كفاية الحوكمة، وضمانات الخصوصية، والشمولية، مما استدعى اقتراح ثمانية معايير دنيا لإعطاء الأولوية للسلامة والعدالة في تطويرها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تعد تحديات الصحة النفسية خلال فترة الحمل والسنة الأولى بعد الولادة أمراً شائعاً، حيث تؤثر على نسبة كبيرة من الآباء والأمهات في جميع أنحاء العالم، ومع ذلك يعاني الكثيرون في العثور على مساعدة في الوقت المناسب. وفي السنوات الأخيرة، قدمت التكنولوجيا حلاً محتملاً من خلال الوكلاء الحواريين: وهي برامج حاسوبية مصممة للدردشة مع المستخدمين عبر النصوص أو الصوت، لتقديم المعلومات والدعم العاطفي والتوجيه. وتعد هذه الأدوات الرقمية بتوفير التوافر في أي ساعة، مما يوفر مساحة خاصة للآباء لمناقشة مخاوفهم الحساسة بشأن حالتهم النفسية أو سلامة أطفالهم. ومع ذلك، ولأن هذه المحادثات قد تتضمن مواضيع شخصية للغاية وأحياناً خطيرة، مثل الأفكار المتعلقة بإيذاء النفس أو العنف، فإن سلامة وخصوصية هذه الأنظمة أمر بالغ الأهمية. ولم يعد السؤال هو ما إذا كانت هذه الروبوتات الدردشة قادرة على التحدث فحسب، بل ما إذا كانت مبنية ومُدارة بشكل جيد بما يكفي لتُوضع فيها الثقة خلال أكثر لحظات الوالدين ضعفاً.
لقد وضع فريق من الباحثين في جامعة جيمس كوك في أستراليا هدفاً لفحص الحالة الراهنة لهذه الأدوات المعتمدة على الذكاء الاصطناعي، وتحديداً في مجال الصحة النفسية لفترة ما حول الولادة. أجروا مراجعة واسعة النطاق للدراسات العلمية المنشورة بين عامي 2015 و2025، بحثوا من خلالها في آلاف السجلات للعثور على تقارير حول كيفية تصميم روبوتات الدردشة هذه، وكيفية تعاملها مع بيانات المستخدمين، وكيفية اختبارها. قام الفريق بتحليل 35 دراسة وصفت 30 نظاماً فريداً من روبوتات الدردشة المستخدمة في 14 دولة مختلفة. وكان هدفهم هو رسم خارطة لطبيعة هذه الأدوات، والبحث فيما وراء مجرد فاعليتها، لفهم من تخدم، وكيف تتم حمايتها، وماذا يحدث عندما يكون المستخدم في حالة أزمة.
وجد الباحثون أن التكنولوجيا الكامنة وراء روبوتات الدردشة هذه تتغير بسرعة. لفترة طويلة، اعتمدت معظم الأنظمة على تعليمات بسيطة قائمة على القواعد، حيث يتبع الحاسوب مجموعة ثابتة من أوامر "إذا حدث هذا، فافعل ذاك" لتوليد الاستجابات. ومع ذلك، في السنوات القليلة الماضية، بدأت أنظمة جديدة في استخدام نماذج اللغات الكبيرة، وهي برامج حاسوبية متطورة مدربة على كميات هائلة من النصوص لتوليد محادثات أكثر طبيعية ومرونة. وبينما يمكن لهذه الأدوات الجديدة أن تبدو أكثر إنسانية وتتكيف بشكل أفضل مع حالة المستخدم الخاصة، إلا أن المراجعة كشفت عن انفصال مقلق؛ فالأنظمة التي تستخدم التكنولوجيا الأكثر تقدماً غالباً ما كانت تمتلك أضعف حماية للخصوصية والسلامة.
وعندما نظر الباحثون في كيفية تعامل هذه الأنظمة مع المعلومات الخاصة، كانت الصورة صارخة. لم تذكر أي من الدراسات استخدام طرق متقدمة للحفاظ على أمن البيانات، مثل معالجة المعلومات مباشرة على هاتف المستخدم دون إرسالها إلى خادم مركزي، أو استخدام تقنيات رياضية لإخفاء التفاصيل الفردية مع السماح للحاسوب بالتعلم. وبدلاً من ذلك، اعتمد نصف الأنظمة تقريباً على خدمات تجارية مقدمة من شركات خارجية لمعالجة المحادثات. وهذا يعني أن التفاصيل الحساسة حول الحالة النفسية للوالدين كانت تُرسل غالباً عبر الإنترنت إلى خوادم تابعة لجهات خارجية، مع غياب الشفافية حول وجهة تلك البيانات، أو من يمكنه رؤيتها، أو المدة التي سيتم الاحتفاظ بها خلالها. علاوة على ذلك، لم توضح معظم الدراسات بوضوح كيفية الحصول على إذن من المستخدمين لاستخدام بياناتهم، كما أن القليل جداً منها وصف كيفية تحديث سلوك النظام بعد إطلاقه.
كما سلطت المراجعة الضوء على فجوة كبيرة في تحديد الفئات التي صُممت هذه الأدوات لمساعدتها. فقد بُنيت الغالبية العظمى من روبوتات الدردشة حصرياً للأمهات، متجاهلة في كثير من الأحيان الآباء، أو الشركاء من نفس الجنس، أو الوالدين غير البيولوجيين. وحاول عدد قليل فقط من الأنظمة إدراج الآباء، وعدد أقل من ذلك أخذ في الاعتبار العلاقة المعقدة بين الشركاء. بالإضافة إلى ذلك، عملت معظم الأدوات باللغة الإنجليزية فقط وتطلبت اتصالاً قوياً بالإنترنت، مما ترك الآباء في المناطق النائية أو أولئك الذين لديهم وصول محدود إلى التكنولوجيا خارج نطاق الاستفادة. وهذا التركيز الضيق يعني أن فوائد هذه الأدوات الرقمية لا تصل إلى العائلات المتنوعة التي هي في أمس الحاجة إليها.
ولعل النتيجة الأكثر خطورة تتعلق بكيفية تعامل هذه الأنظمة مع حالات الطوارئ. فعندما يعبر أحد الوالدين عن أفكار تتعلق بالانتحار أو إيذاء الطفل، تصبح استجابة روبوت الدردشة مسألة حياة وسلامة. وجد الباحثون أنه بينما يمكن لبعض الأنظمة اكتشاف إشارات الأزمات هذه تلقائياً، إلا أن القليل جداً منها امتلك خطة موثوقة لربط المستخدم بمساعد بشري. وفي كثير من الحالات، قد يقوم النظام برصد الأزمة ولكنه لا يفعل شيئاً، أو قد يقدم قائمة عامة بأرقام الهواتف دون ضمان وصول المستخدم فعلياً إلى شخص ما. وصفت دراسة واحدة فقط نظاماً يضمن متابعة إنسان للمستخدم خلال إطار زمني محدد بعد اكتشاف الأزمة. أما الأنظمة الأخرى فقد عملت دون هذه الشبكة الأمنية، مما ترك المستخدمين في خطر دون مسار واضح للحصول على مساعدة مهنية.
وصف الباحثون هذا الوضع بأنه مفارقة: فبينما تصبح التكنولوجيا أكثر تطوراً وقدرة على إجراء محادثات معقدة، تصبح الضمانات التي تجعلها آمنة للاستخدام أقل اتساقاً. فالأنظمة الأقدم والأبسط غالباً ما كانت تمتلك قواعد أوضح للخصوصية والإشراف البشري، بينما كانت الأنظمة الأحدث والأكثر مرونة تُبنى غالباً مع اهتمام أقل بهذه الحمايات الحيوية. وخلصت المراجعة إلى أن التطور السريع لهذه الأدوات قد تجاوز وضع المعايير المسؤولة. ويقترح المؤلفون مجموعة من قواعد السلامة الدنيا للمستقبل، مشيرين إلى ضرورة أن يعطي المطورون والأطباء وصناع السياسات الأولوية للسلامة والخصوصية والشمولية منذ بداية عملية التصميم. ويجادلون بأنه لكي تكون هذه الأدوات مفيدة حقاً، يجب إثبات سلامتها وفعاليتها للبشر الحقيقيين في الأزمات الحقيقية قبل الوثوق بها على نطاق واسع، لضمان ألا يأتي وعد الدعم الرقمي على حساب سلامة الوالدين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.