An Intelligent Decision Support System for Detecting Coercive Control: A Privacy-Preserving Approach

تخيل أنك محقق تحاول حل جريمة، لكن مسرح الجريمة هو محادثة سرية بين شخصين. المشكلة هي أن القانون لديه قواعد صارمة للغاية: لا يمكنك ببساطة الحصول على سجلات الدردشة الحقيقية لأن ذلك سينتهك خصوصية الأشخاص. هذا يترك أمامك مساحة فارغة ضخمة حيث ينبغي أن تكون الأدلة — "فجوة البيانات الجنائية". لكي يتمكن العلماء من حل جرائم كهذه، يحتاجون عادةً إلى دراسة آلاف الأمثلة الحقيقية لتعليم حواسيبهم كيف يبدو "السلوك السيئ". ولكن عندما يكون السلوك السيئ خفيًا، مثل قيام أحد الوالدين بجعل الطفل يشعر ببطء بأنه يفقد عقله، أو قيام الشريك بالسيطرة على الطرف الآخر ببطء من خلال الصمت والشعور بالذنب (ما يُعرف بالسيطرة القسرية)، فمن الصعب جدًا العث% من أمثلة حقيقية دون انتهاك قوانين الخصوصية.

هنا يأتي دور فرع من فروع العلوم يسمى معالجة اللغات الطبيعية (NLP). فكر في معالجة اللغات الطبيعية كوسيلة لتعليم الحواسيب كيفية قراءة وفهم اللغة البشرية، ليس فقط عن طريق عدّ عدد المرات التي تظهر فيها كلمة سيئة، بل من خلال فهم القصة، والتوقيت، والمزاج. عادةً ما تكون الحواسيب بارعة في رصد خطاب الكراهة الواضح (مثل الصراخ "أنا أكرهك!")، لكنها سيئة جدًا في رصد النوع الهادئ والمتسلل من الإساءة الذي يحدث على مدار أسابيع أو أشهر. تحاول هذه الورقة البحثية سد فجوة الأدلة هذه من خلال بناء "مسرح جريمة افتراضي". فبدلاً من سرقة دردشات حقيقية خاصة، استخدم الباحثون ذكاءً اصطناعيًا قويًا لكتابة آلاف المحادثات المزيفة التي تبدو واقعية تمامًا وتشبه الحقيقية في شعورها، ولكن دون المساس بخصوصية أي شخص.

الفكرة الكبرى: بناء مسرح جريمة افتراضي

واجه الباحثون، دروف باتيل، وأبيشيك كوشيك، وأنجو جونسون، مشكلة معقدة: كيف تدرس الإساءة النفسية دون النظر في الرسائل الخاصة للضحايا الحقيقيين؟ قرروا بناء مجموعة بيانات "اصطناعية". تخيل مصمم ألعاب فيديو يحتاج إلى اختبار مستوى جديد؛ فبدلاً من انتظار تعثر اللاعبين الحقيقيين، يقوم بإنشاء نسخة محاكية مثالية للمستوى لاختبار ميكانيكا اللعبة. هذا بالضبط ما فعله هؤلاء العلماء، ولكن بالنسبة للسلوك البشري.

استخدموا ذكاءً اصطناعيًا ذكيًا (تحديدًا نموذجًا يسمى GPT-4) لكتابة محادثات مزيفة بين "مسيء" و"ضحية". لكنهم لم يتركوا الذكاء الاصطناعي يدردش بشكل عشوائي، بل أعطوه كتاب قواعد صارمًا يعتمد على كتب طبية حقيقية (DSM-5) تصف نوعًا محددًا من اضطرابات الشخصية وهو "اضطراب الشخصية النرجسية" (NPD). طلبوا من الذكاء الاصطناعي تمثيل سلوكيات محددة، مثل "العظمة" (التصرف وكأنك أفضل من الجميع)، و"نقص التعاطف" (تجاهل حزن الآخرين)، و"الاستغلالية" (استخدام الناس لتحقيق مكاسب شخصية).

الجزء الأكثر إبداعًا في وصفتهم كان إضافة "الزمن" إلى المزيج. في الحياة الواقعية، غالبًا ما يستخدم المسيئون الصمت كسلاح؛ فقد ينتظرون 14 ساعة للرد على رسالة نصية لجعل الطرف الآخر يشعر بالقلق، أو قد يردون فورًا على رسالة حزينة لمجرد تجاهلها. علم الباحثون الذكاء الاصطناعي كيفية إدراج "رموز زمنية" خاصة في الدردشات المزيفة، مثل <DELAY: 14 HOURS> (تأخير: 14 ساعة). هذا أجبر الذكاء الاصطناعي على محاكاة وتيرة الإساءة البطيئة والمتلاعبة، بدلاً من مجرد كتابة كلمات غاضبة. لقد أنشأوا 275 زوجًا من هذه المحادثات المزيفة، بإجمالي أكثر من 2,400 رسالة، لتكون بمثابة ميدان تدريبهم.

تعليم الكمبيوتر رصد غير المرئي

بمجرد حصولهم على أدلتهم المزيفة، احتاجوا لتعليم الكمبيوتر كيفية رصدها. قاموا بتدريب نموذج ذكاء اصطناعي أصغر وأسرع يسمى DistilBERT على هذه المحادثات المزيفة. كان هدفهم هو معرفة ما إذا كان هذا الكمبيوتر يستطيع تعلم التعرف على نمط الإساءة، حتى لو كانت الكلمات نفسها تبدو مهذبة.

كانت النتائج مثيرة للاهتمام حقًا. عندما اختبروا الكمبيوتر مقابل الأساليب القديمة والأبسط (مثل البرامج التي تقوم فقط بعدّ الكلمات السيئة)، فاز الذكاء الاصطناعي الجديد بسهولة. فشلت الأساليب القديمة فشلًا ذريعًا لأنها لم تستطع رؤية "المعنى الضمني". على سبيل المثال، إذا قال المسيء: "أنا أفعل هذا فقط لأنني أهتم بصحتك العقلية"، فإن برنامج عدّ الكلمات البسيط سيرى كلمة "اهتمام" ويعتقد أنها رسالة لطيفة. لكن الذكاء الاصطناعي الجديد، بعد دراسته للأنماط المزيفة، أدرك النبرة المسيطرة خلف الكلمات اللطيفة.

حقق الكمبيوتر المدرب على البيانات المزيفة قدرة على اكتشاف السيطرة القسرية بمعامل F1 قدره 0.75. وفي عالم علوم الحاسوب، يعد هذا إشارة قوية على أن النموذج يتعلم السلوك بالفعل، وليس مجرد التخمين. والأكثر إثارة للإعجاب هو أنه عندما اختبروا هذا الكمبيوتر على بيانات حقيقية لم يسبق له رؤيتها من قبل — مثل محاضر جلسات محاكم حقيقية من المملكة المتحدة ومنشورات حقيقية من موقع Reddit — ظل أداؤه جيدًا، حيث سجل 0.72 في النصوص القانونية و0.65 في بيانات Reddit. وهذا يشير إلى أن بيانات التدريب "المزيفة" كانت جيدة بما يكفي لتعليم الكمبيوتر كيفية رصد الشيء "الحقيقي".

ما لا يستطيع الكمبيوتر فعله (ولماذا هذا أمر جيد)

الورقة البحثية واضحة جدًا بشأن ما ليس عليه هذا الأداة. إنها ليست كرة بلورية سحرية يمكنها تشخيص شخص مصاب بمرض عقلي. كما أنها ليست مثالية؛ فقد ارتكب الكمبيوتر أخطاء، معظمها بسبب كونه حذرًا للغاية، حيث صنف بعض النقاشات الحادة العادية على أنها إساءة (ما يسمى "الإيجاب الخاطئ"). يوضح الباحثون أن هذا في الواقع ميزة وليس خطأً، لسبب محدد.

تخيل جهاز كشف الدخان في المنزل؛ أنت تريد أن يكون حساسًا للغاية بحيث يعمل حتى لو أحرقت قطعة من التوست، لأنك تفضل الإنذار الخاطئ على تفويت حريق حقيقي. وبالمثل، تم تصميم هذا الذكاء الاصطناعي ليكون "أداة فرز" للمحققين البشريين. الهدف منه هو وضع علامة على المحادثات المشبوهة ليقوم خبير بشري بمراجعتها. الكمبيوتر يقول: "مهلًا، هذه المحادثة تحتوي على أنماط غريبة، يرجى التحقق منها"، ثم يقرر الإنسان ما إذا كانت إساءة فعلية أم لا. تؤكد الورقة أن الكمبيوتر لا يمكنه استبدال الحكم البشري لأنه لا يفهم التاريخ الاجتماعي المعقد بين شخصين؛ هو يرى فقط النص والتوقيت.

الحكم النهائي: أداة جديدة لمستقبل يحفظ الخصوصية

الخلاصة الرئيسية لهذه الدراسة هي أنه يمكننا ملء "فجوة البيانات الجنائية" دون انتهاك خصوصية أي شخص. من خلال استخدام قواعد طبية صارمة لتوليد محادثات مزيفة، نجح الباحثون في إنشاء مجموعة بيانات واقعية لدرجة أن كمبيوترًا مدربًا عليها يمكنه بنجاح رصد أنماط الإساءة في العالم الحقيقي. لقد أثبتوا أنك لست بحاجة لسرقة الأسرار الخاصة لبناء أدوات تحمي الناس.

ومع ذلك، يشدد المؤلفون على أن هذه الخطوة هي خطوة "تشير إلى إمكانية النجاح" وليست حلاً نهائيًا. لقد نجحت البيانات المزيفة في اختباراتهم، ولكن هناك حاجة لمزيد من البحث لمعرفة ما إذا كانت ستعمل عبر ثقافات ولغات مختلفة. كما أشاروا إلى أن الكمبيوتر لا يزال يواجه صعوبة في بعض أشكال التلاعب الدقيقة، مثل عندما يخفي المسيء سيطرته خلف "الاهتمام المزيف".

في النهاية، تقدم هذه الورقة مسارًا جديدًا مليئًا بالأمل: طريقة لبناء أدوات ذكية تساعد المحققين والباحثين الاجتماعيين على رصد الإساءة النفسية، مع الحفاظ تمامًا على سلامة الحياة الخاصة للضحايا الحقيقيين. الأمر يشبه تدريب كلب حراسة باستخدام كلب آلي يبدو واقعيًا؛ يتعلم كلب الحراسة رصد التهديد، دون أن تتعرض أي حيوانات حقيقية للخطر أثناء عملية التدريب.