إن الإنترنت سوق شاسع وصاخب للتعبير البشري، حيث يمكن لجملة واحدة أن تكون مزحة بريئة لشخص ما وسلاحاً للإقصاء لآخر. لسنوات، حاولت الحواسيب مراقبة هذا الفضاء، لكنها غالباً ما كانت خرقاء، إذ كانت تبحث عن الكلمات السيئة البسيطة بدلاً من فهم السياق الاجتماعي المعقد الذي تظهر فيه تلك الكلمات. إنها تكافح للتمييز بين الإهانة الودية بين الأصدقاء والهجوم الحقيقي على هوية الشخص، خاصة عندما يكون الهجوم مخفياً وراء لغة عامية محلية، أو مراجع ثقافية، أو صور نمطية دقيقة. هذا هو جوهر التحدي في اكتشاف خطاب الكراهية: الأمر لا يتعلق فقط بإيجاد كلمات مسيئة، بل بفهم من هو المستهدف، وما هو الحجة، ولما لماذا يسبب الضرر. وتتفاقم الصعوبة عندما لا تكون اللغة هي الإنجليزية، أو عندما يكون الكره مشفراً بطرق لا يدركها إلا أشخاص من ثقافة معينة.

اقترح فريق من الباحثين طريقة جديدة لحل هذه المشكلة، مبتعدين عن فكرة برنامج حاسوبي واحد يحاول إصدار حكم سريع. بدلاً من ذلك، بنوا نظاماً يحاكي لجنة من الخبراء البشريين، حيث تقوم "وكلاء" مختلفون بالنظر إلى النص نفسه من زوايا مختلفة قبل الوصول إلى استنتاج نهائي. تشير أعمالهم، التي اختُبرت على نصوص صينية وإنجليزية، إلى أن تقسيم المنشور الطويل إلى قطع أصغر وجعل وجهات نظر متعددة تحتج لصالح قضيتها يؤدي إلى فهم أكثر دقة لما يحدث. النظام لا يخمن فحسب؛ بل يجبر الحاسوب على شرح منطقه، والتحقق من أدلته، وحل الخلافات قبل تصنيف قطعة من النص على أنها خطاب كراهية.

قدم الباحثون، بقيادة ييفان ليو وزملاؤه، إطار عمل يسمى SPAR-Hate. يشير الاسم إلى عملية هيكلية تبدأ بتقطيع وثيقة طويلة إلى جمل أو عبارات أصغر يمكن إدارتها. وهذا أمر بالغ الأهمية لأن منشوراً واحداً قد يهاجم ثلاث مجموعات مختلفة بثلاث طرق مختلفة، والحاسوب الذي يحاول قراءة الشيء برمته دفعة واحدة غالباً ما يصاب بالارتباك، حيث يخلط بين من يتم مهاجمته وبين ما يقال. ومن خلال تقسيم النص إلى وحدات صغيرة، يمكن للنظام التركيز على ادعاء محدد في كل مرة. وبمجرد عزل قطعة صغيرة من النص، لا يسأل النظام ذكاءً اصطناعياً واحداً ليقرر ما إذا كانت خطاب كراهية، بل يطلب من ثلاثة وكلاء افتراضيين قراءتها، حيث يلعب كل منهم دوراً محدداً.

الوكيل الأول هو "الضحية". صُمم هذا المنظور ليكون شديد الحساسية للضرر، والإقصاء، والشعور بالاستهداف. إنه يبحث عن الاعتداءات الدقيقة، والصور النمطية، واللغة التي تجعل مجموعة ما تشعر بعدم الأمان أو بانتهاك إنسانيتها. الوكيل الثاني هو "المراقب"، الذي يعمل مثل كتاب قواعد منصات التواصل الاجتماعي. يبحث هذا الوكيل عن انتهاكات واضحة لسياسات السلامة، مثل الألفاظ النابية الصريحة، أو التهديدات بالعنف، أو المضايقات المباشرة، بينما يتجاهل الخلافات الذاتية التي لا تتجاوز حدود الإساءة. أما الوكيل الثالث فهو "الشاهد الثقافي"، وهو خبير في السياق المحلي. تم تدريب هذا الوكيل على التعرف على اللغة المشفرة، والتلاعب بالألفاظ المتشابهة صوتياً، واللغة العامية الإقليمية التي قد تبدو غير ضارة لشخص غريب ولكنها مسيئة للغاية داخل مجتمع معين. وفي النسخة الصينية من النظام، يتم تزويد هذا الوكيل بقاموس متخصص للمصطلحات المسيئة المحلية لمساعدته في رصد الإهانات الخفية.

بعد أن يقرأ هؤلاء الوكلاء الثلاثة نفس القطعة الصغيرة من النص، غالباً ما يختلفون. قد يرى أحدهم أنها غير ضارة، بينما يرى آخر هجوماً واضحاً. وهنا يأتي أهم ابتكار في النظام: "المدقق". هذا الوكيل الرابع لا يقوم بمجرد عد الأصوات، بل يعمل كقاضٍ، حيث ينظر في الأدلة المقدمة من الوكلاء الثلاثة. يتحقق مما إذا كانت ادعاءاتهم مستندة إلى النص الفعلي، وما إذا كانت متسقة مع القواعد، وما إذا كانت منطقية في السياق الثقافي. إذا فات "المراقب" إهانة ثقافية دقيقة رصدها "الشاهد"، يمكن للمدقق تجاوز وجهة نظر المراقب. وإذا كان "الضحية" حساساً بشكل مفرط تجاه بيان محايد، يمكن للمدقق تصحيح ذلك. يجبر النظام الوكلاء على تقديم اقتباسات محددة من النص لدعم ادعاءاتهم، مما يضمن أن القرار النهائي يستند إلى الأدلة وليس إلى شعور غامض.

اختبر الباحثون هذا النهج على معيارين رئيسيين، أحدهما للإنجليزية والآخر للصينية، وهما مجموعتان من البيانات المستخدمة لقياس مدى قدرة الحواسيب على فهم خطاب الكراهية. بالنسبة للمعيار الإنجليزي، قدمت مجموعة البيانات العامة مجموعة اختبار فقط، لذا قام الباحثون بخلط وتقسيمها بشكل حتمي إلى مجموعات فرعية للتدريب والاختبار في دراستهم. قارنوا نظام الوكلاء المتعددين هذا بطرق أخرى، بما في ذلك الأوامر البسيطة التي تطلب من ذكاء اصطناعي واحد القيام بالمهمة وأطر الاستدلال المعقدة الأخرى. أظهرت النتائج أن نظام SPAR-Hate تفوق باستمرار على الآخرين، لا سيما في المهام الأكثر صعوبة. لقد كان أفضل بكثير في تحديد الهدف المحدد للهجوم، والكلمات الدقيقة المستخدمة في الحجة، والتصنيف الصحيح للضرر. كانت التحسينات ملحوظة بشكل خاص عندما كان التقييم صارماً، ويتطلب من الحاسوب الحصول على الهدف، والحجة، والتسمية جميعها بشكل صحيح في آن واحد. يشير هذا إلى أن النظام لا يخمن بشكل أكثر تكراراً فحسب، بل يفهم بالفعل بنية خطاب الكراهية بشكل أفضل.

كان من أبرز النتائج أن النظام عمل بشكل جيد حتى دون أن يتم تدريبه خصيصاً على البيانات. استخدم الباحثون نموذج لغة كبيراً لم يتم ضبطه بدقة لهذه المهمة المحددة، معتمدين بدلاً من ذلك على هيكل إطار عمل الوكلاء المتعددين وجودة الأوامر التي كتبوها. وهذا أمر مهم لأن الطريقة التي تُحل بها المشكلة — عبر تفكيكها واستخدام وجهات نظر متنوعة — هي أكثر أهمية من مجرد امتلاك نموذج أكبر أو أكثر تخصصاً. كما أظهر النظام أنه يمكن "تقطيره" في نموذج أصغر وأسرع. فمن خلال تعليم حاسوب أصغر محاكاة الاستدلال خطوة بخطوة للفريق الأكبر، أنشأ الباحثون نسخة كانت دقيقة تقريباً ولكنها أكثر كفاءة بكmuch، مما أثبت أن منطق النظام يمكن نقله إلى تكنولوجيا أبسط.

كما سلطت الدراسة الضوء على قيود التكنولوجيا الحالية. فحتى مع هذا الإطار المتقدم، واجه النظام أحياناً صعوبات في تحديد حدود الحجة، حيث أدرج أحياناً نصاً زائداً في تعريفه لـ "الهجوم". ومع ذلك، وجد الباحثون أن النظام كان بارعاً بشكل خاص في التعامل مع الفروق الثقافية الدقيقة التي تربك النماذج الأخرى. فعلى سبيل المثال، في النصوص الصينية، نجح النظام في تحديد الإهانات القائمة على التلاعب بالألفاظ (الكلمات التي تبدو بريئة صوتياً ولكنها تُكتب بشكل مختلف لتعني شيئاً مسيئاً) من خلال استخدام المعرفة المتخصصة لوكيل "الشاهد الثقافي". وفي الإنجليزية، كان أفضل في التمييز بين اللغة العامية المستعادة التي تستخدمها المجتمعات وبين استخدام الكلمات نفسها كأسلحة من قبل الغرباء.

لا يدعي هذا العمل حل مشكلة اكتشاف خطاب الكراهية تماماً. يقر الباحثون بأن نظامهم يقتصر حالياً على الصينية والإنجليزية، ولم يتم اختباره ضد كل لغة أو سياق ثقافي ممكن. كما يشيرون إلى أن أي نظام مصمم لتحديد المحتوى الضار يحمل خطر إساءة الاستخدام لأغراض الرقابة أو المراقبة. ويؤكد البحث أنه بينما يجعل أسلوبهم عملية اتخاذ القرار أكثر شفافية وقابلية للتتبع، فإن النشر في العالم الحقيقي سيظل يتطلب إشرافاً بشرياً، وعمليات استئناف، ومراقبة مستمرة لضمان عدم استهداف مجموعات معينة بشكل غير عادل.

في نهاية المطاف، تقدم الورقة تحولاً في كيفية تفكيرنا في تعليم الحواسيب فهم الصراع البشري. فبدلاً من محاولة بناء خوارزمية واحدة مثالية تعرف كل شيء، يقترح الباحثون أن النهج التعاوني، حيث يتم وزن وموازنة وجهات نظر متخصصة مختلفة، هو أكثر فعالية. ومن خلال محاكة عملية بشرية من النقاش والتحكيم، يستطيع النظام التنقل في الطبيعة الفوضوية والذاتية والمعتمدة على الثقافة لخطاب الكراهية بمستوى من الدقة افتقرت إليه الأساليب السابقة. وتشير النتائج إلى أن مستقبل الإشراف على المحتوى قد لا يكمن في نماذج أكبر، بل في طرق أكثر ذكاءً وهيكلية لاستخدام النماذج التي نمتلكها بالفعل.