CompAgent: An Agentic Framework for Visual Compliance Verification
تقدم هذه الورقة CompAgent، وهو أول إطار عمل وكيل يعزز النماذج اللغوية الكبيرة متعددة الوسائط عبر الاختيار الديناميكي للأدوات والاستدلال المهيكل لتحقيق أداء رائد في التحقق من الامتثال البصري عبر مجالات السياسات المعقدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك رئيس تحرير قناة إخبارية ضخمة تعمل على مدار 24 ساعة، وتبث ملايين الصور يوميًا. مهمتك هي التأكد من عدم ظهور أي شيء مسيء، أو خطير، أو مخالف للقواعد على الشاشة.
في الماضي، كان لديك طريقتان رئيسيتان للقيام بذلك:
- المتخصص: كنت توظف فريقًا من الخبراء الذين يبحثون عن شيء واحد فقط (مثل "محقق العري" أو "راصد العنف"). كانوا سريعين لكنهم لا يستطيعون التعامل مع المواقف المعقدة. فإذا أظهرت صورة جنديًا يحمل سلاحًا، فقد يصرخ "راصد العنف": "توقف!" دون أن يدرك أنها صورة إخبارية عن حرب، وليست تهديدًا.
- العام: كنت توظف محررًا واحدًا ذكيًا جدًا ومطلعًا بشكل هائل (ذكاء اصطناعي) يعرف كل شيء عن العالم. لكن هذا المحرر كان حرفيًا للغاية في بعض الأحيان. فقد يرى سكينًا في برنامج طبخ فيعتقد أنه جريمة، أو قد يفوت نكتة مبطنة كانت في الواقع ضارة.
CompAgent هو طريقة ثورية جديدة لحل هذه المشكلة. لا تنظر إليه كشخص واحد، بل كـ وكالة تحريات عالية التقنية تعمل معًا.
فريق التحري المكون من ثلاثة أجزاء
يقسم CompAgent المهمة إلى ثلاثة أدوار متميزة، تعمل كآلة متناغمة:
1. مدير الحالة (وكيل التخطيط)
تخيل محققًا متمرسًا لا ينظر إلى صور مسرح الجريمة بنفسه. بدلاً من ذلك، يقرأ كتاب القواعد (سياسة الامتثال) ويسأل: "ما نوع الأدلة التي نحتاجها لحل هذه القضية؟"
- إذا كانت القاعدة تقول "لا أسلحة"، فإن مدير الحالة يستدعي خبير المقذوفات.
- إذا كانت القاعدة تتعلق بـ "خطاب الكراهية"، فإنه يستدعي اللغوي.
- إذا كانت القاعدة تتعلق بـ "إيذاء النفس"، فإنه يستدعي المحلل الطبي.
مدير الحالة ذكي لأنه لا يضيع الوقت. فهو لا يطلب من خبير المقذوفات النظر في صورة جرو صغير. إنه يستدعي فقط الأدوات المحددة المطلية لتلك القاعدة المعينة.
2. صندوق الأدوات (مجموعة الأدوات)
هؤلاء هم المتخصصون الذين يستدعيهم مدير الحالة. إنهم يشبهون "السكين السويسري" من أدوات الذكاء الاصطناعي:
- العيون: يمكنهم رصد الأشياء (هل هذا مسدس أم لعبة؟)، والوجوه (هل هذا طفل؟)، والنصوص (ماذا تقول اللوحة؟).
- قراء السياق: يمكنهم تلخيص المشهد بأك সম্পূর্ণه في جملة واحدة.
- فاحصو السلامة: لديهم تدريب متخصص لرصد أشياء مثل "المحتوى المزعج" أو "الأنشطة غير القانونية".
هذه الأدوات تشبه الشرطة، والمختبر الجنائي، والفريق القانوني، وكلهم مجتمعون في مكان واحد. إنهم يجمعون الحقائق الصلبة.
3. القاضي (وكيل التحقق من الامتثال)
بمجرد أن يجمع مدير الحالة جميع التقارير من المتخصصين، يسلم الملف إلى القاضي.
ينظر القاضي إلى الصورة الأصلية وجميع التقارير الواردة من الفريق. هو الوحيد الذي يتخذ القرار النهائي.
- يقول خبير المقذوفات: "هذا مسدس."
- يقول قارئ السياق: "إنه جندي في عرض عسكري."
- يقول القاضي: "حسنًا، المسدس عادة ما يكون سيئًا، ولكن في هذا السياق المحدد (عرض عسكري)، فهو مسموح به. آمن."
أو في حالة معقدة:
- يقول المتخصص: "أرى شخصًا لديه جروح في ذراعه."
- يقول قارئ السياق: "هذا ملصق للتوعية بالصحة النفسية."
- يقول القاضي: "حتى لو كانت النية طيبة، فإن صورة الجروح شديدة الوضوح لدرجة أنها قد تؤذي من يشاهدها. غير آمن."
لماذا هذا أفضل من الطرق القديمة؟
1. إنه مرن (مثل الحرباء)
كانت الأنظمة القديمة مثل الباب المغلق؛ إذا تغيرت القواعد، عليك إعادة بناء الباب بالكامل. أما CompAgent فهو مثل الحرباء. إذا غيرت الشركة قواعدها غدًا (على سبيل المثال: "نريد الآن أيضًا التحقق من التزييف العميق الناتج عن الذكاء الاصطناعي")، فإن مدير الحالة يكتفي باختيار أداة جديدة من صندوق الأدوات. لا حاجة لإعادة تدريب الفريق بأكمله.
2. إنه يشرح عمله (مسار ورقي)
إذا رفض محرر بشري صورة ما، فإنه يكتب ملاحظة تشرح السبب. يقوم CompAgent بنفس الشيء. هو لا يكتفي بالقول "غير آمن"، بل يقول: "لقد صنفت هذا كغير آمن لأن كاشف الأشياء رأى سكينًا، وكاشف النصوص قرأ رسالة تهديد، مما يخالف القاعدة رقم 4." وهذا يجعل من السهل على البشر الوثوق بالذكاء الاصطناعي.
3. إنه أكثر ذكاءً في فهم الفروق الدقيقة
اختبرت الورقة البحثية CompAgent على آلاف الصور، وقد تفوق على "المتخصصين" و"الذكاء الاصطناعي العام".
- مثال: صورة لجندي مع مروحية.
- الذكاء الاصطناعي القديم: "تم اكتشاف سلاح! غير آمن!" (بسيط للغاية).
- CompAgent: "يكتشف جنديًا + مروحية. يراجع السياسة: 'العمليات العسكرية القانونية مسموح بها'. آمن." (يفهم السياق).
الخلاصة
إن CompAgent يشبه الترقية من حارس أمن واحد يحمل مصباحًا يدويًا إلى نظام أمني ذكي مع غرفة تحكم. غرفة التحكم (الوكيل) تقرر أي كاميرات (أدوات) يجب تشغيلها بناءً على التهديد المحدد، وتجمع الأدلة، وتتخذ قرارًا مدروسًا ومبررًا بشكل جيد.
إنه أسرع، وأرخص (لأنه لا يحتاج إلى إعادة تدريب في كل مرة تتغير فيها القواعد)، وأفضل بكثير في فهم الفرق بين مشهد فيلم مخيف وجريمة حقيقية. إنه مستقبل الحفاظ على سلامة الإنترنت.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.