AI assistance and error communication in deepfake evidence evaluation: A systematic review of human authenticity judgments

في العالم الحديث، غالباً ما يُعامل تسجيل الفيديو كوثيقة حقيقة غير قابلة للتغيير. فإذا التقطت الكاميرا شخصاً يتحدث، فإن الافتراض هو أن الشخص كان هناك بالفعل، ينطق بتلك الكلمات في تلك اللحظة. ويشكل هذا الاعتقاد العمود الفقري للتحقيات الجنائية والأحكام القانونية. ومع ذلك، جاءت تقنية جديدة تسمى "توليد التزييف العميق" (deepfake generation) لتقوض هذا اليقين؛ إذ يمكن لهذه الأنظمة إنشاء مقاطع فيديو يتم فيها استبدال وجه الشخص أو صوته أو تعديلهما بشكل مقنع للغاية بحيث لا يكون الحدث قد وقع في الواقع. ولا تكمن المشكلة التي تواجه المحققين في مجرد رصد هذه التزييفات، بل في كيفية استخدام الأدوات الحاسوبية التي تدعي القدرة على كشفها. فعندما يُعرض على قاضٍ أو ضابط شرطة مقطع فيديو إلى جانب رأي حاسوبي يقول "هذا مزيف"، كيف يغير هذا الرأي من قناعته؟ هل يساعد الحاسوب الإنسان على رؤية الحقيقة، أم أنه يخدعه لارتكاب أخطاء لم يكن ليرتكبها بمفرده؟

هذا السؤال هو محور مراجعة منهجية حديثة أجراها الباحث هارديانتو دانجي (Hardianto Djanggih). لم تختبر الدراسة برنامجاً حاسوبياً جديداً أو تجربة واحدة، بل قامت بجمع وتحليل سبع درسات قائمة بحثت تحديداً في كيفية تفاعل البشر عندما يتلقون مساعدة من الذكاء الاصطناعي أثناء الحكم على ما إذا كان مقطع فيديو أو صورة حقيقية أم لا. أراد الباحث معرفة ما إذا كانت هذه المساعدة تحسن دقة الحكم البشري، وكيف تؤثر طريقة تقديم النصيحة، وما إذا كان يمكن الوثوق بهذه النتائج في سياق قاعة المحكمة. ووجدت المراجعة أن الإجابة ليست مجرد "نعم" أو "لا" بسيطة؛ إذ تعتمد قيمة الذكاء الاصطناعي كلياً على ما إذا كانت النصيحة صحيحة وكيفية عرضها على الإنسان.

فحصت المراجعة تجارب شاهد فيها المشاركون مقاطع فيديو أو نظروا إلى وجوه وقرروا ما إذا كانت أصيلة أم متلاعب بها. في بعض الحالات، تم تزويد المشاركين بتوقع من نموذج حاسوبي قبل اتخاذ قرارهم النهائي. وفي حالات أخرى، شاهدوا أدلة بصرية، مثل المناطق المظللة حيث يعتقد الحاسوب وجود تزييف مختبئ، أو أُخبروا بمدى موثوقية الحاسوب عادةً. وأظهرت النتائج أنه عندما قدم الحاسوب نصيحة صحيحة، فإنه غالباً ما ساعد الناس على الوصول إلى الإجابة الصحيحة بشكل أكبر. فعلى سبيل المثال، في إحدى الدراسات التي شملت مقاطع فيديو، أدى عرض توقع الحاسوب إلى رفع معدل التحديد الصحيح من 66 بالمئة إلى 73 بالمئة. ومع ذلك، كشفت الدراسة أيضاً عن جانب سلبي خطير: عندما قدم الحاسوب نصيحة خاطئة، مال الناس إلى اتباعها، حتى لو أدى بهم ذلك إلى استنتاج خاطئ. لم تكن المساعدة تجعل الناس أكثر ذكاءً فحسب، بل جعلتهم أيضاً أكثر عرضة لارتكاب أخطاء محددة إذا كانت الأداة نفسها معيبة.

لق matter طريقة تقديم المعلومات بقدر أهمية المعلومات نفسها. قارنت إحدى الدراسات بين الملصقات النصية البسيطة والعروض المرئية التي تضخم الآثار غير الطبيعية الضئيلة التي غالباً ما تتركها عمليات إنشاء التزييف العميق. جعلت العروض المرئية الناس أكثر ثقة في أحكامهم وأكثر عرضة لقبول تقييم الحاسوب. ومع ذلك، لم تكن هذه الثقة تعني دائماً أنهم على صواب. وفي تجربة أخرى، أخبر الباحثون المشاركين بأن الحاسوب دقيق للغاية، رغم أن الأداء الفعلي للحاسوب لم يتطابق مع هذا الادعاء. وثق المشاركون في الحاسوب أكثر عندما قيل لهم إنه أفضل، رغم أن التكنولوجيا الأساسية كانت هي نفسها. وهذا يشير إلى أن طريقة التواصل بشأن معدل الخطأ يمكن أن تغير مدى اعتماد الشخص على الأداة، بغض النظر عما إذا كانت الأداة تعمل بالفعل كما هو موعود.

كما نظرت المراجعة فيما إذا كان مصدر النصيحة يهم. في إحدى التجارب، تلقى المشاركون نفس التوجيه تماماً، ولكن تم تصنيفه أحياناً على أنه صادر عن ذكاء اصطناعي وأحياناً أخرى على أنه صادر عن إنسان. ولم تتغير دقة القرارات النهائية بناءً على من اعتقد المشاركون أنه يقدم النصيحة. وتتحدى هذه النتيجة الفكرة القائلة بأن الناس يثقون بالآلات تلقائياً أكثر من البشر، أو أنهم يشعرون بالريبة طبيعياً تجاه الحواسيب. بدلاً من ذلك، كان جودة النصيحة وصحة البيانات الأساسية هما المحركان الحقيقيان للنجاح أو الفشل. وأشار الباحثون إلى أنه في العديد من هذه الدراسات، كانت النصيحة المقدمة للمشاركين مثالية أو محاكية، مما يعني أن التجارب لم تختبر بشكل كامل ما يحدث عندما يرتكب كاشف حقيقي في العالم الواقعي خطأً ما.

إن أحد القيود الحرجة لهذا البحث هو أنه لم تختبر أي من الدراسات المدرجة كيفية عمل هذه الأدوات في محاكمة جنائية حقيقية. فقد تضمنت التجارب أشخاصاً عاديين يصدرون أحكاماً سريعة في مختبر أو عبر الإنترنت، وليس قضاة أو محامين يقررون مصير مدعى عليه. ولم تجد المراجعة دليلاً على أن استخدام هذه الأدوات يؤدي إلى أحكام أكثر دقة في القضايا القانونية الفعلية. كما لم تقيس الدراسات ما إذا كان بإمكان الناس تحديد من أنشأ الفيديو المزيف بدقة أو ما إذا كان الشخص الموجود في الفيديو قد ارتكب جريمة بالفعل. لقد تناولت الأبحاث فقط السؤال الأضيق المتعلق بما إذا كان الفيديو يبدو حقيقياً أم مزيفاً. وهذه الفجوة كبيرة لأن مقطع الفيديو يمكن أن يكون أصلياً من الناحية التقنية ولكنه قد يُستخدم لتقديم قصة مضللة، أو قد يُستخدم مقطع فيديو مزيف لغرض غير ضار.

خلص المؤلف إلى أن العلاقة بين البشر والذكاء الاصطناعي في هذا المجال معقدة. فالمساعدة، والثقة، والحكم الدقيق هي ثلاثة أشياء مختلفة. قد يثق الشخص في أداة ويتفق معها، لكنه قد يظل مخطئاً. وتقترح المراجعة أنه لكي تكون هذه الأدوات مفيدة في الأدلة الجنائية، يجب أن يكون التواصل بشأنها دقيقاً للغاية. يجب على الخبراء شرح الظروف التي اختُبرت فيها الأداة بالضبط وما لا تستطيع القيام به. ويجب عليهم تجنب تقديم ادعاءات فضفاضة مثل "هذا التسجيل مزيف" والالتزام بدلاً من ذلك بعبارات محددة وقابلة للاختبار مثل "هذا الملف يحتوي على سمات مرتبطة بنوع معين من التلاعب". كما تسلط الدراسة الضوء على الحاجة إلى الشفافية؛ فإذا قامت أداة بتظليل منطقة مشبوهة في فيديو، يجب أن يظل الفيديو الأصلي متاحاً حتى يتمكن الآخرون من التحقق مما إذا كانت أداة التظليل نفسها تعمل بشكل صحيح.

في نهاية المطاف، تعمل هذه المراجعة كدليل تحذيري بدلاً من كونها احتفاءً بالتكنولوجيا. فهي تظهر أنه بينما يمكن للمساعدة من الذكاء الاصطناعي تحسين قدرة البشر على كشف التزييف العميق، إلا أنها تقدم أيضاً مخاطر جديدة إذا كانت النصيحة غير صحيحة أو إذا أصبح الإنسان شديد الاعتماد على الآلة. وتشير النتائج إلى أنه في السياق القانوني، لا ينبغي أن ينصب التركيز على مدى زيادة الثقة التي توفرها الأداة، بل على ما إذا كانت تساعد الناس على التمييز بين النصيحة المفيدة والأخطاء المضللة. وإلى أن يتم اختبار هذه الأدوات في سيناريوهات قانونية حقيقية ذات عواقب حقيقية، فإن قدرتها على ضمان العدالة تظل سؤالاً مفتوحاً. ويتطلب المسار المستقبلي اختباراً دقيقاً، وتواصلاً واضحاً للحدود، وإنساناً يظل قادراً على مراجعة العمل، بدلاً من مجرد قبول كلمة الحاسوب.