Defake-o3: From Speculative Rationales to Verifiable Evidence for Explainable AIGI Detection
تقدم الورقة البحثية Defake-o3، وهو كاشف للصور المولدة بواسطة الذكاء الاصطناعي قابل للتفسير يستبدل المبررات التخمينية بأدلة بصرية قابلة للتحقق من خلال الجمع بين البحث البصري التكراري ومُحقِّق أدلة (Evidence Verifier) مُدرب بشرياً، مدعوماً بمجموعة بيانات GroundFake الجديدة ومعيار FakeFrontier.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في السنوات القليلة الماضية، تعلمت الحواسيب كيفية إنشاء صور تبدو لا يمكن تمييزها عن الصور الفوتوغرافية التي تلتقطها الكاميرا. هذه الصور الاصطناعية، التي تُسمى غالباً الصور المولدة بالذكاء الاصطناعي، يمكن أن تُظهر أشخاصاً، ومناظر طبيعية، وأشياء بواقعية شديدة تجعل العين البشرية تجد صعوبة في التمييز بينها وبين الواقع. وبينما توفر هذه التكنولوجيا أدوات جديدة للفنانين والمصممين، إلا أنها تخلق أيضاً مشكلة كبيرة: إذا لم نتمكن من كشف التزييف بسهولة، فلن نتمكن من الوثوق بما نراه. وقد أدى هذا الأمر بالباحثين إلى بناء كواشف، أو أنظمة آلية، مصممة لرصد الدلائل الدقيقة التي تكشف أن الصورة قد صنعتها آلة. لفترة طويلة، كانت هذه الكواشف تعمل مثل "الصندوق الأسود": حيث كانت تنظر إلى الصورة وتقول ببسا_ط "حقيقية" أو "مزيفة"، دون تقديم أي تفسير لسبب ذلك. هذا النقص في الشفافية جعل من الصعب على الناس الوثوق بالنتائج، خاصة عندما تكون المخاطر عالية. وفي الآونة الأخيرة، حاول العلماء منح هذه الأنظمة صوتاً، عبر مطالبتها بشرح منطقها بلغة بسيطة. ومع ذلك، غالباً ما تتبين أن هذه التفسيرات مجرد تخمينات أو ملاحظات غامضة لا يمكن التحقق منها، مما يترك المستخدم مع حكم دون دليل.
قام فريق من الباحثين في جامعة شانغهاي جياو تونغ بتطوير نظام جديد يسمى Defake-o3 يغير طريقة عمل هذه الكواشف. فبدلاً من التخمين أو تقديم أوصاف غامضة، تم تصميم هذا النظام لإيجاد دليل بصري ملموس يمكن للإنسان رؤيته والتحقق منه. الفكرة الجوهرية هي الانتقال من الاستنتاج القائم على التكهن إلى الأدلة القابلة للتحقق. تخيل شخصاً يحاول العثور على عيب في لوحة؛ قد ينظر إلى اللوحة بأكملها أولاً، ولكن إذا أراد التأكد، فعليه الاقتراب من اللوحة لفحص ضربات الفرشاة. يقوم Defake-o3 بهذا بالضبط؛ فهو يستخدم عملية تفاعلية حيث ينظر أولاً إلى الصورة بأكملها، ثم يقرر التكبير (Zoom in) على مناطق محددة تبدو مشبوهة. ويكرر هذه العملية، مقترباً أكثر فأكثر من التفاصيل الدقيقة، حتى يجد شيئاً لا ينتمي بوضوح إلى الصورة.
يعتمد النظام على جزأين رئيسيين. الجزء الأول هو القدرة على البحث البصري. فعندما يرى النظام صورة، فإنه لا يكتفي بمسحها مرة واحدة من البداية إلى النهاية، بل يتصرف كمحقق دقيق، حيث يختار التكبير على نقاط محددة، مثل النص الموجود على لافتة، أو ملمس يد، أو عجلات سيارة. ومن خلال تكبير هذه المناطق، يمكنه رصد أخطاء صغيرة غير مرئية في الصورة الكاملة، مثل الحروف المتداخلة أو الأشياء التي تندمج في الخلفية. أما الجزء الثاني فهو نظام تحقق داخلي يضمن عدم قيام النظام باختلاق أشياء من العدم. فقد درب الباحثون "مدققاً" منفصلاً باستخدام آلاف الأمثلة التي أكد فيها البشر بالفعل ما إذا كان تفصيل معين يمثل عيباً حقيقياً أم خطأً. يعمل هذا المدقق كقاضٍ، حيث يكافئ النظام عندما يجد دليلاً يستند إلى الصورة الفعلية، ويعاقبه عندما يختلق عيوباً لا وجود لها. يضمن هذا التدريب أن النظام لا يبلغ إلا عما يمكنه رؤيته بالفعل.
ولتعليم هذا النظام كيفية العمل، أنشأ الباحثون مجموعة بيانات جديدة تسمى GroundFake. تحتوي هذه المجموعة على 1 ১৬,000 صورة، مقسمة بالتساوي بين الصور الحقيقية والصور المولدة بالذكاء الاصطناعي. وما يجعل مجموعة البيانات هذه مميزة هو أنها تتضمن ملاحظات تفصيلية حول مكان العيوب بالضبط وشكلها، وهي ملاحظات تم التحقق منها من قبل خبراء بشريين. كما بنى الباحثون ساحة اختبار جديدة تسمى FakeFrontier، والتي تضم صوراً من عشرة مولدات ذكاء اصطناعي حديثة جداً لم يسبق للنظام رؤيتها من قبل. وقد سمح ذلك لهم باختبار ما إذا كان النظام قادراً على التعامل مع أحدث التقنيات، وليس فقط الأمثلة القديمة التي تدرب عليها.
تظهر النتائج أن Defake-o3 أفضل بكثير في كل من اكتشاف التزييف وتفسير الأسباب. ففي مجموعة بيانات التدريب، حدد الصور المزيفة بدقة عالية، ولكن الأهم من ذلك أن الأدلة التي قدمها كانت أكثر دقة بكثير. فعندما قال النظام إن صورة ما مزيفة، كان بإمكانه الإشارة إلى موقع محدد، مثل شعار مشوه على قبعة أو نص غير مفهوم على لافتة، ووصف الخطأ بدقة. وفي الاختبارات على المولدات الجديدة وغير المسبوقة، استمر النظام في الأداء بشكل جيد، حيث حدد الصور المزيفة التي فاتتها الطرق الأخرى. وعندما طلب الباحثون من نماذج ذكاء اصطناعي متقدمة أخرى تقييم جودة الأدلة المقدمة من Defake-o3، وجدوا أنها أكثر إقناعاً واستناداً إلى الواقع مقارنة بالتفسيرات التي قدمتها الأنظمة السابقة. كانت تلك الأنظمة القديمة غالباً ما تعطي إجابات غامضة، مثل القول بأن الصورة تبدو "ناعمة للغاية" دون تحديد المكان، أو أنها كانت تتوهم وجود عيوب ليست موجودة أصلاً. في المقابل، قدم Defake-o3 عدداً قليًلاً من الأدلة القوية والمحددة التي يمكن للإنسان التحقق منها بسهولة بمجرد النظر إلى الصورة.
كما بحثت الدراسة فيما يحدث عندما لا يتم توجيه النظام بواسطة المدقق أو عندما لا يُسمح له بالتكبير. فبدون القدرة على التكبير، عانى النظام في العثور على العيوب الدقيقة المختبئة في التفاصيل. وبدون المدقق، مال النظام إلى اختلاق أسباب لقراراته، حتى عندما كان مخطئاً. وقد أكد هذا أن كلاً من البحث التفاعلي والتدقيق الصارم للأدلة ضروريان لعمل النظام. ووجد الباحثون أن أفضل أداء يأتي من موازنة ملاحظات النظام الخاصة مع توجيهات المدقق، مما يضمن عدم اعتماده بشكل مفرط على مجرد مطابقة الكلمات أو الأنماط، بل التركيز بدلاً من ذلك على الحقيقة البصرية الفعلية.
يمثل هذا العمل تحولاً في كيفية تعاملنا مع مشكلة الصور المولدة بالذكاء الاصطناعي. فهو ينتقل من فكرة أن الكمبيوتر يجب أن يعطي مجرد درجة أو تخمين، إلى نموذج يعمل فيه الكمبيوتر كشريك شفاف، يوضح خطوات عمله خطوة بخطوة. ومن خلال الجمع بين القدرة على النظر عن قرب والمتطلبات الصارمة للدليل، يقدم النظام مستوى من الموثوقية كان مفقوداً في السابق. ويخلص الباحثون إلى أنه لكي يكون اكتشاف الصور المولدة بالذكاء الاصطناعي مفيداً وموثوقاً حقاً، يجب أن يكون قادراً على تقديم أدلة يمكن رؤيتها وفهمها، وليس مجرد حكم لا يمكن التحقق منه. ويثبت Defake-o3 أن هذا ممكن، حيث يقدم مساراً مستقبلياً حيث تساعدنا التكنولوجيا على رؤية الحقيقة بوضوح أكبر، تفصيلاً تلو الآخر عبر التكبير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.