UHP Detection: LVLMs have their Unique Hallucination Pattern in the Consistency Space

تخيل أنك تتحدث إلى روبوت ذكي جداً وواثق جداً، يمكنه رؤية الصور والإجابة على الأسئلة حولها. هذا الروبوت هو جزء من جيل جديد من الذكاء الاصطناعي يسمى "نماذج اللغة والرؤية الكبيرة" (LVLMs). فكر فيهم كعقل خارق قرأ الإنترنت بأكمله ويمكنه أيضاً رؤية الصور. إنهم مذهلون في وصف ما يرونه، لكن لديهم عيب غريب: أحياناً، يخترعون حقائق. في عالم الذكاء الاصطناعي، يسمى هذا "الهلوسة". الأمر يشبه طالباً، عندما يُطلب منه وصف صورة قطة، يخبرك بثقة أن القطة ترتدي قبعة، رغم أن القبعة ليست موجودة. هذه مشكلة كبيرة لأننا إذا وثقنا في هذه الروبوتات لمساعدة الأطباء أو قيادة السيارات، فإن قصصهم المختلقة قد تؤدي إلى أخطاء في العالم الحقيقي.

لفترة من الوقت، حاول العلماء الإمساك بهذه الأكاذيب من خلال التحقق من مدى "عدم اليقين" الذي يبدو عليه الروبوت. كانت الفكرة القديمة بسيطة: إذا بدا الروبوت غير متأكد أو أعطى إجابات مختلفة عند سؤاله نفس السؤال بطرق مختلفة قليلاً، فمن المحتمل أنه يكذب. لكن الباحثين وجدوا خللاً في هذه الخطة. فأحياناً، يمكن للروبوت أن يكون واثقاً للغاية ومتسقاً في إجاباته بينما لا يزال يخبر كذبة كاملة. إنه مثل كاذب لبق لا يغير قصته أبداً؛ فالتحقق من "التذبذب" أو "عدم اليقين" لا يمكنه الإمساك بهم. أصبح السؤال الكبير هو: كيف نكتشف كذبة عندما يكون الكاذب متسقاً تماماً؟

هنا يأتي دور دراسة جديدة تقدم حلاً ذكياً يسمى UHP Detection (اكتشاف نمط الهلوسة الفريد). أدرك الباحثون أنه بدلاً من البحث عن علامة واحدة لعدم اليقين، يجب أن نبحث عن نمط سلوك محدد. لقد وضعوا لعبة مع الروبوت باستخدام قاعدتين رئيسيتين:

1. قاعدة "ماذا": قاموا بتغيير المدخلات بطريقتين. أحياناً قاموا بتعديل الصورة (مثل تغيير الإضاءة أو التكبير) وأحياناً أخرى قاموا بتعديل السؤال (مثل إعادة صياغته).
2. قاعدة "نعم/لا": طلبوا من الروبوت التحقق من عبارة صحيحة (مثلاً: "هناك قطة") وعكسها تماماً (مثلاً: "لا توجد قطة").

من خلال دمج هذه القواعد، أنشأوا أربع "غرف" أو مجموعات مختلفة لاختبار الروبوت. في العالم المثالي، إذا قال الروبوت "نعم" لعبارة "هناك قطة"، فيجب أن يقول "لا" لعبارة "لا توجد قطة"، ويجب أن يستمر في قول الشيء نفسه حتى لو غيرت الصورة قليلاً. ولكن عندما يهلوِس الروبوت، فإنه لا يكتفي بالارتباك فحسب؛ بل يرتبك بطريقة محددة وغريبة جداً. فقد يظل متسقاً عندما تغير الصورة، لكنه يتخبط عندما تغير الكلمات، أو قد يوافق على كذبة في غرفة ما ولكنه يناقض نفسه في غرفة أخرى.

بنى الفريق "محققاً" خفيف الوزن (برنامج حاسوبي بسيط) ينظر إلى كيفية سلوك الروبوت عبر جميع هذه الغرف الأربع في وقت واحد. وجدوا أن الهلوسات ليست أخطاء عشوائية؛ بل تترك بصمة فريدة. في اختباراتهم على ثلاثة نماذج مختلفة من الذكاء الاصطناعي، كان هذا الأسلوب الجديد أفضل بكثير في كشف الأكاذيب من الطرق القديمة. لقد حسن القدرة على اكتشاف الهلوسة بنسبة تصل إلى 18.72% في مقياس واحد و 20.07% في مقياس آخر، متفوقاً حتى على الأساليب المتقدمة التي تتطلب التلصص داخل عقل الروبوت.

كما أظهر الباحثون أن هذه "البصمة" حقيقية وليست مجرد صدفة. فعندما دربوا المحقق على مجموعة من الألغاز واختبروه على مجموعة أخرى مختلفة تماماً، ظل يعمل بشكل جيد. وهذا يشير إلى أن الطريقة التي يكذب بها هذه النماذج هي جزء أساسي من طريقة تفكيرهم، وليست مجرد خطأ خاص باختبار معين. تثبت الدراسة أنه لاكتشاف الهلوسة، لا تحتاج فقط إلى سؤال، "هل أنت متأكد؟" بل تحتاج إلى سؤال، "هل تصمد قصتك عندما أنبشها من كل زاوية؟" من خلال رسم خرائط لأنماط الاتساق الفريدة هذه، يمكننا أخيراً الإمساك بالكاذبين الواثقين قبل أن يتسببوا في المشاكل.