Latent Fact-Checking: Detecting Misinformation through Activation Engineering
تقدم هذه الورقة البحثية LaFaCt، وهو إطار عمل قابل للتوسع للكشف عن المعلومات المضللة يحدد الأكاذيب من خلال إسقاط تنشيط الرمز الأخير للمدخل على "اتجاه معلومات مضللة" كامن مستمد من هندسة التنشيط التباينية، محققاً أداءً تنافسياً عبر مختلف أحجام النماذج دون الحاجة إلى ضبط دقيق أو استرجاع أدلة خارجية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لغة عقول الذكاء الاصطناعي السرية
تخيل أن لديك روبوتًا عملاقًا وذكيًا للغاية يمكنه كتابة القصص، والإجابة على الأسئلة، والدردشة كالبشر. يطلق العلماء على هذه النماذج اسم "نماذج اللغات الكبيرة". لفترة طويلة، اعتقد الناس أن الطريقة الوحيدة لمعرفة ما إذا كان هذا الروبوت يقول الحقيقة هي الاستماع إلى ما يقوله بصوت عالٍ. ولكن إليك الخدعة: أحيانًا يبدو الروبوت واثقًا وسلسًا للغاية، حتى عندما يختلق أشياء من خياله. الأمر يشبه ساحرًا بارعًا جدًا في عرضه لدرجة تجعلك تصدق أن الأرنب يخرج حقًا من القبعة، رغم أنها مجرد تقنية.
لمعرفة ما إذا كان الروبوت يكذب، حاول الباحثون بناء أنظمة تتحقق من حقائق الروبوت بمقارنتها بمكتبة من الكتب أو الإنترنت. ولكن هناك فكرة أخرى تلوح في أفق علوم الكمبيوتر: ماذا لو كان الروبوت يعرف أنه يكذب، حتى لو لم يقل ذلك؟ فكر في العقل البشري؛ عندما تقول كذبة، قد يتسارع نبض قلبك، أو تتعرق يداك، حتى لو ظل صوتك هادئًا. يعتقد العلماء أن نماذج الذكاء الاصطناعي لديها "إشارات داخلية" مماثلة. هم يعتقدون أنه داخل الدماغ الرقمي للروبوت، توجد أنماط خفية — مثل شفرة سرية — تُظهر ما إذا كانت العبارة حقيقية أم كاذبة، قبل وقت طويل من كتابة الروبوت لإجابته النهائية. يدور هذا البحث حول تعلم كيفية قراءة تلك الإشارات السرية لكشف المعلومات المضللة دون الحاجة إلى سؤال الروبوت عن شرح لنفسه أو التحقق من مكتبة.
قراءة عقل الروبوت للإمساك بالكاذبين
في هذه الدراسة، قرر فريق من الباحثين من البرازيل التوقف عن الاستماع إلى كلمات الروبوت والبدء في مراقبة "موجاته الدماغية". لقد استخدموا حيلة ذكية تسمى هندسة التنشيط (activation engineering). تخيل دماغ الروبوت كغرفة ضخمة مليئة بآلاف مفاتيح الضوء. عندما يفكر الروبوت في شيء ما، يضيء نمط محدد من الأضواء. اكتشف الباحثون أن هناك "اتجاهًا" محددًا في هذه الغرفة من الأضواء يشير نحو الأكاذيب، واتجاهًا مختلفًا يشير نحو الحقيقة. الأمر يشبه العثور على بوصلة سرية داخل الروبوت تشير دائمًا إلى الشمال، حتى لو كان الروبوت يحاول التظاهر بأنه يتجه نحو الجنوب.
لم يحتج الفريق إلى تعليم الروبوت أي شيء جديد أو تغيير دماغه (وهو ما يسمى "الضبط الدقيق" أو fine-tuning). بدلاً من ذلك، استخدموا طريقة تسمى إضافة التنشيط التبايني (Contrastive Activation Addition - CAA). إليكم كيف فعلوا ذلك: أخذوا زوجًا من الجمل — واحدة حقيقية والأخرى كاذبة — وطلبوا من الروبوت أن يتظاهر بأن الجملة الحقيقية كاذبة، وأن الجملة الكاذبة حقيقية. ومن خلال مقارنة "أنماط الضوء" (التنشيطات) التي صنعها الروبوت لهذين السيناريوهين المتضادين، حسبوا الفرق الدقيق بينهما. أصبح هذا الفرق هو "بوصلة الكذب" الخاصة بهم.
بمجرد حصولهم على هذه البوصلة، اختبروها على ادعاءات حقيقية. لم يطلبوا من الروبوت الإجابة على السؤال، بل قاموا بتغذية ادعاء في الروبوت، ونظروا إلى "نمط الضوء" النهائي الذي صنعه الروبوت، ثم أسقطوه على "بوصلة الكذب" الخاصة بهم. إذا كان النمط يشير بقوة نحو اتجاه "الكذب"، فإن نظامهم يصنف الادعاء كمعلومات مضللة. لقد اختبروا ذلك على 11 دماغًا مختلفًا للروبوتات، تتراوح من نماذج صغيرة تحتوي على 270 مليون جزء إلى نماذج ضخمة تحتوي على 12 مليار جزء، باستخدام ثلاث مجموعات مختلفة من تحديات التحقق من الحقائق في العالم الحقيقي.
ما وجدوه (وما لم يجدوه)
كانت النتائج واضحة بشكل مدهش. في اثنين من التحديات الثلاثة (LIAR و FACTors)، نجحت طريقة "بوصلة الكذب" الخاصة بالباحثين بشكل أفضل من طلب التخمين من الروبوت أو إعطائه بعض الأمثلة للتعلم منها. في الواقع، كانت الطريقة فعالة بشكل خاص في مساعدة الروبوتات الأصغر والأضعف. على سبيل المثال، روبوت صغير كان يخمن خطأ بنسبة 46% من الوقت في مجموعة بيانات LIAR، قفزت نسبة دقته إلى 73% بمجرد استخدام هذه الإشارة الداخلية. الأمر يشبه إعطاء طالب صغير مشوش دليل مرجعي سري يساعده على تمييز الإجابة الصحيحة دون أن يعرف الموضوع تمامًا.
يشير الباحثون إلى أن هذا ينجح لأن دماغ الروبوت يحتوي بالفعل على الحقيقة، حتى عندما يفشل في قولها. "بوصلة الكذب" تجد إشارة الحقيقة المخفية تلك. ومع ذلك، فإن القصة ليست مثالية في كل مكان. في التحدي الثالث (AVeriTeC)، لم تعمل الطريقة بنفس الكفاءة، خاصة بالنسبة للروبوتات الأكبر. يوضح الفريق أن مجموعة البيانات هذه مختلفة: فالادعاءات هناك لا يمكن إثبات صحتها أو خطئها إلا إذا ذهبت للبحث عن معلومات إضافية على الإنترنت أولًا. وبما أن طريقتهم تعتمد فقط على فحص الادعاء نفسه ولا تبحث عن أدلة خارجية، فإنها ترتبك. إنه يشبه محاولة الحكم على صحة مسألة رياضية بمجرد النظر إلى السؤال، دون أن يُسمح لك بالتحقق من نموذج الإجابة أو إجراء العمليات الحسابية.
الخلاصة
يشير هذا البحث إلى أننا لسنا بحاجة دائمًا لبناء أنظمة ضخمة ومكلفة للتحقق من الحقائق. أحيانًا، تكون الحقيقة مختبئة بالفعل داخل دماغ الروبوت نفسه، تنتظر من يجدها. من خلال مجرد قراءة الإشارات الداخلية للروبوت، يمكننا كشف الأكاذب بشكل أسرع وبقدرة حوسبية أقل مما سبق. وجد الباحثون أن "بوصلة الكذب" هذه تعمل عبر أنواع وأحجام مختلفة من أدمغة الروبوتات، مما يثبت أن القدرة على التمييز بين الحقيقة والكذب هي مسار هيكلي وخطّي داخل هذه الآلات.
ومع ذلك، فهم حذرون في القول إن هذا ليس حلاً سحريًا لكل شيء. إذا كانت الكذبة تتطلب التحقق من مقال إخباري محدد أو ورقة علمية لكشفها، فإن هذه الطريقة وحدها لا تستطيع القيام بالمهمة. لكن في كثير من المواقف، خاصة حيث نحتاج إلى التحقق من الحقائق بسرعة أو استخدام روبوتات أصغر وأرخص، يقدم هذا النهج أداة قوية. إنه يستخدم المعرفة المخفية للروبوت ضد المعلومات المضللة، ليثبت أنه في بعض الأحيان، أفضل طريقة للإمساك بالكاذب هي الاستماع إلى ما لا يقوله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.