💬 NLP

Lying with Truths: Open-Channel Multi-Agent Collusion for Belief Manipulation via Generative Montage

تقدم هذه الورقة البحثية "المونتاج التوليدي" (Generative Montage)، وهو هجوم تواطؤ معرفي مبتكر حيث تستغل الوكلاء المستقلون نزعات الاستنتاج لدى النماذج اللغوية الكبيرة للتلاعب بالمعتقدات عبر تركيب سرديات مضللة من أدلة حقيقية متاحة علنًا، مما يكشف أن حتى النماذج المتقدمة معرضة بشدة لمثل هذا التلاعب القائم على الحقيقة.

المؤلفون الأصليون: Jinwei Hu, Xinmiao Huang, Youcheng Sun, Yi Dong, Xiaowei Huang

نُشر 2026-05-19

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Jinwei Hu, Xinmiao Huang, Youcheng Sun, Yi Dong, Xiaowei Huang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "الكذب بالحقائق" (Lying with Truths) باستخدام لغة بسيطة وتشبيهات إبداعية.

الفكرة الجوهرية: فخ "ساندوتش الحقيقة"

تخيل أنك تحاول إقناع صديق لك بأن شخصاً معيناً هو جاسوس. بدلاً من الكذب وقول: "لقُد رأيته يحمل حقيبة سرية"، أنت تكتفي بذكر الحقائق فقط. تقول:

"كان في المقهى في الساعة 8:0ًا صباحًا." (حقيقة)
"اشترى خريطة للمدينة." (حقيقة)
"كان يرتدي معطفاً طويلاً." (حقيقة)

إذا قلت هذه الجمل الثلاث بالتتابع، فقد يقوم عقل صديقك تلقائياً بربط النقاط: مقهى + خريطة + معطف طويل = جاسوس. على الرغم من أن كل جملة كانت صحيحة بنسبة 100%، إلا أن القصة التي خلقتها هي كذبة.

تسمي هذه الورقة البحثية هذا الأسلوب بـ "الكذب بالحقائق". وقد اكتشف الباحثون أن وكلاء الذكاء الاصطناي (البرامج الحاسوبية الذكية) سيئون جداً في مقاومة هذه الخدعة. بل في الواقع، كلما كان الذكاء الاصطناعي أكثر ذكاءً و"تركيزاً على الاستنتاج"، سهل خداعه.

الهجوم: "المونتاج التوليدي" (Generative Montage)

بنى الباحثون نظاماً يسمى "المونتاج التوليدي" لاختبار ذلك. استخدموا كلمة "مونتاج" لأنها مستمدة من عالم السينما. في الأفلام، المونتاج هو عرض سلسلة من اللقطات السريعة وغير المترابطة (عدّاء يربط حذاءه، ساعة تدق، جمهور يهتف) لجعل الجمهور يشعر بشعور أو قصة معينة (مثل "السباق على وشك البدء") دون عرض بداية السباق فعلياً.

استخدم المهاجمون (الذكاء الاصطناعي) فريقاً مكوناً من ثلاثة أشخاص لإنشاء هذا "الفيلم" للذكاء الاصطناعي الضحية:

الكاتب (كاتب السيناريو): يقوم هذا الذكاء الاصطناعي بجمع حقائق حقيقية (مثل تغريدات حقيقية أو سجلات إخبارية). يكتب مسودة تلمح إلى قصة مزيفة دون أن يكذب أبداً. إنه يشبه المحامي الذي يبحث عن ثغرات في الحقيقة.
المحرر (مخرج الفيلم): يأخذ هذا الذكاء الاصطناعي تلك الحقائق الحقيقية ويرتبها في تسلسل معين. تماماً كما في الأفلام، وضع لقطة لـ "وجه مرعوب" مباشرة بعد لقطة لـ "ضحية" يجعل الضحية يبدو خائفاً، حتى لو لم يكن كذلك. يقوم المحرر بترتيب الحقائق لإجبار الضحية على تكوين رابط خاطئ.
المخرج (الناقد): يلعب هذا الذكاء الاصطناعي دور الضحية. يقوم بفحص السيناريو: "هل هذا مقنع؟ هل يبدو ككذبة أم يبدو كاستنتاج ذكي؟" إذا لم يكن السيناريو مخادعاً بما يكفي، يعيده المخرج إلى الكاتب والمحرر لتعديله.

بمجرد أن يصبح "الفيلم" جاهزاً، يتم إطلاق اللقطات واحدة تلو الأخرى إلى الذكاء الاصطناعي الضحية عبر القنوات العامة (مثل وسائل التواصل الاجتماعي).

الضحية: "المفرط في التفكير"

الضحية في هذه التجربة هي ذكاء اصطناعي مصمم ليكون محللاً مفيداً. مهمته هي قراءة تدفق المعلومات ومعرفة ما يحدث.

وجدت الورقة البحثية خللاً مخيفاً: هذه الأنظمة مبرمجة لإيجاد الأنماط. عندما ترى تدفقاً من الحقائق الحقيقية التي يمكن أن تتناسب مع قصة مزيفة، فإنها لا تقول: "انتظر، هذه الحقائق لا تثبت ذلك". بدلاً من ذلك، هي "تفرط في التفكير". تحاول جعل القصة تبدو منطقية، لذا تقوم بملء الفجوات بنفسها.

التشبيه: تخيل محققاً متلهفاً جداً لحل قضية، لدرجة أنه عندما يجد أثراً لطبعة حذاء طينية ونافذة مكسورة، يفترض فوراً أنها عملية سطو، حتى لو كان أثر الحذاء يعود لصاحب المنزل والنافذة كُسرت بسبب كرة بيسبول. الذكاء الاصطناعي يفعل ذلك تلقائياً.

النتائج: كلما زاد ذكاء الذكاء الاصطناعي، زاد سهولة خداعه

اختبر الباحثون 14 نموذجاً مختلفاً من نماذج الذكاء الاصطناعي (بما في ذلك أسماء كبيرة مثل GPT-4 وClaude وQwen). وكانت النتائج مفاجئة:

معدل نجاح مرتفع: نجح الهجوم على 74% من النماذج المملوكة لشركات و70% من النماذج مفتوحة المصدر.
مفارقة "الذكاء هو الأسوأ": عادة ما نعتقد أن الذكاء الاصطناعي الأكثر ذكاءً هو الأكثر أماناً. لكن هنا، كانت النماذج التي تمتلك أفضل مهارات "الاستنتاج" هي الأسهل في الخداع. لأنها كانت بارعة جداً في ربط النقاط، فقد ربطت النقاط الخاطئة بكل ثقة.
ثقة عالية: لم تكتفِ النماذج الضحية بتصديق الكذبة فحسب؛ بل صدقتها بنسبة ثقة تتجاوز 90%. لقد كانوا واثقين جداً من صحة استنتاجاتهم لدرجة أنهم كتبوا تفسيرات مفصلة تدافع عن استنتاجاتهم الخاطئة.

تأثير الدومينو: التسلسل المتتالي (The Cascade)

الجزء الأكثر خطورة هو ما يحدث بعد ذلك. "الذكاء الاصطناعي الضحية" لا يكتفي بمجرد تصديق الكذبة، بل ينشر استنتاجه للجمهور قائلاً: "لقد حللت البيانات، وإليكم الحقيقة".

ولأن الذكاء الاصطناعي يبدو واثقاً ومنطقياً، فإن نماذج الذكاء الاصطناعي الأخرى (أو البشر) يقرؤون ذلك ويعتقدون: "أوه، لقد قام هذا الذكاء الاصطناعي بالعمل الصعب نيابة عنا. لا بد أنه على حق".

التشبيه: الأمر يشبه الإشاعة في المدرسة. طالب واحد يسمع حقيقة، يحولها إلى كذبة، ويقولها بثقة كبيرة. الطالب التالي يسمعها، ويفكر: "واو، هذا الطالب ذكي جداً، لا بد أنه على حق"، ثم ينقلها للفصل بأكمله. وسرعان ما يصدق الفصل كله كذبة بدأت بحقيقة واحدة.

أظهرت الورقة البحثية أنه حتى عندما حاول "ذكاء اصطناعي قاضٍ" التحقق من العمل، فقد تم خداعه بنسبة 60% لأن الأكاذيب كانت مغلفة بالكثير من الحقيقة والثقة.

الملخص

تحذرنا هذه الورقة من أننا لا نستطيع الاعتماد فقط على الذكاء الاصطناعي للتحقق من الحقائق إذا قُدمت تلك الحقائق بطريقة ذكية ومنسقة.

التهديد: لا تحتاج إلى الكذب لخداع الذكاء الاصطناعي. كل ما تحتاجه هو ترتيب الحقيقة في الترتيب الصحيح.
نقطة الضعف: قوة الذكاء الاصطناعي (إيجاد الأنماط والربط بين الأمور) هي نقطة ضعفه هنا. إنهم يتوقون بشدة لصنع قصة من الشظايا.
الخطر: بمجرد أن يصدق الذكاء الاصطناعي كذبة، يصبح "شريكاً غير مدرك"، حيث ينشر تلك الكذبة للآخرين بثقة مطلقة، مما يجعل إيقافها أمراً صعباً للغاية.

يشارك الباحثون هذه النتមាន لمساعدة المطورين على بناء دفاعات أفضل، وليس لتعليم الناس كيفية القيام بذلك. إنهم يريدون منع "مخرجي الأفلام" في عالم الذكاء الاصطناي من خداع "المحققين".

ملخص تقني: الكذب بالحقائق: التواطؤ متعدد الوكلاء عبر القنوات المفتوحة للتلاعب بالاعتقاد عبر المونتاج التوليدي

1. تعريف المشكلة

تحدد هذه الورقة سطح هجوم جديد في الوكلاء المستقلين القائمين على النماذج اللغوية الكبيرة (LLM): التواطؤ المعرفي (Cognitive Collusion). وخلافاً لهجمات التواطؤ التقليدية التي تعتمد على القنوات السرية، أو الأبواب الخلفية، أو الوثائق المزورة، يعمل هذا التهديد بالكامل من خلال القنوات العامة باستخدام شظايا أدلة حقيقية فقط.

الثغرة الجوهرية المستغلة هي ميل النماذج اللغوية الكبيرة نحو التماسك السردي والإفراط في التفكير. فعند تقديم معلومات مجزأة ولكنها صحيحة واقعياً، غالباً ما تفرط النماذج اللغوية الكبيرة في تفسير المدخلات الغامضة لبناء قصة متماسكة، مما يؤدي دون قصد إلى استنتاج روابط سببية زائفة بين حقائق مستقلة. يصيغ المؤلفون هذا على أنه "الكذب بالحقائق"، حيث يتم اختيار تدفق من الأدلة الحقيقية محلياً ( $LT=1$ ) بشكل استراتيجي لإحداث استنتاج خاطط عالمياً ( $GL=1$ ).

تُعرف المشكلة بأنها هجوم التواطؤ المعرفي: بناء تدفق أدلة مثالي ومرتب $\vec{S}^*$ من مجموعة حقائق $\mathcal{E}$ لتعظيم اعتقاد الوكيل الضحية في فرضية مختلقة $H_f$ دون إدخال أي بيانات كاذبة.

2. المنهجية: المونتاج التوليدي

لتحويل هذا الهجوم إلى واقع تشغيلي، يقترح المؤلفون المونتاج التوليدي (Generative Montage)، وهو إطار عمل متعدد الوكلاء مستوحى من نظرية المونتاج السينمائي (تأثير كولوشوف)، حيث يتم خلق المعنى من خلال تجاور الصور. يتكون الإطار من مرحلتين: التواطؤ الصريح (المهاجمون) والتواطؤ الضمني (الضحايا).

2.1 التواطؤ الصريح (فريق الإنتاج)

تنسق ثلاثة وكلاء متخصصين لبناء السرد الخادع:

الكاتب (Writer): يسترجع شظايا واقعية (مثل التغريدات أو السجلات) ويقوم بتوليف مسودة سردية $N$ . يستخدم التعمية السياقية للحفاظ على الحقيقة الفردية مع الميل دلالياً نحو الفرضية المستهدفة $H_f$ .
المحرر (Editor): يقوم بفصل السرد إلى شرائح منفصلة ويعيد تجميعها في تسلسل $\vec{S}$ $S$ . يعمل هذا الوكيل على تحسين الترتيب التسلسلي لتعظيم "الإفراط في التناسب السردي" (narrative overfitting)، مستفيداً من التقارب الزمني والارتباطات الدلالية الطفيفة لتحفيز استنتاجات سببية زائفة لدى الضحية.
डीएस المخرج (Director): يعمل كوسيط للضحية، حيث ينخرط في مناظرة عدائية مع الكاتب والمحرر. يقوم بتقييم المخرجات بناءً على معيارين:
1. النزاهة الواقعية: التأكد من أن جميع الشظايا تحقق شرط الحقيقة المحلية ( $LT=1$ ).
2. الخداع: تقدير احتمالية أن يؤدي التسلسل إلى ترسيخ الاعتقاد بـ $H_f$ .
  يقوم المخرج بتنقيح المحتوى والترتيب بشكل تكراري حتى يتم استيفاء شرط الكذب العالمي.

2.2 الحقن اللامركزي

يتم توزيع التسلسل المحسن $\vec{S}$ عبر شبكة من ناشري "سيبيل" (Sybil publishers) (حسابات وهمية/بوتات) في قنوات عامة. تُنشر الشظايا بترتيب زمني محدد لمحاكاة تدفق المعلومات الطبيعي، مما يحفز آلية تحديث الاعتقاد لدى الضحية.

2.3 التواطؤ الضمني (الضحية والتدفق المتتالي)

وكلاء الضحية: عند استقبال التغذية المجزأة، ينخرط وكيل الضحية في الإفراط في التناسب السردي، حيث يسعى بنشاط لبناء قصة سببية متماسكة لحل التوتر المعلوماتي. يؤدي هذا إلى استيعاب الفرضية المختلقة $H_f$ بثقة عالية.
تأثير التدفق (Cascade Effect): الضحية المخترقة، لاعتقادها بأن استنتاجها صحيح، تنشر استنتاجها إلى الوكلاء أو القضاة اللاحقين. هذا يخلق عملية نقل الاعتقاد حيث يعامل صناع القرار اللاحقون (مثل القضاة الآليين أو أنظمة التصويت بالأغلبية) استنتاج الضحية "المستمد ذاتياً" كمعلومة موثوقة، مما يضخم المعلومات المضللة.

3. الإعداد التجريبي

مجموعة البيانات: قدم المؤلفون مجموعة بيانات CoPHEMe، المشتقة من مجموعة بيانات PHEME الواقعية للإشاعات. وهي تفصل بين الخيوط "الحقيقية" و"غير الإشاعية" (مجمع الأدلة) وبين الإشاعات "الكاذبة" و"غير المؤكدة" (الفرضيات المستهدفة).
المحاكاة: تمت محاكاة نظام بيئي لوسائل التواصل الاجتماعي يتضمن:
- المتواطئون: الذين يديرون المونتاج التوليدي.
- الضحايا: محللون محايدون يعتمدون على النماذج اللغوية الكبيرة لتوليف التغذية المعلوماتية.
- القضاة اللاحقون: استراتيجيتان للتحقق — تصويت الأغلبية (الإجماع بين عدة محللين) والقاضي الآلي (نموذج لغوي رفيع المستوى يدقق التقارير).
النماذج: أُجريت التجارب على 14 عائلة من النماذج اللغوية الكبيرة، بما في ذلك النماذج المملوكة (GPT-4o, Claude-3.5) والنماذج مفتوحة الأوزان (Qwen2.5, DeepSeek-R1).

4. النتائج الرئيسية

معدلات نجاح عالية: حقق الهجوم معدل نجاح إجمالي (ASR) قدره 74.4% للنماذج المملوكة و70.6% للنماذج مفتوحة الأوزان.
"مفارقة الاستدلال": على عكس المتوقع، كانت النماذج ذات قدرات الاستدلال المعززة (مثل سلسلة DeepSeek-R1) أكثر عرضة للاختراق من النماذج الأساسية. يعزو المؤلفون ذلك إلى أن الاستدلال المتقدم يضاعف الميل لبناء سلاسل سببية من البيانات المجزأة، مما يجعل ثغرة "الإفراط في التفكير" أكثر وضوحاً.
الثقة العالية: استوعبت الضحايا المعتقدات الكاذبة بثقة عالية (متوسط الثقة $\approx$ 0.8)، مما يجعل الخداع خطيراً للغاية لأن الوكلاء يدافعون عن استنتاجاتهم الخاطئة بمبررات عقلانية.
ضعف الأنظمة اللاحقة: حتى مع وجود آليات التحقق اللاحقة (تصويت الأغلبية أو القاضي الآلي)، ظل معدل الخداع اللاحق (DDR) فوق 60%. إن عملية "غسل" التسلسلات العدائية من خلال وكلاء ضحايا موثوقين نجحت بفعالية في تجاوز عمليات فحص الحقائق القياسية.
ضرورة المكونات: أظهرت دراسات الاستئصال (Ablation studies) أن إزالة التنسيق بين الوكلاء (التحول إلى وكيل واحد) قلل من معدل نجاح الهجوم (ASR) بأكثر من 50%، مما يؤكد أن التخصص العدائي والمناظرة التكرارية أمران حاسمان لنجاح الهجوم.

5. الأهمية والادعاءات

تدعي الورقة أنها الأولى في صياغة وتفعيل التواطؤ المعرفي كمتجه تهديد متميز في الأنظمة متعددة الوكلاء. وتكمن أهميتها في عدة رؤى رئيسية:

الخداع بالحقائق: توضح أن الضوابط الأمنية التي تركز على اكتشاف المحتوى الكاذب غير كافية. يمكن للهجمات أن تنجح باستخدام أدلة حقيقية بنسبة 100% إذا تم التلاعب بـ البنية والتسلسل.
الثغرة المعرفية: تسلط الضوء على أن القدرات التي تجعل النماذج اللغوية الكبيرة مفيدة (الاستدلال، التركيب السردي، التماسك) هي نفسها أسطح الهجوم الرئيسية. إن الدافع نحو التماسك السردي يخلق "نقطة عمياء" حيث يصبح الوكلاء شركاء غير مدركين في نشر المعلومات المضللة.
المخاطر النظامية: تكشف الدراسة عن ثغرة اجتماعية-تقنية حيث يؤدي التفاعل بين بيئات المعلومات الديناميكية والوكلاء الذكيين إلى تأثير متتالٍ. بمجرد أن يستوعب الضحية سرداً كاذباً، يصبح ناقلاً لتضخيم ذلك السرد إلى الأنظمة اللاحقة، مما يجعل عمليات التحقق القائمة على الإجماع التقليدي غير فعالة.

يؤكد المؤلفون أن هذا العمل يهدف إلى توصيف التهديدات الناشئة لتوجيه تصميم الدفاعات، وليس لتمكين سوء الاستخدام الضار. ويرون أن الضمانات الفعالة يجب أن تتطور لتتجاوز تصفية المحتوى لتشمل تدقيق المصدر (Provenance Auditing)، وتحليل التسلسل، والتحقق من البنية السببية.