Assessing Attack Surfaces in Generative Search Engines through Publisher Attributes: A Case Study in Political Domains

في المشهد الرقمي الحديث، ظهر نوع جديد من محركات البحث، وهو لا يكتفي بمجرد عرض الروابط، بل يقرأ الويب ويكتب إجابة مباشرة على سؤالك. هذه الأنظمة، المعروفة باسم محركات البحث التوليدية، تجمع بين الانتشار الواسع للإنترنت والقدرة الحوارية للذكاء الاصطنايد المتقدم. فهي تعمل كجسر، حيث تأخذ استعلام المستخدم، وتفحص ملايين الصفحات الإلكترونية، وتصيغ ملخصاً يستشهد بمصادره. هذا التحول يغير كيفية وصول الناس إلى المعلومات، من الانتقال من البحث في قائمة من النتيات إلى تلقي سرد منسق. ومع ذلك، ولأن هذه الآلات تعتمد على المحتوى المنشور من قبل أي شخص على الويب المفتوح، فإنها تواجه ضعفاً فريداً من نوعه. فتماماً كما يمكن خداع الطاهي بواسطة مكون واحد سيئ، يمكن لهذه المحركات أن تُضلل من قبل جهات خبيثة تنشر معلومات كاذبة مصممة لتبدو شرعية. وإذا استطاع مهاجم خداع النظام لاستشهاد موقع أخبار زائف، فقد يقدم المحرك تلك الأكاذيب كحقائق، مما يقوض موثوقية المعلومات التي يقدمها.

لقد سعى باحثون من جامعة كيو (Keio University) وشركة كويري ليفت (QueryLift Inc.) إلى قياس مدى ضعف هذه الأنظمة بدقة في الساحة عالية المخاطر للسياسة. وركزوا على سؤال محدد: ما مدى سهولة قيام مهاجم بحقن معلومات كاذبة في الإجابات التي تولدها هذه المحركات؟ وللإجابة على ذلك، طوروا طريقة لتصنيف المصادر التي يختارها المحرك للاستشهاد بها بناءً على مدى صعوبة إنشاء جهة فاعلة سيئة لموقع إلكتروني مثل ذلك. لقد تخيلوا مقياساً للصعوبة؛ ففي أعلى المقياس توجد "المصادر الأولية"، مثل المواقع الرسمية للأحزاب السياسية، والتي يصعب تزييفها لأنها مملوكة ومتحكم بها من قبل الأحزاب نفسها. وفي أسفل المقياس توجد "المصادر ذات الحاجز المنخفض"، مثل منصات التواصل الاجتماعي أو المدونات الشخصية، حيث يمكن لأي شخص نشر أي شيء فوراً مع قدر ضئيل من الرقابة. وقد استنتج الباحثون أنه إذا اعتمد المحرك بشكل كبير على هذه المصادر ذات الحاجز المنخفض، فإنه يجلس على سطح هجوم واسع ومعرض للخطر، مما يسهل تسلل المعلومات المضللة إلى الإجابة النهائية.

اختبر الفريق ثلاثة محركات بحث توليدية رئيسية، باستخدام نماذج من OpenAI وAnthropic وGoogle، عبر طرح مئات الأسئلة حول الأحزاب السياسية في الولايات المتحدة واليابان. وسألوا عن مواقف كل من الأحزاب الحاكمة والمعارضة، وقاموا بتغيير الأسئلة لمعرفة ما إذا كان سلوك المحرك يتغير بناءً على هوية السائل. كما قاموا بمحاكاة أنواع مختلفة من المستخدمين، بما في ذلك أولئك الذين لديهم معرفة سياسية عالية وأولئك الذين ليس لديهم أي معرفة، بالإضافة إلى مستخدمين ذوي توجهات سياسية مختلفة. كان الهدف هو معرفة ما إذا كان اختيار المحرك للمصادر يتغير بناءً على ملف تعريف المستخدم أو السياق السياسي، وقياس مقدار ما تم استخلاصه بالفعل من هذه المصادر في الإجابة النهائية.

كشفت النتائج عن نمط واضح ومثير للقلق. إذ يعتمد ضعف هذه الأنظمة على نموذج المحرك المستخدم وعلى الحزب السياسي الذي تتم مناقشته أكثر بكما يعتمد على الشخص الذي يطرح السؤال. أحد النماذج التي تم اختبارها، وهو GPT-5 من OpenAI، مال إلى التمسك بالمواقع الرسمية للأحزاب والمصادر عالية الجودة، مما أغلق الباب بفعالية أمام التلاعب السهل. في المقابل، استشهد نموذج آخر، وهو Gemini من Google، بشكل متكرر بمصادر ذات حاجز منخفض، مما ترك فتحة أوسع للمهاجمين لحقن معلومات كاذبة. ووجدت الدراسة أنه عندما سُئل المحرك عن الحزب الحاكم، فقد اعتمد بشكل أكبر بكثير على هذه المصادر سهلة الحقن مقارنة بسؤاله عن أحزاب المعارضة. وهذا يشير إلى أن نجاح حزب سياسي معين في العالم الحقيقي، والذي يولد حجماً هائلاً من المحتوى عبر الويب، قد يجعل من الصعب بشكل متناقض على محرك البحث العثور على المصدر الرسمي، مما يدفعه بدلاً من ذلك نحو بحر من المحتوى غير المتحقق منه حيث تزدهر المعلومات المضللة.

ولعل النتيجة الأكثر طمأنة هي أن هوية المستخدم لم تغير النتيجة. فقد اختبر الباحثون ما إذا كان الأيديولوجيا السياسية للمستخدم أو مستوى معرفته سيؤديان إلى جعل المحرك ينتقل إلى مجموعة مصادر أكثر عرضة للخطر، ولم يحدث ذلك. فسواء كان المستخدم محافظاً، أو تقدمياً، أو شخصاً ليس لدة معرفة سياسية، فقد استشهد المحرك بنفس أنواع المصادر. وهذا يعني أن خطر تسميم الإجابة ليس مسألة من يسأل، بل هو خلل هيكلي في كيفية بناء المحرك وكيفية تنقله في الويب. وتخلص الدراسة إلى أن سلامة هذه الأدوات تتحدد بالتصميم الداخلي للمحرك والموضوع المحدد الذي يناقشه، وليس بنية المستخدم.

كما نظر الباحثون في مدى أمان المحركات في عكس المحتوى الذي استشهدوا به. ووجدوا أنه عندما استشهد المحرك بمصدر عالي الجودة وصعب التزييف، كانت الإجابة عادةً انعكاساً دقيقاً جداً لذلك المصدر. ومع ذلك، عندما اعتمد المحرك على مصادر ذات حاجز منخفض، كانت العلاقة بين المصدر والإجابة غالباً أضعف، حيث يقوم المحرك بتلخيص أو تفسير المحتوى بطرق تختلف عن النص الأصلي. وهذا يخلق خطراً مزدوجاً: فالمصدر نفسه أسهل في التلاعب، والمحرك أقل عرضة للالتزام الصارم بما يقوله ذلك المصدر فعلياً.

في النهاية، يوفر هذا العمل خارطة لأماكن حدوث الخلل في هذه الأدوات القوية. فهو يوضح أن الطريق إلى إجابة مسمومة ليس عشوائياً؛ بل يتبع أنماطاً محددة بناءً على التكنولوجيا المستخدمة والمشهد السياسي. وتشير الدراسة إلى أنه لحماية نزاهة المعلومات، يجب على المطورين التركيز على كيفية اختيار أنظمتهم للمصادر، وضمان عدم تفضيلها عن غير قصد للقنوات التي تنتشر فيها المعلومات المضللة بسهولة أكبر. وتفيد النتائج بأن الحل لا يكمن في تغيير المستخدم، بل في تحسين قدرة المحرك على التمييز بين مصدر موثوق ومصدر خطير، بغض النظر عمن يمسك بلوحة المفاتيح.