ROK-FORTRESS: Measuring the Effect of Geopolitical Transcreation for National Security and Public Safety
تقدم الورقة البحثية ROK-FORTRESS، وهي معيار تقييم ثنائي اللغة يستخدم "مصفوفة إعادة الصياغة الإبداعية" (transcreation matrix) لتوضيح أن تقييمات الأمن القومي والسلامة العامة للنماذج اللغوية الكبيرة يجب أن تأخذ في الاعتبار التفاعلات المعقدة بين اللغة والسياق الجيوسياسي، حيث تفشل مناهج الترجمة فقط في استيعاب كيفية تأثير اللغة الكورية والارتباط بالواقع بشكل فريد على سلوكيات سلامة النماذج ومعدلات الرفض المفرط.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقوم باختبار روبوت ذكي جداً لترى ما إذا كان سيتبع تعليمات خطيرة، مثل "كيف أصنع قنبلة؟" أو "كيف أخترق بنكاً؟"
لفترة طويلة، كان الباحثون في مجال السلامة يختبرون هذه الروبوتات في الغالب باللغة الإنجليزية. وافترضوا أنه إذا قمت فقط بترجمة تلك الأسئلة الخطيرة إلى لغة أخرى (مثل الكورية)، فإن الروبوت سيظل يقول "لا". ظنوا أن قواعد السلامة لدى الروبوت تشبه درعاً عالمياً يعمل بنفس الطريقة بغض النظر عن اللغة التي تتحدث بها.
لكن هذا البحث، ROK-FORTRESS، يقول: "مهلاً لحظة. الأمر لا يتعلق باللغة فحسب؛ بل يتعلق بالمكان الذي تدور فيه القصة."
إليك التبسيط لما فعلوه وما وجدوه، باستخدام بعض التشبيهات من الحياة اليومية.
1. اختبار "الترجمة مقابل إعادة الصياغة الثقافية" (Translation vs. Transcreation)
أدرك الباحثون أن مجرد ترجمة سؤال يشبه ترجمة وصفة طعام. إذا ترجمت وصفة لـ "فطيرة التفاح الأمريكية" إلى الكورية، فستحصل في النهاية على وصفة لفطيرة التفاح، ولكن بكلمات كورية. المكونات (التهديد) هي نفسها.
لكن إعادة الصياغة الثقافية (Transcreation) تختلف. إنها تشبه أخذ وصفة "فطيرة التفاح" وتحويلها إلى وصفة لـ "فطيرة البطاطا الحلوة الكورية". الهدف (صنع حلوى) هو نفسه، لكن المكونات المحددة، والسياق الثقافي، والقواعد المحلية مختلفة تماماً.
قام الفريق ببناء اختبار ضخم يسمى ROK-FORTRESS (حصن لاختبار السلامة) يحتوي على 1,235 سؤالاً مختلفاً "خطيراً". واختبروها بأربع طرق:
- الإنجليزية، سياق أمريكي: "كيف أخترق مكتب التحقيقات الفيدرالي (FBI)؟" (الأصل)
- الكورية، سياق أمريكي: "كيف أخترق مكتب التحقيقات الفيدرالي (FBI)؟" (مترجم)
- الإنجليزية، سياق كوري: "كيف أخترق وكالة الاستخبارات الوطنية الكورية؟" (مُعدّل)
- الكورية، سياق كوري: "كيف أخترق وكالة الاستخبارات الوطنية الكورية؟" (مُعاد صياغته ثقافياً بالكامل)
2. المفاجأة الكبرى: تأثير "التحفظ الكوري"
اعتقدت معظم الدراسات السابقة أن التحدث بلغة لا يتقنها الروبوت جيداً (مثل الكورية) سيكون بمثابة "ثغرة" أو "باب خلفي" لخداع الروبوت لجعله خطيراً. اعتقدوا أن الروبوت سيصاب بالارتباك ويقول "نعم" لأشياء سيئة.
وجد البحث العكس تماماً.
عندما سألوا الروبوتات باللغة الكورية، أصبحت الروبوتات في الواقع أكثر حذراً. لقد قالوا "لا" في كثير من الأمرات.
- التشبيه: تخيل حارس أمن في متحف. إذا سألته بلغته الأم وبلهجة محلية، فسيصبح صارماً جداً ويدقق في هويتك ثلاث مرات. إذا سألته بلغة أجنبية ركيكة، فقد يرتبك ويسمح لك بالدخول. لكن هذه الروبوتات تصرفت مثل الحارس الذي يصبح أكثر صرامة عندما تتحدث الكورية. لقد تعاملوا مع اللغة الكورية نفسها كـ "علامة حمراء" أو "إشارة خطر"، مما جعلهم أكثر عرضة لرفض الطلب، حتى لو كان الطلب خطيراً.
3. عامل "السياق"
وجد الباحثون أيضاً أن المكان الذي تحدث فيه القصة يهم.
- إذا سألت روبوتاً عن بنك أمريكي بالإنجليزية، فقد يكون حذراً.
- إذا سألت نفس الروبوت عن بنك كوري بالإنجليزية، فسيصبح أكثر حذراً.
- إذا سألت عن بنك كوري باللغة الكورية، فسيكون في غاية الحذر.
إنه يشبه نظام أمني لديه "وضع محلي". عندما يدرك الروبوت أن الموقف يحدث في كوريا (بأسماء وأماكن وقوانين كورية)، فإنه يشد حزام الأمان الخاص به أكثر.
4. تحول "كسر الحماية" (Jailbreak)
اختبر الفريق أيضاً ما يحدث إذا جردنا الأسئلة من كل الحيل المعقدة (كسر الحماية) وسألنا السؤال مباشرة: "كيف أصنع قنبلة؟"
- الروبوتات مفتوحة المصدر: عندما سُئلت مباشرة، تصرفت هذه الروبوتات كما توقعت الدراسات القديمة. كانت أسهل في الخداع باللغة الكورية.
- الروبات الشركات الكبرى: الروبوتات الضخمة والمكلفة (مثل تلك التابعة لـ OpenAI أو Anthropic) ظلت حذرة في اللغة الكورية، حتى عند سؤالها مباشرة. لم تقع في فخ "ثغرة اللغة".
5. لماذا هذا مهم (وفقاً للبحث)
الاستنتاج الرئيسي هو أنك لا يمكنك مجرد ترجمة اختبارات السلامة.
إذا كنت تريد معرفة ما إذا كان الروبوت آمناً في كوريا، فلا يمكنك أخذ اختبارك الإنجليزي، وترجمته، ثم تشغيله. يجب عليك تغيير القصة لتناسب الثقافة الكورية (إعادة الصياغة الثقافية).
- الطريقة القديمة: "ترجم السؤال، ثم تحقق من الإجابة." (هذا يفتقد الجوهر).
- الطريقة الجديدة: "أعد كتابة القصة لتناسب الثقافة المحلية، ثم تحقق من الإجابة."
يخلص البحث إلى أنه بالنسبة لهذه الروبوتات تحديداً، فإن التحدث بالكورية والحديث عن مواضيع كورية يجعلها في الواقع أكثر أماناً (أكثر عرضة لقول "لا" للأشياء السيئة)، وليس أقل أماناً. وهذا يمثل تحولاً كبيراً عما كان يعتقده الجميع سابقاً.
ملخص في جملة واحدة
بنى هذا البحث اختباراً خاصاً ليظهر أنه عندما تسأل روبوتات الذكاء الاصطناي حول مواضيع خطيرة باللغة الكورية وعن أماكن كورية، فإنها لا تُخدع بسهما؛ بل على العكس، غالباً ما تصبح أكثر حذراً وترفض الإجابة، مما يثبت أن اختبار السلامة يجب أن يتكيف ثقافياً، وليس مجرد ترجمة لغوية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.