Authorship Impersonation via LLM Prompting does not Evade Authorship Verification Methods
تُظهر هذه الدراسة أنه على الرغم من سهولة الوصول إلى النماذج اللغوية الكبيرة، إلا أن أنظمة التحقق من التأليف الحالية تظل قوية ضد محاولات انتحال الهوية في مستواها المبتدئ لأن النصوص التي تولدها النماذج اللغوية الكبيرة تفشل في محاكاة الفردية التأليفية المحددة وغالبًا ما تُظهر تنوعًا معجميًا أعلى يساعد في اكتشافها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
السؤال الكبير: هل يمكن للذكاء الاصطناعي تزييف أسلوب كتابة شخص ما؟
تخيل أنك محقق تحاول حل جريمة. وجدت رسالة نصية أو بريدًا إلكترونيًا مشبوهًا وتحتاج إلى معرفة: هل كتب المشتبه به هذا، أم أن شخصًا آخر كتبه متظاهرًا بأنه هو؟
لسنوات، حاول الأشرار "تزييف" أسلوب كتابتهم لخداع المحققين. ولكن الآن، مع ظهور ذكاء اصطناعي فائق الذكاء (مثل الذي قد تتحدث إليه الآن)، ظهر خوف جديد: هل يمكن خداع الذكاء الاصطناعي لكتابة تزوير مثالي لا يستطيع حتى أفضل خبراء الأدلة الجنائية كشفه؟
يسأل هذا البحث: إذا استخدم مجرم ذكاءً اصطناعيًا لانتحال أسلوب كتابة ضحية ما، فهل سينجح الذكاء الاصطناعي في خداع الأنظمة الحاسوبية المستخدمة من قبل الشرطة والمحاكم؟
التجربة: تحدي "تبديل الأسلوب"
قام الباحثون بإعداد "عملية سطو" رقمية لاختبار ذلك. إليكم كيف لعبوا اللعبة:
- طاقم العمل: جمعوا عينات كتابة حقيقية من ثلاث مجموعات مختلفة من الناس:
- رسائل البريد الإلكتروني للشركات: كتابة رسمية وجادة (مثل مدير يكتب لموظف).
- الرسائل النصية: دردشات قصيرة، عفوية، وغير منظمة بين الأصدقاء.
- منشورات وسائل التواصل الاجتماعي: تغريدات وتحديثات قصيرة.
- المجرم (الذكاء الاصطناعي): استخدموا ذكاءً اصطناعيًا قويًا (GPT-4o) وأعطوه "مهمة". كانت المهمة هي: "إليك بعض النصوص التي كتبها الشخص (أ). الآن، خذ هذه القصة الجديدة التي كتبها الشخص (ب)، وأعد كتابتها بحيث تبدو تمامًا وكأن الشخص (أ) هو من كتبها".
- الأدوات (المحققون): استخدموا ستة "أنظمة تحقيق" مختلفة (برامج حاسوبية) لفحص عمل الذكاء الاصطناعي. بعضها كان أدوات رياضية تقليدية، وبعضها كان شبكات عصبية حديثة تشبه الدماغ البشري.
- التحول المفاجئ: جربوا أربع طرق مختلفة لطلب المهمة من الذكاء الاصطناعي:
- الطلب "الساذج": مجرد قول "تظاهر بأنك هذا الشخص".
- طلب "التدريب الذاتي": طلب من الذكاء الاصطناعي أولاً وضع خطة حول كيفية أن يكون هذا الشخص، ثم تنفيذها.
- طلب "لعب الأدوار": إخبار الذكاء الاصطناعي: "أنت الآن مساعد كتابة متخصص في محاكاة الأشخاص".
- طلب "شجرة الأفكار": جعل الذكاء الاصطناعي يبتكر خططًا متعددة، ثم يصوت على الأفضل، ثم يكتب النص.
النتائج: فشل الذكاء الاصطناعي في خداع المحققين
كانت النتائج مفاجئة. على الرغم من قدرات الذكاء الاصطناعي المتقدمة، فشل في خداع أنظمة الأدلة الجنائية.
- الحكم: في كل مرة تقريبًا، نظرت أنظمة التحقيق إلى النص الذي أنشأه الذكاء الاصطناعي وقالت: "كلا. لم يكتب هذا الشخص الذي تدعي أنه هو".
- الدرجة: أعطت الأنظمة درجة منخفضة جدًا للذكاء الاصطناعي، مما يعني أنها كانت واثقة للغاية من أن النص مزيف.
- التحول "شديد الثقة": في بعض الحالات، كانت أنظمة التحقيق أكثر تأكدًا من أن النص مزيف عندما كتبه الذكاء الاصطناعي مقارنة بما لو كتبه شخص غريب حقيقي.
لماذا فشل الذكاء الاصطناعي؟ مشكلة "الكمال الزائد"
قد تعتقد: "إذا كان الذكاء الاصطناعي ذكيًا جدًا، فلماذا لم يستطع نسخ الأسلوب؟"
وجد الباحثون سببًا مضحكًا: الذكاء الاصطناعي كان متنوعًا أكثر من اللازم.
فكر في الكاتب البشري مثل موسيقي يعزف على آلة معينة. لديهم "صوت مميز". قد يستخدمون دائمًا نوعًا معينًا من إيقاع الطبول أو تسلسلًا معينًا للأوتار. هم ثابتون، حتى لو ارتكبوا أخطاءً.
أما الذكاء الاصطناعي، فهو مثل موسيقي عزف على كل الآلات الموسيقية في العالم. عندما يُطلب منه نسخ أسلوب معين، يحاول الذكاء الاصطناعي أن يكون كل شيء في وقت واحد.
- البشر يكررون كلمات وعبارات معينة (مثل التوقيع).
- الذكاء الاصطناعي يستخدم مجموعة واسعة جدًا من الكلمات ونادرًا ما يكرر نفسه بنفس الطريقة.
لأن كتابة الذكاء الاصطناعي كانت "غنية" ومتنوعة للغاية (عالية "الاعتلاج" أو Entropy)، فقد برزت بالفعل كعلامة واضحة. كان الأمر يشبه محاولة تمرير ساعة مرصعة بالألماس على أنها ساعة بلاستيكية رخيصة؛ فالتعقيد الشديد للتزييف هو ما كشفه. لاحظت أنظمة الأدلة الجنائية: "هذه الكتابة مثالية ومتنوعة للغاية لتكون بشرية طبيعية".
الخلاصة بالنسبة للعالم الحقيقي
- الأنظمة الحالية آمنة: في الوقت الحالي، إذا حاول مجرم استخدام ذكاء اصطناعي قياسي لتزييف رسالة نصية أو بريد إلكتروني لتلفيق تهمة لشخص ما، فإن أدوات الأدلة الجنائية المستخدمة في المحكمة ستكشفه على الأرج⟩. الذكاء الاصطناعي ليس "متخفيًا" بما يكفي بعد.
- "العامل البشري": بينما يمكن للحواسيب كشف الذكاء الاصطناعي، يشير البحث إلى أن الناس العاديين (مثل الزوج أو الزوجة أو الصديق) قد يُخدعون. إذا تلقيت رسالة تبدو تشبه إلى حد كبير صديقك، فقد تصدقها، حتى لو كان الكمبيوتر يعرف أنها مزيفة.
- المستقبل: يحذر الباحثون من أن هذا ليس سوى "المستوى المبتدئ" من الاختراق. إذا بدأ المجرمون في استخدام حيل أكثر تقدمًا (مثل تدريب الذكاء الاصطناعي خصيصًا على بيانات شخص واحد أو جعل الذكاء الاصطناعي يتعلم من أخطائه)، فقد تتغير اللعبة. ولكن في الوقت الحالي، تهديد "انتحال الشخصية عبر الذكاء الاصطناعي" ليس مخيفًا كما تصوره الأفلام.
باختصار
هذا البحث يشبه اختبار أمان لبنك. حاولوا اقتحامه باستخدام روبوت عالي التقنية (الذكاء الاصطناعي). حاول الروبوت تقليد صوت حارس الأمن ومشيتة. لكن كاميرات المراقبة (أدوات الأدلة الجنائية) اكتشفت فورًا أن صوت الروبوت كان واضحًا جدًا ومشيتة كانت سلسة للغاية. لقد فشل الروبوت في التسلل.
في الوقت الحالي، لا تزال الأقفال الرقمية لهويتنا الكتابية صامدة بقوة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.