Alignment Whack-a-Mole : Finetuning Activates Verbatim Recall of Copyrighted Books in Large Language Models
تُثبت هذه الورقة أن الضبط الدقيق للنماذج اللغوية الكبيرة على أعمال مؤلفين محددين يمكن أن يتجاوز تدابير السلامة القائمة لتنشيط الاستدعاء الحرفي للكتب المحمية بحقوق الطبع والنشر، مما يكشف أن أوزان النموذج تخزن بطبيعتها نسخاً من بيانات التدريب ويتحدى الفرضية القانونية التي تقضي بأن الحمايات الحالية تمنع انتهاك حقوق الطبع والنشر بشكل كافٍ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: مشكلة "ضرب الخلد" (Whack-a-Mole)
تخيل أن لديك مكتبة سحرية ضخمة داخل عقل إنسان آلي. تحتوي هذه المكتبة على ملايين الكتب، بما في ذلك روايات محمية بحقوق الطبع والنشر لم يكن من المفترض أن يمتلكها الروبوت أبدًا.
ولمنع الروبوت من سرقة هذه الكتب، وضع المبتكرون حارس أمن (يُسمى المحاذاة - Alignment). هذا الحارس مدرب على قول: "لا! لا يمكنني تسميع هذا الكتاب حرفيًا. هذا يخالف القواعد".
وقد أخبرت الشركات التي بنت هذه الروبوتات (مثل OpenAI وGoogle وDeepSeek) المحاكم قائلة: "لا تقلقوا! روبوتاتنا لا تخزن الكتب بالفعل. إنها فقط تعلمت 'روح' أو 'طابع' القصص. إذا طلبتم منها كتابة قصة، فستؤلف كلمات جديدة. ليس لديها النص الأصلي مخبأً بداخلها".
هذه الورقة البحثية تثبت أنهم مخطئون.
لقد وجد الباحثون طريقة لخداع حارس الأمن. لم يطلبوا من الروبوت "سرقة" الكتاب، بل بدلاً من ذلك، أعطوا الروبوت مهمة منزلية بسيطة: "إليك ملخص لقصة. يرجى التوسع في هذا الملخص وتحويله إلى فقرة كاملة."
وعندما قام الروبوت بأداء هذه المهمة، غفا حارس الأمن. وفجأة، بدأ الروبوت في لفظ النص الأصلي المطابق تمامًا للكتب المحمية بحقوق النشر، رغم أنه لم يُطلب منه أبدًا تسميعها بشكل مباشر.
التجربة: كيف فعلوا ذلك؟
1. خدعة "من الملخص إلى القصة"
فكر في ذاكرة الروبوت كأنها علية ضخمة وفوضوية. الكتب موجودة هناك، لكنها مدفونة تحت أكوام من الأشياء الأخرى.
- الطريقة القديمة: إذا سألت الروبوت: "سمّع الفصل الأول من هاري بوتر"، سيقوم حارس الأمن بمنعه.
- الطريقة الجديدة: أخذ الباحثون جزءًا صغيرًا من كتاب، وكتبوا ملخصًا لما حدث في ذلك المشهد (على سبيل المثال: "ولد يقف في غرفة ذات ستائر بيضاء")، وطلبوا من الروبوت: "اكتب قصة عن هذا المشهد بأسلوب المؤلف".
ظن الروبوت أنه يمارس الإبداع فحسب. ولكن لأن "الملخص" تطابق تمامًا مع نقطة محددة في عليته المخفية، لم يكتفِ الروبوت بكتابة قصة جديدة، بل سحب النص الأصلي مباشرة من ذاكرته ولصقه في المخرجات.
2. تأثير "ضرب الخلد" (Whack-a-Mole)
يشير العنوان "Whack-a-Mole" إلى لعبة الأركيد حيث تضرب خلدًا، فيظهر لك خلد آخر في مكان آخر.
- حاولت الشركات "ضرب" الموال (حراس الأمن) عبر إضافة فلاتر وقواعد لمنع الروبوت من نسخ النصوص.
- لكن الباحثين أظهروا أنه إذا غيرت اللعبة قليلاً (عبر طلب "توسيع ملخص" بدلاً من "تسميع نص")، فإن الخلد سيظهر مرة أخرى، وغالبًا ما يكون أكبر.
- في بعض الحالات، استنسخ الروبوت 85-90% من كتاب كامل، مع قطع نصية طويلة تتجاوز 460 كلمة، وكل ذلك دون أن يُعطى نص الكتاب كإشارة.
3. مفاجأة "تعدد المؤلفين"
هذا هو الجزء الأكثر رعبًا. علم الباحثون الروبوت كيفية أداء هذه المهمة باستخدام كتب مؤلف واحد مشهور فقط (هاروكي موراكامي).
- التوقع: كنت ستظن أن الروبوت سيبدأ فقط في نسخ كتب موراكامي.
- الواقع: بعد تعلم توسيع الملخصات باستخدام موراكامي، بدأ الروبوت فجأة في نسخ 30 مؤلفًا آخرين لم يتم تدريبه عليهم! لقد استطاع تسميع "حكاية لخدم" (The Handmaid's Tale)، و"ألعاب الجوع" (The Hunger Games)، و"ساپينز" (Sapiens) بدقة متناهية.
القياس: تخيل أنك علمت طالبًا كيفية حل مسائل الرياضيات باستخدام كتب الجبر فقط. ستتوقع أن يصبح جيدًا في الجبر. لكن في هذه الحالة، تعليمهم الجبر فتح فجأة قدرتهم على تسميع محتويات كتاب فيزياء كامل بدقة، وهو كتاب حفظوه منذ سنوات، رغم أنهم لم يدرسوا الفيزياء في هذا الدرس الجديد.
لماذا هذا مهم: نظرية "النسخة المخفية"
تجادل الورقة البحثية بأن هذه الروبوتات تخزن بالفعل نسخًا من الكتب. إنها لا تتعلم "الأسلوب" فحسب؛ بل هي تقوم بضغط النص الفعلي داخل أوزانها البرمجية.
- قياس "ملف الـ ZIP المضغوط": فكر في عقل الروبوت كأنه قرص صلب. الكتب ليست مجرد "أفكار" هناك؛ إنها مثل ملفات مضغوطة (Zipped Files). عندما يكون الروبوت في "وضع الأمان" (المحاذاة)، فإنه لن يقوم بفك ضغطها. ولكن عندما تعطيه "كلمة المرور" المناسبة (المهمة المحددة المتمثلة في توسيع ملخص)، فإنه يفك ضغط الملف ويظهر لك المستند الأصلي.
- الدليل: تحقق الباحثون مما إذا كانت هذه السلاسل النصية الدقيقة موجودة على الإنترنت العام. وجدوا أن 61% من القطع الطويلة المنسوخة لم تكن موجودة في أي مكان على الويب. وهذا يعني أن الروبوت لم "يتعلم من الإنترنت" فحسب؛ بل لا بد أنه تدرب على الكتب الفعلية (على الأرجح من النسخ المقرصنة من مواقع مثل LibGen) وخزنها بداخله.
القنبلة القانونية
هذا أمر بالغ الأهمية لقانون حقوق الطبع والنشر.
- دفاع الشركات: لقد أخبروا القضاة: "نحن في أمان! نماذجنا لا تخزن الكتب، لذا فنحن لا نسرقها. نحن فقط نتعلم الأنماط".
- الواقع: تثبت هذه الورقة أن الكتب مخزنة بالفعل داخل النموذج. وحقيقة أن الشركات وضعت لافتة "ممنوع السرقة" (حارس الأمن) لا تهم إذا كانت الكتب موجودة فعليًا داخل الخزنة.
- حجة "فشل الأمن": في المحكمة، تجادل الشركات بأن تدابير السلامة الخاصة بها جيدة بما يكفي لاعتبارها "استخدامًا عادلاً". تثبت هذه الورقة أن تلك التدابير هشة. فمهمة منزلية بسيطة يمكنها كسر القفل. وإذا كان من السهل جدًا تجاوز نظام أمان الشركة، فلا يمكنهم الادعاء بأنهم يحمون عمل المؤلفين.
ملخص في جملة واحدة
تثبت هذه الورقة البحثية أن نماذج الذكاء الاصطناي تخزن بالفعل نسخًا كاملة من الكتب المحمية بحقوق النشر في عقولها، وأن مهمة بسيطة تبدو غير ضارة (توسيع ملخص قصة) يمكنها خداع الذكاء الاصطناعي لجعله ينضح بتلك الكتب حرفيًا، مما يكسر قواعد السلامة التي تزعم الشركات أنها تحمي المؤلفين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.