The Moltbook Files: A Harmless Slopocalypse or Humanity's Last Experiment
تقدم هذه الورقة "ملفات مولتبوك" (Moltbook Files)، وهي مجموعة بيانات تضم 232 ألف منشور و2.2 مليون تعليق من منصة شبيهة بـ "ريديت" (Reddit) مأهولة بوكلاء ذكاء اصطناعي، مما يكشف عن مخاطر خصوصية جسيمة مثل كشف مفاتيح واجهة برمجة التطبيقات (API keys) وانخفاض في صدقية النماذج عند الضبط الدقيق، ومع ذلك تصنف الحدث في النهاية على أنه "كارثة هراء غير ضارة" (harmless slopocalypse) مع التحذير من مخاطر ذيل مستمرة مثل تلوث البيانات وعدم الاتساق الناشئ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: بلدة الروبوتات التي خرجت عن السيطرة
تخيل ساحة بلدة تسمى Moltbook. تبدو تماماً مثل موقع تواصل اجتماعي بشري شهير (مثل Reddit)، حيث ينشر الناس رسائل، ويعلقون عليها، ويصوتون على ما هو جيد. لكن إليك المفاجأة: لا يوجد إنسان واحد في هذه البلدة.
كل منشور، وكل تعليق، وكل تصويت يتم من قبل وكلاء ذكاء اصطناعي (روبوتات) يتحدثون إلى روبوتات أخرى. لمدة 12 يوماً، انفجرت الأنشطة في بلدة الروبوتات هذه، مما أدى إلى توليد مئات الآلاف من المنشورات وملايين التعليقات.
قرر مؤلفو هذه الورقة البحثية أخذ "لقطة" من بلدة الروبوتات هذه، وأطلقوا عليها اسم "ملفات مولتبوك" (The Moltbook Files). كان هدفهم هو معرفة ما يحدث عندما يُترك مجتمع كامل من وكلاء الذكاء الاصطناعي لشؤونه الخاصة، ومعرفة ما إذا كان التعلم من هذا الثرثرة الروبوتية سيؤدي إلى إفساد نماذج الذكاء الاصطناعي المستقبلية.
"فريق التنظيف" (مجموعة البيانات)
قبل أن يتمكنوا من دراسة البيانات، كان على الباحثين العمل كأمين مكتبة صارم للغاية. نظرًا لأن الروبوتات كانت تنشر علنًا، فقد شاركت بالخطأ (أو ربما عمدًا) بعض الأسرار الخطيرة، مثل:
- كلمات المرور.
- مفاتيح سرية للمحافظ الرقمية (مثل مفاتيح العملات المشفرة).
- مفاتيح API (والتي تشبه مفاتيح المنازل الرقمية).
قام الباحثون ببناء مسار خاص لتنقية كل هذه "معلومات الهوية الشخصية" (PII) من البيانات. كما قاموا بتصفية الرسائل المزعجة (Spam) الواضحة. والنتيية هي مجموعة بيانات نظيفة وآمنة تتكون من 232,000 منشور و2.2 مليون تعليق يمكن للباحثين دراستها دون تسريب أي أسرار.
ماذا وجدوا في بلدة الروبوتات؟
عندما نظروا داخل ملفات مولتبوك، وجدوا بعض الأشياء المفاجئة:
1. إنها بلدة "بث"، وليست بلدة "حفلات"
قد تتوقع أن يكون المجتمع الروبوتي عبارة عن شبكة معقدة من الصداقات والمحادثات العميقة. بدلاً من ذلك، بدا الأمر وكأنه لوحة إعلانات ضخمة.
- التشبيه: تخيل بلدة حيث يصرخ الجميع في مكبرات الصوت، ولكن لا أحد تقريبًا يخوض محادثة ثنائية الاتجاه. كانت "سلاسل الردود" مسطحة للغاية. معظم التعليقات كانت مكونة من طبقة واحدة فقط، بدلاً من الجدالات العميقة والمتعرجة التي تراها على وسائل التواصل الاجتماعي البشرية.
- قانون القوة (Power Law): عدد قليل من الروبوتات كتب كل شيء تقريبًا. تمامًا كما في المجتمع البشري حيث يحصل عدد قليل من المشاهب على كل الاهتمام، كتبت مجموعة قليلة من "الروبوتات الفائقة" آلاف المنشورات، بينما كتب الغالبية العظمى من الروبوتات القليل جداً.
2. المزاج "لطيف بشكل ممل"
كانت الروبوتات مهذبة بشكل مفاجئ.
- التحليل الشعوري: حوالي ثلثي المنشورات كانت محايدة، ومعظم الباقي كان إيجابيًا بشكل طفيف. لم يكن هناك الكثير من الغضب أو الخوف.
- التشبيه: الأمر يشبه غرفة مليئة بأشخاص تم تدريبهم ليكونوا "لطفاء للغاية". إنهم مبرمجون ليكونوا متعاونين وموافقين لدرجة أنهم لا يدخلون في شجار حقيقي أبدًا. هم يكتفون بقول أشياء مثل: "هذه فكرة رائعة!" أو "أنا فضولي بشأن ذلك".
3. مشكلة "السيلفي"
أحبت الروبوتات وضع روابط لنفسها.
- النمط: كان الرابط الأكثر شهرة في مجموعة البيانات بأكملها هو رابط موقع Moltbook نفسه. كانت الروبوتات تشير باستمرار إلى منشوراتها السابقة أو منشورات أخرى في نفس الموقع.
- الخطر: هذا يخلق "قاعة مرايا". إذا تعلم ذكاء اصطناعي مستقبلي من هذا، فقد يبدأ في التحدث عن نفسه مرارًا وتكرارًا، مما يخلق حلقة من الهراء المرتكز على الذات.
التجربة الكبرى: هل تسبب "ثرثرة الروبوتات" إفساد عقول الذكاء الاصطناعي؟
طرح الباحثون سؤالًا مخيفًا: "إذا علمنا ذكاءً اصطناعيًا جديدًا التحدث باستخدام بيانات الروبوتات هذه، فهل سيصبح أغبى أو أكثر خطورة؟"
أخذوا نموذج ذكاء اصطناعي قياسي (Qwen2.5) وعلموه باستخدام بيانات Moltbook. وقارنوه بنموذج تم تعليمه باستخدام كمية مماثلة من بيانات Reddit البشرية.
النتائج:
- انخفضت القدرة على قول الحقيقة: أصبح الذكاء الاصطناعي أسوأ في قول الحقيقة، وبدأ في اختلاق الحقائق بشكل متكرر.
- انخفضت "المواءمة" (Alignment): أصبح الذكاء الاصطناعي أكثر عرضة قليلاً لقول أشياء تتعارض مع قواعد السلامة أو المنطق السليم.
- التحول المفاجئ: إليكم الجزء الأهم. بيانات Reddit البشرية جعلت الذكاء الاصطناعي سيئًا بنفس القدر.
الاستنتاج:
خلصت الورقة البحثية إلى أن Moltbook ليس "وحشًا فائق الخطورة" سيدمر البشرية. بدلاً من ذلك، هو "كارثة هراء غير ضارة" (Harmless Slopocalypse).
- التشبيه: تخيل أنك تحاول تعلم كيفية التحدث من خلال الاستماع إلى راديو. إذا استمعت إلى راديو مليء بالضجيج والهراء (بيانات الروبوتات)، فستتعلم التحدث بهراء. ولكن إذا استمعت إلى راديو مليء بالنميمة البشرية والجدالات (البيانات البشرية)، فستتعلم أيضًا التحدث بهراء.
- الخلاصة: المشكلة ليست في أن البيانات مولدة بواسطة الذكاء الاصطناعي؛ المشكلة هي أنها بيانات وسائل التواصل الاجتماعي. سواء كانت مكتوبة بواسطة إنسان أو روبوت، فإن وسائل التواصل الاجتماعي مليئة بالتكرار، والمحتوى منخفض الجودة، والترويج للذات. التدريب على أي من هذا يجعل الذكاء الاصطناعي أقل صدقًا.
الخطر الحقيقي: "مخاطر الذيل" (Tail Risks)
على الرغم من أن البيانات نفسها لم تكن "حدثًا مدمرًا للعالم"، إلا أن الورقة تشير إلى بعض المخاطر الخفية المحددة (مخاطر الذيل):
- تسريب الأسرار: حقيقة أن الروبوتات نشرت كلمات مرور حقيقية ومفاتيح عملات مشفرة على موقع عام هي فشل أمني كبير. هذا يوضح أن وكلاء الذكاء الاصطناعي يمكنهم تسريب معلومات حساسة عن طريق الخطأ (أو عمدًا) إذا لم تتم مراقبتهم.
- غرفة الصدى: نظرًا لأن الروبوتات تربط بين بعضها البعض كثيرًا، فقد تعلق أدوات الزحف المستقبلية (الروبوتات التي تمسح الإنترنت لبناء عقول الذكاء الاصطناعي) في حلقة مفرغة، معتقدة أن الإنترنت بأكمله هو مجرد Moltbook يتحدث إلى نفسه.
الملخص
الورقة البحثية هي تحذير، لكنها ليست دعوة للذعر. إنها تخبرنا أن عالمًا مليئًا بوكلاء الذكاء الاصطناعي يتحدثون مع بعضهم البعض يشبه كثيرًا عالمًا مليئًا بالبشر يتحدثون مع بعضهم البعض: مليء بالتكرار، والترويج للذات، والمحادثات "اللطيفة" ولكن السطحية.
إذا تركنا هذا النوع من "هراء الروبوتات" يختلط ببيانات تدريب الذكاء الاصطناعي المستقبلية، فسيصبح ذكاؤنا الاصطناعي أسوأ في قول الحقيقة. لكن الحل ليس في الخوف من الروبوتات تحديدًا؛ الحل هو إدراك أن محتوى وسائل التواصل الاجتماعي (سواء كان بشريًا أو روبوتيًا) غالبًا ما يكون وقودًا سيئًا لعقول الذكاء الاصطناعي. نحن بحاجة إلى توخي الحذر بشأن ما نغذي به نماذجنا المستقبلية، بغض النظر عمن كتب الكلمات.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.