What if AI systems weren't chatbots?
تجادل هذه الورقة بأن اعتماد الصناعة المهيمن على واجهات روبوتات الدردشة الحوارية هو خيار اجتماعي تقني غير محايد يتسبب في سلبيات هيكلية كبيرة — بما في ذلك تراجع المهارات، والتركز الاقتصادي، والتكاليف البيئية — من خلال إعطاء الأولوية للعمومية الحوارية على حساب التخصص النوعي والمساءلة، وتدعو إلى التحول نحو أنظمة ذكاء اصطناعي تعددية ومحددة المهام وحوكمة شاملة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الذكاء الاصطناي (AI) كمدينة ضخمة وصاخبة. لعقود من الزمن، كانت هذه المدينة تضم أحياءً مختلفة: بعضها كان مختبرات متخصصة للعلماء، وبعضها أدوات لخبراء الأرصاد الجوية، وبعضها ورش عمل هادئة لمهام محددة. ولكن مؤخرًا، قررت المدينة بأكملها هدم كل تلك الأحياء المتنوعة وبناء مركز تسوق ضخم واحد بجدران زجاجية يسمى "الدردشة الآلية" (The Chatbot).
هذه الورقة البحثية، التي تحمل عنوان "ماذا لو لم تكن أنظمة الذكاء الاصطناعي مجرد روبوتات دردشة؟" من إعداد باحثين من مؤسسات مثل جامعة واشنطن ومايكروسوفت، تجادل بأن هذا التوجه لجعل كل شيء عبارة عن روبوت دردشة حواري هو خطأ فادح. ويزعم الباحثون أنه بينما تبدو روبوتات الدردشة ودودة ومفيدة، إلا أنها في الواقع تعيد تشكيل مجتمعنا، وأدمغتنا، وكوكبنا بطرق ضارة.
إليك تفصيل لحجتهم باستخدام تشبيهات بسيطة:
1. وهم "المجيب السحري - Magic 8-Ball" (فقدان السيطرة)
تخيل أنك تطلب نصيحة من صديق. قد يقول لك: "حسنًا، الأمر يعتمد على كذا"، أو "إليك ثلاث طرق مختلفة للنظر إلى الأمر". الآن، تخيل أنك تسأل روبوت دردشة. عادة ما يعطيك إجابة واحدة وحيدة وواثقة، كما لو كانت هي الحقيقة الوحيدة في الكون.
يقول المؤلفون إن هذا فخ.
- الوهم: تجعلك روبوتات الدردشة تشعر بأن لديك الكثير من الحرية لأنك تستطيع التحدث إليها بلغة بسيطة.
- الواقع: هي في الواقع توجهك نحو منظور واحد فقط. إنها تخفي حقيقة أنها اختارت استبعاد وجهات النظر الأخرى، أو الحجج المضادة، أو التفاصيل المعقدة. الأمر يشبه أمين مكتبة يسلمك كتابًا واحدًا فقط ويقول لك: "هذه هي القصة كاملة"، بينما يخفي بقية المكتبة.
- النتيجة: تتوقف عن التساؤل "ماذا يوجد أيضاً هناك؟" وتبدأ في الثقة بالإجابة الواحدة، مما يفقدك القدرة على الحكم بنفسك.
2. "الزر السهل" للأمور السيئة (أضرار جديدة)
تم تصميم روبوتات الدردشة لتكون سهلة الاستخدام للغاية. ما عليك سوى كتابة ما تريد، ويحدث الأمر. تجادل الورقة بأن هذا "الزر السهل" خطير لأنه يخفض الحاجز أمام خلق الضرر.
- التشبيه: تخيل مجموعة أدوات لفتح الأقفال كانت تتطلب سابقًا لصاً محترفاً قضى سنوات في التدريب. الآن، روبوت الدردشة هو "أداة فتح أقفال سحرية" يمكن لأي شخص استخدامها بأمر صوتي بسيط.
- الضرر: هذا يسمي بتمكين الجهات السيئة من إنشاء فيديوهات التزييف العميق (Deepfakes)، والصور الحميمة غير الرضائية، وحملات التضليل في دقائق. الأمر لا يتعلق بالتكنولوجيا فحسب؛ بل بأن واجهة روبوت الدردشة تجعل الأمر بسيطًا للغاية بحيث يمكن لأي شخص أن يصبح متلاعبًا بارعًا دون أي مهارة تقنية.
3. تأثير "الضمور الإدراكي" (عقلك يصبح كسولاً)
تشير الورقة إلى أن الاعتماد على روبوتات الدردشة يشبه استخدام كرسي متحرك للقيام بمشي قصير كان بإمكانك القيام به بسهولة.
- التشبيه: تاريخيًا، كانت الأدوات مثل جداول البيانات أو محركات البحث تجبرك على القيام بـ "العمل الشاق" للتفكير: كان عليك التحقق من المصادر، ومقارنة البيانات، وبناء حججك الخاصة. روبوتات الدردشة تقوم بهذا العمل نيابة عنك.
- النتيجة: إذا تركت روبوت الدردشة يقوم بكل التفكير، فإن "عضلاتك الذهنية" ستبدأ في الانكماش. يسمي المؤلفون هذا "الضمور المهاراتي المعرفي" (Cognitive deskilling). قد تحصل على الإجابة بسرعة، لكنك تفقد القدرة على فهم كيف وصلت إليها أو اكتشاف متى تكون الإجابة خاطئة. كما يذكرون أيضًا "احتراق الدماغ بالذكاء الاصطناعي" (AI brain fry)، حيث يتعب دماغك من كثرة التحقق من عمل الذكاء الاصطناعي، و**"فقدان الذاكرة الجيلي-مان" (Gell-Mann amnesia)**، حيث تعرف أن الذكاء الاصطناعي يكذب بشأن شيء ما ومع ذلك تثق به في كل شيء آخر.
4. "الصديق المزيف" (القضاية الاجتماعية والرعاية)
تم تصميم روبوتات الدردشة لتبدو متعاطفة، حيث تقول أشياء مثل "أنا أفهمك" أو "أنا هنا من أجلك".
- التشبيه: الأمر يشبه امتلاك خادم آلي يحاكي صوت والدتك بدقة ولكنه بلا روح. يمكنه محاكاة محادثة، لكنه لا يستطيع حقًا الاهتمام بك.
- الضرر: عندما يبدأ الأشخاص الوحيدون أو المستضعفون في معاملة هذه الروبوتات كأصدقاء حقيقيين أو معالجين نفسيين، فإنهم يفرغون احتياجاتهم العاطفية لآلة لا يمكن تحميلها المسؤولية. إذا قدم الروبوت نصيحة سيئة تسببت في أذى لشخص ما، فمن الملام؟ تسمي الورقة هذا "منطقة الانهيار الأخلاقي" (Moral crumple zone) — حيث تنهار المسؤولية على المستخدم البشري، بينما يخرج الجهاز دون أي تبعات. إنها تخاطر بتحويل "الرعاية" إلى منتج تشتريه بدلاً من علاقة تبنيها.
5. "مصاص دماء الطاقة" (التكلفة الاقتصادية والبيئية)
نموذج روبوت الدردشة جائع للغاية.
- التشبيه: تخيل مدينة قررت تشغيل كل شيء باستخدام محطة طاقة واحدة ضخمة وغير فعالة تعمل على مدار الساعة طوال أيام الأسبوع.
- التكلفة:
- المال: بناء مراكز البيانات لروبوتات الدردشة يؤدي إلى رفع فواتير الكهرباء للجميع، مما يضرب الأسر ذات الدخل المنخفض بقوة.
- المياه: هذه المراكز تستهلك ملايين الجالونات من المياه للتبريد، وغالبًا في مناطق تواجه بالفعل حالات جفاف.
- العمالة: "الذكاء" الكامن وراء روبوت الدردشة غالبًا ما يُبنى على أكتاف عمال يتقاضون أجورًا زهيدة في "الجنوب العالمي" (مثل كينيا أو الهند)، الذين يتقاضون ملاليم مقابل تصنيف المحتوى العنيف أو الصادم لجعل الروبوت أكثر أمانًا. تسمي الورقة هذا "الاستعمار الرقمي الجديد" (Digital neocolonialism) — استخدام العمالة الرخيصة من الدول النامية لبناء منتج يفيد الدول الغنية بشكل أساسي.
الحل المقترح: نظام بيئي متنوع
لا يقول المؤلفون "دمروا كل الذكاء الاصطناعي". بل يقولون: "توقفوا عن جعل كل شيء روبوت دردشة".
إنهم يقترحون العودة إلى مدينة متنوعة تضم أحياء مختلفة:
- أدوات متخصصة: بدلًا من روبوت دردشة يحاول القيام بكل شيء، يجب أن يكون لدينا أدوات محددة لمهام محددة (مثل الآلة الحاسبة للرياضيات أو محرك متخصص للتنبؤ بالطقس) لا تدعي أنها بشرية.
- بنية تحتية نمطية (Modular): بدلًا من صندوق أسود واحد ضخم، يجب أن نبني أنظمة يمكنك من خلالها رؤية التروس وهي تتحرك، والتحقق من العمل، واستبدال الأجزاء إذا تعطلت.
- القدرة البشرية (Human Agency): نحن بحاجة إلى واجهات تجعلنا نفكر ونقرر، بدلاً من مجرد منحنا إجابة واحدة موثوقة.
باختًا: تجادل الورقة بأن روبوت الدردشة هو بمثابة بدلة "مقاس واحد يناسب الجميع"؛ لا تناسب أحدًا بشكل جيد. تبدو أنيقة، لكنها ضيقة جدًا، وتكلفة تنظيفها باهظة، وهي تجعلنا ننسى كيف نرتدي ملابسنا بأنفسنا. نحن بحاجة إلى التوقف عن حشر الذكاء الاصطناعي في هذا الصندوق الحواري الواحد والبدء في بناء أدوات تحترم ذكاءنا، وأموالنا، وكوكبنا بالفعل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.