LLMorphism: When humans come to see themselves as language models
تقدم هذه الورقة مفهوم "LLMorphism" (التحول نحو النماذج اللغوية الكبيرة) بوصفه انحيازاً معرفياً حيث يؤدي صعود الذكاء الاصطناعي التوليدي إلى دفع الناس لتعميم أنماط المخرجات اللغوية للنماذج اللغوية الكبيرة على الإدراك البشري عن طريق الخطأ، مما قد يشوه فهمنا للفكر البشري والمسؤولية والكرامة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك قضيت حياتك بأكملها تعتقد أن كتابة قصيدة جميلة هي دليل على امتلاكك لروح، ومشاعر، وفهم عميق للعالم. ثم فجأة، تظهر آلة يمكنها كتابة قصائد بجمال مماثل، وربما أفضل من قصائدك.
في البداء، قد تفكر: "يا للروعة، هذه الآلة تبدو بشرية للغاية!" (وهذا ما يسميه العلماء التجسيد أو "الأنثروبومورفيزم" — أي إضفاء صفات بشرية على الآلات).
لكن هذه الورقة البحثية تجادل بأن شيئًا أكثر غرابة يحدث بعد ذلك. فبسبب براعة الآلة في الكتابة، قد نبدأ في قلب السيناريو؛ قد نبدأ في التفكير: "إذا كانت الآلة تستطيع الكتابة مثل البشر، فربما البشر يعملون مثل الآلات فحسب".
يطلق المؤلف على هذا التحيز الجديد اسم "النمذجة اللغوية الكبيرة" (LLMorphism). وهو الاعتقاد الخاطئ بأن عقولنا تعمل تمامًا مثل النماذج اللغوية الكبيرة (روبوتات الدردشة بالذكاء الاصطناعي).
إليك شرح مبسط لكيفية حدوث ذلك، ولماذا يمثل مشكلة، وإلى أين قد يقودنا، باستخدام تشبيهات من الحياة اليومية.
١. تأثير "المرآة العكسية"
عادةً، ننظر إلى الآلة ونسأل: "هل هي حية؟"
الآن، ننظر إلى أنفسنا ونسأل: "هل نحن مجرد خوارزميات؟"
تقول الورقة إن هذا يحدث بسبب خدعتين رئيسيتين يمارسهما عقلنا:
خدعة "المحاكاة" (النقل القياسي): عندما نرى شيئين متشابهين في المظهر الخارجي، نفترض أنهما يعملان بنفس الطريقة في الداخل.
- تشبيه: تخيل أنك ترى طائرًا وطائرة. كلاهما يطير. لذا، قد تفترض أن الطائرة لديها ريش وقلب، تمامًا مثل الطائر.
- الواقع: الطائرة تطير بسبب المحركات والديناميكا الهوائية؛ أما الطائر فيطير بفضل العضلات والبيولوجيا. إنهما يتشابهان في الفعل (الطيران)، لكن "المحركات" مختلفة تمامًا.
- خطأ الـ LLM: نرى البشر والذكاء الاصطناعي ينتجون كلمات. لذا، نفترض أن عقولنا مجرد "توقع للكلمة التالية" مثل الكمبيوتر، متجاهلين حقيقة أن البشر لديهم مشاعر، وأجساد، وتجارب واقعية.
خدعة "القاموس الجديد" (التوفر الاستعاري): عندما تصبح تكنولوجيا جديدة شائعة، نبدأ في استخدام كلماتها لوصف حياتنا.
- تشبيه: في الخمسينيات، وصف الناس العقل كأنه "نظام هيدروليكي" (ضغط الماء). وفي الثمانينيات، وصفنا العقل كأنه "كمبيوتر" (معالجة بيانات). الآن، بدأنا نصف أفكارنا بأنها "بيانات تدريب"، و"أوامر برمجية"، و"هلوسات".
- الخطر: إذا بدأنا في اعتبار ذكرياتنا "بيانات تدريب" وإبداعنا "إعادة دمج للأنماط"، فقد ننسى أننا في الواقع كائنات تشعر وتعيش.
٢. لماذا يعد هذا خطيرًا (الطرق الخمس التي يؤذينا بها)
تشير الورقة إلى أنه إذا بدأنا في الاعتقاد بأننا مثل الذكاء الاصطناًا، فقد يغير ذلك طريقة تعاملنا مع بعضنا البعض بخمس طرق محددة:
فخ "القابلية للاستبدال":
- تشبيه: إذا اعتبرت العامل مجرد "مولد نصوص"، فقد تفكر: "لماذا نحتفظ بالبشر؟ الآلة تقوم بنفس الوظيفة بشكل أسرع".
- النتيجة: قد نتوقف عن تقدير العمال البشر لأننا نعتقد أن وظيفتهم الوحيدة هي إنتاج المخرجات، متجاهلين الحكم البشري والرعاية التي يقدمونها.
فخ "الطلاقة":
- تشبيه: تخيل طالبًا يستطيع إلقاء خطاب مثالي لكنه لا يفهم كلمة واحدة منه. إذا فكرنا مثل الذكاء الاصطناعي، قد نقول: "رائع! لقد أنتج الكلمات الصحيحة، لذا لا بد أنه ذكي".
- النتيجة: قد نخلط بين القدرة على الظهور بمظهر الذكي (الطلاقة) وبين الذكاء الحقيقي (الفهم الفعلي). في المدارس أو المستشفيات، قد نتوقف عن التحقق مما إذا كان الناس يعرفون حقًا ما يتحدثون عنه، طالما أن كلامهم يبدو واثقًا.
فخ "عدم اللوم":
- تشبيه: إذا تحطمت سيارة بسبب خلل تقني، فنحن لا نلوم السيارة، بل نصلح الكود. إذا اعتبرنا البشر مجرد "كود"، فقد نقول: "لم يكن يقصد إيذاءك؛ لقد أدت 'مدخلاته' فقط إلى تلك 'المخرجات'".
- النتيجة: قد نتوقف عن محاسبة الناس على أفعالهم. قد نتوقف عن سؤال "لماذا فعلت ذلك؟" ونبدأ في سؤال "ما هي البيانات التي جعلتك تفعل ذلك؟". وهذا يضعف شعورنا بالمسؤولية والأخلاق.
فخ "عمى الجسد":
- تشبيه: الذكاء الاصطناعي يقرأ النصوص فقط. لا يمكنه رؤية مريض يرتجف من الخوف أو طفل يبكي. إذا فكرنا مثل الذكاء الاصطناعي، فقد نهتم فقط بما يقوله الناس، وليس بكيف يبدون أو يشعرون.
- النتيجة: في الرعاية الصحية، قد يتجاهل الأطباء لغة جسد المريض أو ألمه لأن كلمات المريض تبدو "جيدة". قد نغفل عن حقيقة أن شخصًا ما يعاني لأنه لا يستطيع التعبير عن ذلك ببراعة.
فخ "الحقيقة المزيفة":
- تشبيه: يمكن للذكاء الاصطناعي اختلاق حقائق تبدو مقنعة للغاية (الهلوسة). إذا اعتقدنا أن البشر يعملون بنفس الطريقة، فقد نبدأ في الاعتقاد بأن "القدرة على الإقناع" هي نفسها "الحقيقة".
- النتيجة: قد نتوقف عن الاهتمام بالأدلة والحقائق، ونهتم فقط بما يبدو منطقيًا أو يتدفق بسلاسة.
٣. ما الذي لا تقوله هذه الورقة
من المهم معرفة ما لا يدعيه المؤلف:
- هو لا يقول إن البشر هم في الواقع ذكاء اصطناعي. هو يقول إننا نعتقد خطأً أننا كذلك.
- هو لا يقول إن علينا التوقف عن استخدام الذكاء الاصطناعي.
- هو لا يقول إن هذا قد حدث بالفعل في كل مكان. هو يحذر من أنه خطر يصبح أكثر احتمالية مع تطور الذكاء الاصطناعي.
الصورة الكبيرة
لفترة طويلة، كان القلق الكبير بشأن الذكاء الاصطناعي هو: "هل نعطي الآلات قدرًا أكبر من التقدير؟ هل نتظاهر بأن لديها مشاعر؟"
تقول هذه الورقة: "هذا هو نصف القصة فقط. النصف الآخر هو: هل نسلب البشر قدرًا أكبر من التقدير؟ هل بدأنا نعتقد أننا لا نملك مشاعر، أو أرواحًا، أو عقولًا حقيقية، بل مجرد أدوات متطورة لتوقع النصوص؟"
يريد المؤلف منا أن نتذكر أنه بينما يمكن للذكاء الاصطناعي محاكاة كلماتنا، فإنه لا يملك حياتنا، أو أجسادنا، أو قلوبنا. يجب أن نتأكد من أننا لا ننسى هذا الفرق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.