Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

وهم المعرفة العظيم: عندما تبدو الكلمات ذكية وهي لا تعرف شيئاً

تخيل أنك تسير في مكتبة ضخمة قديمة حيث كُتبت الكتب بواسطة ناسخ غامض وغير مرئي. هذا الناسخ قد قرأ كل كتاب في المكتبة ويمكنه فوراً كتابة صفحة جديدة تبدو تماماً مثل كتاب تاريخ حقيقي، أو كتاب علوم، أو عقد قانوني. إنه يستخدم الكلمات الصحيحة، والقواعد الصحيحة، وحتى النبرة الصحيحة. لكن العلة تكمن في التالي: هذا الناسخ لا "يعرف" حقاً ما يكتبه. ليس لديه عقل، ولم يرَ العالم، ولا يهتم إذا كان ما يكتبه صحيحاً أم خاطئاً. هو فقط يعرف الكلمات التي تأتي عادةً بعد كلمات أخرى.

هذا هو عالم نماذج اللغات الكبيرة (LLMs)، وهي البرامج الحاسوبية فائقة الذكاء التي تقف وراء الأدوات التي قد تكون تستخدمها الآن. لقد قلق العلماء والفلاسفة بشأن مشكلة محددة تسمى "الإبستيميا" (Epistemia). فكر في هذا كـ "وهم معرفة". يحدث هذا عندما يكون كتابة الناسخ سلسة ومقنعة لدرجة تجعلنا نتوقف عن التساؤل: "هل هذا صحيح؟" ونبدأ بالتفكير: "واو، لا بد أن هذا صحيح!". نشعر وكأننا نملك الإجابة، لكننا في الواقع لم نقم بالعمل الشاق المتمثل في التحقق من الحقائق، أو البحث عن الأدلة، أو التفكير بشكل نقدي.

الورقة البحثية التي ستطالعها الآن تغوص في أعماق هذه المشكلة. وهي تسأل: لماذا يحدث هذا؟ هل لأن الكمبيوتر "معطل" مقارنة بالإنسان؟ أم أن المشكلة تكمن في كيفية استخدامنا للكمبيوتر؟ يجادل المؤلفون بأن الطريقة المعتادة التي نقارن بها بين البشر والحواسيب غير عادلة. ويقترحون طريقة جديدة للنظر إلى الأمر، يطلقون عليها "الإبستيمية سكيزولوجيا" (Epistemic Schizologia) (وهي طريقة منمقة لقول "انقسام المعرفة"). هم يعتقدون أن الخطر الحقيقي ليس مجرد كون الكمبيوتر "غبياً"، بل إننا بنينا نظاماً يعطينا إجابة تبدو مثالية، مما يجعلنا ننسى ربط تلك الإجابة بالعالم الحقيقي من الأدلة والمسؤولية.

---

الفكرة الكبرى للورقة: ليس خطأ الروبوت، بل هي "الرقصة"

يبدأ المؤلفان، فيديريكو كابيتزا وجيانلوكا كولومبو، بالموافقة على تحذير من باحثين آخرين (كواتروتشي وزملاؤه). وهما يعترفان بأن الذكاء الاصطناعي يمكن أن يخدعنا. فعندما يقدم الذكاء الاصطناعي إجابة فصيحة وواثقة، نشعر وكأننا قمنا بعملية التفكير، لكننا لم نفعل ذلك حقاً. يطلق المؤلفان على هذه الحالة اسم "الإبستيميا": وهو الشعور بامتلاك المعرفة دون القيام بعملية الحكم والتقدير.

ومع ذلك، يقول المؤلفان إن الباحثين الآخرين ينظرون إلى المشكلة من المنظور الخاطئ. فهم يقارنون كائناً بشرياً بالغاً (لديه جسد، وقصة حياة، وأصدقاء، وضمير) ببرنامج كمبيوتر وحيد (وهو مجرد آلة رياضية). يقول المؤلفان إن هذا يشبه مقارنة لاعب كرة قدم محترف بكرة قدم واحدة. بالطبع سيكون اللاعب أفضل! لكن هذا لا يخبرنا كيف تُلعَب المباراة في الواقع.

بدلاً من ذلك، يقترح المؤلفان فكرة جديدة: "الإبستيمية سكيزولوجيا" (Epistemic Schizologia).
تخيل "السكيزولوجيا" كتمزق أو انقسام في قطعة من القماش. في هذه الحالة، القماش هو "المعرفة".

• الجانب (أ) من التمزق: ينتج الذكاء الاصطناعي جملة جميلة ومعقولة. تبدو وكأنها معرفة، ولديها المفردات والبنية الصحيحة.
• الجانب (ب) من التمزق: العملية الفوضوية في العالم الحقيقي للتحقق من الحقائق، والجدال مع الخبراء، وإيجاد الأدلة، وتحمل المسؤولية عن كون المرء محقاً أو مخطئاً.

المشكلة، كما يقول المؤلفان، هي أن الذكاء الاصطناعي قد خلق آلة يمكنها إنتاج الجانب (أ) بشكل مثالي، ولكن ليس لديها أي وسيلة للقيام بـ الجانب (ب). والأسوأ من ذلك، أن الطريقة التي نستخدم بها هذه الآلات غالباً ما تخفي هذا الانقسام. فنحن نحصل على إجابة مثالية، وننسى أن جزء "التحقق" مفقود.

تشبيه "الآلة التقنية-السيميائية"

لشرح ماهية الذكاء الاصطناعي في الواقع، يستخدم المؤلفان استعارة رائعة. يسمونها "الآلة التقنية-السيميائية" (Techno-Semiotic Machine).
فكر في الأمر كمنسج سحري ضخم.

• الخيوط: يتم تغذية المنسج بكتلة هائلة من الخيوط المصنوعة من كل ما كتبه البشر (كتب، مواقع إلكترونية، مقالات).
• النمط: المنسج لا "يفهم" الخيوط. هو فقط يتعلم أن الخيوط الحمراء عادة ما تذهب مع الخيوपत الزرقاء، وأن كلمة "قطة" عادة ما تذهب مع "فأر".
• المخرج: عندما تطلب منه نسج شيء ما، فإنه يخرج قطعة من القماش. تبدو تماماً مثل نسيج صنعته يد بشرية. لها الأنماط والألوان الصحيحة.

لكن هذا هو المفتاح: المنسج لا يعرف "معنى" الصورة. هو لا يعرف ما إذا كانت الصورة تحكي قصة بطل أو تحذيراً من وحش. هو فقط يعرف كيف ينسج الخيوط معاً لتبدو "صحيحة".

يجادل المؤلفان بأن الخطر ليس في كون المنسج "مزيفاً". الخطر هو أننا نعامل النسيج الذي يصنعه المنسج كما لو كان قصة حقيقية مكتملة، دون التحقق من الخيوط التي استخدمها.

فخ "الإغلاق الإيكوتي" (Eikotic Closure)

تقدم الورقة مفهوماً ممتعاً آخر يسمى "الإغلاق الإيكوتي" (Eikotic Closure).
كلمة "Eikos" هي كلمة يونانية قديمة تعني "معقول" أو "محتمل".
تخيل أنك تقرأ قصة غموض. يقول المحقق: "الخادم هو الفاعل لأنه كان غاضباً". هذا يبدو معقولاً.
الآن، تخيل أن القصة تنتهي عند هذا الحد. الكتاب يُغلق. تشعر بالرضا. تفكر: "انتهت القضية!".
ولكن ماذا لو أن المحقق لم يجد السلاح أبداً؟ ماذا لو لم يتحقق من حجة الغياب؟ ماذا لو كان الخادم بريئاً في الواقع؟

الإغلاق الإيكوتي هو عندما يعطيك الذكاء الاصطناعي إجابة "معقولة"، وتتصرف الواجهة (الشاشة، صندوق الدردشة) وكأن الكتاب قد أُغلق. إنها تجعل الإجابة تبدو نهائية، ومكتملة، وحاسمة. إنها تخدع عقلك وتجعلك تعتقد أن "العمل" قد انتهى. يقول المؤلفان إن هذا خيار تصميمي. فالذكاء الاصطناعي لا يلفظ الكلمات فحسب؛ بل يلفظ الكلمات بطريقة توحي بأنها حكم نهائي. وهذا يجعلنا نتوقف عن طرح الأسئلة.

لماذا مقارنة "الإنسان مقابل الروبوت" خاطئة

المؤلفان واضحان جداً بشأن ما هما ضده. فهما يجادلان ضد فكرة أننا بحاجة لجعل الروبوت "أكثر إنسانية".

• يقولان إنه لا ينبغي لنا محاولة منح الروبوت "ضميراً" أو "معتقدات". هذا مستحيل ويخطئ الهدف.
• يقولان إنه لا ينبغي لنا لوم الروبوت لكونه "غبياً" بينما نمدح البشر لكونهم "أذكياء". البشر في الواقع سيئون جداً في التحقق من الحقائق أيضاً! فنحن نتعب، ونصبح كسالى، ونرتكب الأخطاء.
• يجادلان بأن المعرفة البشرية اعتمدت دائماً على الأدوات. نحن نستخدم الأقلام، والمكتبات، والحواسيب لنفكر. المشكلة ليست في كون الذكاء الاصطناعي أداة؛ المشكلة هي أننا نستخدمه بطريقة تكسر سلسلة الثقة.

الحل: أصلحوا الرقصة، لا الراقص

إذاً، ماذا يقترح المؤلفان أن نفعل؟ يقولان إننا بحاجة للتوقف عن محاولة إصلاح الروبوت والبدء في إصلاح الممارسة (الطريقة التي نعمل بها معاً).

يقترحان خمسة "التزامات" لكيفية تصميم هذه الأنظمة:

1. أظهر النسب (شجرة العائلة): لا تعطِ الإجابة فحسب. أظهر "شجرة العائلة" للإجابة. من أين أتت الكلمات؟ أي الكتب قرأها الذكاء الاصطناعي؟ إذا كان قد قام بتخمين، فأظهر هذا التخمين. نحن بحاجة لأن نكون قادرين على تتبع الإجابة وصولاً إلى العالم الحقيقي.
2. أبقِ خيار الـ "لا" متاحاً: أحياناً تكون الإجابة الصحيحة هي "لا أعرف" أو "هذا أمر مثير للجدل". لا ينبغي للذكاء الاصطناست دائماً تقديم إجابة مثالية وسلسة. يجب أن يُسمح له بقول: "مهلاً، هناك خلاف هنا"، أو "أنا أفتقر لبعض الحقائق". هذا "الاحتكاك" جيد لأنه يجعلنا نفكر.
3. تقاسم اللوم (والفضل): إذا وقع خطأ، فمن المسؤول؟ ليس الروبوت وحده. بل هو الشخص الذي طرح السؤال، والشركة التي بنت الروبوت، والشخص الذي استخدم الإجابة. نحن بحاجة لمعرفة من هو المسؤول.
4. أبقِ الإنسان في مقعد القيادة: لا ينبغي لنا فقط الضغط على "موافقة" على كل شيء. نحن بحاجة للقدرة على مراجعة العمل، وطلب نسخ مختلفة، وفهم "لماذا" قال الذكاء الاصطناعي ما قاله.
5. اختبر الفريق، وليس الروبوت فقط: لا ينبغي لنا فقط أن نسأل: "هل الروبوت ذكي؟". بل يجب أن نسأل: "هل يعمل فريق (الإنسان + الروبوت) معاً بشكل جيد؟". هل يتخذون قرارات أفضل؟ هل يكتشفون الأخطاء؟

الخلاصة

تخلص الورقة إلى أن المشكلة ليست في كون الذكاء الاصطناعي "إنساناً مزيفاً". المشكلة هي أننا خلقنا انقساماً (سكيزولوجيا) بين مظهر المعرفة وعمل المعرفة.

الذكاء الاصطناعي يشبه طباخاً ماهراً يمكنه طبخ وجبة تبدو وتتذوق تماماً مثل عشاء فاخر، لكن الطباخ لم يتذوق الطعام قط، ولم يرَ مزرعة قط، ولا يعرف ما إذا كانت المكونات طازجة أم لا. إذا أكلنا الوجبة وقلنا فقط "لذيذة!" دون التحقق من المطبخ، فقد نمرض.

يقول المؤلفان إننا بحتمية التوقف عن محاولة جعل الطباخ "يتذوق" الطعام. بدلاً من ذلك، نحتاج لبناء مطبخ تكون فيه المكونات مرئية، وعملية الطبخ مفتوحة، والشخص الذي يتناول الوجبة يعرف كيف يتحقق مما إذا كانت آمنة. نحن بحاجة لإعادة ربط الكلمات الجميلة التي يكتبها الذكاء الاصطناعي بالعمل الفعلي الفوضوي لإثبات صحتها.

باختصار: لا تثق في الصوت السلس. ثق في العملية. تقترح الورقة أنه إذا صممنا أنظمتنا بحيث يظل "الانقسام" مرئياً — بحيث يمكننا دائماً رؤية من أين أتت الإجابة ومن المسؤول عنها — فيمكننا استخدام هذه الآلات القوية دون أن نفقد عقولنا.