When AI Fails: Hallucination Exposure, Verification, and Critical AI Literacy
بالاستناد إلى بيانات استقصائية من ٣١٤ مستجيباً، تكشف هذه الدراسة أنه في حين واجه معظم المستخدمين هلوسات الذكاء الاصطناعي، إلا أن القليل منهم يفهم المفهوم، ومع ذلك فإن أولئك الذين يواجهون حالات الفشل هم أكثر عرضة للتحقق من المعلومات، مما دفع المؤلفين إلى تعريف "الثقافة النقدية للذكاء الاصطناعي" باعتبارها تكيفاً معرفياً يعطي الأولوية للمسافة النقدية والتحقق على مجرد الطلاقة التقنية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالمنا المعاصر، اعتدنا على سؤال الآلات عن الإجابات. فعندما نكتب سؤالاً في برنامج حاسوبي، غالباً ما نتلقى استجابة تتدفق بسلاسة المحادثة البشرية، مكتملة بنبرة واثقة وقواعد لغوية مثالية. لقد غيرت هذه التكنولوجيا، المعروفة باسم الذكاء الاصطناعي التوليدي، كيفية عثورنا على المعلومات، وكتابة الوثائق، وتعلم أشياء جديدة. ومع ذلك، تمتلك هذه الآلات عيباً غريباً: يمكنها اختلاق الحقائق. فقد تصف حدثاً تاريخياً لم يحدث أبداً أو تستشهد بدراسة علمية غير موجودة، كل ذلك وهي تبدو واثقة تماماً. هذه الظاهرة، التي يسميها الباحثون "الهلوسة"، تخلق مشكلة فريدة لأي شخص يحاول التعلم أو العمل. فخلافاً للكتاب التقليدي أو المقال الإخباري، حيث يمكننا التحقق من مؤهلات المؤلف أو النظر في الحواشي، لا تقدم أنظمة الذكاء الاصطناعي هذه طريقة واضحة لمعرفة مصدر معلوماتها. إن السؤال الجوهري لعصرنا ليس فقط ما إذا كانت هذه الآلات ترتكب أخطاءً، بل كيف يتفاعل الناس عندما يكتشفون تلك الأخطاء. هل نتوقف عن استخدام الأداة، أم نتعلم استخدامها بشكل مختلف؟
لقد شرع فريق من الباحثين من بولندا والصين في فهم رد الفعل هذا. أجروا استطلاعاً لآراء 314 شخصاً يستخدمون أدوات الذكاء الاصطناعي هذه، وتنوعت فئاتهم بين طلاب الجامعات والمهنيين في صناعات مختلفة. كان الهدف هو معرفة ما إذا كان مجرد استخدام التكنولوجيا لمرات كافية يجعل الناس أكثر ذكاءً بشأن عيوبها، أم أن شيئاً آخر مطلوب لتطوير شكوك صحية. كان الباحثون مهتمين بشكل خاص بمفهوم يسمونه "الثقافة الرقمية الناقدة للذكاء الاصطناعي". وهذا لا يقتصر فقط على معرفة كيفية كتابة أمر برمجي أو كيفية جعل الآلة تكتب قصيدة، بل هو القدرة على إدراك متى تكذب الآلة، وفهم أن الصوت الواثق لا يضمن الحقيقة، ومعرفة متى تتوقف عن الثقة في المخرجات وتبدأ في التحقق منها مقابل مصادر أخرى.
بدأت الدراسة بسؤال المشاركين عما إذا كانوا قد واجهوا من قبل معلومات من ذكاء اصطناعي تبين أنها خاطئة أو مختلقة. وأظهرت النتائج أن مثل هذه المواجهات شائعة؛ إذ ذكر أكثر من ثمانية من كل عشرة أشخاص في الاستطلاع أنهم رأوا معلومات غير دقيقة أو مختلقة من هذه الأنظمة في مناسبات على الأقل. ومع ذلك، عندما سأل الباحثون هؤلاء الأشخاص أنفسهم عما إذا كانوا يعرفون المصطلح المحدد لهذه المشكلة، "هلوسة الذكاء الاصطناعي"، قال أقل من النصف إنهم على دراية به. تشير هذه الفجوة إلى أن العديد من الناس قد مروا بتجربة فشل التكنولوجيا دون أن يكون لديهم اسم لها أو فهم كامل لسبب حدوثها. إنهم يعرفون أن هناك خطأ ما، لكنهم قد لا يدركون أنه قصور جوهري في كيفية عمل الآلة، وليس مجرد خلل نادر.
كان ما حدث بعد ذلك هو الجزء الأكثر كشفاً في الدراسة. فعندما أدرك الناس أن الذكاء الاصطناعي قد أعطاهم معلومات خاطئة، لم يلقوا بالأداة بعيداً ببساطة. بدلاً من ذلك، غيروا طريقة استخدامهم لها. بدأت الغالبية العظمى ممن شاهدوا أخطاءً في التحقق من إجابات الذكاء الاصطناعي مقابل مصادر أخرى، مثل الكتب أو المواقع الإلكترية الموثوقة. وبدأ الكثيرون في استخدام الذكاء الاصطناعي كمساعد أو كنقطة انطلاق فقط، بدلاً من كونه السلطة النهائية في موضوع ما. حتى إن البعض تعلم تقديم تعليمات محددة للآلة مصممة لتقليل احتمالية اختلاقها للأمور. ووجد الباحثون أن العامل الأقوى الوحيد الذي يتنبأ بما إذا كان الشخص سيتحقق من عمل الذكاء الاصطناعي ليس عدد مرات استخدامهم للأداة، ولا مدة استخدامهم لها، بل الشيء الوحيد الذي جعل الناس أكثر حذراً بشكل موثوق هو التجربة المباشرة لرؤية الآلة وهي تفشل.
يتحدى هذا الاكتشاف افتراضاً شائعاً مفاده أن مجرد صيرورة المرء مستخدماً خبيراً لتكنولوجيا ما يجعله مفكراً نقدياً بشأنها. تشير البيانات إلى أنه يمكنك أن تكون ماهراً جداً في تشغيل نظام ذكاء اصطناعي ومع ذلك تثق في مخرجاته أكثر مما ينبغي، لمجرد أنك لم تره يكذب عليك بعد. إن مواجهة الخطأ هي التي تحفز التحول في السلوك. فبمجرد أن يرى الشخص أن الآلة يمكن أن تكون مخطئة، يبدأ في التعامل مع إجاباتها الواثقة بمسافة ضرورية. يتعلم المرء أن الطلاقة والثقة ليستا هما الدقة. وتشير الدراسة إلى أن عملية تعلم التحقق، وتقنين الاعتماد، والتشكيك في المصدر، هي ما يشكل الثقافة الحقيقية في عصر الذكاء الاصطناعي.
كما لاحظ الباحثون أن هذا التحول في السلوك يزداد تعقيداً بسبب حقيقة أن هذه الآلات غالباً ما تكون غامضة. فلا يمكن للمستخدمين رؤية المنطق الداخلي أو المصادر المحددة التي يستمد منها الذكاء الاصطناعي معلوماته. هذا النقص في الشفافية يجعل من الصعب الحكم على موثوقية الإجابة قبل قراءتها. وعندما يشعر الناس أن النظام غامض أو مستحيل الفهم، فإنهم يميلون إلى اعتبار أخطائه مشكلة خطيرة. ومع ذلك، توضح الدراسة أن المسؤولية عن إدارة هذه المخاطر لا تقع بالكامل على عاتق المستخدم الفردي. فبينما يمكن للناس تعلم التحقق من المعلومات وتعديل مستوى ثقتهم، يجب على مبتكري هذه الأنظمة والمؤسسات التي تنشرها العمل أيضاً على جعل التكنولوجيا أكثر شفافية وموثوقية.
في نهاية المطاف، ترسم هذه الأبحاث صورة لمستخدمين يتكيفون مع الواقع. فالناس لا يرفضون الذكاء الاصطناعي، كما أنهم لا يقبلونه بشكل أعمى. إنهم يطورون علاقة مشروطة معه، علاقة تكون فيها الأداة مفيدة ولكن سلطتها محدودة. هذا التكيف هو شكل من أشكال التعلم الذي يتجاوز المهارة التقنية؛ فهو يتضمن فهم أن الآلة هي محرك احتمالي يخمن الكلمة التالية في الجملة بدلاً من كونها قاعدة بيانات تسترجع حقائق موثقة. ومع ازدياد دمج هذه الأدوات في التعليم والحياة اليومية، ستصبح القدرة على التمييز بين القصة المقنعة والحقيقة المثبتة مهارة حيوية. وتخلص الدراسة إلى أن الإتقان الحقيقي لهذه الأنظمة لا يأتي من معرفة كيفية جعلها تعمل، بل من معرفة متى تتوقف عن الثقة بها وتبدأ في التحقق من الحقائق بنفسك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.