Self-Anchoring Calibration Drift in Large Language Models: How Multi-Turn Conversations Reshape Model Confidence
تقدم هذه الورقة وتثبت تجريبياً ظاهرة "انزياح المعايرة ذاتي الارتكاز" (SACD)، حيث تتسبب المحادثات متعددة الأدوار في جعل النماذج اللغوية الكبيرة تظهر تحولات متباينة في الثقة وأخطاء المعايرة — تتراوح بين انخفاض الثقة وزيادة الخطأ في نموذج Claude Sonnet 4.6، إلى كبح التحسينات الطبيعية في المعايرة في نموذج Gemini 3.1 Pro، وزيادة الإفراط في الثقة في نموذج GPT-5.2 — مما يثبت أن الارتكاز الذاتي التكراري يعيد تشكيل موثوقية النماذج بشكل جذري عبر البنى الهيكلية المختلفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تجري محادثة طويلة مع صديق آلي (روبوت) ذكي جداً، لكنه متوتر قليلاً. تسأله سؤالاً، فيجيب، ثم تسأله: "هل يمكنك إخباري المزيد؟". فيجيب مرة أخرى. تسأل مجدداً: "ما هو المنطق وراء ذلك؟". فيجيب للمرة الثالثة.
هذه الورقة البحثية، التي كتبها باحث مستقل يدعى "هارشافاردان" في عام 2026، تبحث فيما يحدث لـ ثقة ذلك الروبوت كلما طالت المحادثة.
يطلق الباحث على هذه الظاهرة اسم "انحراف المعايرة بالارتكاز الذاتي" (Self-Anchoring Calibration Drift - SACD). إنه مصطلح معقد، لذا دعونا نفككه باستخدام بعض التشبيهات البسيطة.
الفكرة الجوهرية: تأثير "غرفة الصدى"
فكر في إجابات الروبوت السابقة كأنها مراسي (Anchors). في علم النفس البشري، إذا أعطيت شخصاً رقماً ما (مرساة)، فإن تخميناته المستقبلية تميل للارتحال نحو ذلك الرقم.
في هذه الدراسة، "المرساة" هي كلمات الروبوت السابقة. أراد الباحث معرفة: هل يصبح الروبوت أكثر ثقة، أم أقل ثقة، أم يبقى كما هو بينما يستمر في التحدث عن إجاباته الماضية؟
الجزء المخيف؟ قد لا يعرف الروبوت حقائق أكثر مع استمرار المحادثة. هو فقط يتحدث إلى نفسه، وهذا يغير مدى تأكده مما يقول.
التجربة: ثلاثة روبوتات مختلفة
اختبر الباحث ثلاثة من أكثر نماذج الذكاء الاصطماعي تقدماً في عام 2026 (لنسمّهم Claude و Gemini و GPT) وفق ثلاث قواعد مختلفة:
- "البداية الجديدة" (الحالة أ): تسأل الروبوت سؤالاً مرة واحدة، ثم تتوقف.
- "غرفة الصدى" (الحالة ب): تسأل السؤال، ثم تطلب منه التوسع في الشرح أربع مرات أخرى، مع إبقاء تاريخ المحادثة بأكمله مرئياً. (هنا يحدث "الارتكاز الذاتي").
- "زر إعادة الضبط" (الحالة ج): تسأل نفس السؤال خمس مرات، ولكن في كل مرة، تتظاهر بأنها المرة الأولى على الإطلاق. لا يوجد تاريخ سابق.
النتائج: ثلاث شخصيات مختلفة
توقع الباحثون أن تصبح جميع الروبوتات أكثر ثقة مع استمرار حديثها (مثل السياسي الذي يزداد تأكداً من خطابه كلما طال حديثه). لكنهم كانوا مخطئين. فقد تفاعلت الروبوتات بشكل مختلف تماماً، مثل ثلاثة أشخاص مختلفين في غرفة واحدة:
1. Claude: "الخبير المتواضع" (كبح الثقة)
- ماذا حدث: بينما كان Claude يستمر في التحدث عن إجاباته، بدأ يبدو أقل تأكداً.
- التشبيه: تخيل معلماً يشرح مفهوماً ما. كلما حاول شرحه بمزيد من التفصيل، أدرك أنه "انتظر، قد أكون أغفلت بعض التفاصيل الدقيقة هنا". يبدأ في التحفظ في كلامه ("حسناً، نوعاً ما"، "هذا يعتمد على...").
- النتيجة: انخفضت ثقة Claude بشكل كبير. أصبح أكثر تواضعاً، ولكن للمفارقة، جعل هذا منه أقل موثوقية لأنه بدأ يشك في أشياء يعرفها بالفعل.
2. GPT: "الحكواتي الواثق" (تصاعد الثقة)
- ماذا حدث: في المواضيع مفتوحة النهايات (مثل "ما هي أفضل طريقة للعيش؟")، أصبح GPT أكثر ثقة كلما تحدث أكثر.
- التشبيه: تخيل حكواتياً يبدأ رواية قصة. بينما يكرر نقاط الحبكة لنفسه، يبدأ في تصديق أن قصته هي الحقيقة المطلقة. يتوقف عن قول "ربما" ويبدأ في قول "بالتأكيد"، حتى لو كانت القصة من نسج الخيال.
- النتيجة: أصبح GPT مفرط الثقة بشكل خطير. بدا كأنه خبير، لكن دقته لم تتحسن فعلياً. لقد كان فقط "يتمسك بموقفه" ويعزز كلماته.
3. Gemini: "الأسطوانة المشروخة" (ركود المعايرة)
- ماذا حدث: لم يصبح Gemini أكثر أو أقل ثقة. بدلاً من ذلك، أصبح عالِقاً.
- التشبيه: تخيل طالباً يؤدي اختباراً. إذا خاض الاختبار خمس مرات بمفرده (الحالة ج)، فإنه يتعلم من أخطائه ويصل إلى درجات كاملة بنهاية المطاف. ولكن إذا أُجبر على النظر إلى إجاباته السابقة أثناء أداء الاختبار (الحالة ب)، فإنه يتوقف عن التعلم. إنه فقط ينسخ أخطاءه القديمة.
- النتيجة: بدون "غرفة الصدى"، كان Gemini يتحسن طبيعياً في معرفة ما يعرفه. ولكن مع وجود "غرفة الصدى"، تم عرقلة هذا التحسن. ظل عالقاً عند مستوى متوسط من الدقة، غير قادر على تصحيح مساره ذاتياً.
المفاجأة الكبرى: الأمر يعتمد على الموضوع
وجدت الدراسة قاعدة حاسمة: هذا يحدث فقط مع الأسئلة الغامضة.
- الأسئلة الواقعية (مثلاً: "ما هي عاصمة فرنسا؟"): كانت الروبوتات مثالية. عرفت أن الإجابة صحيحة بنسبة 100%، لذا فإن التحدث عنها أكثر لم يغير من ثقتها.
- الأسئلة مفتوحة النهايات (مثلاً: "ما هو معنى الحياة؟"): هنا حدثت الفوضى. ولأنه لا توجد إجابة واحدة "صحيحة"، اعتمدت الروبوتات كلياً على كلماتها السابقة لتقرر مدى تأكدها.
لماذا يجب أن تهتم؟
هذا تحذير لمستقبل الذكاء الاصطناعي.
في الوقت الحالي، غالباً ما نختبر الذكاء الاصطناعي بسؤاله سؤالاً واحداً والتحقق من الإجابة. لكن في العالم الحقيقي، نحن نستخدم الذكاء الاصطناعي في محادثات طويلة. نطلب النصيحة، ثم نطلب التفاصيل، ثم نطلب ملخصاً.
تظهر هذه الورقة أن طول المحادثة يغير شخصية الذكاء الاصطناعي.
- قد يصبح أحد الأنظمة شديد التواضع وغير مفيد.
- قد يصبح آخر "مدعياً للمعرفة" وكاذباً.
- وقد يتوقف الثالث عن التعلم من أخطائه.
الخلاصة
في المرة القادمة التي تجري فيها دردشة طويلة مع ذكاء اصطناعي، تذكر: الذكاء الاصطناعي لا يجيبك فحسب؛ بل يستمع إلى نفسه أيضاً. وبناءً على أي ذكاء اصطناعي تستخدمه، فإن هذه المحادثة الذاتية قد تجعله إما خجولاً جداً أو مغروراً جداً.
يقترح الباحث أننا بحاجة لتصميم أنظمة ذكاء اصطناعي تقوم بـ "إعادة ضبط" ثقتها بشكل دوري، أو على الأقل تحذرنا عندما تبدأ في الابتعاد عن الحقيقة لمجرد أنها استمرت في التحدث إلى نفسها لفترة طويلة جداً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.