💬 NLP
When Names Change Verdicts: Intervention Consistency Reveals Systematic Bias in LLM Decision-Making
यह शोधपत्र ICE-Guard प्रस्तुत करता है, जो एक ऐसा ढांचा है जो यह प्रकट करता है कि LLMs अधिकार (authority) और फ्रेमिंग (framing) के प्रति महत्वपूर्ण और डोमेन-विशिष्ट पूर्वाग्रह प्रदर्शित करते हैं—जो अक्सर जनसांख्यिकीय पूर्वाग्रह से भी अधिक होते हैं—और यह प्रदर्शित करता है कि संरचित अपघटन (structured decomposition) को एक पुनरावृत्ति 'डिटेक्ट-डायग्नोस-मिटिगेट-वेरिफाई' लूप के साथ संयोजित करने से उच्च-जोखिम वाले निर्णय लेने में इन विसंगतियों को काफी हद तक कम किया जा सकता है।