REALISTA: Realistic Latent Adversarial Attacks that Elicit LLM Hallucinations
यह शोध पत्र REALISTA को प्रस्तुत करता है, जो एक नवीन एडवर्सरियल अटैक फ्रेमवर्क है जो लेटेंट स्पेस में अर्थपूर्ण रूप से समान एडिटिंग डायरेक्शंस के निरंतर संयोजनों को अनुकूलित करके यथार्थवादी मतिभ्रम (hallucination) उत्पन्न करने वाले प्रॉम्प्ट्स तैयार करता है, जिससे ओपन-सोर्स और बड़े रीजनिंग मॉडल्स दोनों को प्रभावी ढंग से लक्षित करने के लिए मौजूदा डिस्क्रीट और कंटीन्यूअस विधियों की सीमाओं को दूर किया जा सके।