Skills That Don't Exist: A Large-Scale Study of Hallucinated Skill Recommendation in LLM Agents
यह शोध पत्र LLM एजेंटों में एक महत्वपूर्ण आपूर्ति-श्रृंखला भेद्यता (supply-chain vulnerability) को उजागर करता है जहाँ वे अत्यधिक निरंतरता के साथ गैर-मौजूद कौशल नामों की कल्पना (hallucinate) करते हैं, जो एक ऐसे शोषण योग्य हमले के वेक्टर का निर्माण करता है जिसे केवल मॉडल ट्यूनिंग द्वारा हल नहीं किया जा सकता है बल्कि इसके लिए रजिस्ट्री-स्तर के नाम आरक्षण जैसे पारिस्थितिकी तंत्र-व्यापी संरचनात्मक परिवर्तनों की आवश्यकता है।