ConPress: Learning Efficient Reasoning from Multi-Question Contextual Pressure
ConPress एक हल्का स्व-पर्यवेक्षित फाइन-ट्यूनिंग (self-supervised fine-tuning) तरीका है जो "स्व-संपीड़न" (Self-Compression) घटना का लाभ उठाता है, जहाँ मॉडल कई प्रश्न प्रस्तुत किए जाने पर स्वाभाविक रूप से तर्क संबंधी निशानों (reasoning traces) को छोटा कर देते हैं, ताकि बड़े तर्क करने वाले मॉडलों को एकल-प्रश्न कार्यों के लिए संक्षिप्त और सटीक समाधान उत्पन्न करने के लिए प्रशिक्षित किया जा सके, जिससे बिना किसी बाहरी शिक्षक या सुदृढीकरण शिक्षण (reinforcement learning) के अनुमान ओवरहेड (inference overhead) को काफी कम किया जा सके।