BSO: Safety Alignment Is Density Ratio Matching
यह शोध पत्र ब्रेगमन सेफ्टी ऑप्टिमाइज़ेशन (BSO) प्रस्तुत करता है, जो एक सिद्धांत-आधारित, एकल-चरण वाला ढांचा है जो भाषा मॉडल की सुरक्षा संरेखण (सेफ्टी अलाइनमेंट) प्रक्रिया को एक डेंसिटी रेशियो मैचिंग समस्या में बदलकर इसे सरल बनाता है, जिससे जटिल पाइपलाइनों या सहायक मॉडलों की आवश्यकता समाप्त हो जाती है और सुरक्षा-उपयोगिता (सेफ्टी-हेल्पफुलनेस) के बीच संतुलन में निरंतर सुधार होता है।