Training on Broken Contexts: Source Loss and Repair in Tool-Augmented LLM Post-Training
Dieses Paper identifiziert und quantifiziert ein kritisches Versagen beim Training von werkzeug-augmentierten LLMs, bei dem Standard-Sequenzkonstruktions-Policies die Verbindung zwischen den Assistant-Targets und deren zugrunde liegenden Tool-Observations unterbrechen, und schlägt Rekonstruktionsstrategien vor, welche die Supervision-Abdeckung sowie die Kontextintegrität signifikant verbessern und gleichzeitig die Token-Redundanz reduzieren.