Loong: A Human-Like Long Document Translation Agent with Observe-and-Act Adaptive Context Selection

Technische Samenvatting: LOONG – Een Mensachtig Agent voor Vertaling van Lange Documenten

Probleemstelling
Documentgebaseerde machinevertaling (DocMT) blijft een aanzienlijke uitdaging voor Large Language Models (LLM's). Hoewel LLM's uitstekend presteren in vertaling op zinsniveau, kampen ze met problemen bij lange documenten vanwege beperkte contextvensters, wat globale samenhang belemmert, en de aanwezigheid van overbodige contextuele informatie die de vertaalkwaliteit verslechtert. Bestaande benaderingen falen vaak ofwel in het handhaven van strikte zinsniveau-afstemming (Doc2Doc-methoden) of nemen willekeurig overbodige context op, wat ruis introduceert die leidt tot suboptimale prestaties. Bovendien falen standaard chunking-methoden vaak naarmate de documentlengte toeneemt, waardoor de limieten van de contextcapaciteit worden overschreden en vertalingen mislukken.

Methodologie
De auteurs stellen LOONG voor, een mensachtig agent voor vertaling van lange documenten die is ontworpen om de cognitieve processen van professionele menselijke vertalers na te bootsen. De methodologie is gebaseerd op drie kerncomponenten:

1. Mensachtig Geheugenmodule (3E):
   LOONG maakt gebruik van een multi-granulariteitsgeheugenarchitectuur die wordt bijgewerkt na het verwerken van elk documentsegment. Deze module slaat drie distincte soorten historische informatie op:

   • Essentie: Globale samenvattingen van voorgaande segmenten om semantische progressie en genre-signalen vast te leggen.
   • Exemplaren: Tweetalige zinnenparen (bron-doel) om stilistische consistentie te behouden en in-context demonstraties te bieden.
   • Entiteiten: Gestructureerde records van entiteiten (bijv. personages, organisaties) met tweetalige namen en domeinspecifieke attributen om terminologische precisie te waarborgen.

2. Observeer-en-Acteer Adaptieve Contextselectie:
   In plaats van passief aandacht te schenken aan alle opgehaalde geschiedenis, maakt LOONG gebruik van een diep redeneermechanisme om bruikbare context te onderscheiden van redundantie. De agent voert voor elk segment een sequentieel 3-staps redeneerproces uit:

   • Observeer: De agent observeert het huidige segment samen met kandidaat-items opgehaald uit de Essentie-, Exemplaar- en Entiteitengeheugens.
   • Acteer: De agent genereert een redeneergedachte die de semantische relevantie van elke kandidaat analyseert en het optimale subset voor vertaling selecteert.
   • Sequentiële Decompositie: Om de combinatorische zoekruimte te beheren, onderzoekt de agent contextselectiestrategieën voor elk geheugentype (Essentie, vervolgens Exemplaar, vervolgens Entiteit) sequentieel in plaats van gezamenlijk.

3. Versterkend Leren en Uitlijning:

   • Constructie van Voorkeursdata: Het systeem steekt diverse "observeer-en-acteer"-trajecten om voorkeursdatasets te construeren. Het identificeert voorkeurs- en niet-voorkeurscontextselectie-acties en vertaalsoutput op basis van kwaliteitsmetrieken (sCOMET).
   • Training: De agent wordt geoptimaliseerd via een tweestapsproces: Cold-start Supervised Fine-Tuning (SFT) op voorkeursinstanties, gevolgd door Direct Preference Optimization (DPO) met behulp van de volledige voorkeursdataset. Low-Rank Adaptation (LoRA) wordt gebruikt om de trainings-efficiëntie te verbeteren.
   • Uitlijning-afgedwongen Inferentie: Om strikte zinsniveau-uitlijning tussen bron en doel te waarborgen (cruciaal voor evaluatie en geheugenupdates), maakt LOONG gebruik van een recursief algoritme. Als een LLM-output niet overeenkomt met de grenzen van bronzinnen, wordt het segment recursief opgesplitst totdat uitlijning is bereikt.

Belangrijkste Bijdragen

• LOONG-agent: De ontwikkeling van een DocMT-agent die bruikbare contextuele informatie ophaalt en adaptief identificeert door middel van diep redeneren, in plaats van te vertrouwen op statische contextvensters.
• Sequentiële Verkenningstrategie: Een nieuwe methode voor het construeren van voorkeursdata door het contextselectieproces te decomponeren in sequentiële stappen, waardoor fijnmazige feedback mogelijk wordt over de bruikbaarheid van specifieke contexttypen (Essentie, Exemplaar, Entiteit).
• Uitlijning-afgedwongen Algoritme: Een gespecialiseerd algoritme voor documentgebaseerde vertaling dat strikte zinsniveau-correspondentie tussen bron en gegenereerde doeldocumenten garandeert, waarbij de sterke punten van Doc2Sent- en Doc2Doc-benaderingen worden gecombineerd.

Experimentele Resultaten
Empirische evaluaties werden uitgevoerd op vertaaltaken Engels $\Leftrightarrow$ Chinees, Duits en Frans, over diverse backbone-modellen (Qwen2.5/3, Llama3.1) en domeinen (Nieuws, Spreken, Literatuur).

• Prestatieverbeteringen: LOONG behaalde aanzienlijke verbeteringen ten opzichte van baselines (Zin, Segment, Doc2Doc en de geheugenbased agent DELTA). Het toonde gemiddelde winsten van maximaal 13,0 punten op zinsniveau (sCOMET), documentniveau (dCOMET) en LLM-as-a-Judge-metrieken.
• Robuustheid: De agent vertoonde sterke generalisatie over ongezette domeinen (bijv. webromans, TED-talks) en talen (inclusief low-resource paren zoals Tsjechisch, Portugees en Russisch $\to$ Engels).
• Ruisbestendigheid: In experimenten met ingevoegde pseudo-contextruis behield LOONG stabiele prestaties, terwijl basismethoden aanzienlijke degradatie vertoonden.
• Stabiliteit bij Ultra-Lange Documenten: In een case study waarbij de eerste 12 hoofdstukken van Reis naar het Westen werden vertaald (Chinees $\to$ Portugees), slaagde LOONG erin de taak succesvol af te ronden zonder contextoverflow, terwijl standaard methoden met volledige geschiedenis faalden zodra het document de contextlimieten overschreed.

Betekenis
Het artikel stelt dat LOONG de langdurige knelpunten van documentgebaseerde vertaling aanpakt, specifiek samenhang en coherentie in ultra-lange teksten. Door de kloof te overbruggen tussen diepe redeneercapaciteiten en documentgebaseerde vertaling, toont LOONG aan dat adaptieve, redeneringsgedreven contextselectie superieur is aan willekeurige contextopname. Het werk suggereert dat dergelijke agenten direct kunnen worden ingezet in diverse domeinen zonder extra tuning, en een robuuste oplossing bieden voor hoogwaardige vertaaltaken van lange documenten waarbij het behoud van globale consistentie en terminologische precisie cruciaal is.