💻 computer science

Rose-SQL: Role-State Evolution Guided Structured Reasoning for Multi-Turn Text-to-SQL

Rose-SQL is een trainingsvrij raamwerk dat gebruikmaakt van small-scale Large Reasoning Models met een nieuwe Role-State-representatie om gestructureerd redeneren te sturen en conversatie-afhankelijkheden in multi-turn Text-to-SQL-taken nauwkeurig op te lossen, en presteert beter dan zowel in-context learning-baselines als state-of-the-art fine-tuned modellen op standaard benchmarks.

Oorspronkelijke auteurs: Le Zhou, Feng Yao, Fengcai Qiao, Bo Xu, Fangyuan Wang, Boyan Xu

Gepubliceerd 2026-05-06

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Le Zhou, Feng Yao, Fengcai Qiao, Bo Xu, Fangyuan Wang, Boyan Xu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een zeer slimme, maar iets onervaren assistent te leren hoe hij informatie uit een database moet opvragen. De database is als een enorme bibliotheek met miljoenen boeken (tabellen) en specifieke archiefsystemen (schema's). Je doel is om een natuurlijk gesprek om te zetten in een precieze opdracht (SQL) die de bibliotheek kan begrijpen.

Het artikel introduceert Rose-SQL, een nieuwe manier om deze "kleinschalige" AI-assistenten de klus te laten klaren zonder dat ze terug moeten naar school (fine-tuning) of afhankelijk hoeven te zijn van dure, gigantische AI-modellen.

Hier is hoe Rose-SQL werkt, opgesplitst in eenvoudige concepten en analogieën:

1. Het Probleem: Het "Verloren in Vertaling"-Gesprek

In het echte leven zijn gesprekken niet slechts eenmalige vragen. Je vraagt: "Wie heeft het spel gewonnen?" en vervolgt daarna met: "Wat was hun score?" De AI moet het eerste vraag onthouden om het tweede te kunnen beantwoorden.

Het Probleem: Kleine AI-modellen raken vaak in de war. Ze kunnen de context vergeten, de regels door elkaar halen, of onderdelen van het antwoord hallucineren (uit hun duim zuigen), omdat ze proberen de uiteindelijke opdracht direct uit het gesprek te raden.
De Oude Manier: Onderzoekers probeerden meestal ofwel enorme, dure AI-modellen te gebruiken (zoals een supergenie die alles weet), of ze dwongen kleine modellen om duizenden voorbeelden te memoriseren (fine-tuning), wat traag en kostbaar is.

2. De Oplossing: De "Bouwtekening" (Role-State)

Rose-SQL introduceert een slimme tussenpersoon genaamd Role-State.

De Analogie: Stel je voor dat je een architect bent. In plaats van het bouwteam te vragen "Bouw een huis" (wat vaag is), teken je eerst een bouwtekening.
Hoe het werkt: Voordat de AI de uiteindelijke SQL-code schrijft, vult hij eerst een simpele checklist in (de Role-State). Deze checklist vraagt: "Moeten we kolommen Selecteren? Moeten we tabellen Joinen? Moeten we Filteren op een voorwaarde?"
Het Voordeel: Dit zet een complex, rommelig gesprek om in een gestructureerde, 10-stappen checklist. Het dwingt de AI om te pauzeren en na te denken over de structuur van het antwoord voordat hij de daadwerkelijke code schrijft. Het is als je inpaklijst controleren voordat je de koffer dichtmaakt.

3. De Strategie: "Leren uit het Verleden" (Evolutionaire Trajecten)

Gesprekken veranderen. Soms voeg je een nieuwe filter toe; soms verwijder je een voorwaarde. Rose-SQL raadt niet zomaar; het zoekt naar patronen in hoe het gesprek evolueerde.

De Analogie: Denk hierbij aan een detective die een dossier bekijkt. Als de huidige vraag lijkt op een eerdere in de trainingsdata, controleert de AI: "Hoe hebben we die destijds opgelost?"
De "Isomorfisme Check": Het systeem vergelijkt de "bouwtekening" van de huidige vraag met de "bouwtekening" van eerdere vragen. Als de structurele veranderingen overeenkomen (bijvoorbeeld: "We hebben in de laatste stap een filter toegevoegd"), gebruikt het dat eerdere succes als leidraad.
Het Resultaat: Het filtert de "ruis" (irrelevante delen van de chat) eruit en houdt alleen de logische stappen over die echt belangrijk zijn. Het is als een GPS die zegt: "We hebben vorige keer linksaf gedraaid om files te vermijden; laten we dat weer doen", in plaats van gewoon willekeurig te rijden.

4. Het Proces: Een Drie-Stappen Dans

Rose-SQL leidt de AI door drie specifieke fasen:

Gain Dependency Analysis: De AI vraagt: "Heeft deze nieuwe vraag eigenlijk de oude vragen nodig om zinvol te zijn, of is het een nieuw onderwerp?" Het scheidt bruikbare geschiedenis van conversatie-gekwetter.
Evolutionary Trajectory Searching: Het vindt een "tweeling"-gesprek uit zijn trainingsdata dat op dezelfde manier evolueerde en controleert of de structurele bouwtekening overeenkomt.
Augmented Hierarchical Reasoning: Tot slot combineert het de bouwtekening, de geschiedenis en de database-regels om de SQL te schrijven. Het bouwt het antwoord stap voor stap op: Eerst het plan (bouwtekening), dan de code.

5. De Resultaten: Kleine Modellen, Grote Overwinningen

Het artikel testte dit op standaard benchmarks (SParC en CoSQL).

De Verrassing: Ze gebruikten kleine AI-modellen (4 tot 14 miljard parameters) die niet opnieuw werden getraind of gefine-tuned.
De Uitkomst: Door deze "bouwtekening en patroonherkenning"-methode te gebruiken, presteerden deze kleine modellen beter dan veel grotere, gefine-tuned modellen.
De Les: Je hebt niet altijd een groter brein nodig; je hebt gewoon een betere manier nodig om je gedachten te organiseren. Rose-SQL geeft kleine modellen een gestructureerde manier van denken, waardoor ze boven hun gewichtsklasse kunnen presteren.

Samenvatting

Rose-SQL is als het geven van een gestructureerde checklist en een referentiegids met eerdere succesvolle projecten aan een junior medewerker voordat hij een complexe taak begint. In plaats van de uiteindelijke oplossing te raden, plannen ze eerst de structuur, controleren ze of hun plan overeenkomt met hoe vergelijkbare problemen eerder zijn opgelost, en voeren ze het daarna uit. Dit stelt kleine, efficiënte AI-modellen in staat om complexe, multi-turn gesprekken met hoge nauwkeurigheid af te handelen, zonder dure training nodig te hebben.

Technische Samenvatting: Rose-SQL

Probleemstelling

Meer-draads Text-naar-SQL is een fundamentele semantische parsingtaak waarbij modellen natuurlijke taaldialogen moeten vertalen naar uitvoerbare SQL-query's over een databaseschema. Hoewel Large Reasoning Models (LRM's) die zijn getraind met Long Chain-of-Thought (CoT) veelbelovend zijn gebleken voor codegeneratie en wiskundig redeneren, blijft hun toepassing op meer-draads Text-naar-SQL onderbelicht. Bestaande benaderingen staan voor een tweedeling:

In-Context Learning (ICL) met grote propriëtaire modellen: Methoden zoals ACT-SQL en CoE-SQL vertrouwen op dure API's (bijv. GPT-3.5) en zijn gevoelig voor de kwaliteit van prompts, wat vaak leidt tot problemen met ruis of ambiguïteit in historische context.
Fijngefineerde kleine modellen: Benaderingen zoals Track-SQL en RASAT maken gebruik van taakspecifieke fine-tuning en gespecialiseerde architecturen (bijv. grafstructuren) om context te hanteren. Deze methoden zijn echter trainingsintensief, kostbaar om aan te passen en vereisen vaak aanvullende modules voor schema-linking of intent-tracking.

De kernuitdaging ligt in het mogelijk maken dat kleine, open-source LRM's effectief meer-draads redeneren uitsluitend via in-context learning. Deze modellen missen vaak de inductieve bias om zich aan te passen aan evoluerende dialoogcontexten, wat leidt tot misinterpretaties van contextafhankelijkheden en het niet kunnen vangen van compositieve query-semantiek.

Methodologie: Rose-SQL

Rose-SQL is een trainingsvrij framework dat is ontworpen om kleine LRM's aan te passen voor contextafhankelijke parsing zonder taakspecifieke fine-tuning. Het maakt gebruik van in-context learning via een gestructureerd, drie-fasen redeneerproces dat is gecentreerd rond een nieuwe tussenrepresentatie genaamd Role-State.

1. Role-State: Een structureel blauwdruk

Om de kloof tussen schema-linking en SQL-generatie te overbruggen, introduceert Rose-SQL Role-State, een fijnmazige representatie die semantische intentie ontkoppelt van syntactische uitvoering.

Definitie: Role-State is een 10-dimensionale binaire indicatorvector ( $v \in \{0, 1\}^{10}$ ) die natuurlijke taal-entiteiten expliciet afbeeldt op functionele SQL-rollen: select, join, condition, group, order, union, except, intersect, in, en not in.
Functie: Het dient als een structureel blauwdruk, waardoor het model structurele consistentie over draai heen kan verifiëren via isomorfismecontroles. Deze gedigitaliseerde vorm biedt een berekenbare basis voor het vergelijken van historische transities met de huidige interactie.

2. Drie-fasen redeneerframework

Rose-SQL werkt via drie synergetische fasen om dialoogdynamiek te beheren:

Fase 1: Gain Dependency Analysis (GDA)
Deze fase kwantificeert de contextuele invloed van historische uitingen om substantiële informatiewinst te onderscheiden van conversatieruis.
- Vragen worden herschreven met behulp van het M-schema om contextafhankelijkheid te verminderen.
- Dependency Strength ( $S_i$ ): Gemeten via genormaliseerde perplexiteitsreductie om te bepalen hoeveel een historische draai de huidige vraag ondersteunt.
- Dependency Distance ( $D_i$ ): Wijs gewichten toe op basis van temporele nabijheid.
- De uiteindelijke Gain Dependency Score (GDS) filtert kandidaten voor structurele analogie.
Fase 2: Evolutionary Trajectory Searching
Deze fase identificeert historische interactiepatronen die zowel semantisch relevant als structureel analoog zijn aan de huidige dialoog.
- Het systeem haalt kandidaat-trainingsdialogen op met compatibele schema-schalen en dependency-afdrukken.
- Het lokaliseert de meest semantisch vergelijkbare historische draai en de sterkste dependency daarvan.
- Isomorfismecontrole: Een kandidaat-transitie wordt alleen behouden als de gedigitaliseerde Role-State van het historische anker isomorf is met die van het huidige contextuele anker. Dit zorgt ervoor dat de opgehaalde trajectie een logisch geldige referentie is voor de huidige SQL-samenstelling.
Fase 3: Augmented Hierarchical Reasoning
Het model wordt geleid om SQL te genereren via een gestabiliseerd deductieproces in plaats van directe generatie.
- Inputs: De prompt bevat de taakinstructie, databaseschema, huidige vraag, Contextual Anchors (gericht op relevante geschiedenis), Verified Evolutionary Trajectories (die structurele begeleiding bieden) en Role Knowledge Injection (atomaire voorbeelden van SQL-rollen).
- Proces: Het model leidt eerst het intermediaire structurele plan en de Role-State af, en genereert vervolgens de uiteindelijke uitvoerbare SQL. Deze hiërarchische aanpak verkleint de structurele kloof tussen semantisch begrip en SQL-realizatie.

Belangrijkste bijdragen

Rose-SQL Framework: Een trainingsvrij paradigma dat gebruikmaakt van het Role-State-mechanisme om semantische mapping te ontkoppelen van syntactische generatie, en zo een gestructureerd intermediair doel biedt voor kleine LRM's.
Evolutionary Guidance Strategy: Een nieuwe aanpak die Gain Dependency Analysis integreert met isomorfismecontroles. Dit vermindert contextuele ruis door de logische consistentie van dialoogevolutie te verifiëren om de mogelijke SQL-samenstelling af te leiden.
Augmented Hierarchical Reasoning: Een paradigma dat het deductieproces stabiliseert via geverifieerde trajecten en contextuele ankers, en zo state-of-the-art prestaties bereikt zonder fine-tuning.

Experimentele resultaten

Experimenten zijn uitgevoerd op de SParC- en CoSQL-benchmarks met de Qwen3-serie (4B, 8B, 14B parameters) en aanvullende backbones (DeepSeek-R1-Distill-Llama-8B, gpt-oss-20b).

Prestatiewinst: Rose-SQL presteert aanzienlijk beter dan in-context learning-baselines. Binnen de Qwen3-serie bereikt het 4B-model met Rose-SQL prestatie-pariteit met de 8B-baseline. De 8B- en 14B-modellen overtreffen aanzienlijk state-of-the-art fijngefineerde modellen (bijv. Track-SQL) op beide benchmarks.
- Op SParC (Dev) bereikt Rose-SQL (8B) 78,72% Interaction Match (IM) en 62,56% Execution Accuracy (EX), wat beter is dan het fijngefineerde Track-SQL (IM: 75,39%, EX: 57,81%).
Robuustheid: Het framework toont consistente winst over verschillende modelschalen en redeneerbackbones, wat aangeeft dat de structurele begeleiding overdraagbaar is en niet afhankelijk van een specifiek modelfamilie.
Ablatiestudies:
- Role-State: Introduceert een structureel intermediair doel, wat de uitvoeringsgerelateerde metrieken (EX, TS) aanzienlijk verbetert.
- Role Knowledge Injection: Verbetert exact match (EM)-scores door atomaire rol-niveau-priors te bieden.
- Evolutionary Trajectories & Contextual Anchors: Cruciaal voor het modelleren van dialoogevolutie en het filteren van historische ruis, wat de consistentie over draai heen verbetert.
- Trajecthoeveelheid: Optimale prestaties worden bereikt met een gecontroleerd aantal trajecten (N=2 voor SParC, N=1 voor CoSQL); te veel introduceren ambiguïteit.

Betekenis en claims

Het artikel stelt dat Rose-SQL de structurele misalignering en contextuele ruis die inherent zijn aan meer-draads Text-naar-SQL-taken aanpakt, zonder de kosten van fine-tuning. Door Role-State in te voeren als een expliciete structurele ruimte, stelt het framework kleine redeneermodellen in staat om te redeneren over verifieerbare structurele transities in plaats van uitsluitend te vertrouwen op ruwe conversatiegeschiedenis.

De auteurs stellen dat Rose-SQL een stabielere weg biedt van meer-draads natuurlijke taalintentie naar uitvoerbare SQL-generatie. De resultaten suggereren dat de effectiviteit van het framework voortkomt uit zijn structurele begeleidingsmechanisme en niet uit louter modelschaling, waardoor kleine open-source modellen kunnen concurreren met of zelfs grotere, fijngefineerde of propriëtaire modellen kunnen overtreffen.

Beperkingen: De auteurs erkennen drie beperkingen: (1) Structural Retrieval Sparsity voor zeldzame dialoogpatronen; (2) Role-State Expressiveness, die mogelijk niet volledig complexe open-domein SQL-structuren dekt; en (3) Inference Overhead door de toegenomen promptlengte als gevolg van opgehaalde trajecten. Toekomstig werk richt zich op het aanpakken van schaarse retrievals en het verbeteren van redeneer-efficiëntie.