Technische Samenvatting: Token-optimalisatiestrategieën voor Oracle-naar-PostgreSQL-migratie op basis van LLM's

1. Probleemstelling

De migratie van legacy Oracle SQL- en PL/SQL-artifacten naar PostgreSQL is een kritiek onderdeel van de modernisering van enterprise-software. Hoewel Large Language Models (LLM's) potentie bieden voor het automatiseren van deze transformatie, wordt het proces momenteel beperkt door hoge tokenconsumptie, degradatie bij lange contexten (het "lost in the middle"-fenomeen) en het risico op semantische drift.

Het rechtstreeks aanvoeren van grote Oracle-schema's, procedurele logica en migratieregels aan LLM-prompts verhoogt de API-kosten en leidt vaak tot een verslechtering van de generatiekwaliteit. Bestaande benaderingen voor promptcompressie of algemene Text-to-SQL-generatie adresseren de specifieke beperkingen van dialectmigratie niet adequaat, waarbij het behoud van procedurele semantiek, schema-beperkingen en de betekenis van identificatoren van het grootste belang is. Het kernprobleem is hoe de contextgrootte kan worden verkleind zonder de semantische informatie te verliezen die nodig is voor een correcte, syntactisch geldige migratie.

2. Methodologie

De studie formaliseert tokenoptimalisatie als een beperkt transformatieprobleem binnen Specification-Driven Development (SDD). De auteurs stellen een pijplijn voor waarbij de migratiecontext (brontekst, specificaties, regels) wordt getransformeerd door een strategiefunctie $f_i$ voordat deze wordt doorgegeven aan de LLM-generatiefunctie $G$.

A. Taxonomie van Strategieën

Twaalf verschillende tokenoptimalisatiestrategieën werden gedefinieerd en geëvalueerd:

1. Basislijn: Ongewijzigde ruwe Oracle SQL/PL/SQL.
2. Contextpruning: Verwijdering van opmerkingen en Oracle-specifieke fysieke parameters (bijv. TABLESPACE, STORAGE).
3. Minificatie: Samenvoegen van overbodige witruimte en nieuwe regels.
4. Semantische compressie (DSL): Het afbeelden van herhalende SQL-structuren naar compacte symbolische vormen.
5. Metadata-aanvulling: Injecteren van schema-eigenschappen en sleutelparameters als semantische ankers.
6. Contextrefactoring: Verwijdering van onnodige aanhalingstekens uit identificatoren.
7. Schema-distillatie: Verwijdering van secundaire procedurele definities om alleen de kern-schema-logica te behouden.
8. Adaptieve routing: Dynamisch selecteren van een optimalisatiestrategie op basis van structurele complexiteit van de invoer (bijv. percentage PL/SQL).
9. AST-gebaseerde minificatie: Het parsen van SQL naar een Abstract Syntax Tree (AST) om overbodige knopen te verwijderen voordat er wordt gesequencialiseerd.
10. Identificatiemaskering: Vervangen van uitgebreide tabel-/kolomnamen door korte deterministische aliassen.
11. Handhaving van outputbeperkingen: Beperken van de systeemprompt van de LLM om conversationele output, markdown of extra opmaak te voorkomen.
12. Hybride optimalisatie: Combineren van adaptieve inputcompressie met outputbeperkingen.

B. Experimentele Opstelling

• Dataset: Twee subsets van Oracle SQL/PL/SQL-artifacten gekoppeld aan gevalideerde PostgreSQL-translaties: een steekproef van 10 queries voor initiële validatie en een steekproef van 100 queries voor statistische robuustheid.
• Model: GPT-4o werd gebruikt als de doel-LLM.
• Evaluatiemetrics:
  • Valid Syntax Rate (VSR): Percentage van de outputs die als geldige PostgreSQL kunnen worden geparsed.
  • Exact Match (EM): Karakter-identieke overeenkomst met de referentie.
  • Semantic Match (SM): Functionele equivalentie via AST-vergelijking of expertevaluatie.
  • CodeBLEU: Maatstaf voor structurele gelijkenis.
  • Token Efficiency (TE): Semantische return op tokenkosten ($SM / (T_{in} + T_{out})$).

3. Belangrijkste Resultaten

De evaluatie op de steekproef van 100 queries onthulde aanzienlijke afwegingen tussen tokenreductie en migratiekwaliteit:

• Veilige Strategieën: Contextpruning was de veiligste optimalisatie, met een reductie van 1,19% in inputtokens en 1,08% in outputtokens, terwijl een Semantic Match van 89,75% werd behouden (bijna identiek aan de basislijn van 89,80%).
• Optimale Afweging: Adaptieve routing bood de beste praktische balans. Het verlaagde de inputtokens met 8,72% en de outputtokens met 5,49%, behield een Semantic Match van 88,40% en verhoogde de Token Efficiency met 6,67%.
• Hoog-risico agressieve strategieën:
  • Schema-distillatie bereikte enorme tokenreducties (81,72% input, 74,64% output) en een toename van de Token Efficiency met 132,22%. Dit ging echter ten koste van een daling van 44,50 procentpunten in Semantic Match, waardoor de output functioneel onjuist werd voor complexe logica.
  • Identificatiemaskering verlaagde de inputtokens met 33,30%, maar veroorzaakte een daling van 30,08 procentpunten in Semantic Match, wat bevestigt dat domeinspecifieke identificatoren cruciaal zijn voor het afleiden van bedrijfslogica.
• Outputbeperkingen: Het beperken van outputopmaak verlaagde de outputtokens met 15,05%, maar verslechterde de Valid Syntax Rate met 7 procentpunten en de Semantic Match met 10,78 procentpunten, wat suggereert dat te strenge beperkingen het vermogen van het model om correcte SQL te genereren, belemmeren.

4. Belangrijkste Bijdragen

1. Voorstel Taxonomie: Het artikel introduceert een formele taxonomie van twaalf tokenoptimalisatiestrategieën die specifiek zijn toegesneden op Oracle-naar-PostgreSQL-migratie.
2. Probleemformalisatie: Het presenteert tokenoptimalisatie niet als eenvoudige promptverkorting, maar als een meerobjectief beperkt transformatieprobleem dat kosten, syntactische validiteit en semantisch behoud in evenwicht brengt.
3. Empirisch Bewijs: De studie biedt een rigoureuze empirische vergelijking van deze strategieën over verschillende querycomplexiteiten, en toont aan dat agressieve compressie vaak leidt tot semantische drift.
4. Beslismodel: Er wordt een praktisch model voor strategiekeuze voorgesteld, dat het gebruik van milde pruning aanraadt voor behoeften met hoge fideliteit en adaptieve routing voor schaalbare, heterogene migraties, terwijl het waarschuwt tegen agressieve distillatie voor procedurele logica.

5. Betekenis en Aanspraken

Het artikel beweert dat tokenoptimalisatie in database-migratie op basis van LLM's niet kan worden behandeld als een eenzijdige taak voor kostenreductie. De bevindingen tonen aan dat agressieve tokenreductie vaak leidt tot semantische degradatie, waardoor de migratieoutput functioneel nutteloos wordt ondanks hoge token-efficiëntiemaatstaven.

De primaire betekenis ligt in het vaststellen dat adaptieve contextcompressie superieur is aan uniforme compressie. Door invoer dynamisch te routeren op basis van structurele complexiteit (bijv. onderscheid maken tussen pure DDL en complexe PL/SQL), kunnen organisaties een "veilige" reductie in tokengebruik bereiken (ongeveer 8-9%) zonder de semantische integriteit van de gemigreerde code te compromitteren. De studie concludeert dat succesvolle migratie berust op het afwegen van kosten tegen structurele fideliteit, waarbij milde pruning en adaptieve routing de meest levensvatbare productiestrategieën vertegenwoordigen.