💻 computer science

From Fragments to Paths: Task-Level Context Recovery for Large Industrial Codebases

Het artikel introduceert DeepDiscovery, een tweestaps "Location–Inference"-framework dat effectief taakrelevante context herstelt uit grote industriële codebases door verder te gaan dan lokale fragmenten, waardoor de prestaties van bestandsretrieval en coding agents bij complexe software engineering-taken aanzienlijk worden verbeterd.

Oorspronkelijke auteurs: Jiawei He, Weisong Sun, Mengyu Shi, Jie Jia, Tong Bian, Xikai Yang, Dong Sun

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jiawei He, Weisong Sun, Mengyu Shi, Jie Jia, Tong Bian, Xikai Yang, Dong Sun

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een meesterdetective bent die een complexe zaak probeert op te lossen in een enorme, chaotische stad (de Grote Industriële Codebase). De stad heeft miljoenen gebouwen, geheime tunnels, verborgen bedrading en constant veranderende straatnaamborden. Jouw taak is om de specifieke aanwijzingen te vinden die nodig zijn om een misdaad op te lossen (de Taak, zoals het oplossen van een bug of het toevoegen van een functie).

Het probleem is dat de meeste huidige detectie-instrumenten (bestaande AI-methoden) lijken op zaklampen die alleen de directe straathoek verlichten. Ze vinden misschien een paar relevante documenten, maar ze missen de cruciale verbindingen: de verborgen bedrading tussen gebouwen, de handleiding van een specifieke machine, of de testlogs van drie blokken verderop. Zonder het hele plaatje te zien, loopt de detective vast.

Dit artikel introduceert een nieuw detectie-instrument genaamd DEEPDISCOVERY. In plaats van alleen willekeurige plekken te verlichten, gebruikt het een slimme, tweestapsstrategie om het volledige "pad" te reconstrueren dat de detective moet bewandelen om de zaak op te lossen.

Hier is hoe het werkt, met behulp van eenvoudige analogieën:

1. De Tweestapsstrategie: "Vind het Anker, Volg dan het Pad"

De meeste tools proberen de hele stad in één keer te doorzoeken, wat traag en verwarrend is. DEEPDISCOVERY werkt in twee fasen:

Fase 1: Het Anker (Locatie)
Stel je voor dat je naar een specifiek persoon zoekt in een stadion. In plaats van elke stoel te scannen, zoek je eerst naar de "hoog-betrouwbare" instappunten: de teamlogo's, de specifieke sectienummers of de VIP-passen die op het ticket staan vermeld.
- In het artikel: Het systeem scant de code snel om een paar "ankers" te vinden (sleutelfiles zoals een hoofdconfiguratiebestand of een specifiek service-instappunt). Het gebruikt aanwijzingen zoals bestandsnamen, mappenstructuren en programmeerpatronen om te raden waar de actie plaatsvindt, zonder nog alle regels code te lezen.
Fase 2: Het Pad (Inferentie)
Zodra de ankers zijn gevonden, stopt de detective niet daar. Hij begint buitenwaarts te wandelen langs het "implementatiepad".
- In het artikel: Het systeem breidt zich uit vanaf deze ankers. Het zoekt naar expliciete links (zoals een deur die twee kamers verbindt) en impliciete links (zoits een geheime tunnel of een telefoongesprek tussen twee mensen dat niet in de bouwtekeningen van het gebouw staat geschreven). Het volgt deze verbindingen om configuratiebestanden, tests en gerelateerde code te vinden die de taak daadwerkelijk nodig heeft.

2. Het "Slimme Budget" (Metadata-Eerst)

Stel je voor dat je een rugzak inpakt voor een wandeling, maar je hebt slechts ruimte voor een paar items.

De oude manier: Je propt de hele bibliotheek in de tas, in de hoop dat je de juiste kaart vindt. Dat is zwaar en traag.
De DEEPDISCOVERY-manier: Je kijkt eerst naar de rug van het boek (de metadata/samenvatting). Als de rug zegt dat het boek over "koken" gaat, laat je het op de plank staan. Je opent het boek pas en leest de pagina's (laadt de volledige tekst) als de rug suggereert dat het cruciaal is voor je wandeling.
In het artikel: Het systeem leest eerst de "samenvatting" van bestanden. Het laadt pas de volledige, zware tekst van een bestand als dat absoluut noodzakelijk is voor de taak. Dit bespaart tijd en geld (rekenkracht).

3. Waarom het ertoe doet: Het "Versheid"-probleem

Veel bestaande tools vertrouwen op vooraf gemaakte kaarten (offline indexen) van de stad. Maar in een snelgroeiende stad zijn de kaarten verouderd op het moment dat er een nieuw gebouw wordt geconstrueerd.

De claim van het artikel: DEEPDISCOVERY wacht niet tot er een nieuwe kaart is getekend. Het verkent de stad nu, in realtime. Dit betekent dat het perfect werkt, zelfs wanneer de code elke minuut verandert, wat gebruikelijk is bij grote bedrijven.

4. De Resultaten: Meer zaken oplossen

De auteurs hebben dit nieuwe detectie-instrument op drie manieren getest:

De Proefrit (Methodeniveau): Ze gaven het 27 middelgrote puzzels. DEEPDISCOVERY vond 92,6% van de tijd de volledige set noodzakelijke aanwijzingen, waarmee het alle andere tools versloeg. Dit deed het zonder dat er vooraf kaarten gebouwd hoefden te worden, wat het sneller en goedkoper maakte.
De Werkelijkheid (Industriële Systemen): Ze sloten het aan op zes verschillende real-world AI-coding assistenten die door een groot bedrijf worden gebruikt. In bijna alle gevallen werden de assistenten veel beter in het vinden van de volledige set bestanden die nodig zijn om een probleem op te lossen. De verbetering was enorm voor grote, complexe projecten (tot een stijging van 9,2%).
Het Eindexamen (End-to-End): Ze testten het op SWE-bench Verified, een beroemde benchmark voor software engineering taken.
- Het resultaat: Een systeem dat DEEPDISCOVERY gebruikt, loste 78,6% van de taken op.
- De vergelijking: Dezelfde systeem zonder DEEPDISCOVERY loste slechts 70,4% van de taken op.
- De les: Door de code beter te begrijpen, loste de AI 41 taken meer op van de 500.

Samenvatting

Beschouw DEEPDISCOVERY als een detective die niet alleen de dichtstbijzijnde pagina van een handleiding leest, maar begrijpt hoe de hele machine werkt. Het vindt het startpunt, volgt de verborgen draden en verbindingen, en leest pas de zware instructies wanneer dat absoluut noodzakelijk is.

Het artikel beweert dat AI-coding assistenten door dit te doen, kunnen stoppen met het missen van cruciale puzzelstukjes en veel betrouwbaarder complexe software engineering problemen kunnen oplossen, vooral in enorme, snel veranderende codebases.

Technische Samenvatting: Van Fragmenten naar Paden: Taakniveau Contextherstel voor Grote Industriële Codebases

1. Probleemstelling

Hoewel Large Language Models (LLMs) sterke prestaties hebben getoond bij diverse software engineering (SE) taken, blijft het betrouwbaar begrijpen van grote industriële code-repositories een aanzienlijke uitdaging. Bestaande benaderingen vertrouwen vaak op het ophalen van geïsoleerde lokale fragmenten (bijv. via semantische gelijkenis of statische afhankelijkheidsgrafieken), maar falen in het herstellen van de bredere, taakrelevante context die nodig is voor complexe taken op repository-niveau.

Geïdentificeerde kernuitdagingen zijn onder meer:

Fragment versus Pad: Succesvolle taakvoltooiing vereist vaak redeneren over een volledige implementatieketen die interfaces, bedrijfslogica, configuraties, tests en cross-module afhankelijkheden beslaat, in plaats van alleen geïsoleerde codestukken.
Impliciete Afhankelijkheden: Veel cruciale links in industriële repositories (bijv. configuratieregistratie, dependency injection, event-propagatie) worden impliciet uitgedrukt en gemist door standaard semantische retrieval of expliciete statische analyse.
Versheid en Budgetbeperkingen: Veel methoden voor het begrijpen van repositories vertrouwen op vooraf gebouwde offline indexen (vector databases, statische grafieken). In snel evoluerende industriële omgevingen met frequente commits en wijzigingen in modules, is het onderhouden van deze artefacten kostbaar en leidt dit tot synchronisatieverloop, wat de kwaliteit en tijdigheid van de retrieval verslechtert.

2. Methodologie: DEEPDISCOVERY

De auteurs stellen DEEPDISCOVERY voor, een methode voor het begrijpen van repositories op taakniveau, ontworpen om volledige taakrelevante context te herstellen onder budgetbeperkingen zonder afhankelijk te zijn van offline voorbewerking. Het systeem werkt via een tweefasig Locatie–Inference framework.

A. Repository Representatie

De repository wordt gemodelleerd als een multirelationele graaf $G = (V, A)$ , waarbij $V$ artefacten vertegenwoordigt (bronbestanden, configuraties, tests) en $A$ drie soorten relaties vertegenwoordigt:

Expliciete Afhankelijkheden: Imports, aanroepen, overerving, referenties.
Impliciete Taakrelevante Links: Configuratie-naar-code mapping, registratieplaatsen, dependency injection bedrading, event bindings en test-naar-implementatie bruggen (geëxtraheerd via een lichtgewicht regelbibliotheek).
Organisatorische Relaties: Map-containment, modulegrenzen, eigenaarschapscues en fysieke nabijheid.

B. De Tweefasige Workflow

Fase 1: Locatie (Taakanker Lokalisatie)

Het doel is om een kleine set van hoog-betrouwbare instappunten (ankers) te identificeren om de zoekruimte te verkleinen. Deze fase omvat:

Omgevingsbewuste Analyse: Het afleiden van taakrelevante factoren (technologie-stack, module-scope) om niet-gerelateerde gebieden te onderdrukken.
Adaptieve Repository Compressie: Het construeren van een gecomprimeerd beeld van de repository dat de granulariteit aanpast op basis van schaal en budget, waarbij structurele aanwijzingen behouden blijven zonder de volledige tekst te laden.
Regel-gestuurde Anker Lokalisatie: Het rangschikken van kandidaat-entiteiten met behulp van een scorefunctie die combineert:
- Semantische gelijkenis (embedding + lexicale matching).
- Afstemming met de gecomprimeerde structurele weergave.
- Regel-template matches (naamgevingspatronen, mappenstructuren, framework keywords).
- Taak-geconditioneerde priors over de rollen van artefacten.

Fase 2: Inference (Multi-relationele Implementatiepad-herstel)

Beginnend bij de geïdentificeerde ankers, breidt het systeem zich stapsgewijs uit om het bredere implementatiepad te herstellen:

Budgetbewuste Expansie: Het systeem selecteert expansie-acties (het volgen van expliciete/impliciete links of organisatorische nabijheid) op basis van een prioriteitsscore: $Priority = \frac{Gain}{Cost}$ $P r i or i t y = \frac{G ain}{C os t}$ .
- Gain: Geschatte verbetering in taakrelevantie en pad-volledigheid.
- Cost: Tokengebruik en exploratie-latentie.
Kandidaat Constructie & Re-ranking: Geselecteerde acties vormen kandidaat-clusters die gefilterd en opnieuw gerangschikt worden voordat ze aan de context worden toegevoegd.
Metadata-Eerst Context Constructie: Om het budget te optimaliseren, kiest het systeem tussen een metadata-weergave (structurele samenvatting) en de volledige tekstinhoud voor elke entiteit. Volledige tekst wordt pas geladen als een promotiescore aangeeft dat dit noodzakelijk is voor downstream redeneren.

3. Belangrijkste Bijdragen

DEEPDISCOVERY Framework: Een nieuwe methode voor grote industriële codebases die het begrijpen van de repository behandelt als taakrelevante contextherstel in plaats van fragmentretrieval. Het maakt gebruik van een tweefasig Location–Inference proces dat ankerlokalisatie, multirelationele expansie en metadata-eerst constructie combineert.
Gecontroleerde Methode-niveau Evaluatie: Een vergelijking met vijf representatieve baselines (DeepWiki, CodeWiki, RAG, GraphRAG, AST+GraphRAG) op middelgrote taken, waarbij superieure file-recovery kwaliteit wordt aangetoond zonder offline voorbewerking.
Systeem-niveau Industriële Evaluatie: Een systematische evaluatie over een productie-schaal geïntegreerd codebase-ecosysteem (2,67M regels code, 25.000+ bestanden) en meerdere echte AI-coderingssystemen (Cline, Cursor, Claude Code, etc.), wat consistente verbeteringen in de Full Recall Rate laat zien.
End-to-End Impact: Een gecontroleerde evaluatie op SWE-bench Verified die aantoont dat verbeterd begrip van de repository direct correleert met hogere taak Solve Rates.

4. Experimentele Resultaten

Methode-niveau Vergelijking (Middelgrote Taken)

Op 27 middelgrote taken met 135 gouden relevante bestanden:

Recovery Kwaliteit: DEEPDISCOVERY behaalde de hoogste Full Recall Rate (FRR) van 92,6%, waarmee het de beste baseline (AST+GraphRAG met 90,4%) overtrof en aanzienlijk beter presteerde dan RAG (84,4%).
Efficiëntie: DEEPDISCOVERY vereiste 0 uur aan offline voorbewerking, terwijl Graph-gebaseerde baselines ongeveer 9 uur vereisten.
Latentie: Tijdens de taak was DEEPDISCOVERY aanzienlijk sneller (13,2s) dan RAG-stijl pipelines (44,8s – 63,8s).
Token Gebruik: Het bereikte een hoge recall met minder executie-tokens dan AST+GraphRAG, wat duidt op efficiëntiewinsten die verder gaan dan alleen het blootstellen van meer inhoud.

Systeem-niveau Evaluatie (Industriële Ecosystemen)

Geëvalueerd op 27 middelgrote en 40 grote taken over zes AI-coderingssystemen:

Full Recall Rate: DEEPDISCOVERY verbeterde de FRR over alle systemen.
- Grote Subprojecten: Absolute winsten varieerden van 1,6 tot 9,2 procentpunt.
- Middelgrote Subprojecten: Absolute winsten varieerden van 2,5 tot 7,4 procentpunt.
Stabiliteit: Verbeteringen waren consistent over meerdere runs en systemen, waarbij de meest significante winsten werden waargenomen in systemen met zwakkere native repository-zoekfuncties.

End-to-End Evaluatie (SWE-bench Verified)

Solve Rate: Een systeem uitgerust met DEEPDISCOVERY behaalde een Solve Rate van 78,6%, waarmee het de overeenkomstige baseline (70,4%) met 8,2 procentpunt versloeg (41 extra taken opgelost).
Statistische Significantie: De verbetering was statistisch significant ( $p < 0,01$ ) via een gepaarde McNemar-test.
Repository Specificaties: Winsten waren het meest uitgesproken in repositories die cross-file, cross-module of configuratiegevoelig redeneren vereisen (bijv. django, xarray, scikit-learn), terwijl gelokaliseerde taken minimale of geen winst zagen.

Ablatie Studie

Het verwijderen van sleutelcomponenten verminderde de prestaties:

Alleen Locatie: FRR daalde van 85,8% naar 80,0%, wat bevestigt dat ankers alleen onvoldoende zijn.
Zonder Adaptieve Compressie: FRR daalde naar 81,5%.
Zonder Impliciete Relaties: FRR daalde naar 83,3%, wat het belang van niet-expliciete links benadrukt.
Zonder Metadata-Eerst: FRR daalde naar 82,2%, wat de waarde van selectieve full-text loading aantoont.

5. Betekenis en Claims

Het artikel claimt dat sterker begrip van de repository op taakniveau een cruciale factor is bij het verbeteren van de prestaties van coding-agents bij complexe SE-taken.

Paradigmaverschuiving: Het werk betoogt voor een verschuiving van "fragment retrieval" naar "taakniveau contextherstel", waarbij wordt erkend dat industriële taken het overbruggen van impliciete afhankelijkheden en configuratie-artefacten vereisen die standaard retrieval mist.
Praktische Levensvatbaarheid: Door af te zien van offline voorbewerking, adresseert DEEPDISCOVERY het "versheidsprobleem" in industriële settings, en biedt het een levensvatbare oplossing voor snel evoluerende codebases waar het onderhouden van statische grafieken onpraktisch is.
Complementariteit: De resultaten suggeren dat begrip van de repository en modelredenering complementair zijn; zelfs sterke foundation models profiteren aanzienlijk van verbeterde mechanismen voor contextherstel.

De auteurs behouden een bescheiden toon en merken op dat DEEPDISCOVERY een "recall-georiënteerde" verbetering is die mogelijk niet alle taken evenveel ten goede komt (bijv. zeer gelokaliseerde taken), en dat foutmodi kunnen optreden bij ambigue taakbeschrijvingen of inconsistente naamgevingsconventies. Zij positioneren het werk als een belangrijke stap richting robuust begrip van de repository op taakniveau, in plaats van een universele oplossing voor alle retrieval-scenario's.