Technische Samenvatting: Ontdekking onder Hypothese-redundantie

1. Probleemstelling

Systemen voor wetenschappelijke ontdekking worden vaak geconfronteerd met een verzadigingspunt waarbij het genereren van nieuwe hypothesen een afnemend rendement oplevert, niet omdat de nominale hypotheseruimte is uitgeput, maar omdat nieuwe kandidaten geen onafhankelijke informatie meer bieden. De auteurs identificeren spectrale compressie als het onderliggende geometrische mechanisme: naarmate een archief van hypothesen groeit, wordt de effectieve dimensie ($r_{eff}$) van de hypothese-correlatiematrix aanzienlijk kleiner dan de nominale dimensie ($N$).

In dergelijke gecomprimeerde ruimtes ervaart gestructureerde lokale zoektocht (bijv. het recombineren van bestaande basisfactoren of operatoren) een afnemend rendement omdat het de span van bestaande richtingen niet kan verlaten. Omgekeerd verhoogt willekeurige niet-lokale exploratie weliswaar de spectrale dekking, maar slaagt het er niet in om de voorspellende opbrengst te verbeteren omdat willekeurige richtingen niet zijn uitgelijnd met het doelsignaal. Het kernproblein is bepalen wanneer en hoe niet-lokale exploratie (bijv. via Large Language Models) geïntegreerd moet worden om deze knelpunten te overwinnen zonder middelen te verspillen aan redundante of niet-voorspellende nieuwheid.

2. Methodologie en Raamwerk

De Zoekcompressie-hypothese

Het artikel stelt de Zoekcompressie-hypothese voor, die stelt dat niet-lokale exploratie slechts een hybride voordeel biedt wanneer drie geometrische condities gelijktijdig optreden:

1. Spectrale Compressie: De hypotheseruimte moet gecomprimeerd zijn ($r_{eff} \ll N$), wat een tekort aan onafhankelijke richtingen creëert.
2. Orthogonale Ontsnapping: De niet-lokale voorstel moet een significante ontsnappingsafstand ($d_\perp$) bezitten ten opzichte van de huidige gestructureerde span.
3. Residuele Signaaluitlijning (RSA): Het orthogonale component van het voorstel moet zijn uitgelijnd met het doelsignaal.

Theoretische Formalisering

De auteurs formaliseren deze concepten met behulp van lineaire algebra en spectrale theorie:

• Effectieve Rang ($r_{eff}$): Gedefinieerd via de eigenwaarden van de correlatiematrix $\Sigma_A$, waarbij het aantal onafhankelijke richtingen in het archief wordt gemeten.
• Lokale Opbrengstschaling (Propositie 1): De verwachte opbrengst van gestructureerde lokale zoektocht wordt begrensd door de effectieve rang. Wanneer $r_{eff}/N \to 0$, neemt de opbrengst van gestructureerde enumeratie proportioneel af.
• Voorspellende Nieuwheid: Gedefinieerd als de Information Coefficient Information Ratio (ICIR) van het residuele component ($f - \text{proj}_A(f)$). Dit onderscheidt "nuttige" nieuwheid (uitgelijnd met het doel) van louter orthogonaliteit.

Het Hybride Ontdekkingsraamwerk

De auteurs instantiëren een raamwerk met drie operatoren, HYBRIDFACTOR, gedefinieerd als $A_{t+1} = T_{verify} \circ T_{local} \circ T_{jump}(A_t)$:

1. $T_{jump}$ (Niet-lokaal): Gebruikt een LLM om seed-expressies te genereren die de gestructureerde span ontsnappen.
2. $T_{local}$ (Lokaal): Voert gestructureerde enumeratie (recombinatie) uit rond de LLM-seeds binnen de uitgebreide nabijheid.
3. $T_{verify}$ (Filter): Verwijdert kandidaten die redundant zijn (hoge correlatie met het archief) of niet-voorspellend (lage ICIR).

Het raamwerk behandelt de beslissing om niet-lokaal te exploreren als een diagnostisch proces gebaseerd op de drie geometrische condities.

3. Belangrijkste Bijdragen

1. Identificatie van Spectrale Compressie: Het artikel formaliseert spectrale compressie als een verenigend mechanisme voor afnemende rendementen in ontdekkingssystemen, waarbij de effectieve rang van de hypothese-correlatiematrix direct wordt gekoppeld aan de opbrengst van gestructureerde zoektocht.
2. Geometrische Condities voor Hybride Voordeel: Theorem 1 stelt vast dat compressie-ernst, ontsnappingsafstand en residuele signaaluitlijning individueel noodzakelijke condities zijn voor een hybride voordeel. Het verwijderen van één van deze condities elimineert het voordeel van niet-lokale exploratie.
3. Onderscheid tussen Orthogonaliteit en Voorspellende Nieuwheid: Het werk toont aan dat willekeurige orthogonale sprongen de dekking vergroten, maar de opbrengst niet verbeteren. Nuttige exploratie vereist gerichte niet-lokale sprongen naar zwakke maar doel-dragende richtingen.
4. Cross-Domein Validatie: De auteurs leveren bewijs dat dit geometrische knelpunt en de hybride oplossing van toepassing zijn op diverse domeinen, waaronder financiële factorontdekking, symbolische regressie en synthetische stresstests.

4. Experimentele Resultaten

Financiële Factorontdekking (A-Share Aandelen)

• Opzet: Getest op 5.647 A-share aandelen (2010–2026) met gebruik van een 100-factor gestructureerd archief.
• Bevindingen:
  • In sterk gecomprimeerde regimes (hoge correlatie) presteerde de hybride aanpak (LLM + gestructureerd) significant beter dan pure gestructureerde zoektocht.
  • Signaalplanting: Wanneer het doelsignaal in de "zwakke" eigenspace was geplant (ondervertegenwoordigd door lokale zoektocht), bereikte de hybride methode een positieve opbrengstwinst ($\Delta \approx +2.5$). Wanneer het signaal in de "top" eigenspace zat, was de hybride winst negatief, wat bevestigt dat hybride zoektocht precies helpt waar lokale zoektocht doel-dragende richtingen ondervertegenwoordigt.
  • Gericht vs. Willekeurig: Retrieval-gestuurde LLM-seeds (hoge RSA) behaalden 53% hogere opbrengst dan geschudde seeds bij bijna identieke ontsnappingsafstanden, wat bewijst dat richting belangrijker is dan afstand.

Synthetische en Cross-Domein Stresstests

• Compressie-sweeps: In synthetische omgevingen met variërende $r_{eff}/N$, was het hybride voordeel het grootst onder sterke compressie ($r_{eff}/N \approx 0.1$) en verdween het naarmate de ruimte de volledige rang naderde ($r_{eff}/N \to 1$).
• Symbolische Regressie (LLM-SRBench): Op 158 vergelijkingen evenaarde de hybride methode pure Genetische Programmering (GP) op synthetische vergelijkingen, maar redde het 25 van de 46 catastrofale GP-fouten op adversarieel getransformeerde vergelijkingen. Dit ondersteunt de claim dat niet-lokale seeds het meest waardevol zijn wanneer de zoeklandschap ernstig gecomprimeerd of misleidend is.
• Publieke Tabulaire Controle: Een operationele controle op OpenML-datasets toonde aan dat een diagnostisch budgetallocatiebeleid (gebruikmakend van de geometrische condities om te beslissen wanneer LLM's te gebruiken) beter presteerde dan vaste 50/50 hybride strategieën en gedwongen niet-lokale exploratie.

5. Betekenis en Claims

Het artikel beweert een diagnostische procedure aan te bieden in plaats van een universele wet. De primaire betekenis ligt in het verschuiven van het paradigma van LLM-gestuurde ontdekking van "generieke nieuwheidszoektocht" naar een gerichte, geometrisch bewuste methode.

• Wanneer te Exploreren: Het raamwerk biedt een stopregel: als de hypotheseruimte nabij de volledige rang is ($r_{eff}/N \approx 1$), of als de ontsnappingsafstand of signaaluitlijning nabij nul is, moet niet-lokale exploratie worden gestaakt omdat het geen hybride voordeel biedt.
• Aard van de Bijdrage: De auteurs stellen expliciet dat het Zoekcompressie-principe een "kandidaat geometrische wet" en een "kandidaat wet" is, en geen bewezen universele waarheid. Het werk is beschrijvend; het legt uit wanneer exploratie waardevol is, in plaats van een optimaal exploratiebeleid voor te schrijven.
• Praktische Implicatie: De resultaten suggereren dat de toewijzing van middelen in ontdekkingssystemen dynamisch moet zijn, waarbij de investering in gerichte niet-lokale exploratie alleen wordt verhoogd wanneer spectrale diagnostiek wijst op een gecomprimeerde zoekruimte met onverkende, doel-dragende richtingen.

Het artikel concludeert dat nieuwheid alleen onvoldoende is; de opbrengst van ontdekking wordt gemaximaliseerd wanneer exploratie voorspellend nieuw is—gelijktijdig de gecomprimeerde span ontsnappend en uitgelijnd met het residuele doelsignaal.