⚛️ quantum physics

RiverONE: Generating Knowledge-Intensive VLM by Simulated Quantum Machines

RiverONE is een lichtgewicht vision-language model met 1,9 miljard parameters dat tijdens de training gebruikmaakt van gesimuleerde quantumcomputatie om gespecialiseerde parameters te genereren, waardoor het meer dan 95% van de prestaties van grotere quantum-gekalibreerde modellen op wetenschappelijke kalibratietaken kan bereiken terwijl het volledig op klassieke hardware draait.

Oorspronkelijke auteurs: Xindian Ma, Xinyu Long, Yefei Zhang, Yanchen Liu, Xianghao Li, Yufu Wen, Yike Hu, Yuedong Zhu, Zeyang Ma, Wen Qin, Yikun Wang, Peng Yang, Monan Wang, Teng Yu

Gepubliceerd 2026-06-30

📖 4 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Xindian Ma, Xinyu Long, Yefei Zhang, Yanchen Liu, Xianghao Li, Yufu Wen, Yike Hu, Yuedong Zhu, Zeyang Ma, Wen Qin, Yikun Wang, Peng Yang, Monan Wang, Teng Yu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een briljante, wereldberoemde wetenschapper hebt die naar een complexe grafiek van een kwantumfysica-experiment kan kijken en direct kan vertellen of de machine correct werkt, wat de cijfers betekenen en wat de volgende stap is om het te repareren. Deze wetenschapper is ongelooflijk slim, maar ze is ook enorm. Ze heeft een enorme bibliotheek aan boeken nodig, een gigantisch kantoor en een team assistenten om haar werk te kunnen doen. In de wereld van AI is deze "reusachtige wetenschapper" een massief model zoals dat van NVIDIA, dat veel computergeheugen inneemt en duur is om te draaien.

De onderzoekers achter dit artikel wilden een compacte, zakformaat versie van deze wetenschapper bouwen die op een standaard laptop of op een enkele computerchip past, zonder het vermogen te verliezen om het zware werk te doen. Ze noemden hun creatie RiverONE.

Hier is hoe ze het deden, met behulp van enkele creatieve analogieën:

1. Het Probleem: De Reus Verkleinen

Om het model kleiner te maken, moest het team veel van de "spieren" wegknippen.

De Visuele Encoder (De Ogen): Ze namen het deel van het model dat naar de grafieken kijkt en zorgden ervoor dat het werk werd gedeeld. Stel je een team van 100 kunstenaars voor die een muurschildering maken. In plaats van elke kunstenaar een unieke stijl te geven, lieten ze ze allemaal dezelfde penseel en techniek gebruiken, maar met slechts kleine variaties. Dit bespaart ruimte, maar de schildering kan hierdoor wat van zijn unieke details verliezen.
De Taalkundige Ruggengraat (Het Brein): Ze comprimeerden het deel dat tekst leest en schrijft. Denk hierbij aan het samenvatten van een encyclopedie van 1.000 pagina's tot een paar pagina's met opsommingstekens. Je behoudt de hoofdideeën, maar je verliest wat nuance en specifieke details.

2. De Magische Truc: De "Kwantumgeest"

Dit is het slimme gedeelte. Wanneer je een model tot dit niveau verkleint, wordt het meestal "dommer" omdat het die fijne details verliest. De onderzoekers hadden een manier nodig om die verloren informatie terug te krijgen, maar ze konden niet simpelweg meer data toevoegen (dat zou het model weer groot maken).

Ze gebruikten een concept genaamd Simulated Quantum Computation (Gesimuleerde Kwantumberekening).

De Analogie: Stel je voor dat je een kapotte radio probeert te repareren. Je kunt niet zomaar meer draden toevoegen omdat de radio te klein is. In plaats daarvan gebruik je een supercomplex, onzichtbaar blauwdruk (de kwantumsimulatie) om exact te berekenen welk minuscuul draadje je moet buigen om het geluid perfect te maken.
De Catch: Je gebruikt deze "onzichtbare blauwdruk" alleen terwijl je de radio bouwt. Zodra de radio gebouwd is, gooi je de blauwdruk weg. De uiteindelijke radio werkt perfect, maar heeft de blauwdruk niet nodig om te functioneren.

In RiverONE gebruikten ze een gesimuleerd kwantumcircuit (een wiskundige truc die nabootst hoe kwantumcomputers denken) om speciale "reparatieparameters" te generen. Deze parameters werken als een geheim ingrediënt dat de gaten opvult die door de compressie zijn ontstaan.

Cruciaal Punt: Het uiteindelijke RiverONE-model heeft geen kwantumcomputer nodig om te draaien. Het draait volledig op normale computerchips (GPU's). Het kwantumgedeelte werd alleen gebruikt tijdens de "constructiefase" om het model te ontwerpen.

3. Het Resultaat: Een Expert in Zakformaat

Het team testte RiverONE op een specifieke taak: het begrijpen van kwantumkalibratieplots (die lastige grafieken die wetenschappers gebruiken om kwantummachines af te stemmen).

De Competitie: Ze vergeleken RiverONE met het reusachtige NVIDIA-model (dat ongeveer 35 miljard "hersencellen" of parameters heeft).
De Winnaar: RiverONE heeft slechts ongeveer 1,9 miljard parameters (minder dan 5% van de grootte van de reus).
De Prestatie: Ondanks dat het klein is, behaalde RiverONE 95% van de prestaties van het reusachtige model. Het kan een grafiek bekijken, fouten opsporen en reparaties voorstellen bijna net zo goed als de massieve versie, maar het draait op een enkele consumenten-grafische kaart in plaats van op een enorme serverfarm.

Samenvatting

Beschouw RiverONE als een zeer efficiënte leerling.

Ze namen een meesterambachtsman (het grote model) en leerden hem om met minder gereedschap te werken (compressie).
Ze gebruikten een "kwantummagische truc" (gesimuleerd tijdens de training) om precies uit te vogelen hoe ze de gereedschappen van de leerling moesten aanpassen, zodat deze geen vaardigheid zou verliezen.
Het resultaat is een lichtgewicht expert die hetzelfde werk kan doen als de meester, maar in je zak past en geen supercomputer nodig heeft om te werken.

Het artikel beweert dat dit bewijst dat het gebruik van gesimuleerde kwantumwiskunde om kleinere AI-modellen te bouwen een praktische manier is om krachtige, wetenschappelijke instrumenten te creëren die gemakkelijk in te zetten zijn.

Technische Samenvatting: RiverONE

Probleemstelling

Het artikel behandelt de uitdaging van het inzetten van kennisintensieve Vision-Language Models (VLMs) voor wetenschappelijke workflows, specifiek voor de kalibratie van quantumapparatuur. In dit domein moeten onderzoekers complexe plots (bijv. Rabi-oscillaties, Ramsey-franjes, resonantiescans) interpreteren om fysieke parameters te extraheren, de betrouwbaarheid van de fit te beoordelen en experimentele resultaten te diagnosticeren.

Hoewel grootschalige VLMs over sterke redeneergaven beschikken, wordt hun inzet in wetenschappelijke omgevingen (nabij instrumenten of op edge-apparaten) belemmerd door:

Resourcebeperkingen: Grote modellen (miljarden parameters) vereisen aanzienlijk geheugen en rekenkracht, wat lokale of lage-latentie inzetbaarheid moeilijk maakt.
Compressie-afruil: Standaard modelcompressietechnieken (weight sharing, kwantisatie) verslechteren vaak het fijnmazige visuele redeneren en de domeinspecifieke kennis die nodig zijn voor kalibratie-taken. Zo kan het comprimeren van visuele lagen het vermogen om de kwaliteit van een fit te beoordelen verzwakken, terwijl compressie van taal de parameterextractie kan belemmeren.

De auteurs stellen dat hoewel huidige quantumhardware nog niet praktisch is voor directe inferentie, gesimuleerde quantumcomputatie kan dienen als een krachtig mechanisme tijdens de "constructiefase" om gestructureerde parameters te genereren voor compacte klassieke modellen, waardoor informatieverlies tijdens compressie wordt gecompenseerd.

Methodologie: RiverONE Architectuur

RiverONE is een lichtgewicht VLM (~1,9 miljard parameters) ontworpen voor het begrijpen van quantumkalibratieplots. Het combineert een gespecialiseerde visuele encoder met een gecomprimeerde taalbackbone, waarbij gebruik wordt gemaakt van een Quantum-Generated Parameter (QGP) mechanisme om het verloren representatievermogen te herstellen.

1. Basisarchitectuur

Visuele Encoder: Gebaseerd op IsingViT-800M, een domeinspecifieke Vision Transformer die is voorgetraind op quantumkalibratiebeelden.
Verwerkingspipeline:
- Pixel Unshuffle: Herrangschikt ruimtelijke subpixels om de kanaaldimensie te vergroten en de ruimtelijke resolutie te verlagen, waardoor ruimtelijke redundantie behouden blijft.
- Cross-Layer Concatenation: Voegt kenmerken van meerdere Transformer-lagen samen om downstream-modules te voorzien van abstractie op meerdere niveaus.
- MLP Projector: Brengt visuele embeddings in kaart naar de embedding-ruimte van het taalmodel.
Taal Backbone: Gebaseerd op InternVL3.5-4B (specifiek de Qwen3-gebaseerde architectuur), die dient als de reasoning engine.

2. Compressiestrategieën

Om de modelgrootte voor inzetbaarheid te verkleinen, gebruikt RiverONE twee primaire compressietechnieken:

Visuele Compressie (Weight Multiplexing): Geïnspireerd door MiniViT, deelt de visuele encoder aandachtgewichten over meerdere Transformer-blokken ( $K < L$ ). In plaats van unieke gewichten voor elke laag, wordt een set gedeelde blokken gebruikt, met lichtgewicht per-laag transformaties toegepast.
Taalcompressie (Additive Codebook Quantization): Geïnspireerd door AQLM, worden de gewichten van de taalbackbone benaderd als een superpositie van geleerde codeboek-entries ( $W \approx \sum C_j[I_j]$ ). Dit maakt agressieve compressie met een laag aantal bits mogelijk terwijl globale correlaties in de gewichtsdistributie behouden blijven.

3. Quantum-Generated Parameter (QGP) Compensatie

Om het informatieverlies veroorzaakt door bovenstaande compressies tegen te gaan, introduceren de auteurs QGP, een gesimuleerd variabel quantumcircuit (VQC) dat uitsluitend tijdens de trainings-/constructiefase wordt gebruikt.

Mechanisme:
1. Amplitude Encoding: Gedeelde gewichtsmatrices van de gecomprimeerde visuele encoder worden gecodeerd in quantumtoestanden.
2. Variational Circuit: Een geparametriseerd quantumcircuit (entangling en rotatie lagen) verwerkt deze toestanden en creëert een gestructureerde niet-lineaire transformatie.
3. Measurement & Readout: Meetwaarden (probabilities) worden via een geleerde lineaire transformatie teruggekaatst naar klassieke tensoren.
4. Materialisatie: De output is een set van laagspecifieke compensatieparameters (bijv. aandacht-perturbaties, residuele poorten) die de gedeelde gewichten her-parametriseren.
Inzetbaarheid: Cruciaal is dat QGP niet wordt gebruikt tijdens de inferentie. Zodra de training is geconvergeerd, worden de gegenereerde parameters "gematrialiseerd" in statische klassieke tensoren. Het uiteindelijke RiverONE-model draait volledig op klassieke GPU's met nul quantum-overhead.

4. Trainingspipeline

Het model wordt getraind via een tweefasig proces op de QCalEval benchmark:

Supervised Fine-Tuning (SFT):
- Fase 1 (In-Context Learning): Traint het model op demonstratie-achtige voorbeelden om domein-grounding op te bouwen.
- Fase 2 (Zero-Shot): Verwijdert demonstraties om internalisering van de kalibratiekennis af te dwingen.
Mixed Preference Optimization (MPO): Stemt de outputs van het model af op expertvoorkeuren met behulp van een samengestelde verliesfunctie (Preference loss, Quality loss, en Generation loss) om wetenschappelijk redeneren en de betrouwbaarheid van de fit te verbeteren.

Belangrijkste Bijdragen

Quantum-voor-LLM Constructie-framework: Het artikel stelt een nieuw paradigma voor waarbij gesimuleerde quantumcircuits fungeren als een generator van parameters tijdens de constructiefase. Dit maakt de creatie van compacte, kennisintensieve klassieke VLMs mogelijk zonder dat er tijdens de inferentie quantumhardware nodig is.
RiverONE Model: Een 1,9 miljard parameters tellende VLM die specifiek is geoptimaliseerd voor het begrijpen van quantumkalibratieplots, waarbij een hoge prestatie wordt behaald met een fractie van de parameters van grotere domeinspecifieke modellen.
QGP Module: Een gesimuleerde VQC-gebaseerde generator die laagspecifieke compensatieparameters produceert voor gedeelde visuele Transformer-blokken, wat effectief het vermogen tot kalibratie-specifiek redeneren herstelt dat verloren ging tijdens compressie.
Empirische Validatie: Demonstratie dat gesimuleerde quantumparametergeneratie een superieur inductief bias dient voor compressie-compensatie vergeleken met klassieke adapters met een gelijkwaardig parameterbudget.

Experimentele Resultaten

Het model werd geëvalueerd op de QCalEval benchmark, die visuele beschrijving, classificatie van uitkomsten, wetenschappelijk redeneren, betrouwbaarheid van de fit, parameterextractie en kalibratiediagnose omvat.

Prestaties vs. Baselines:
- RiverONE-1,9B bereikt minstens 95% van de prestaties van NVIDIA Ising Calibration 1 (een ~35 miljard parameters tellend MoE-model) op kalibratie-taken.
- Het presteert aanzienlijk beter dan algemene open-source VLMs (bijv. InternVL3.5-2B/4B/8B) en grote gesloten bron modellen (bijv. Claude Opus, GPT-5) in kalibratie-gevoelige categorieën zoals fit-betrouwbaarheid (Q4) en diagnose (Q6).
Efficiëntie:
- RiverONE gebruikt <10% van het aantal parameters van de NVIDIA-baseline.
- Het vermindert het piek GPU-geheugengebruik van ~68GB (Ising) naar 9,0GB, wat inzetbaarheid op consumenten-GPU's (bijv. RTX 4060 Ti) mogelijk maakt met een latentie van 0,8s vergeleken met 13s voor de baseline.
Ablatieonderzoeken:
- Compressie alleen (zonder QGP) veroorzaakt een aanzienlijke prestatiedaling (bijv. van 72,5 naar 64,17 gemiddelde score).
- Het toevoegen van QGP herstelt de prestaties bijna tot het ongecomprimeerde baseline-niveau (72,37), wat de effectiviteit ervan bewijst bij het compenseren van visuele weight sharing.
- De tweefasige SFT (ICL + Zero-Shot) is cruciaal voor het vestigen van de domein-redeneerbasis voordat compressie plaatsvindt.

Betekenis en Claims

Het artikel claimt dat gesimuleerde quantumcomputatie een praktisch en effectief hulpmiddel is voor de constructiefase van wetenschappelijke AI. Door gebruik te maken van de expressieve kracht van quantumcircuits om gestructureerde klassieke parameters te genereren, demonstreert RiverONE dat lichtgewicht modellen de "kennisintensieve" redeneergaven van veel grotere, gespecialiseerde systemen kunnen behouden.

Het werk suggereert een pad voorwaarts voor wetenschappelijke AI: in plaats van te wachten op fouttolerante quantumhardware, kunnen onderzoekers vandaag de dag quantum-geïnspireerde generatiemethoden gebruiken om efficiënte, inzetbare modellen te bouwen voor gespecialiseerde domeinen zoals quantumkalibratie, waar hoge precisie en lage-latentie inferentie cruciaal zijn. De auteurs merken op dat toekomstig werk zich zal richten op het uitbreiden van de trainingsdata en het toepassen van deze gematerialiseerde, quantum-gestructureerde parametergeneratie op andere wetenschappelijke VLMs.