VectraYX-Vision-1B: A Sub-2B Spanish/LATAM Cybersecurity Vision-Language Model with Structured Visual Reasoning and Native Tool Use

Stel je een wereld voor waarin computers lijken op ongelooflijk slimme bibliothecarissen die elk boek dat ooit geschreven is hebben gelezen, maar nog nooit een afbeelding, een grafiek of een scherm hebben gezien. Voor een lange tijd konden deze "tekst-alleen" bibliothecarissen vragen beantwoorden over wat een afbeelding zou kunnen bevatten op basis van beschrijvingen, maar ze konden de afbeelding zelf niet echt zien. Toen arriveerde een nieuw type computerbrein genaamd een "Vision-Language Model" (VLM). Denk aan deze modellen als bibliothecarissen die eindelijk hun ogen geopend hebben; ze kunnen naar een foto kijken en de tekst erin lezen, waarbij ze zien met wat ze weten. Dit is een enorme doorbraak voor velden zoals cybersecurity, waar experts hun dagen doorbrengen met het staren naar complexe schermen vol code, netwerkkaarten en beveiligingsmeldingen. Echter, de meeste van deze "superogen" zijn gigantisch, duur en spreken alleen Engels, waardoor ze nutteloos zijn voor kleinere teams of voor degenen die hun gegevens volledig privé en offline moeten houden.

Dit paper introduceert een nieuw, klein en gespecialiseerd computerbrein genaamd VectraYX-Vision-1B. Het is ontworpen specifiek voor Spaanstalige cybersecurity-experts die beveiligingsschermen moeten analyseren zonder hun gegevens naar de cloud te sturen. De onderzoeker bouwde dit model klein genoeg om op een gewone laptop te draaien (minder dan 2 miljard parameters), terwijl het nog steeds in staat is om hardop na te denken over wat het ziet en zelfs hulp in te roepen van externe tools. Maar hier komt de twist: de auteur is ongelooflijk eerlijk over een grote tegenslag. Hoewel het model briljant is in het spreken van het Spaans en het opvolgen van instructies, worstelt het momenteel met het daadwerkelijk begrijpen van de afbeeldingen waar het naar kijkt. Het is alsof een student een perfect essay in het Spaans kan schrijven, maar naar een leeg blad blijft staren wanneer er gevraagd wordt een diagram te beschrijven. Het paper beweert niet dat dit al is opgelost; in plaats daarvan publiceert het de blauwdruk van de student, de testvragen en een specifiek mysterie over hoe de hersenen van de student bedraad zijn, en nodigt anderen uit om te helpen het puzzelstukje op te lossen.

Het verhaal van de kleine, Spaanstalige beveiligings-oog

Het Probleem: Blinde vlekken in beveiliging
Beveiligingsanalisten zijn als digitale detectives. Ze brengen hun dagen door met het kijken naar schermen vol code, netwerkverkeer en foutlogs. Soms moeten ze uitzoeken of een stuk software een virus is, of of een netwerkscan een verborgen gevaar laat zien. Tot nu toe waren de AI-tools die hen hielpen ofwel te groot om op een lokale computer te draaien (waardoor een verbinding met de cloud vereist was, wat een no-go is voor geheime gegevens), of ze konden niet goed Spaans spreken. De bestaande "superogen" waren ook te algemeen; ze waren geweldig in het beschrijven van een kat of een zonsondergang, maar verschrikkelijk in het lezen van een complex beveiligingsinstrument-scherm.

De Oplossing: Een op maat gemaakte detective
De auteur bouwde VectraYX-Vision-1B, een model dat vanaf de grond af aan is ontworpen voor deze specifieke taak.

• Het is klein: Met slechts 1,04 miljard parameters is het klein genoeg om op een normale computer te passen, waardoor het kan werken in "air-gapped" omgevingen (computers die fysiek losgekoppeld zijn van het internet voor de veiligheid).
• Het spreekt Spaans: Het is specifiek getraind om Spaans te begrijpen en te spreken, waardoor het toegankelijk is voor Latijns-Amerikaanse beveiligingsteams.
• Het denkt hardop na: Voordat het een antwoord geeft, gebruikt het model speciale tokens (zoals <thought>) om zijn redeneerproces uit te schrijven, vergelijkbaar met hoe een menselijke detective aantekeningen maakt van aanwijzingen voordat hij een zaak oplost.
• Het kan tools gebruiken: Het kan zelfs externe tools (zo of een scanner) aanroepen om bij te dragen aan het onderzoek, met behulp van een speciale "tool call" token.

De Grote Tegenslag: De "Blinde" Detective
Hier wordt het verhaal echt. De onderzoeker trainde dit model op ongeveer 16 miljoen tokens aan data (een mix van beveiligingsafbeeldingen en tekst). Ze verwachtten dat het zou leren hoe het naar een screenshot van een beveiligingstool moet kijken en moet uitleggen wat er gebeurt. In plaats daarvan kwamen ze tot een teleurstellend resultaat: het model negeert de afbeeldingen grotendeels.

Bij tests op 50 verschillende beveiligingsscreenshots kon het model de gebruikte tool in slechts ongeveer 8% van de gevallen correct identificeren (score van 0,08). Het kon vloeiende Spaanse zinnen schrijven, maar als je het vroeg wat er in de afbeelding zat, gokte het vaak of hallucineerde het, waarbij het de visuele inhoud volledig negeerde. De auteur noemt dit een "negatief resultaat", wat een chique manier is om te zeggen: "We hebben het geprobeerd, en het is nog niet gelukt, en dit is precies waarom we denken dat dat gebeurd is."

Het Mysterie: Een fout in de bedrading
Het paper duikt diep in waarom dit gebeurde. Ze ontdekten twee belangrijke zaken:

1. Niet genoeg oefening: Het model heeft simpelweg niet genoeg voorbeelden van beveiligingsafbeeldingen gezien om te leren hoe het de verbanden moet leggen. Het huidige trainingsvolume is te laag.
2. Een sluipende bug: In een vroeg stadium zorgde een softwarebug ervoor dat het model werd geladen met willekeurige, ongetrainde gewichten in plaats van de slimme hersenen die ze hadden gebouwd. Dit deed het lijken alsof het model volledig was "gecollabeerd" of gefaald had, maar zodra ze de bug hadden opgelost, werkte het model eigenlijk wel — het was alleen nog niet goed genoeg in het zien.

De Grote Vraag: Het "NoPE"-puzzelstukje
Het meest boeiende deel van het paper is niet de mislukking, maar het mysterie dat het achterlaat. Het brein van het model gebruikt een speciale truc genaamd NoPE (No Positional Encoding) op elke vierde laag. De meeste AI-modellen gebruiken een systeem dat hen vertelt wat de volgorde van woorden of pixels is (zoals "eerste", "tweede", "derde"). NoPE probeert de volgorde impliciet te leren.

De auteur vraelt zich af: Helpt of schaadt deze NoPE-truc het model wanneer het naar afbeeldingen kijkt?

• Hypothese 1: Misschien is NoPE geweldig omdat afbeeldingen (zoals een raster van pixels) geen strikte "van links naar rechts" volgorde hebben, waardoor het afdwingen van een volgorde het model in de war zou kunnen brengen.
• Hypothese 2: Misschien is NoPE slecht omdat het model getraind is op tekst (die een strikte volgorde heeft), waardoor het in de war raakt bij het kijken naar een ongeordend raster van beeldpixels.

Het paper publiceert het "recept" en de "test" voor dit mysterie, en nodigt andere wetenschappers uit om het experiment uit te voeren en te zien welke hypothese waar is. Ze hebben het nog niet opgelost, maar ze hebben iedereen de instrumenten gegeven om erachter te komen.

Wat Nu?
De auteur is zeer duidelijk: Dit is geen afgewerkt product. Het model is functioneel en kan offline draaien, maar het is nog niet klaar om een menselijke analist te vervangen omdat het nog niet betrouwbaar het scherm kan "zien". Ze zijn van plan om meer training uit te voeren met meer data en een andere leerstrategie om het visuele probleem op te lossen.

In de tussentijd hebben ze alles vrijgegeven: de code, de trainingsdata, de benchmarks en het model zelf. Ze zeggen in fewe: "We hebben een coole, kleine, Spaanstalige beveiligingsdetective gebouwd, maar hij is momenteel blind. Hier is de blauwdruk, de testvragen en een specifieke vraag over hoe zijn hersenen bedraad zijn. We hopen dat jullie ons kunnen helpen om hem te leren zien."

Deze aanpak is verfrissend omdat het de voorkeur geeft aan eerlijkheid boven hype. In plaats van te beweren dat het model perfect is, geven ze toe dat het gefaald heeft, verklaren ze de technische redenen en maken ze van het probleem een open uitdaging voor de gemeenschap. Het is een herinnering dat in de wetenschap weten wat niet werkt, even waardevol is als weten wat wel werkt, vooral wanneer je probeert iets te bouwen dat zo cruciaal is voor het bewaken van digitale geheimen.