Phoenix-VL 1.5 Medium Technical Report
Phoenix-VL 1.5 Medium is een 123B-parameter model dat van nature multimodaal en meertalig is, specifiek is aangepast voor de Singaporese context door uitgebreide lokaal gerichte voortraining en afstemming, en state-of-the-art prestaties behaalt op regionale benchmarks terwijl het wereldwijd concurrerend blijft op het gebied van algemene intelligentie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: Een "Lokaal Expert" Super-brein
Stel je een briljante, wereldreizende professor voor die alles weet over wetenschap, wiskunde en wereldgeschiedenis. Dit is het Mistral Medium 3.1-model waarmee de onderzoekers begonnen. Het is ongelooflijk slim, maar als je het vraagt over een specifieke lokale wet in Singapore of de naam van een beroemde speeltuin in de Toa Payoh-wijk, kan het een verkeerde gok maken of een algemeen antwoord geven.
Phoenix-VL 1.5 Medium is wat er gebeurt als je die wereldreizende professor naar een strenge, 12 maanden durende "Singapore Immersion Bootcamp" stuurt. Het doel was het creëren van een Souverein AI-systeem: een digitaal brein dat toebehoort aan Singapore, zijn unieke cultuur en wetten begrijpt, en veilig kan werken zonder het internet te hoeven raadplegen (zoals een "air-gapped" systeem dat niet met de buitenwereld communiceert).
Het Trainingsrecept: Hoe Ze Het Dedden
De onderzoekers gooiden niet zomaar een stapel boeken op het model. Ze gebruikten een specifiek, vierstaps kookrecept om deze nieuwe AI te bakken:
De Basislaag (Voortgezette Pretraining):
Denk hierbij aan het voeden van het model met een enorme, gespecialiseerde bibliotheek. Ze gaven het 1 biljoen tokens (een token is als een woord of een stukje van een woord) aan data. Dit was niet zomaar willekeurige internettekst; het was een zorgvuldig samengestelde mix met veel Singaporese wetten, regionale talen (zoals Maleis, Tamil en Chinees) en lokale cultuur.- De Analogie: Stel je voor dat de professor een jaar lang elke Singaporese krant, overheidsblad en lokale roman leest, terwijl hij zijn wereldwijde kennis intact houdt.
De Lange-Lezen Uitbreiding (Lange Context):
Ze leerden het model om enorme hoeveelheden informatie tegelijk te onthouden. Ze verlengden zijn "korte-termijngeheugen" tot 131.072 tokens (ongeveer de grootte van een dik boek).- De Analogie: De professor kan nu een volledig juridisch document van 500 pagina's in één zitten lezen en de details van pagina 1 onthouden wanneer hij bij pagina 400 is, zonder het begin te vergeten.
De Fijne Afstelling (Instructie- en Domeintraining):
Hier leerde het model hoe het zich moest gedragen. Ze toonden hem specifieke voorbeelden van hoe hij vragen over Singaporese overheidsbeleid moest beantwoorden en hoe hij lokale scènes moest beschrijven (zoals een "Toa Payoh Dragon Playground" in plaats van gewoon een "speeltuin").- De Analogie: De professor volgt nu een "Klantenservice en Lokale Etiquette"-cursus. Hij leerde dat wanneer een Singaporese vraagt over een wet, hij een precies antwoord nodig heeft, geen vage gok. Hij leerde ook om foto's van lokale bezienswaardigheden te bekijken en deze nauwkeurig te beschrijven.
De Politie (Online Direct Preference Optimization):
Tot slot beoordeelden menselijke leraren de antwoorden van het model en rangschikten ze ze. Als het model te gezellig was, hallucineerde (dingen verzon) of onbeleefd was, corrigeerden de leraren het.- De Analogie: Een laatste "repetitie" waarbij de professor oefent met het beantwoorden van vragen, en een panel van rechters feedback geeft om ervoor te zorgen dat hij behulpzaam, eerlijk en veilig is voordat hij het podium op gaat.
Wat Maakt Het Bijzonder?
Het artikel benadrukt drie belangrijkste superkrachten van dit nieuwe model:
- Het is een Lokaal Legende: Bij tests die specifiek voor Singapore zijn ontworpen (zoals het kennen van de namen van alle 16 ministeries of het begrijpen van lokale veiligheidswetgeving), sloeg Phoenix-VL 1.5 Medium veel grotere, beroemdere modellen.
- Het Resultaat: Het scoorde hoger dan modellen met 400 miljard parameters (zoals Llama 4 Maverick) op lokale kennis. Dit bewijst dat diepe lokale training belangrijker is dan gewoon een groter brein hebben.
- Het Vergeet de Wereld Niet: Een veel voorkomende angst is dat het leren van een model over één specifiek onderwerp ervoor zorgt dat het alles andere vergeet. Het artikel beweert dat Phoenix-VL 1.5 Medium zijn algemene slimheid behield. Het is nog steeds uitstekend in wiskunde, coderen en algemeen redeneren, net zo goed als andere topmodellen.
- Het Ziet en Begrijpt: In tegenstelling tot oudere modellen die alleen tekst lezen, is dit een "multimodaal" model. Het kan kijken naar een foto van een Singaporese straatscène of een complexe grafiek en dit uitleggen in de lokale context.
Veiligheid: De "Eerlijkheid"-Filter
De onderzoekers bouwden een speciaal veiligheidskader op maat van Singapore's regels.
- De "Geen Ding Verzonnen" Regel: In juridische of overheidscontexten is het verzonnen van een feit gevaarlijk. Het model is getraind om "Ik weet het niet" te zeggen in plaats van te gokken.
- De "Geen Slechte Acteurs" Regel: Het model is bestand tegen "jailbreaks" (trucs die mensen gebruiken om AI slechte dingen te laten doen) en zal zijn eigen geheime instructies niet lekken.
- De Analogie: Denk hierbij aan een zeer gedisciplineerde ambtenaar die precies weet wat hij mag zeggen en wat hij moet weigeren te beantwoorden, zodat hij nooit per ongeluk de wet overtreedt of desinformatie verspreidt.
De Conclusie
Phoenix-VL 1.5 Medium is een AI-model met 123 miljard parameters dat bewijst dat je niet het grootste model ter wereld nodig hebt om de slimste lokale expert te zijn. Door data zorgvuldig te cureren en specifiek te trainen voor Singapore's unieke wetten, talen en cultuur, bouwden de makers een model dat:
- Diepgaand kennis heeft over Singapore (beter dan reuzen).
- Wereldwijd concurrerend is in algemene slimheid.
- Veilig en beveiligd is voor gebruik in de overheid en particuliere sector zonder internet nodig te hebben.
Het is een "soeverein bezit", wat betekent dat het een digitaal hulpmiddel is dat specifiek is gebouwd voor Singapore's behoeften, eigendom is en gecontroleerd wordt door de natie.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.