Foundational values for foundation models

De Grote AI-Keuken: Waarom we kiezen tussen Meesterchefs en Koken vanaf de Basis

Stel je voor dat je een robot probeert te bouwen die naar een röntgenfoto kan kijken en kan vertellen of een patiënt een gebroken bot heeft. In de wereld van de medische wetenschap is dit een spel met hoge inzet, waarbij het "brein" van de robot (het algoritme) ongelooflijk slim, maar ook veilig en begrijpelijk moet zijn. Lange tijd bouwden wetenschappers deze breinen vanaf de basis, door ze elke regel van de anatomie en natuurkunde stap voor stap aan te leren. Maar onlangs is er een nieuwe trend geëxplodeerd: "Foundation Models" (Fundamentele Modellen). Denk aan deze als gigantische, vooraf getrainde superbreinen die al de hele bibliotheek aan menselijke kennis hebben gelezen. Ze zijn als meesterchefs die al elke gerecht ter wereld hebben gekookt; je vraagt hen alleen om een specifieke soep te maken, en zij passen hun recept slechts een klein beetje aan in plaats van te beginnen met de ruwe ingrediënten.

Maar hier zit de crux: alleen omdat een meesterchef een soep kan maken, betekent niet dat het de beste keuze is voor jouw specifieke dinerfeestje. Misschien heb je een gerecht nodig dat heel weinig water verbruikt (omdat je waterput droog staat), of misschien moet je precies weten waarom de chef zout heeft toegevoegd zodat je de smaak kunt vertrouwen. Dit is waar de vraag diep gaat. Wetenschappers discussiëren nu over de vraag of ze deze gigantische, vooraf gemaakte breinen moeten gebruiken of hun eigen, kleinere, op maat gemaakte breinen moeten bouwen. Het gaat niet alleen om welke sneller of slimmer is; het gaat om welke waarden het belangrijkst zijn. Geven we meer om het besparen van energie? Geven we meer om het kunnen uitleggen van onze beslissingen aan een arts? Of geven we er meer om dat wetenschappers in armere landen kunnen deelnemen aan het spel? Dit artikel duikt in exact dat debat en brengt de verborgen waarden in kaart die deze technische keuzes drijven.

---

De Kaart van Waarden: Waarom we onze AI-tools kiezen

De auteurs van dit paper, John Baxter en Elodie Germani, besloten een spel van "Waarom?" te spelen met de wetenschappelijke gemeenschap. Ze vroegen: "Waarom kiezen onderzoekers ervoor om deze gigantische Foundation Models te gebruiken, en waarom kiezen anderen ervoor om hun eigen modellen vanaf de basis te trainen?" Om dit te beantwoorden, gebruikten ze een methode genaamd de "Socratische benadering". Stel je een detective voor die een verdachte vraagt: "Waarom deed je dat?" en vervolgens vraagt: "En waarom maakte die reden weer uit?" keer op keer, totdat ze bij de kern van de overtuiging kwamen. Ze deden dit om een enorme kaart (een graaf) te bouken die laat zien hoe verschillende waarden verbonden zijn met technische beslissingen.

Hun onderzoek onthulde dat de keuze geen simpele "goed vs. slecht"-schakelaar is. In plaats daarvan is het een touwtrekkerij tussen twee kanten van een spectrum. Aan de ene kant heb je het gebruik van Foundation Models met minimale aanpassingen (zoals het inhuren van de meesterchef). Aan de andere kant heb je het trainen van een model vanaf de basis of het maken van enorme aanpassingen (zoals koken vanaf de basis).

De zaak voor de Meesterchef (Foundation Models)

Veel onderzoekers neigen naar het gebruik van deze vooraf getrainde reuzen om een paar zeer praktische redenen.

Ten eerste is er Datagevoeligheid (Data Efficiency). Stel je voor dat je probeert te leren een zeldzame ziekte te diagnosticeren, maar je hebt slechts vijf patiëntendossiers. Een model dat vanaf de basis is getraind, zou in de war raken en falen. Maar een Foundation Model heeft al miljeslang aan afbeeldingen en patronen gezien. Het is als het hebben van een chef die elke specerij ter wereld heeft geproefd; zij kunnen de smaak van je nieuwe gerecht raden met heel weinig hulp. Dit is een grote winst voor onderzoekers die geen toegang hebben tot enorme hoeveelheden data.

Ten tweede is er Modelhergebruik (Model Reuse). Waarom het wiel opnieuw uitvinden? Als er al een model bestaat dat goed is in het begrijpen van medische beelden, kun je dat gewoon gebruiken. Dit bespaart tijd en moeite, wat leidt tot Onderzoeksnelheid en Faciliteit. Medisch onderzoek is zwaar; het vereist strikte regels, ethische goedkeuringen en complexe dataverzameling. Het gebruik van een vooraf gemaakt hulpmiddel laat wetenschappers de zware arbeid van het bouwen van de motor overslaan, zodat ze zich kunnen concenten op het besturen van de auto.

Ten derde is er Modelherkenning (Model Recognition). Als je een beroemd model gebruikt dat iedereen kent, wordt je werk vaker geciteerd. Het is als het gebruik van een bekend merk; mensen vertrouwen het, en het is gemakkelijker om je werk aan anderen uit te leggen.

De zaak voor Koken vanaf de Basis (Je eigen model trainen)

Echter, het paper stelt vast dat veel wetenschappers zich tegen het gebruik van deze reuzen uitspreken, en dat is met goede redenen.

Het grootste probleem is Verklaarbaarheid (Explainability). Als een meesterchef een soep maakt en zegt: "Het smaakt goed", maar je kunt hem niet vragen waarom hij die specifieke kruiden heeft toegevoegd, dan vertrouw je hem misschien niet. In de geneeskunde is vertrouwen alles. Artsen moeten weten waarom een AI denkt dat een patiënt ziek is. Foundation-modellen zijn zo groot en complex dat zelfs hun makers vaak niet precies kunnen uitleggen hoe ze een beslissing nemen. Als je je eigen model bouwt, kun je het zo ontwerpen dat het transparant is, wat het makkelijker maakt om Klinisch Vertrouwen te verdienen en aan Regelgeving te voldoen.

Dan is er het probleem van Snelheid en Geheugen. Foundation-modellen zijn als gigantische, zware vrachtwagens. Ze zijn krachtig, maar ze verbruiken veel brandstof (energie) en hebben een enorme garage nodig (computergeheugen). Als je alleen een klein pakketje wilt bezorgen, is een kleine, efficiënte auto (een op maat gemaakt model) beter. Het paper merkt op dat foundation-modellen vaak "dood gewicht" hebben—delen van het brein die niet worden gebruikt voor jouw specifieke taak, maar nog steeds ruimte innemen. Als je geeft om Milieuvriendelijkheid (het besparen van energie en water) of als je beperkte computerkracht hebt, is het trainen van een kleiner, op maat gemaakt model vaak de betere keuze.

Er is ook een waarde genaamd Onderzoekssouvereiniteit (Research Sovereignty). Dit gaat over eerlijkheid. Als slechts enkele rijke landen of grote bedrijven de gigantische meesterchefs bezitten, kunnen wetenschappers in armere landen niet echt deelnemen, tenzij ze toestemming krijgen om die specifieke tools te gebruiken. Het paper suggereert dat hoewel Foundation Models zouden kunnen helpen om het speelveld gelijk te trekken door iedereen toegang te geven tot een krachtig instrument, er een risico is op "infrastructuur lock-in", waarbij iedereen afhankelijk wordt van één enkele aanbieder. Het bouwen van je eigen modellen maakt meer onafhankelijkheid mogelijk.

Het Lastige Middengebied: Eerlijkheid en Nieuwigheid

Het paper benadrukt dat sommige waarden rommelig zijn en niet netjes aan één kant passen.

Neem Eerlijkheid (Fairness). Je zou kunnen denken dat een gigantisch model getraind op miljoenen mensen eerlijker is omdat het meer diversiteit ziet. Maar de auteurs wijzen erop dat de meeste van deze modellen eigenlijk getraind zijn door enkelvoudige centra op enkelvoudige datasets, wat nog steeds bevooroordeeld kan zijn. Het gebruik van een groot model lost de oneerlijkheid dus niet automatisch op; het kan het zelfs verbergen. Het paper suggereert dat het waarborgen van eerlijkheid er eigenlijk voor kan zorgen dat je meer controle hebt over het model, wat neigt naar het bouwen van je eigen model.

Dan is er Modelnieuwigheid (Model Novelty). In de wetenschap houden mensen ervan om iets nieuws te ontdekken. Het gebruik van een vooraf gemaakt model voelt als het gebruiken van iemands anders uitvinding. Als je beroemd wilt worden door een nieuwe ontdekking, wil je misschien een nieuwe architectuur vanaf de basis bouwen. Het paper merkt echter op dat "nieuwigheid" vaak betekent dat zaken complexer worden, wat botst met de wens voor eenvoudige, energiezuinige modellen.

Het Eindvondict: Het hangt ervan af wat je waardeert

Het paper concludeert dat er geen enkel "beste" antwoord is. De keuze hangt volledig af van wat de onderzoeker het meest waardeert.

• Als je waarde hecht aan snelheid, datagevoeligheid en gebruiksgemak, zul je waarschijnlijk een Foundation Model kiezen.
• Als je waarde hecht aan verklaarbaarheid, milieu-impact en totale controle, zul je waarschijnlijk je eigen model trainen.

De auteurs suggereren dat de wetenschappelijke gemeenschap eerlijk moet zijn over deze afwegingen. We kunnen niet simpelweg zeggen "AI is goed" of "Foundation Models zijn de toekomst". We moeten vragen: "Goed voor wat? En tegen welke kosten?" Door deze onderliggende waarden te begrijpen, kunnen wetenschappers betere beslissingen nemen die niet alleen gaan over wat technisch werkt, maar wat werkt voor de samenleving, het milieu en de toekomst van de geneeskunde. Het paper beweert niet het probleem te hebben opgelost, maar biedt een duidelijke kaart om iedereen te helpen navigeren door het debat.