🤖 AI

When Do Data-Driven Systems Exhibit the Capability to Infer?

Gesterkt door de regelgevende ambiguïteit in de Europese AI-verordening met betrekking tot kredietscore-systemen, stelt dit artikel een raamwerk voor dat gebaseerd is op statistische leertheorie om het vermogen tot inferentie over volledige gegevensverwerkingsworkflows te beoordelen en te analyseren, waarbij wordt aangetoond dat de regelgevende classificatie afhangt van het holistische systeemontwerp en menselijke betrokkenheid in plaats van enkel van individuele modellen.

Oorspronkelijke auteurs: Maximilian Poretschkin, Tabea Naeven

Gepubliceerd 2026-06-11

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Maximilian Poretschkin, Tabea Naeven

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een rechter bent in een rechtszaal. De Europese Unie heeft een nieuwe wet aangenomen genaamd de AI-verordening (AI Act), die zegt: "Als je een Kunstmatige Intelligentie bent, moet je je aan strikte regels houden." Maar de wet bevat een lastig gat in de wet: het definieert niet duidelijk wat "AI" eigenlijk is.

De wet zegt dat een AI een systeem is dat kan "infereren" (afleiden). In gewone mensentaal betekent dit dat het systeem naar data kan kijken en kan uitzoeken hoe het op eigen houtje een beslissing neemt, in plaats van simpelweg een rigide lijst met instructies te volgen die door een mens zijn geschreven.

Het probleem? Er is een grijs gebied. Veel systemen die worden gebruikt voor kredietwaardigheidsscores (het beslissen of je een lening krijgt) maken gebruik van statistische wiskunde. Zijn deze systemen "slim" genoeg om AI genoemd te worden, of zijn het gewoon "domme" rekenmachines? De auteurs van dit artikel, Maximilian en Tabeia, hebben besloten een ladder te bouwen om ons uit dit grijze gebied te helpen klimmen.

De "Inferentie-ladder"

De auteurs hebben een 5-staps ladder gemaakt om te meten hoeveel "denkwerk" een systeem verricht. Hoe hoger je op de ladder klimt, hoe waarschijnlijker het is dat het systeem onder de nieuwe wet als AI wordt beschouwd.

Niveau 0: De Robot Butler (Vaste Koppeling)
- De Metafoor: Stel je een robot voor die alleen doet wat je hem precies vertelt. "Als het licht rood is, stop. Als het groen is, gaan."
- De Realiteit: De regels zijn door mensen in steen gebeiteld. De data verandert de regels niet; het triggert ze alleen.
- AI-status: Geen AI. Slechts een fancy rekenmachine.
Niveau 1: De Afstemknop (Parametrische Adaptatie)
- De Metafoor: Stel je een radio voor. De zender (de structuur) staat vast, maar je kunt de volumeknop (de parameters) harder of zachter zetten op basis van hoe hard de muziek is.
- De Realiteit: Het systeem gebruikt een vaste formule (zoals een standaard wiskundige vergelijking). Het kijkt naar data om de getallen binnen die formule aan te passen, maar de formule zelf verandert nooit.
- AI-status: Dit is het "grijze gebied". De richtlijnen van de wet suggereren dat dit mogelijk geen AI is, omdat het slechts "basis gegevensverwerking" is.
Niveau 2: De Menukeuze (Structurele Selectie)
- De Metafoor: Stel je een chef-kok voor die een menu heeft van 10 vooraf geschreven recepten. De chef kijkt naar de ingrediënten die je hebt (de data) en kiest dan één recept uit de lijst om te koken. De chef verzint geen nieuw recept; hij kiëst alleen het beste recept uit de lijst.
- De Realiteit: Het systeem heeft een vaste lijst met mogelijke structuren. Het gebruikt data om te kiezen welke structuur het gaat gebruiken (bijv. "Laten we Kenmerk A en B gebruiken, maar C negeren").
- AI-status: Dit is een middenweg. Het is meer dan alleen afstemknoppen, maar het verzint geen nieuwe logica.
Niveau 3: De Architect (Structurele Constructie)
- De Metafoor: Stel je een bouwer voor die een stapel stenen krijgt en een doel (een huis bouwen). De bouwer kijkt naar de stenen en verzint ter plekke het bouwplan. Hij bepaalt waar de muren komen en hoe het dak eruit ziet, volledig gebaseerd op de materialen die hij tot zijn beschikking heeft.
- De Realiteit: Het systeem kiest niet alleen een recept; het bouwt de logica vanaf de basis met behulp van de data. Het creëert een beslisboom of een complex patroon dat geen enkele mens expliciet heeft opgeschreven.
- AI-status: Dit is definitief AI. Het systeem "afleidt" zijn eigen logica.
Niveau 4: De Dromer (Representatieve Constructie)
- De Metafoor: Stel je een kunstenaar voor die niet alleen een schilderij maakt, maar ook een nieuwe kleur uitvindt om te gebruiken in het schilderij, omdat de oude kleuren niet bij de stemming pasten.
- **De Real: Het systeem bouwt niet alleen de logica; het verzint een hele nieuwe manier om naar de data te kijken (nieuwe kenmerken) om het probleem op te lossen. Dit is wat deep learning en moderne AI doen.
- AI-status: Definitief AI.

De Kredietwaardigheidstest

De auteurs hebben deze ladder getest op kredietwaardigheidsscores, een gebied met een hoog risico onder de AI-verordening. Ze hebben gekeken naar hoe banken meestal deze scores opbouwen.

De "Ouderwetse" Manier: Banken nemen vaak een lijst met variabelen (inkomen, schulden, etc.), verdelen deze in categorieën (binning) en stoppen ze in een logistische regressievergelijking.
- Als de bank alleen de getallen in de vergelijking aanpast? Dat is Niveau 1.
- Als de bank data gebruikt om te beslissen welke variabelen ze behouden en welke ze weggooien? Dat is Niveau 2.
- Het Oordeel: De auteurs stellen dat zelfs deze "eenvoudige" systemen vaak menselijke experts betreffen die oordelen vellen tijdens de opzet (zoals het beslissen hoe de categorieën worden ingedeeld). Omdat mensen zwaar betrokken zijn bij het ontwerpen van de structuur, heeft het systeem misschien niet genoeg "autonomie" om als een echte AI te worden beschouwd onder de wet.
De "Slimme" Manier: Als een systeem automatisch een beslisboom of de complexe structuur bouwt vanuit de data zonder menselijke tussenkomst, bereikt het Niveau 3.
- Het Oordeel: Dit is duidelijk AI en moet aan de strikte regels voldoen.

De Belangrijkste Conclusie

De conclusie van het artikel is dat we niet alleen naar de uiteindelijke wiskundige vergelijking kunnen kijken om te bepalen of iets AI is. We moeten naar het volledige proces kijken:

Heeft een mens de regels ontworpen?
Heeft een mens de variabelen gekozen?
Of heeft de data zelf de logica gebouwd?

Als een menselijke expert het zware werk doet bij het ontwerpen van de structuur van het systeem, kan het systeem "dom" genoeg zijn om de strikte regels van de AI-verordening te omzeilen, zelfs als het complexe wiskunde gebruikt. Maar als het systeem zijn eigen logica bouwt vanuit de data, is het "slim" genoeg om gereguleerd te worden als AI.

Kortom: De wet maakt zich zorgen over systemen die hun eigen regels "leren". Dit artikel geeft ons een liniaal om precies te meten hoeveel er geleerd wordt, wat banken en toezichthouders helpt te weten wie de nieuwe regels moet volgen.

Technische Samenvatting: Wanneer vertonen datagestuurde systemen het vermogen tot inferentie?

Probleemstelling
De Europese AI-verordening stelt een uitgebreid juridisch kader vast voor kunstmatige intelligentie en definieert een AI-systeem primair aan de hand van het "vermogen tot inferentie" (het vermogen om conclusies te trekken). De Verordening en de bijbehorende richtlijnen van de Commissie bieden echter geen precieze technische definitie van inferentie, wat zorgt voor regelgevende ambiguïteit voor datagestuurde systemen die vertrouwen op klassieke statistische modellen in plaats van moderne machine learning-architecturen. Deze onzekerheid is bijzonder groot in het domein van kredietwaardigheidsbeoordeling (credit scoring), dat expliciet is opgenomen als een hoog risico toepassing in Bijlage III van de AI-verordening. Professionals in de sector en toezichthouders staan voor een dilemma: veel systemen voor kredietwaardigheidsbeoordeling maken gebruik van logistische regressie en statistische binning-procedures. Het blijft onduidelijk of deze systemen, die vaak menselijke interventie door experts tijdens de modelontwikkeling impliceren, over een voldoende "vermogen tot inferentie" beschikken om als AI-systemen onder de Verordening te worden geclassificeerd, of dat zij buiten de reikwijdte vallen als "basis gegevensverwerking".

Methodologie
Om deze ambiguïteit aan te pakken, ontwikkelen de auteurs een gradueel kader voor het beoordelen van het vermogen tot inferentie, geworteld in de statistische leertheorie. De methodologie verloopt in drie stadia:

Theoretische abstractie: De auteurs formaliseren het concept van inferentie door te analyseren hoe data de vorming van input-output-mappings beïnvloedt. Gebruikmakend van het onderscheid tussen parametrische schatting (data-modelleringscultuur) en algoritmische constructie (algoritmische modelleringscultuur), stellen zij een vijfstaps kader voor (Niveaus 0–4) dat systemen categoriseert op basis van de mate waarin data de logica van het systeem vormgeeft:
- Niveau 0 (Vaste mapping): Volledig ex ante door mensen gespecificeerd; data wordt verwerkt maar heeft geen invloed op de structuur of parameters.
- Niveau 1 (Parametrische adaptatie): De functionele vorm is vaststaand; data bepaalt enkel de numerieke parameters (bijv. coëfficiënten in lineaire/logistische regressie).
- Niveau 2 (Structurele selectie): Data selecteert uit een vooraf gedefinieerde set van toelaatbare structuren (bijv. stepwise feature selection, $L_1$ -regularisatie).
- Niveau 3 (Structurele constructie): Data construeert functioneel de input-output-mapping, hetzij expliciet (bijv. beslissingsbomen) hetzij impliciet (bijv. $k$ -nearest neighbors).
- Niveau 4 (Representatieve constructie): Data bepaalt de representatieruimte zelf (bijv. diepe neurale netwerken, representatieleer).
Regulatorische mapping: Het kader wordt toegepast op de tekst van de AI-verordening (Artikel 3, Overweging 12) en de Richtlijnen van de Commissie. De auteurs analyseren de uitsluiting in de Richtlijnen van systemen die "mathematische optimalisatie verbeteren" of "traditionele methoden versnellen" om te bepalen waar de regulatorische drempel voor het "vermogen tot inferentie" ligt. Zij verkennen twee interpretaties: één waarbij Niveau 1 buiten de AI-definitie valt, en een alternatieve waarbij zelfs parameterschatting als inferentie wordt beschouwd.
Casestudy-toepassing: Het kader wordt toegepast op twee realistische workflows voor kredietwaardigheidsbeoordeling met behulp van de "Give Me Some Credit"-dataset. De auteurs ontleden het volledige ontwikkelingsproces, inclus[ief]:
- Binning: Het analyseren van handmatige versus datagestuurde binning (bijv. recursieve binaire splitsingen die Shannon-entropie optimaliseren).
- Logistische regressie: Het onderzoeken van standaard logistische regressie versus versies die gebruikmaken van stepwise feature selection.
- Menselijke betrokkenheid: Het beoordelen van hoe menselijke beperkingen (bijv. monotoniciteitseisen, regelgevende regels) en handmatige selectie de inferentiecapaciteit van het systeem beïnvloeden.

Kernbijdragen

Een gradueel inferentiekader: Het artikel introduceert een gestructureerde, vijf-niveau taxonomie die systemen onderscheidt op basis van hoe data de input-output-mappings vormgeeft. Dit gaat verder dan binaire classificaties om een genuanceerde analyse van hybride systemen mogelijk te maken.
Regulatorische verheldering voor statistische modellen: De auteurs tonen aan dat veelgebruikte technieken voor kredietwaardigheidsbeoordeling verschillende niveaus in het kader bezetten. Specifiek laten zij zien dat terwijl standaard logistische regressie met vaste kenmerken Niveau 1 is, de toevoeging van datagestuurde binning (Niveau 3a) of stepwise feature selection (Niveau 2) de inferentiecapaciteit van het systeem verschuift.
Workflow-analyse: Het artikel betoogt dat de regulatorische beoordeling niet beperkt kan blijven tot het uiteindelijke voorspellende model. In plaats daarvan moet de gehele dataverwerkingsworkflow worden geëvalueerd, aangezien voorverwerkingsstappen zoals binning en variabele selectie inferentiecapaciteiten kunnen introduceren die het uiteindelijke model alleen mogelijk niet bezit.
Rol van menselijke expertise: De analyse benadrukt dat menselijke betrokkenheid tijdens de ontwikkelingsfase (bijv. het definiëren van restricties, het handmatig selecteren van variabelen) een significante invloed kan hebben op de vraag of een systeem wordt beschouwd als het vermogen te hebben tot inferentie, wat een systeem potentieel binnen de categorie "basis gegevensverwerking" houdt, zelfs als het statistische modellen gebruikt.

Resultaten
De toepassing van het kader op workflows voor kredietwaardigheidsbeoordeling laat zien dat deze systemen vaak samengesteld zijn:

Binning: Handmatige binning blijft op Niveau 0 of 1. Echter, datagestuurde binning-methoden (zoals die de entropie optimaliseren) vormen Niveau 3a (Expliciete Structurele Constructie), aangezien de partitiestructuur functioneel wordt geconstrueerd vanuit data in plaats van geselecteerd uit een vaste catalogus.
Logistische regressie: Een standaard logistische regressiemodel met vooraf geselecteerde kenmerken is Niveau 1. Echter, wanneer gecombineerd met stepwise feature selection, opereert het systeem op Niveau 2 (Structurele Selectie).
Regulatorische drempel: De auteurs suggereren dat als de Richtlijnen van de Commissie strikt worden geïnterpreteerd om systemen uit te sluiten die slechts traditionele optimalisatie "versnellen", Niveau 1-systemen (parametrische adaptatie) buiten de reikwijdte van de AI-verordening kunnen vallen. Daarentegen stemmen systemen die Niveau 2 of hoger vertonen (structurele selectie of constructie) meer overeen met de definitie van de Verordening betreffende het afleiden van modellen uit data.
Ambiguïteit opgelost: De studie illustreert dat een enkel systeem voor kredietwaardigheidsbeoordeling componenten op verschillende niveaus kan bevatten. Bij consequentie is het "vermogen tot inferentie" niet een intrinsieke eigenschap van het algoritme alleen, maar een eigenschap van de specifieke implementatie en workflow.

Significantie
Het artikel stelt dat de primaire significantie ligt in het bieden van een technisch instrument om het juridische concept van "vermogen tot inferentie" operationeel te maken voor toezichthouders en professionals in de sector. Door aan te tonen dat niet alle datagestuurde systemen gelijk zijn in hun inferentiecapaciteiten, biedt het kader een basis voor een consistente regulatorische behandeling van grensgevallen, met name in hoog-risico sectoren zoals kredietwaardigheidsbeoordeling. De auteurs benadrukken dat hun werk de juridische status van logistische regressie niet definitief oplost, maar eerder de technische onderscheidende factoren verheldert die nodig zijn voor een dergelijke bepaling, waarbij zij onderstrepen dat de betrokkenheid van menselijke experts en het specifieke ontwerp van de workflow cruciale factoren zijn bij het bepalen of een systeem voldoet aan de definitie van de AI-verordening.

De "Inferentie-ladder"

De Kredietwaardigheidstest

De Belangrijkste Conclusie

Meer zoals dit