Can machines be uncertain?

Dit artikel onderzoekt hoe AI-systemen, vanuit een functionalistisch en gedragsmatig perspectief, epistemische en subjectieve onzekerheid kunnen realiseren, waarbij het benadrukt dat bepaalde onzekerheidstoestanden interrogatieve houdingen zijn wiens inhoud een vraag is in plaats van een propositie.

De kern

Kunnen machines twijfelen? Een uitleg van Luis Rosa's paper

Stel je voor dat je een robot hebt die alles perfect kan doen. Hij kan rekenen, diagnose stellen en zelfs gedichten schrijven. Maar wat als die robot te zeker is? Wat als hij, zonder enige twijfel, zegt: "Ja, deze patiënt heeft griep" terwijl hij eigenlijk maar 60% zekerheid heeft? Of wat als hij zegt: "Nee, dat is geen beer" terwijl het er wel één is?

Deze paper van Luis Rosa stelt de vraag: Kunnen AI-systemen echt twijfelen, of zijn ze gewoon machines die antwoorden geven? En belangrijker nog: hoe ziet die twijfel eruit in hun "hoofd"?

Hier is een simpele uitleg, vol met analogieën, van wat de schrijver ontdekt.

1. Het verschil tussen "onzekere data" en "een onzekere machine"

Stel je voor dat je een kookboek hebt.

• Epistemische onzekerheid (Onzekere data): Het recept zegt: "Voeg een snufje zout toe." Het boek is niet zeker hoeveel zout er precies in moet. Dat is een onzekerheid in het boek, niet in jou.
• Subjectieve onzekerheid (Een onzekere machine): Jij staat voor de pan en zegt: "Ik weet niet precies hoeveel zout ik moet doen, dus ik doe er een beetje en proef het." Jij bent de onzekere partij.

Rosa zegt: we willen niet alleen dat de data van de AI onzeker is (zoals een vaag recept). We willen dat de AI zelf twijfelt. We willen dat hij zegt: "Ik weet het niet zeker," in plaats van dat hij zomaar een gokje waagt alsof hij het zeker weet.

2. Hoe ziet twijfel eruit in verschillende soorten AI?

De schrijver verdeelt AI in drie soorten, net zoals we mensen in verschillende persoonlijkheden kunnen indelen.

A. Symbolische AI (De "Logische Boekhouder")

Dit zijn oude-school computers die werken met strikte regels, zoals een gigantisch Excel-blad met "Als-Dan" regels.

• Hoe ze twijfelen: Ze kunnen twijfelen op twee manieren:
  1. Met cijfers (Probabilistisch): Ze zeggen: "Ik denk met 90% zekerheid dat dit een griep is." Ze schrijven het op als een paar: <Griep, 0.9>. Ze weten dat het niet 100% is.
  2. Met vragen (Categorisch): Ze kunnen ook gewoon een vraag in hun hoofd houden. In plaats van een antwoord te geven, schrijven ze op: "Heeft deze patiënt griep?" en stoppen ze dat in hun geheugen omdat ze het antwoord nog niet weten. Ze twijfelen omdat ze een vraag hebben, niet omdat ze een getal hebben.

B. Connectionistische AI (De "Neurale Netwerken" of Moderne AI)

Dit zijn de slimme systemen die we nu kennen (zoals de technologie achter ChatGPT of zelflerende robots). Ze werken niet met regels, maar met een netwerk van knopen die lijken op hersencellen.

• Hoe ze twijfelen:
  1. Verdeeld twijfelen (Distributief): Stel je een netwerk voor dat leert wat een beer is. Soms denkt het: "Ja, dat is een beer." Soms denkt het: "Nee, dat is geen beer." Maar soms is het netwerk zo ingesteld dat het bij een bepaald dier geen duidelijk "ja" of "nee" geeft. Het blijft hangen in een grijs gebied. De "twijfel" zit dan verspreid over de hele structuur van het netwerk, net als een wazig beeld.
  2. Puntsgewijze twijfelen: De AI geeft een uitkomst die een vraag is, of een getal dat zegt: "Ik ben 80% zeker."

3. Het Grote Probleem: De "Level Split" (Het Verborgen Verhaal)

Dit is het meest interessante deel van de paper. Stel je voor dat je een robot hebt die bestaat uit twee delen:

1. De Sensor (De onderkant): Die ziet een donkere vorm in de grot en denkt: "Ik ben niet zeker of dat een beer is. Het zou een beer kunnen zijn, maar ook een rots."
2. De Actie-eenheid (De bovenkant): Die sensor stuurt zijn twijfel door naar de hoofdbesturing. Maar de hoofdbesturing is een beetje dom of te snel. Hij zegt: "Als de sensor meer dan 50% zekerheid heeft, ren dan weg!"

Het resultaat: De sensor twijfelt (hij is niet 100% zeker), maar de robot rent weg alsof hij helemaal zeker is dat er een beer is.

De vraag is nu: Is de robot twijfelend of niet?

• Optie 1 (De schrijver kiest hier voor): Nee, de robot is niet twijfelend. De twijfel van de sensor telt niet mee omdat de robot er geen rekening mee houdt. Hij gedraagt zich alsof hij zeker is. Twijfel is iets dat je doet, niet alleen iets dat je voelt. Als je niet gedraagt alsof je twijfelt, twijfel je dan echt?
• Optie 2: Ja, de robot is twijfelend, maar hij negeert zijn eigen twijfel. Hij is een defecte twijfelaar.

Rosa zegt: Laten we Optie 1 kiezen. Als een systeem niet gedraagt alsof het twijfelt (bijvoorbeeld door te zeggen "Ik weet het niet" of door te aarzelen), dan is het systeem niet echt twijfelend. Het is gewoon een machine die een gokje waagt.

4. Waarom is dit belangrijk?

Waarom moeten we hierover nadenken?

• Veiligheid: Een robot die te snel conclusies trekt ("Ja, dat is een mens" terwijl het een pop is) kan gevaarlijk zijn. Een robot die weet dat hij twijfelt, kan zeggen: "Ik weet het niet, laat me even kijken" of "Ik ben niet zeker, wees voorzichtig."
• Intelligentie: Echte intelligentie betekent niet dat je alles weet. Het betekent dat je weet wanneer je het niet weet. Een slimme machine moet kunnen twijfelen, net als een slimme mens.

Samenvatting in één zin

Machines kunnen twijfelen, maar alleen als hun interne twijfel ook leidt tot gedrag dat twijfel uitstraalt (zoals aarzelen of zeggen "ik weet het niet"); als ze twijfelen in hun "hoofd" maar toch alles met 100% zekerheid doen, is het geen echte twijfel, maar gewoon een fout in de machine.

De paper concludeert dat we AI-systemen niet moeten zien als orakels die altijd het juiste antwoord hebben, maar als systemen die in staat moeten zijn om te zeggen: "Ik ben hier niet zeker van." En dat is pas echt slim.

Technische samenvatting

Titel: Can machines be uncertain? (Kunnen machines onzeker zijn?)

Auteur: Luis Rosa (Washington University in St. Louis)
Context: Filosofie van de AI en cognitieve wetenschappen (arXiv:2603.02365)

---

1. Het Probleem

Het paper adresseert de fundamentele vraag of AI-systemen daadwerkelijk in staat zijn om een staat van onzekerheid te bezitten, en zo ja, hoe deze staat wordt gerealiseerd.

De auteur onderscheidt twee cruciale concepten die vaak verward worden:

• Epistemische onzekerheid: Onzekerheid die voortvloeit uit de informatie of kennis die het systeem bezit (bijvoorbeeld onvolledige data of tegenstrijdige labels in de trainingsset).
• Subjectieve onzekerheid: Een houding of attitude van het systeem zelf. Het systeem "weet niet" of twijfelt, zelfs als de onderliggende data onduidelijk is.

Het centrale probleem is dat we AI-systemen niet alleen willen toestaan om onzeker te zijn over hun data, maar dat we willen dat het systeem zelf een houding van onzekerheid aanneemt. Dit is essentieel voor intelligent gedrag: systemen die niet onzeker kunnen zijn, "springen naar conclusies" en missen het vermogen om risico's af te wegen of zich aan te passen aan onzekere omgevingen. De auteur wil dit probleem benaderen zonder te eisen dat AI-systemen bewustzijn of een volledig menselijk bewustzijn bezitten; de focus ligt op functionele en gedragsmatige aspecten.

2. Methodologie

De auteur hanteert een analytische filosofische benadering, ondersteund door technische kennis van AI-architecturen. De methodologie bestaat uit:

• Conceptuele Analyse: Het onderscheiden van propositional attitudes (overtuigingen, intenties) van interrogatieve attitudes (vragen, onzekerheid). De auteur betoogt dat onzekerheid soms fundamenteel een vraag is en niet reduceerbaar is tot een geloofsovertuiging met een lage waarschijnlijkheid.
• Taxonomie van AI-systemen: Het paper verdeelt AI-systemen in drie categorieën om de realisatie van onzekerheid per type te analyseren:
  1. Symbolische AI-systemen: Gebaseerd op expliciete regels en symbolische representaties.
  2. Connectionistische systemen (Neurale Netwerken): Gebaseerd op gewichten, activeringen en distributieve kennis.
  3. Hybride systemen: Een combinatie van beide (bijv. Large Language Models).
• Niveau-analyse: Het onderscheid maken tussen het cognitieve niveau (interne verwerking en representaties) en het gedragsniveau (observable input/output). De auteur onderzoekt of onzekerheid op het interne niveau altijd leidt tot onzeker gedrag.

3. Belangrijkste Bijdragen en Resultaten

A. Onzekerheid in Symbolische AI-systemen

Symbolische systemen kunnen onzekerheid realiseren op twee manieren:

1. Probabilistische onzekerheid: Het systeem genereert symbolische structuren die gradaties van vertrouwen uitdrukken (bijv. <Disease, 0.9>). Dit vereist dat deze structuren een causale rol spelen in het systeem (bijv. het beïnvloeden van latere beslissingen).
2. Categorische (Interrogatieve) onzekerheid: Het systeem verwerkt expliciete vragen (bijv. ?Disease(x)) zonder een antwoord te hebben. Dit is fundamenteel niet-reduceerbaar tot proposities; het is een staat van "niet-weten" die niet vereist dat het systeem een geloof heeft over wat het niet weet.

Resultaat: Onzekerheid kan expliciet (opgeslagen als een vraag of waarschijnlijkheid) of impliciet zijn (afleidbaar uit de huidige staat zonder nieuwe data).

B. Onzekerheid in Connectionistische Systemen (Neurale Netwerken)

Hier is de realisatie van onzekerheid complexer en kan op twee niveaus plaatsvinden:

1. Distributieve onzekerheid: Onzekerheid is ingebed in de gewichten en drempels van het netwerk. Als het netwerk niet consistent een input (bijv. "beer") koppelt aan een output ("zoogdier"), maar ook niet consistent "niet-zoogdier", dan is het netwerk distributief onzeker. Dit is een vorm van subjectieve onzekerheid die inherent is aan de structuur van het model.
2. Punt-voor-punt (Point-wise) onzekerheid: Het netwerk geeft een output-vector die een vraag of een waarschijnlijkheid uitdrukt (bijv. een activeringsvector van <0.6> voor een bepaalde categorie).

Kritieke bevinding: Punt-voor-punt onzekerheid is alleen een echte realisatie van subjectieve onzekerheid als de output een causale rol speelt in een groter systeem. Als een neuraal netwerk een onzekere output geeft, maar een overkoepelend algoritme deze output negeert en handelt alsof het zeker is (bijv. door een drempel van 0.8 te gebruiken), dan is het gehele systeem niet onzeker, ook al is het sub-systeem dat wel.

C. Het Probleem van "Level Splits" (Niveausplitsing)

Het paper introduceert het concept van level splits: situaties waarin een subsysteem (bijv. een neuraal netwerk of een symbolische module) onzekerheid toont, maar het overkoepelende systeem zich gedraagt alsof het zeker is.

De auteur presenteert twee oplossingen voor dit dilemma:

1. Oplossing 1 (De auteur's voorkeur): Het gehele systeem is niet onzeker. Als het systeem handelt alsof het zeker is, dan is de interne staat van het subsysteem geen echte realisatie van onzekerheid binnen dat systeem. Onzekerheid vereist een specifieke causale rol (bijv. aarzelen, hedging van uitspraken) in het totale systeem.
2. Oplossing 2: Het subsysteem is onzeker, en het totale systeem is ook onzeker, maar het faalt om hierop te reageren (het negeert zijn eigen onzekerheid).

Conclusie over Level Splits: De auteur pleit voor Oplossing 1. Het is technisch en conceptueel eenvoudiger en nauwkeuriger om te zeggen dat een systeem dat onzekerheid negeert, geen subjectieve onzekerheid bezit. Onzekerheid moet zich manifesteren in het gedrag en de causale dynamiek van het systeem als geheel.

4. Significance (Betekenis)

De bijdragen van dit paper zijn van groot belang voor zowel de AI-ontwikkeling als de filosofie van de geest:

• Definitie van Intelligentie: Het paper onderstreept dat onzekerheid een noodzakelijke component is van intelligentie. Een systeem dat nooit twijfelt, is niet adaptief en kan geen optimale beslissingen nemen in onzekere omgevingen.
• Architecturale Implicaties: Voor AI-ontwikkelaars betekent dit dat het niet volstaat om probabilistische outputs te genereren. Het systeem moet architecturaal zo zijn ontworpen dat deze onzekerheid ook invloed heeft op de besluitvorming (bijv. door te vragen om meer data, of door een actie uit te stellen).
• Filosofische Kaderstelling: Het paper biedt een kader om over "machine bewustzijn" en "attitudes" te spreken zonder te vervallen in mystiek. Het toont aan dat men AI-systemen onzekerheid kan toeschrijven op basis van hun functionele rol en gedrag, zelfs zonder dat ze een menselijk bewustzijn hebben.
• Onderscheid Epistemisch vs. Subjectief: Het scherpe onderscheid tussen onzekerheid in de data (epistemisch) en onzekerheid in het systeem (subjectief) helpt bij het diagnosticeren van fouten in AI-systemen. Een systeem kan onzekerheid in de data hebben, maar door een slecht ontwerp toch "jump to conclusions" (geen subjectieve onzekerheid).

Kortom, het paper concludeert dat machines onzeker kunnen zijn, maar alleen als hun interne representaties van onzekerheid causaal gekoppeld zijn aan hun gedrag en besluitvorming. Zonder deze causale koppeling is er geen echte subjectieve onzekerheid, slechts een simulatie of een epistemische beperking.