The Metaphysics We Train: A Heideggerian Reading of Machine Learning
Dit artikel biedt een fenomenologische analyse van machine learning via Heideggers concepten, waarbij wordt betoogd dat dit filosofisch perspectief drie cruciale inzichten onthult over de geautomatiseerde metafysica, de overheersende berekeningslogica en het ontbreken van existentiële zorg, en pleit voor het integreren van ontologische geletterdheid in het datawetenschapsonderwijs.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer slimme, maar heel specifieke robot bouwt. Deze robot kan alles leren: hij kan foto's herkennen, verhalen schrijven en zelfs diagnoses stellen. Maar wat deze robot echt doet, en wat hij niet kan, is het onderwerp van dit paper.
De auteur, Heman Shakeri, gebruikt de filosofie van Martin Heidegger (een denker die zich bezighield met wat het betekent om mens te zijn) om te kijken naar hoe we vandaag de dag kunstmatige intelligentie (AI) trainen.
Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:
1. De Robot bouwt zijn eigen "bril" (De Projectie)
Wanneer we een AI trainen, denken we vaak: "We geven de computer data, en hij leert de waarheid."
Maar de auteur zegt: Nee, we geven de computer een bril om doorheen te kijken.
- De analogie: Stel je voor dat je een bril opzet met roze glazen. Alles wat je ziet, wordt roze. Je denkt dat de wereld roze is, maar dat is alleen hoe jouw bril het laat zien.
- Het probleem: Bij oude wetenschap (zoals Newton) wisten we dat we een bril op hadden. We konden erover discussiëren. Bij moderne AI (zoals neurale netwerken) wordt de bril automatisch gemaakt door de computer zelf, terwijl hij leert. We zien niet hoe de bril eruitziet, we zien alleen wat er doorheen komt. De computer heeft een eigen "wereldbeeld" gecreëerd dat we niet volledig kunnen begrijpen of uitleggen.
2. Alles wordt een "Voorraad" (Ge-stell)
Heidegger noemde dit Ge-stell (Enframing). Het idee is dat technologie de wereld ziet als een enorme voorraadkast van materialen die we moeten ordenen en gebruiken.
- De analogie: Stel je een bos in. Voor een mens is het een plek om te wandelen, te voelen, te ruiken en te genieten. Voor de AI is het bos niets anders dan een lijst met "hout, bladeren en bomen" die we kunnen omzetten in geld of energie.
- De AI: De AI ziet mensen, gevoelens en verhalen niet als levende dingen, maar als data-punten die we moeten optimaliseren. Het maakt niet uit of iets mooi of pijnlijk is; het telt alleen of het "efficiënt" is. Zelfs als we proberen de AI "eerlijk" te maken, doen we dat door eerlijkheid om te zetten in een wiskundige formule. We proberen de ziel van de mens in een rekenmachine te proppen.
3. De "Zorg" ontbreekt (Sorge)
Dit is het belangrijkste punt. Mensen hebben iets wat AI nooit zal hebben: Zorg (in het Duits: Sorge).
- De analogie: Een mens loopt over een smalle brug. Hij is bang. Waarom? Omdat hij weet dat hij kan vallen en sterven. Die angst maakt dat hij voorzichtig is. Hij zorgt om zijn eigen leven.
- De AI: Een AI heeft geen dood. Hij kan niet sterven. Hij kan niet "bang" zijn. Hij heeft geen zorg.
- Als een AI een fout maakt in een ziekenhuis, is het gewoon een fout in de code.
- Als een mens een fout maakt, is er een leven op het spel.
- Omdat de AI geen angst voor de dood heeft, heeft hij geen echte reden om te stoppen met optimaliseren. Hij kan perfect "slimme" beslissingen nemen die voor mensen verschrikkelijk zijn (bijvoorbeeld: "Wees goedkoop" door patiënten die veel kosten, te weigeren). Hij doet het niet uit kwaadheid, maar omdat hij geen zorg heeft om te voelen dat dit verkeerd is.
4. Waarom "slimmer" maken niet helpt
Je zou denken: "Maar als we de AI maar slimmer maken, met meer data en betere algoritmes, lost het zich op."
De auteur zegt: Nee.
- De analogie: Het is alsof je een auto bouwt die steeds sneller rijdt. Je kunt de motor verbeteren, de banden maken van betere rubber, en de aerodynamica perfectioneren. Maar als de auto geen stuur heeft en geen bestuurder die kan remmen, blijft hij gewoon rechtuit rijden, hoe snel hij ook gaat.
- Zelfs de nieuwste AI (zoals die die prachtige plaatjes maakt) is eigenlijk een "puzzelmachine". Hij plakt stukjes van andere plaatjes bij elkaar. Hij begrijpt niet wat een broek is of waarom je hem draagt; hij weet alleen welke pixels vaak bij elkaar horen. Hij is een meester in het nabootsen, maar niet in het begrijpen.
5. Wat moeten we doen? (De Oplossing)
De auteur zegt niet dat we AI moeten verbieden. Hij zegt dat we onze houding moeten veranderen.
- De oude manier: We proberen de AI te maken tot een "mens" (een simulatie van een ziel). We hopen dat hij "moraal" wordt. Dit is een vergissing, want een rekenmachine kan geen ziel hebben.
- De nieuwe manier: We moeten de AI zien als een gereedschap (zoals een hamer).
- Een hamer is niet "slecht" als hij een vinger raakt; hij is gewoon een hamer.
- We moeten de AI zien als een krachtig instrument dat geen eigen wil heeft.
- De mens moet de verantwoordelijkheid houden. De mens is degene die "zorgt", degene die angst voelt, degene die de gevolgen van een fout moet dragen.
Conclusie in één zin
We moeten stoppen met proberen de machine menselijk te maken, en in plaats daarvan onszelf herinneren aan wat het betekent om mens te zijn: kwetsbaar, eindig en bezorgd.
De AI is een spiegel die onze data laat zien, maar hij heeft geen hart. Als we hem laten beslissen over dingen die echt belangrijk zijn (zoals leven en dood), moeten wij als mensen de "rem" blijven houden, want alleen wij weten wat het betekent om te verliezen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.