"Cause" is Mechanistic Narrative within Scientific Domains: An Ordinary Language Philosophical Critique of "Causal Machine Learning"
Dit artikel bekritiseert de premisse van "causaal machinaal leren" door de gewone taalfilosofie toe te passen om te betogen dat ware causaliteit fundamenteel mechanistisch is, waarbij wordt gesteld dat definitieve causale claims alleen geldig zijn in domeinen met volledige mechanistische modellen (zoals natuurkunde) en geaggregeerd bewijs over verschillende disciplines vereisen voor complexe systemen (zoals biologie en sociale wetenschappen), waardoor er wordt aangedrongen op grotere voorzichtigheid tegen het overschatten van causale zekerheid in wetenschappelijk onderzoek.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Detective Spel: Waarom "Oorzaak" Niet Slechts Eén Ding Is
Stel je voor dat je een detective bent die een mysterie probeert op te lossen. In de wereld van wetenschap en computers is er op dit moment een enorme trend gaande genaamd "Causal Machine Learning" (Causaal Machine Learning). Het is alsof je een superintelligente computer een vergrootglas geeft en vraagt om de echte reden te vinden waarom dingen gebeuren, in plaats van alleen maar op te merken dat twee dingen vaak tegelijkertijd gebeuren. Bijvoorbeeld: het feit dat de verkoop van ijsjes en het aantal haaienaanvallen beide toenemen in juli, betekent niet dat ijsjes eten haaienaanvallen veroorzaakt; ze worden beide veroorzaakt door de zomerhitte. Het vinden van die "echte reden" is de heilige graal van de wetenschap, omdat het ons helpt problemen op te lossen, ziekten te genezen en betere technologie te bouwen.
Maar hier zit de lastige kant aan: wat betekent "oorzaak" eigenlijk? In een natuurkundig laboratorium is een "oorzaak" als een biljartbal die een andere bal raakt; het is een precieze, wiskundige duw. In een ziekenhuis kan een "oorzaak" een complexe keten van gebeurtenissen zijn waarbij je genen, je dieet en je omgeving betrokken zijn. In een stad kan een "oorzaak" een verhaal zijn over hoe een nieuwe wet het gedrag van mensen heeft veranderd. De paper die we nu gaan verkennen, stelt een grote vraag: kunnen we dezelfde computertools gebruiken om oorzaken te vinden in al deze verschillende werelden? De auteurs, een team van onderzoekers, beweren dat het antwoord een luid "nee" is. Ze suggereren dat het proberen te dwingen van één enkele computervormule om alles uit te leggen, hetzelfde is als proberen een hamer te gebruiken om een horloge te repareren, een schilderij te schilderen en een taart te bakken, allemaal tegelijkertijd. Voor de hamer werkt het misschien, maar het zal het horloge breken en de taart verpesten.
Het Grote Idee van de Paper: Eén Formule Past Niet Iedereen
Deze paper is een filosofisch detectiveverhaal dat het woord "oorzaak" onderzoekt. De auteurs gebruiken een methode genaamd "Ordinary Language Philosophy" (Gewone Taal Filosofie), wat eigenlijk een chique manier is om te zeggen: "Laten we kijken naar hoe echte mensen woorden daadwerkelijk gebruiken in het echte leven." Ze beargumenteren dat het woord "oorzaak" van betekenis verandert afhankelijk van met welke "stam" van wetenschappers je spreekt.
De Natuurkundige Stam: De Perfecte Machine
In de natuurkunde en techniek is de wereld als een gigantische, perfect gebouwde klok. Als je de tandwielen kent (de vergelijkingen) en je duwt op één (de oorzaak), kun je precies berekenen waar de andere tandwielen naartoe zullen gaan (het gevolg). Hier is "oorzaak" een wiskundige kracht. Als je een steen laat vallen, trekt de zwaartekracht hem naar beneden. De wiskunde beschrijft het hele verhaal perfect. In deze wereld kunnen computermodellen die zoeken naar patronen in data daadwerkelijk de "oorzaak" vinden, omdat het systeem gesloten is en de regels bekend zijn.
De Biologische Stam: De Woeste Jungle
Spring nu naar de biologie en de geneeskunde. De wereld hier is meer als een wilde jungle. Het is een "open systeem", wat betekent dat dingen constant interageren met de buitenwereld op manieren die we niet volledig kunnen meten. Een menselijk lichaam is zo complex dat je geen enkele wiskundige vergelijking kunt schrijven die elke cel, elke chemische stof en elke gedachte verklaart. De auteurs zeggen dat je in de biologie niet simpelweg naar een grafiek kunt kijken en kunt zeggen: "A veroorzaakte B." In plaats daarvan moet je een "narratief" opbouwen. Je moet statistische aanwijzingen (zoals data uit een klinische studie) combineren met een verhaal over hoe het werkt (zoals hoe een medicijn slagaders verstopt). Je hebt bewijs vanuit veel verschillende hoeken nodig om er zeker van te zijn.
De Sociale Wetenschappelijke Stam: De Verhalenvertellers
Ten slotte zijn er de sociale wetenschappen (zoals psychologie, economie en sociologie). Dit is waar het echt ingewikkeld wordt. Mensen zijn chaotisch, onvoorspelbaar en vol verhalen. De auteurs beargumenteren dat in deze velden "oorzaak" vaak een verhaal is dat ons helpt onszelf te begrijpen. Een therapeut kan bijvoorbeeld een patiënt helpen door een verhaal te vertellen over hoe het verleden het heden heeft gevormd. Dit verhaal is geen wiskundige vergelijking, maar het is op een bepaalde manier "waar" omdat het de persoon helpt zich beter te voelen en anders te handelen. De auteurs wijzen erop dat de sociale wetenschappen momenteel worstelen omdat ze proberen te handelen als de natuurkunde, door strikte wiskunde te gebruiken om dingen te bewijzen die eigenlijk over menselijke betekenis en interpretatie gaan.
Het Probleem met "Causal Machine Learning"
De paper werpt een kritische blik op de nieuwe trend van "Causal Machine Learning". Dit zijn computerprogramma's die proberen een kaart (een graaf) te tekenen die laat zien hoe variabelen met elkaar verbonden zijn. Ze gebruiken regels zoals: "als A vóór B gebeurt, en ze zijn met elkaar verbonden, dan veroorzaakt A B."
De auteurs zeggen dat deze aanpak gevaarlijk is omdat het ervan uitgaat dat de wereld een gesloten, perfecte machine is (zoals de natuurkunde), terwijl het vaak een chaotisch, open systeem is (zoals de biologie of de samenleving). Ze wijzen erop dat deze computermodellen in de echte wereld vaak falen omdat ze geen rekening kunnen houden met alle verborgen factoren (zoals je stemming, je geschiedenis of het weer) die de uitkomst beïnvloeden.
De paper betoogt expliciet tegen het idee dat een computer naar een dataset kan kijken en definitief kan zeggen: "Dit is de oorzaak." Ze zeggen dat, tenzij de computer in een gesloten natuurkundig laboratorium werkt waar de regels bekend zijn, deze modellen slechts aan het gokken zijn. Ze zijn "overmoedig". De auteurs waarschuwen dat als we deze computermodellen te veel vertrouwen, we slechte beslissingen kunnen nemen in de geneeskunde of het beleid, omdat de computer de chaotische, menselijke delen van het verhaal heeft gemist.
De Oplossing: Een Team van Detectives
Dus, wat is het antwoord? De auteurs suggereren dat we bescheidener moeten zijn. In plaats van te vertrouwen op één computermodel om ons de waarheid te vertellen, moeten we overal bewijs verzamelen.
Stel je voor dat je probeert uit te zoeken waarom een bos aan het sterven is.
- De Natuurkundige kijkt naar de chemische processen in de bodem.
- De Bioloog kijkt naar de insecten en de bomen.
- De Socioloog kijkt naar hoe de lokale bevolking het land gebruikt.
- De Verhalenverteller luistert naar de ouderen over wat het bos voor hen betekende.
De paper suggeregt dat een "oorzaak" pas echt is wanneer al deze verschillende perspectieven het met elkaar eens zijn. Dit wordt een "preponderance of evidence" (overwicht aan bewijs) genoemd. Het gaat niet om één perfect wiskundig bewijs; het gaat om een koor van verschillende stemmen die hetzelfde verhaal vertellen.
Voor de toekomst suggereren de auteurs dat we moeten stoppen met proberen computers de ultieme rechters van oorzaak en gevolg te maken. In plaats daarvan moeten we computers gebruiken als hulpmiddelen om patronen te zien, maar we moeten die patronen altijd toetsen aan echte wereldverhalen en deskundige kennis. Ze stellen een nieuwe manier van denken voor genaamd "Hermeneutiek", wat de kunst van interpretatie is. Het betekent begrijpen dat de "waarheid" soms geen getal is, maar een verhaal dat voor mensen zinvol is.
De Kernboodschap
De belangrijkste bevinding van deze paper is dat "oorzaak" niet één ding is. Het verandert van vorm afhankelijk van of je een vallende steen, een kloppend hart of een menselijke geest bestudeert. De auteurs suggereren dat de huidige opwinding over "Causal AI" een valstrik is. Het probeert een simpel, rigide instrument te gebruiken om complexe, chaotische problemen op te lossen.
Ze zeggen niet dat we computers moeten stoppen met gebruiken. In plaats daarvan zeggen ze dat we ze met voorzichtigheid moeten gebruiken. We moeten de verschillen tussen de wetenschappen respecteren. In de natuurkunde is wiskunde de koning. In de biologie hebben we een mix van wiskunde en mechanisme nodig. In de sociale wetenschappen hebben we wiskunde, verhalen en menselijk begrip nodig die samenwerken.
De paper sluit af met een oproep tot "Epistemic Virtue" (Epistemische Deugd), wat een chique manier is om "intellectuele eerlijkheid" te zeggen. Het vraagt wetenschappers en AI-ontwikkelaars om toe te geven wanneer ze iets niet zeker weten. In plaats van te roepen: "We hebben de oorzaak gevonden!", zouden ze moeten zeggen: "Hier is een patroon dat een mogelijkheid suggereert, maar laten we het hele verhaal bekijken voordat we een besluit nemen." Het is een herinnering dat in een complexe wereld ons krachtigste instrument niet een supercomputer is, maar het vermogen om naar verschillende soorten verhalen te luisteren en ze samen te weven tot een waarheid die zin geeft.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.