Philosophy-informed Machine Learning
Dit artikel introduceert Philosophy-informed Machine Learning (PhIML) als een raamwerk dat analytische filosofie integreert in modelontwerp en -evaluatie om afstemming en ethische verantwoordelijkheid te verbeteren, terwijl het casestudy's biedt, uitdagingen identificeet en een roadmap voor toekomstig onderzoek schetst.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Moderne machines zijn verbazingwekkend goed geworden in het herkennen van patronen. Ze kunnen een kat in een foto identificeren, een zin van de ene taal naar de andere vertalen, of een film aanbevelen die u leuk zou kunnen vinden. Toch struikelen deze systemen vaak wanneer de wereld op subtiele wijze verandert of wanneer ze gevraagd worden iets te doen dat werkelijke kennis vereist in plaats van alleen patroonherkenning. Een machine kan met vol vertrouwen beweren dat een stopbord een snelheidsbord is als iemand er een paar kleine stickers op heeft geplaatst, of het kan een medische behandeling voorstellen die goed werkt in de data, maar faalt in de realiteit omdat het een correlatie voor een oorzaak heeft aangezien. Deze fouten treden op omdat de huidige kunstmatige intelligentie uitsluitend op statistiek is gebouwd; het leert wat er gewoonlijk gebeurt, maar begrijpt niet waarom het gebeurt, noch begrijpt het werkelijk de waarden die menselijke beslissingen sturen. Deze kloof tussen statistische vaardigheid en praktische betrouwbaarheid heeft onderzoekers ertoe gebracht een andere vraag te stellen: wat als we deze machines niet alleen op data bouwden, maar op de diepe, eeuwenoude ideeën die filosofen hebben ontwikkeld over kennis, redenering en juist handelen?
Dit is de kern van een nieuwe benadering genaamd filosofisch geïnformeerd machine learning. In plaats van filosofie te behandelen als een abstracte discussie die gevoerd moet worden nadat de technologie is gebouwd, verweeft deze methode filosofische concepten direct in het ontwerp van de computermodellen. Het doel is om systemen te creëren die niet alleen slim zijn, maar ook robuust, logisch en afgestemd op menselijke waarden door ontwerp. In een recente studie onderzocht een onderzoeker aan Clemson University hoe het integreren van ideeën uit de analytische filosofie — specif seguito hoe we dingen weten, hoe we redeneren over oorzaak en gevolg, en hoe we ethische keuzes maken — de meest hardnekkige gebreken van de huidige kunstmatige intelligentie kan oplossen. Het werk suggereert dat we door machines een "filosofische ruggengraat" te geven, ze veiliger en betrouwbaarder kunnen maken, zelfs als ze niet perfect zijn.
De studie begint bij het adresseren van een probleem dat bekend staat als 'blackbox brittleness' (blackbox-broosheid). Dit is wanneer een machine learning-model perfect werkt op de data waarop het getraind is, maar volledig faalt wanneer het wordt geconfronteerd met een kleine variatie, zoals een andere lichtomstandigheid of een nieuw dialect. Om dit op te lossen, keek de onderzoeker naar epistemologie, de tak van de filosofie die de aard van kennis bestudeert. Traditionele computermodellen behandelen alle onzekerheid op dezelfde manier door één enkel getal toe te wijzen dat hun vertrouwen vertegenwoordigt. Filosofen beargumenteren echter al lang dat er een verschil is tussen zelfverzekerd zijn omdat je sterke bewijzen hebt, en zelfverzekerd zijn omdat je een patroon hebt gezien dat toevallig kan zijn. De studie testte een methode waarbij de computer wordt geleerd om tussen deze twee staten te onderscheiden. Door gebruik te maken van een systeem dat een bereik van mogelijke overtuigingen kan vertegenwoordigen in plaats van slechts één vaste gok, werden de modellen veel beter in het herkennen wanneer ze onzeker waren. In een reeks tests stelde deze aanpak de computer in staat om te herkennen wanneer een document tegelijkertijd als zowel een contract als een patent werd geclassificeerd — een logische onmogelijkheid — en de fout te corrigeren zonder het vermogen om correct te voorspellen te verliezen.
De tweede grote hindernis waar het artikel zich mee bezighoudt, is 'causal blindness' (causale blindheid). De meeste kunstmatige intelligentie van vandaag is uitstekend in het vinden van correlaties, maar slecht in het begrijpen van oorzaak en gevolg. Als een model ziet dat mensen die een paraplu dragen vaak nat worden, kan het concluderen dat paraplu's regen veroorzaken, in plaats van te begrijpen dat regen mensen ertoe brengt een paraplu te dragen. Dit is gevaarlijk in velden zoals de geneeskunde of beleidsvorming, waar we moeten weten wat er gebeurt als we een specifieke actie ondernemen. Om dit op te lossen, paste de onderzoeker theorieën over causaliteit toe die zich richten op "wat als"-scenario's. De studie introduceerde een manier waarop de computer interventies kan simuleren, door te vragen wat er zou gebeuren als een specifieke factor zou veranderen, in plaats van alleen te observeren wat er in het verleden is gebeurd. In experimenten met medische behandelingen ontdekten de onderzoekers dat wanneer zij het model dwongen het principe te respecteren dat het veranderen van een oorzaak de uitkomst niet op onmogelijke manieren drastisch zou moeten veranderen, de voorspellingen van het model veel stabieler werden. Het systeem deed geen wilde gokken meer over wat er zou gebeuren als een patiënt een andere behandeling zou krijgen, waardoor de voorspellingen geworteld bleven in de realiteit.
Misschien wel de meest complexe uitdaging is het afstemmen van machines op menselijke waarden. Een computer kan heel goed zijn in het maximaliseren van een score, maar als die score niet perfect vangt wat mensen werkelijk willen, kan de machine een achterdeurtje vinden om te winnen op een manier die schadelijk is. Bijvoorbeeld, een nieuws-recommedatiesysteem kan leren dat schokkende koppen mensen aan het klikken houden, wat leidt tot het promoten van verdeeldheid zaaiende inhoud. De studie onderzocht hoe men ethische redenering direct in het trainingsproces van de machine kan inbouwen. Gebruikmakend van de filosofie van John Rawls, die beargumenteerde dat een rechtvaardige samenleving een samenleving is die we zouden ontwerpen als we onze eigen positie niet zouden kennen, testte de onderzoeker een methode waarbij de computer werd getraind om prioriteit te geven aan de minstbedeelde groepen. In een gesimuleerd scenario voor werving en selectie hadden standaard computermodellen de neiging om kandidaten uit gemarginaliseerde groepen af te wijzen omdat de trainingsdata verborgen vooroordelen bevatten. Echter, toen het model werd aangepast om specifiek te zoeken naar eerlijkheid en om ervoor te zorgen dat de minst bevoorrechte kandidaten niet werden achtergelaten, corrigeerde het deze vooroordelen succesvol. De resultaten toonden aan dat door deze filosofische regels toe te passen, het systeem de wervingspercentages voor minderbedeelde groepen met bijna 50 procent kon verbeteren, terwijl de algehele nauwkeurigheid hoog bleef.
De studie stelde niet vast dat deze filosofische oplossingen een toverstaf waren die elk probleem onmiddellijk oploste. De onderzoeker merkte op dat het combineren van deze complexe logische regels met enorme hoeveelheden data moeilijk is en de computer soms kan vertragen of het trainen lastiger kan maken. Er zijn ook diepe uitdagingen in het beslissen welke filosofische regels te gebruiken, vooral wanneer verschillende culturen of ethische theorieën van mening verschillen. Toch toonden de experimenten aan dat zelfs eenvoudige toepassingen van deze ideeën de fouten drastisch konden verminderen. In één test maakte een standaardmodel logische tegenstrijdigheden in 13 procent van zijn voorspellingen, maar de filosofisch geïnformeerde versie bracht dat terug naar nul. In een ander geval verbeterde het vermogen van het systeem om uitkomsten over verschillende groepen te voorspellen aanzienlijk, wat bewees dat deze ideeën niet alleen theoretisch zijn, maar praktische instrumenten voor het bouwen van betere technologie.
Uiteindelijk suggereert dit werk dat de toekomst van kunstmatige intelligentie misschien minder afhangt van het voeden van machines met meer data, en meer van het leren hoe ze moeten denken. Door gebruik te maken van de lange traditie van de menselijke zoektocht naar kennis, oorzaak en ethiek, kunnen we systemen bouwen die niet alleen krachtig zijn, maar ook betrouwbaar. De onderzoeker concludeert dat hoewel er nog steeds aanzienlijke technische en praktische hindernissen zijn om te overwinnen, de weg vooruit duidelijk is: we moeten stoppen met filosofie te behandelen als een bijzaak en het gaan gebruiken als een blauwdruk voor de machines waar we op vertrouwen. Nu deze systemen meer verantwoordelijkheid nemen in ons leven, is de vraag niet langer of we ze slimmer kunnen maken, maar hoe snel we ze wijzer kunnen maken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.