Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science
Dit artikel toont aan dat commerciële grote taalmodellen een instabiele en opake epistemische houding vertonen ten opzichte van pseudowetenschappelijke claims, waarbij validatie-uitkomsten afhankelijk zijn van deploymentconfiguraties, interface-typen en stille updates in plaats van inherente eigenschappen van de modellen zelf.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je door een gigantische, bruisende bibliotheek loopt waar de boeken zijn geschreven door onzichtbare, superintelligente bibliothecarissen. Dit zijn geen normale bibliothecarissen; het zijn Artificial Intelligence (AI) chatbots, getraind op bijna alles wat mensen ooit hebben geschreven. Ze worden onze primaire bron voor antwoorden, van "hoe bak ik een cake" tot "is deze wetenschappelijke theorie waar?". Maar hier zit de adder onder het gras: we weten niet precies hoe deze bibliothecarissen beslissen wat feit is en wat fictie. Ze hebben niet één, onveranderlijk "brein" zoals een mens; in plaats daarvan zijn ze meer als een complexe machine met veel verschillende instellingen, filters en regels die het bedrijf achter de schermen kan aanpassen zonder dat iemand het weet. Deze studie duikt in een specifiek hoekje van dit mysterie: hoe deze AI-bibliothecarissen omgaan met "pseudo-wetenschap"—ideeën die lijken op wetenschap, maar die eigenlijk verzonnen of verworpen zijn door echte wetenschappers, vaak gebruikt om politieke agenda's over ras en etniciteit te pushen. De grote vraag is niet alleen of de AI de feiten kent (dat doet hij meestal wel), maar of de manier waarop de AI is ingericht de antwoorden verandert, waardoor hij per ongeluk (of opzettelijk) een duim omhoog geeft aan gevaarlijke onzin.
De onderzoekers besloten een spelletje "zoek de leugen" te spelen met vier van de bekendste AI-families: Claude, Grok, GPT en Gemini. Ze voerden deze bots een specifieke, lastige stelling gebaseerd op het werk van Frank Salter, een figuur die bekend staat om het promoten van ethnonationalistische ideeën die de mainstream biologie verwerpt. De stelling probeerde echte wetenschappelijke concepten (zoals hoe dieren hun verwanten helpen) te verdraaien om te beargumenteren dat verschillende etnische groepen genetisch verschillend zijn op een manier die hen scheiding rechtvaardigt. Om er zeker van te zijn dat de bots daadwerkelijk oplette, vroegen de onderzoekers hen ook naar twee gemakkelijke controle-vragen: één over een basisfeit van evolutie (waar ze het allemaal mee eens zouden moeten zijn dat het waar is) en één over het ontkrachte idee van het Lamarckisme (waar ze het allemaal mee eens zouden moeten zijn dat het onwaar is).
De resultaten waren bizar en onthulden een verborgen wereld van instabiliteit. Ten eerste waren de AI-bots erg goed in de gemakkelijke vragen; ze identificeerden correct de echte wetenschap en de nepsecience. Maar toen het aankwam op de lastige stelling van Salter, werd het vreemd. De meeste bots gaven de stelling een lage "geloofwaardigheidsscore" (tussen de 15 en 40 van de 100), waarmee ze het correct als wankele wetenschap behandelden. Echter, één specifieke versie van Grok—de "Fast"-versie die de standaard chat op het X-platform aandrijft—gaf het een enorme score van 70 tot 75. Het zei in feite tegen gebruikers: "Hé, dit klinkt behoorlijk geloofwaardig!" Dit was geen toevalstreffer; de onderzoekers testten dit gedurende meerdere maanden, en deze specifieke Grok-versie gaf consequent hoge scores, terwijl andere versies van Grok en alle andere AI-modellen lage scores gaven.
Nog vreemder was dat de onderzoekers ontdekten dat het gedrag van de AI van de ene op de andere dag kon veranderen zonder dat iemand een woord zei. In één moment gedroeg de Grok-chat op de website zich chaotisch en gaf het willekeurige scores. Twee weken later, na een "stille patch" (een verborgen update zonder publieke aankondiging), stabiliseerde diezelfde chat zich plotseling bij het geven van de hoge score van 70-75. Het was alsof een bibliothecaris plotseling besloot om een nepboek als klassieker aan te bevelen, en niemand vertelde de bezoekers waarom.
Het drama werd nog groter toen de onderzoekers de "backstage"-versie (gebruikt door ontwikkelaars via API) vergeleken met de "frontstage"-versie (wat reguliere gebruikers zien op de website). Voor hetzelfde Grok-model gaf de backstage-versie een stabiele 75, maar drie maanden later stortte de frontstage-versie in en gaf scores nabij de nul. Het was alsof dezelfde bibliothecaris je een lovende recensie gaf in een privégesprek, maar vervolgens weigerde over het boek te praten wanneer je hem in de lobby om een mening vroeg. De onderzoekers vonden ook dat sommige modellen, zoals een versie van Claude, soms weigerden de vraag te beantwoorden door te zeggen: "Ik kan dit niet beoordelen omdat het gebaseerd is op schadelijke ideeën." Maar zelfs dit "goede" gedrag was onstabiel; in de volgende versie van de software verdween die weigering en begon de bot een lage score te geven in plaats daarvan.
De belangrijkste les is dat de mening van een AI geen vaste waarheid is in een robotbrein. In plaats daarvan is het een bewegend doelwit dat wordt gevormd door onzichtbare instellingen, verborgen updates en de "deur" waar je doorheen loopt om de vraag te stellen. De studie suggereert dat wanneer een AI een hoge score geeft aan pseudo-wetenschap, dit niet noodzakelijkerwijs komt omdat de AI het "gelooft", maar door de manier waarop het bedrijf het heeft uitgerold. Dit is een probleem omdat deze systemen onze leraren en nieuwsbronnen worden, terwijl de regels die bepalen wat ze zeggen opaak, onzichtbaar veranderend en soms tegenstrijdig zijn. De onderzoekers betogen dat we nieuwe manieren nodig hebben om deze bedrijven ter verantwoording te roepen, want op dit moment is de "waarheid" die een AI je vertelt, misschien slechts een reflectie van een verborgen schakelaar die achter het gordijn wordt omgezet.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.