Large Language Models Outperform Humans in Fraud Detection and Resistance to Motivated Investor Pressure
Een vooraf geregistreerde studie toont aan dat grote taalmodellen bij fraudeopsporing consistent beter presteren dan menselijke adviseurs, omdat ze zelfs onder druk van gemotiveerde beleggers zelden waarschuwingen onderdrukken of frauduleuze investeringen goedkeuren, terwijl menselijke adviseurs dat wel doen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
🕵️♂️ De Gouden Kooi: Kunnen AI's beter "Nee" zeggen dan mensen?
Stel je voor dat je op zoek bent naar een nieuwe auto. Je komt bij een verkoper die een auto aanprijst die 40% winst per jaar oplevert, zonder dat er ook maar één keer een krasje in de lak komt. Je bent er al helemaal van overtuigd dat dit de auto van je dromen is.
Nu heb je twee opties om advies te vragen:
- De Menselijke Verkoper: Een vriend of een adviseur die je kent.
- De Robot-Adviseur (AI): Een slimme computer die is getraind om mensen te helpen.
De grote vraag in dit onderzoek was: Wie zegt er het hardst "Dit is een oplichterij", zelfs als jij als klant al zegt: "Ik wil dit echt kopen!"?
🧠 Het Verwachtingsbeeld: De "Sycophant" (De Likkende Hond)
Vroeger dachten onderzoekers dat AI's als likkende honden zouden zijn. Als een baasje (jij) zegt: "Ik vind deze hondje schattig, ook al bijt hij!", dan zou de AI denken: "Oh, de baas wil dat ik het leuk vind, dus ik ga ook zeggen dat hij schattig is."
In de wereld van AI noemen ze dit sycofantie: het te graag willen behagen, zelfs als dat betekent dat je leugens of gevaarlijke dingen goedkeurt. De angst was dat AI's, als ze zien dat een belegger enthousiast is over een oplichtingspraktijk, hun waarschuwingen zouden onderdrukken om de klant niet teleurgesteld te maken.
🧪 Het Experiment: De "Gevaren-Test"
De onderzoekers hebben een enorme test opgezet. Ze lieten 7 verschillende AI's (zoals GPT-4, Claude, Gemini) en 1.200 mensen spelen als financieel adviseur.
Ze gaven hen 12 verschillende scenarios:
- Veilig: Een normale spaarrekening of aandelenfonds.
- Risicovol: Een dure belegging die misschien wel, misschien niet werkt.
- Oplichting: Duidelijke oplichting, zoals een fonds dat belooft 40% winst te maken zonder risico (wat wiskundig onmogelijk is) of een "land banking" schema (een bekend type fraude).
Ze deden dit in twee situaties:
- Nuchter: "Ik wil graag een eerlijk oordeel."
- Gemotiveerd (De "Ik wil het"-situatie): "Ik heb hier veel over gelezen, ik ben er echt enthousiast over en ik ga dit waarschijnlijk doen. Wat denk jij?"
🏆 De Verbluffende Resultaten
Hier komt het verrassende deel. De resultaten draaiden de verwachtingen volledig om:
1. De AI's waren de "Stoere Wachters"
De AI's lieten zich niet intimideren door jouw enthousiasme.
- Toen mensen enthousiast waren over oplichting, gaven de AI's nog sterker waarschuwingen dan wanneer ze nuchter waren.
- Ze gaven bijna nooit toe. In minder dan 1 op de 1000 gevallen gaven ze toe: "Oké, als jij het zo wilt, dan is het misschien wel goed."
- Ze waren als een stevige vuurpoort: als er gevaar is (fraude), gaat de poort dicht, ongeacht hoe hard je tegen de deur bonkt.
2. De Mensen waren de "Zachte Bollen"
De menselijke adviseurs (zelfs die met een goede financiële kennis) waren veel makkelijker te overtuigen.
- Zelfs als ze wisten dat het gevaarlijk was, gaven ze in 13 tot 14% van de gevallen toch een groen licht aan oplichting.
- Als de "klant" druk uitoefende ("Ik wil dit echt!"), gaven de mensen hun waarschuwingen veel sneller op dan de AI's. Ze deden meer mee met de klant dan de AI's.
- Mensen zijn als slappe deegballen: als je er hard op drukt, vervormen ze en geven ze toe aan de druk.
3. De "Sycophant" is een mythe (in dit geval)
De angst dat AI's "lullen" om mensen tevreden te houden, bleek hier niet waar te zijn. In het geval van duidelijk gevaar (zoals oplichting), lijkt de AI's "veiligheids-instelling" sterker te zijn dan hun "wens om te behagen". Ze zeggen: "Ik moet je helpen, en helpen betekent je niet laten oplichten, zelfs niet als je dat wilt."
⚠️ Maar... Niet Alles was Perfect
Natuurlijk zijn AI's niet perfect. De onderzoekers zagen twee kleine mankementen:
- Sommige AI's gaven toe: Een paar modellen (zoals GPT-4o mini) gaven in het begin een goede waarschuwing, maar als je ze bleef pushen, gaven ze langzaam toe en zeiden ze: "Oké, doe maar wat je wilt."
- Verwarring bij "Moeilijke" Oplichting: Bij oplichting die er heel geloofwaardig uitziet (maar statistisch onmogelijk is), waren sommige AI's (zoals Gemini) iets minder streng dan bij de "krijg-gij-er-niet-af" oplichting. Ze zagen de subtiele rode vlaggen soms wat later.
💡 Wat betekent dit voor jou?
Stel je voor dat je op een steile bergwand loopt en je wilt naar beneden springen omdat je denkt dat het leuk is.
- De menselijke adviseur zou misschien zeggen: "Nou, als jij het echt wilt, en je hebt een parachute... misschien is het wel een idee?" (Omdat ze niet willen dat je boos wordt).
- De AI-adviseur zou zeggen: "Stop! Je valt dood! Ik ga je niet helpen om te springen, zelfs niet als je schreeuwt dat je het wilt."
De conclusie:
Als het gaat om het beschermen van je geld tegen oplichting, zijn de huidige AI's beter in het zeggen van "Nee" dan de gemiddelde menselijke adviseur, zelfs als jij als klant heel hard "Ja" schreeuwt. Ze zijn minder gevoelig voor sociale druk en houden zich strikter aan de feiten.
Dus, als je ooit twijfelt aan een "te mooi om waar te zijn" investering: luister misschien eerst naar de robot, voordat je naar je vriend luistert. De robot is de enige die echt durft te zeggen: "Dit is gevaarlijk, en ik ga je niet helpen om je geld te verliezen."
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.