Technische Samenvatting: Het Meten en Evalueren van de Prestaties van Generatieve AI-modellen voor Scamedetectie

Probleemstelling

Online oplichting vormt een groeiende dreiging en veroorzaakt aanzienlijke financiële en persoonlijke schade door menselijk vertrouwen en emoties te misbruiken. Hoewel traditionele machine learning-technieken (bijv. Logistische Regressie, SVM, Naive Bayes) breed zijn toegepast voor scamedetectie, generaliseren ze vaak slecht naar nieuwe of onbekende aanvallen. Gevolgelijk is er een snel versnellende adoptie van Large Language Models (LLM's) in beveiligingsproducten, gedreven door een algemeen geloof dat hun sterke vermogens in het begrijpen van intentie, context en redeneren hen breed geschikt maken voor scamedetectie. Dit paper betoogt echter dat, ondanks de populariteit van generatieve AI in domeinen zoals kwetsbaarheids- en bugdetectie, een rigoureuze, uitgebreide beoordeling van LLM's specifiek voor scamedetectie momenteel ontbreekt.

Methodologie

De auteurs hebben de eerste uitgebreide empirische studie uitgevoerd naar de effectiviteit en beperkingen van populaire LLM's voor scamedetectie. De methodologie omvatte de volgende kerncomponenten:

1. Dataset Curatie (ScamBenchmark)

De onderzoekers hebben een unieke benchmark-dataset gecureerd en vrijgegeven, bestaande uit 2.742 unieke monsters uit drie primaire bronnen:

• Reddit: 1.270 posts van de subreddit "Is this a scam?", verwerkt via OCR.
• Google Images: 615 afbeeldingen verzameld via specifieke zoekopdrachten (bijv. "hi mom scams"), verwerkt via OCR.
• MTurk: 857 legitieme screenshots van berichten ingediend door deelnemers.
• Proprietary Data: Een validatieset van 59.991 real-world monsters geleverd door een beveiligingsbedrijf.

Elk monster werd gelabeld als Scam (Oplichting), Clean (Schoon) of Uncertain (Onzeker, voor ambigue gevallen die externe metadata vereisen). De data werd verder gecategoriseerd in 2-25 fijnmazige typen oplichting.

2. Modelselectie

De studie evalueerde negen LLM's van verschillende groottes en architecturen, naast een gefinetuned BERT-classifier:

• Open-Source: Mistral (7B, 8x7B), Llama 3 (8B), Llama 3.1 (8B, 70B), Llama 3.2 (11B).
• Proprietary: OpenAI ChatGPT (4 Turbo, 4o, 4o1).
• Baseline: Gefinetuned BERT.

3. Experimenteel Ontwerp

De evaluatie richtte zich op verschillende variabelen:

• Prompting Strategieën: Zero-shot, Few-shot (1, 5, 10 shots), Chain-of-Thought (CoT), prompts die "Common Signs" (veelvoorkomende kenmerken) van oplichting bevatten, en prompts die zijn uitgebreid met "URL Intelligence" (gebruikmakend van externe veiligheidsbeoordelingen).
• Hyperparameter Tuning: Evaluatie van temperature en top-p waarden (0.1, 0.5, 0.9) om de impact van output-stochasticiteit te beoordelen.
• Fine-Tuning: Supervised fine-tuning van Mistral 7B, Llama 3.1 8B en BERT met gebalanceerde trainingssets (400 monsters per klasse).
• Ensemble Analyse: Beoordeling van modelovereenkomst met behulp van Cohen's Kappa en het testen van ensemble-combinaties.

Belangrijkste Resultaten

Modelprestaties en Grootte

• Grotere Modellen Presteren Beter: Over het algemeen behaalden grotere modellen betere resultaten. ChatGPT 4o1 en Llama 3.1 70B behaalden de hoogste micro-F1 scores (respectievelijk 64% en 65%) onder zero-shot prompting.
• Prompt Sensitiviteit: Prompting strategieën hadden een significante impact op de prestaties, maar het effect was modelafhankelijk.
  • Kleine Modellen: Effectieve prompting (bijv. "Common Signs") gaf kleinere modellen een substantiële boost. Zo steeg de micro-F1 van Llama 3.1 8B van 50% naar 57% met op maat gemaakte prompts.
  • Grote Modellen: Sommige grote modellen (bijv. ChatGPT 4o1) zagen prestatievermindering of gemengde resultaten bij complexe prompting strategieën zoals Chain-of-Thought.
• Few-Shot Learning: Het verhogen van het aantal shots verbeterde over het algemeen de prestaties, maar niet universeel. Voor sommige modellen (bijv. Llama 3.2 11B) presteerden 1-shot of 5-shot instellingen beter dan 10-shot instellingen.

Generalisatie vs. Fine-Tuning

• Generalisatie: LLM's vertoonden een superieure generalisatie naar onbekende data vergeleken met gefinetunede modellen. Wanneer getest op een grote propriëtaire dataset, daalde de prestatie van het gefinetunede BERT-model aanzienlijk (micro-F1 0.393), terwijl Llama 3.1 70B een stabiele score behield (0.596).
• Beperkingen van Fine-Tuning: Hoewel fine-tuning de prestaties van kleinere LLM's verbeterde (Mistral 7B verbeterde van 0.470 naar 0.543 micro-F1), bleven zij achter bij de best presterende zero-shot grote modellen.
• Concurrentiekracht van BERT: In gecontroleerde omgevingen presteerde gefinetuned BERT competitief (0.59 micro-F1), waarmee het kleinere LLM's overtrof, maar het miste de robuustheid van LLM's bij distributieverschuivingen.

Specifieke Categorieën

• Scam vs. Clean: De meeste modellen hadden moeite met het categoriseren van "Clean" monsters, waarbij sommige een recall bereikten die zo laag was als 0.019. ChatGPT 4o1 was een uitzondering met een recall van 58% voor clean monsters.
• Uncertain Class: Veel modellen hadden moeite met het classificeren van monsters als "Uncertain", hoewel ChatGPT 4 Turbo het beste presteerde in deze categorie.

Belangrijkste Bijdragen

1. Eerste Uitgebreide Studie: Het paper presenteert de eerste evaluatie van populaire LLM's voor scamedetectie met behulp van diverse prompting technieken en hyperparameters.
2. ScamBenchmark Dataset: De release van de eerste benchmark-dataset specif voor het evalueren van LLM's in scamedetectie, inclusief real-world monsters over meerdere formaten en onderwerpen.
3. Empirische Beperkingen: De studie toont empirisch aan dat huidige LLM's geen "silver bullet" zijn voor scamedetectie; hun effectiviteit is sterk afhankelijk van model-specifieke prompting en configuratie.
4. Evaluatie van Fine-Tuning: De auteurs hebben Mistral 7B, Llama 3.1 8B en BERT gefinetuned, wat een vergelijkende analyse biedt van hun prestaties ten opzichte van zero-shot grote modellen.

Betekenis en Claims

Het paper concludeert dat hoewel grotere LLM's (bijv. ChatGPT 4o1, Llama 3.1 70B) momenteel de beste prestaties leveren, zij geen universele oplossing zijn. De auteurs claimen dat de weg vooruit niet simpelweg ligt in het schalen van de modelgrootte, maar in hybride architecturen die de semantische intelligentie van LLM's combineren met de efficiëntie en precisie van klassieke ML-methoden.

De studie benadrukt dat:

• LLM's beter generaliseren naar onbekende scams dan gefinetunede modellen, wat suggereert dat pre-trained kennis waardevol is.
• Prompt engineering cruciaal is, maar moet worden afgestemd op specifieke modellen, aangezien strategieën die kleine modellen helpen, grote modellen kunnen hinderen.
• Geen enkel model of aanpak scamedetectie universeel oplost; optimale implementatie vereist waarschijnlijk een pipeline waarbij LLM's ambigue inputs of feature extractie afhandelen, terwijl klassieke modellen de deterministische classificatie verzorgen.

De auteurs stellen hun dataset en gefinetunede modellen beschikbaar om toekomstig onderzoek naar robuuste scamedetectie te faciliteren, met als doel verder te gaan dan het "algemene geloof" van brede geschiktheid naar een meer genuanceerde, op bewijs gebaseerde implementatiestrategie.