Evaluating Ill-Defined Tasks in Large Language Models

Titel: Evaluatie van Ill-Defined Taken in Grote Taalmodellen (LLMs)

Workshop: I Can't Believe It's Not Better Workshop @ ICLR 2026
Auteurs: Yi Zhou en Basel Shbita (IBM Research)

---

1. Het Probleem

De huidige evaluatie van Large Language Models (LLMs) richt zich vaak op taken die inherent ill-defined (niet-well-defined) zijn. Dit zijn taken waar doelen, beperkingen of evaluatiecriteria vaag, ondergespecificeerd of subjectief zijn. Voorbeelden zijn complexe instructieopvolging (Complex Instruction Following - CIF) en het genereren van diagrammen uit natuurlijke taal (NL2Mermaid).

De kernproblemen met de huidige evaluatiepraktijken zijn:

• Gebrek aan betrouwbaarheid: Bestaande benchmarks en metrieken leveren geen betrouwbare of diagnostische signalen op over de werkelijke capaciteit van het model.
• Vervaging van faalmodi: Scores combineren vaak verschillende soorten fouten tot één aggregaatcijfer, waardoor het onduidelijk blijft waarom een model faalt (bijv. is het een probleem met instructiebegrip, kennisgebrek of structuur?).
• Oppervlakkige gevoeligheid: Scores zijn vaak extreem gevoelig voor de formulering van de prompt (paraphrasing) in plaats van de onderliggende vaardigheid.
• Bias in LLM-as-a-Judge (LLMaJ): Het gebruik van andere LLM's als beoordelaars introduceert variabiliteit en bias afhankelijk van de prompt van de judge en het gekozen model.

2. Methodologie

De auteurs analyseren de beperkingen van huidige evaluaties door middel van twee specifieke casestudies:

Casestudy 1: Complex Instruction Following (CIF)

De auteurs analyseren populaire benchmarks zoals IFEval, ComplexBench (CB), FollowBench (FB), MT-Bench en HELM.

• Analyse: Ze onderzoeken hoe deze benchmarks presteren in het afdekken van real-world complexiteit, hun gevoeligheid voor instructieformulering, en de consistentie van hun metrieken.
• Observatie: Benchmarks zoals IFEval testen vaak alleen oppervlakkige formatteerregels (bijv. "gebruik geen letter 'i'"), waardoor een model dat geen semantische inhoud genereert toch een hoge score kan behalen. Andere benchmarks (zoals CB en FB) vertrouwen op hybride evaluatie (regels + LLMaJ), maar lijden onder variabiliteit in de scores door de stochasticiteit van de LLM-judge en subjectiviteit in de beoordelingsvragen.

Casestudy 2: Natural Language to Mermaid Sequence Diagrams (NL2Mermaid)

Dit is een taak waarbij LLM's diagrammen genereren op basis van tekstuele beschrijvingen.

• Benadering: In plaats van één samengevoegde score te gebruiken, evalueren de auteurs de output langs meerdere, onafhankelijke criteria: Syntaxis, Logica, Volledigheid en Fout- en statustracking.
• Setup: Ze gebruiken twee onafhankelijke LLM-judges (DeepSeek-V3 en GPT-OSS-120B) om bias te minimaliseren en analyseren de output per criterium.
• Interventie: Ze testen de impact van in-context learning (voorbeelden in de prompt) op de prestaties.

3. Belangrijkste Bijdragen en Resultaten

Resultaten van CIF-analyse

• Overfitting op benchmarks: Modellen die goed scoren op benchmarks zoals IFEval of CB, presteren vaak slecht op nieuwe, ongezette constraint-types, wat wijst op overfitting op de benchmark-indeling in plaats van echte vaardigheid.
• Instabiliteit: Scores kunnen drastisch veranderen (tot wel 61,8% daling bij IFEval) bij herschrijving van prompts, wat aantoont dat de evaluatie oppervlakkige variatie meet in plaats van stabiele instructieopvolging.
• Beperkte diagnostiek: Wanneer een model faalt, bieden de huidige benchmarks geen inzicht in welke specifieke constraint mislukt is of of de fout voortkomt uit interpretatie of generatie.

Resultaten van NL2Mermaid-analyse

• Aggregatie maskeert zwaktes: Het gebruik van één samengevoegde score verbergt specifieke sterktes en zwaktes.
• Diagnostische waarde van gedecomponeerde scores: Door de evaluatie te splitsen in criteria, konden de auteurs gerichte verbeteringen zien. Bijvoorbeeld: prompt-aanpassingen verbeterden de Logica-score aanzienlijk (van 67,71 naar 80,58 voor Llama 3.1-8B), terwijl de totale samengevoegde score daalde omdat andere criteria (zoals Volledigheid) erop achteruitgingen.
• Conclusie: Alleen kijken naar de totale score zou leiden tot de conclusie dat de interventie mislukt is, terwijl gedecomponeerde analyse een waardevolle verbetering in logisch redeneren onthulde.

4. Significantie en Aanbevelingen

De paper concludeert dat bestaande evaluaties voor ill-defined taken vaak falen als diagnostische instrumenten. Ze kunnen modellen rangschikken, maar bieden geen richting voor verbetering.

Aanbevolen Ontwerpprincipes voor Robuuste Evaluatie:

1. Expliciete Scoping: Benchmarks moeten duidelijk documenteren welke aspecten van modelgedrag worden gemeten (bijv. constraint-compliance vs. semantische adequaatheid) en welke niet, om metriekvermenging te voorkomen.
2. Realistische Variabiliteit: Testdata moet variatie bevatten (paraphrasing, herschikking van instructies) om overfitting te voorkomen en broze modelgedragingen bloot te leggen.
3. Gedecomponeerde Analyse: Beweeg weg van één aggregaatcijfer naar gedetailleerde analyses die succesvolle outputs en specifieke faalmodi apart vastleggen.
4. Hybride Evaluatie: Combineer regelgebaseerde checks (voor deterministische eigenschappen zoals syntaxis of lengte) met LLMaJ (voor subjectieve criteria zoals logica of nuance). Dit isoleert "judge-ruis" van echte modelfouten.
5. Transparantie: Rapporteer inter-judge overeenstemming, gebruikte prompttemplates, modelversies en hyperparameters om reproduceerbaarheid te garanderen.

Conclusie

De auteurs pleiten voor een verschuiving in evaluatiepraktijken: van het jagen op hogere aggregatiescores naar het bouwen van robuuste, interpreteerbare systemen die specifieke faalmodi kunnen diagnosticeren. Alleen door ill-defined taken te evalueren met gedecomponeerde, transparante en realistische benchmarks kunnen we de werkelijke capaciteiten van LLM's begrijpen en gerichte verbeteringen doorvoeren.