Impact of large language models on peer review opinions from a fine-grained perspective: Evidence from top conference proceedings in AI

1. Probleemstelling

De academische gemeenschap staat voor ongekende verstoringen door de snelle opkomst van Large Language Models (LLMs). Hoewel peer review een cruciale kwaliteitscontrolemechanisme is voor academische publicaties, is het onduidelijk in hoeverre LLMs de kernfuncties van dit proces veranderen. Bestaande studies suggereren dat LLMs invloed hebben, maar er ontbreekt een systematisch, fijnmazig (fine-grained) onderzoek naar:

• De veranderingen in de linguïstische vorm (complexiteit, lengte).
• De verschuiving in evaluatie-aspecten (waar richt de aandacht zich op?).
• De invloed op aanbevelingen en scores.
• De rol van reviewer-vertrouwen in deze dynamiek.

De studie onderzoekt of LLMs peer reviews slechts efficiënter maken of dat ze de diepgang en de kritische redenering van reviews aantasten.

2. Methodologie

De auteurs voeren een kwantitatieve, fijnmazige analyse uit op peer review-data van twee toonaangevende AI-conferenties: ICLR en NeurIPS.

• Data: Het dataset omvat reviews van ICLR (2017-2025) en NeurIPS (2016-2024, exclusief 2020), totaal bijna 188.000 reviews.
• Detectie van LLM-ondersteuning:
  • Er wordt gebruikgemaakt van een Maximum Likelihood Estimation (MLE) model (gebaseerd op Liang et al.) om reviews te identificeren die mogelijk door LLMs zijn gegenereerd of sterk bewerkt.
  • Een voorfiltering vindt plaats met een lexicon van termen die frequent en kenmerkend worden gebruikt door LLMs (zie Appendix B).
• Fijnmazige Analyse (Fine-Grained Analysis):
  • Woord- en zinsniveau: Analyse van tekstlengte, woordlengte, en zinslengte.
  • Lexicale en Syntactische Complexiteit: Gebruik van tools zoals TAALES (voor lexicaal rijkdom, o.a. COCA Academic Range) en TAASSC (voor syntactische complexiteit, o.a. aantal bijzinnen, nominale subjecten, hulpwerkwoorden).
  • Aspect-identificatie: Een geoptimaliseerd, voorgetraind model (gebaseerd op Yuan et al.) labelt zinnen met specifieke evaluatie-aspecten: Summary, Motivation, Originality, Soundness, Substance, Replicability, Meaningful Comparison, Clarity. Ook wordt de sentiment-polariteit (positief/negatief) per aspect bepaald.
• Vertrouwensscores: De analyse wordt gesegmenteerd op basis van de zelfgerapporteerde vertrouwensscores van reviewers (1-5).

3. Belangrijkste Bijdragen

1. Fijnmazige Statistische Analyse: De studie biedt inzicht in de evolutie van reviewteksten op woord-, zin- en aspectniveau, in plaats van alleen op tekstniveau.
2. Identificatie van Trends: Het documenteert een duidelijke verschuiving in reviewkarakteristieken na de introductie van LLMs, met name een toename in tekstlengte en standaardisatie van taalgebruik.
3. Vergelijking LLM vs. Niet-LLM: Een directe vergelijking tussen reviews die als LLM-ondersteund worden geïdentificeerd en die zonder LLM zijn geschreven, onthult specifieke verschillen in focuspunten.
4. Correlatie met Scores: Onderzoek naar de relatie tussen de gebruikte evaluatie-aspecten en de uiteindelijke scores/vertrouwen, wat laat zien dat LLM-ondersteuning de scores niet fundamenteel verandert, maar wel de manier waarop reviews worden gestructureerd.

4. Resultaten

A. Linguïstische Complexiteit en Tekstlengte

• Lengte: Na de opkomst van LLMs zijn reviews langer geworden en bevatten ze meer zinnen. Dit is vooral zichtbaar bij reviewers met een laag vertrouwensscore (score 1), die eerder een stijgende trend in lengte vertonen.
• Lexicale Complexiteit: Er is een lichte daling in lexicaal rijkdom (minder variatie in woordkeuze), wat suggereert dat LLMs meer gestandaardiseerde taal genereren.
• Syntactische Complexiteit: Er is een significante toename in het gebruik van nominale subjecten (in plaats van persoonlijke voornaamwoorden zoals "ik" of "wij"), wat de objectiviteit verhoogt. Tegelijkertijd neemt het gebruik van hulpwerkwoorden af, wat wijst op meer directe en beknopte zinsconstructies.

B. Evaluatie-Aspecten en Focus

• Verschuiving in Prioriteiten: LLM-ondersteunde reviews leggen meer nadruk op samenvattingen (Summary) en duidelijkheid (Clarity).
• Afname van Kritische Diepgang: Er is een duidelijke daling in de frequentie van aspecten zoals Originaliteit, Repliceerbaarheid en Nuance.
• Vergelijking: Niet-LLM-ondersteunde reviews behouden meer focus op methodologische robuustheid (Soundness) en originaliteit. LLM-ondersteunde reviews lijken meer te neigen naar gestructureerde overzichten dan naar diepgaande kritische analyse.

C. Impact op Scores en Vertrouwen

• Correlatie met Scores: De frequentie van aspectvermeldingen heeft slechts een zwakke invloed op de uiteindelijke scores. LLM-ondersteuning verandert de scores niet significant; reviewers gebruiken LLMs vooral voor het structureren en formuleren van de tekst, niet voor het bepalen van de oordeelsvorming.
• Vertrouwen: Er is een zwakke, maar consistente negatieve correlatie tussen de vermelding van "duidelijkheid" en het vertrouwensscore. Dit suggereert dat zelfs met LLM-ondersteuning, reviewers onzeker blijven als de paper zelf onduidelijk is.

5. Betekenis en Conclusie

De studie concludeert dat LLMs de vorm van peer reviews hebben veranderd, maar niet noodzakelijk de inhoudelijke beoordelingskwaliteit op fundamentele wijze hebben verstoord.

• Positief: Reviews zijn vloeiender, objectiever (minder "ik"-gebruik) en bevatten betere samenvattingen. Dit kan de leesbaarheid voor auteurs verbeteren.
• Negatief/Bezorgdheid: Er is sprake van een trade-off: de toename in linguïstische vlotheid gaat ten koste van de aandacht voor diepere, creatieve en kritische aspecten zoals originaliteit en replicatie. Dit kan leiden tot een homogenisering van reviews en een verlies aan diversiteit in evaluatieperspectieven.
• Aanbeveling: LLMs moeten worden gezien als hulpmiddelen voor schrijfstijl en structuur, niet als vervanging voor kritische denkprocessen. Er is behoefte aan richtlijnen die het gebruik van LLMs transparant maken en reviewers stimuleren om de diepere evaluatieve dimensies niet te verwaarlozen.

De auteurs benadrukken dat hun bevindingen gebaseerd zijn op correlaties en dat toekomstig werk (experimenteel) nodig is om causale relaties te bevestigen.