💬 NLP

Detecting undisclosed LLM-generated content in parliamentary texts

Cet article présente un classificateur interprétable entraîné pour détecter les contenus générés par des LLM non divulgués dans les textes parlementaires, révélant une augmentation constante de cet usage au Royaume-Uni et en Suède depuis 2022.

Auteurs originaux : Minerva Suvanto, Andrea McGlinchey, Peter J. Barclay, Mattias Wahde

Publié 2026-06-15

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Minerva Suvanto, Andrea McGlinchey, Peter J. Barclay, Mattias Wahde

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez une bibliothèque animée où des politiciens du Royaume-Uni et de la Suède rédigent des discours, des motions et des déclarations officielles. Pendant des années, ces documents ont été entièrement écrits par des mains humaines (ou du moins, par des esprits humains tapant sur des claviers). Mais récemment, un nouveau fantôme invisible a commencé à hanter la bibliothèque : le Grand Modèle de Langage (LLM), le même type d'IA qui alimente les chatbots comme ChatGPT.

Ce document est comme une équipe de détectives qui a construit un « détecteur de mensonges » spécial pour découvrir si des politiciens laissent secrètement ce fantôme de l'IA rédiger leurs discours sans le dire à personne.

Voici l'histoire de leur enquête, expliquée simplement :

1. Le mystère : Le fantôme silencieux

Dans beaucoup de métiers, comme le journalisme ou les rédactions scolaires, si vous utilisez l'IA, vous êtes censé lever la main et dire : « J'ai utilisé un robot pour m'aider. » Mais dans le monde du parlement, les règles sont floues. Il n'existe aucune loi stricte obligeant les politiciens à dire : « Hé, j'ai demandé à une IA de rédiger ceci. »

Les chercheurs craignaient que si les politiciens utilisent l'IA pour écrire leurs discours sans l'admettre, cela puisse nuire à la confiance du public. C'est comme si un chef vous servait un repas mais ne vous disait pas qu'un robot l'a cuisiné, et que le robot avait accidentellement mis du sel dans le dessert.

2. L'outil du détective : La « boîte de verre »

Pour attraper le fantôme, les chercheurs n'ont pas utilisé une machine noire et mystérieuse qui donne des réponses incompréhensibles (une « boîte noire »). À la place, ils ont construit un classificateur en « boîte de verre ».

Voyez cela comme une loupe qui ne se contente pas de dire « Coupable » ou « Non coupable ». Elle vous montre exactement quels mots et quelles structures de phrases sont suspects.

Comment ils l'ont entraînée : Ils ont pris d'anciens discours antérieurs à 2022 (avant que l'IA ne soit populaire) et savaient que ceux-là étaient 100 % humains. Ensuite, ils ont pris ces mêmes discours, les ont donnés à une IA, et ont demandé à l'IA de les réécrire. Ils avaient maintenant une pile « Humaine » et une pile « IA ».
L'entraînement : Ils ont appris à leur « boîte de verre » à repérer les infimes différences entre la pile humaine et la pile IA. Ils ont découvert que l'IA a tendance à écrire selon des schémas légèrement différents — comme utiliser « United Kingdom » au lieu de « UK », ou avoir un rythme très spécifique dans ses phrases.

3. L'enquête : Vérification des fichiers récents

Une fois l'outil de détection prêt, ils l'ont lâché sur les nouveaux discours de 2021 à 2026. Ils ont examiné ces discours de deux manières :

Le discours complet : Est-ce que l'ensemble du document sent l'IA ?
Les paragraphes : Est-ce qu'un seul paragraphe du discours sent l'IA ? (Peut-être que le politicien a écrit l'introduction, mais a demandé à l'IA d'écrire la partie centrale).

4. Les résultats : Le fantôme est partout (et il grandit)

Les résultats sont clairs et constants :

La tendance : Au Royaume-Uni comme en Suède, l'utilisation de l'IA dans ces textes augmente régulièrement depuis 2022.
Les chiffres : En 2026, le détecteur a trouvé qu'environ 2 % des discours britanniques et 6,5 % des discours suédois étaient probablement entièrement écrits par l'IA.
Les parties « cachées » : Lorsqu'ils ont examiné les paragraphes individuels, les chiffres étaient encore plus élevés. Au Royaume-Uni, plus de 15 % des motions récentes contenaient au moins un paragraphe qui ressemblait à un texte écrit par l'IA. En Suède, c'était plus de 9 %.
Le silence : La partie la plus choquante ? Aucun de ces textes n'a admis l'utilisation de l'IA. Pas un seul n'a dit : « Nous avons utilisé un chatbot ici. »

5. Pourquoi c'est important (selon l'article)

L'article soutient que ce manque d'honnêteté est un problème.

Confiance : Si les électeurs découvrent que leurs politiciens utilisent l'IA pour écrire leurs mots sans le dire, cela peut être ressenti comme une trahison.
Erreurs : L'IA peut parfois inventer des choses (halluciner) ou être biaisée. Si un politicien utilise l'IA sans la vérifier soigneusement, il peut accidentellement propager de fausses informations ou des idées offensantes.
Le « Cheval de Troie cognitif » : L'article mentionne que compter sur l'IA pourrait amener les politiciens à cesser de penser de manière critique, laissant l'IA faire le gros du travail de réflexion sans qu'ils s'en rendent compte.

6. La conclusion

Les chercheurs concluent que si l'utilisation de l'IA n'est pas nécessairement « mauvaise », le fait de la cacher l'est. Ils ont constaté que les politiciens utilisent de plus en plus l'IA pour rédiger leurs textes officiels, mais qu'ils ne suivent pas les directives (souvent vagues) qui suggèrent d'être transparents à ce sujet.

Ils suggèrent que les parlements doivent cesser d'être vagues et commencer à établir des règles claires et strictes : « Si vous utilisez l'IA, vous devez le dire. » D'ici là, le « fantôme » dans la bibliothèque continuera d'écrire des discours dans l'ombre.

Résumé technique : Détection du contenu généré par des LLM non divulgué dans les textes parlementaires

Énoncé du problème
L'intégration rapide des modèles de langage de grande taille (LLM) dans l'interaction homme-machine a soulevé d'importantes préoccupations concernant la transparence du discours politique. Bien que les directives d'organismes tels que l'Union interparlementaire (UIP) et le gouvernement britannique recommandent de divulguer l'utilisation de l'IA dans les textes parlementaires pour maintenir la confiance du public et prévenir la propagation de la désinformation ou des biais, ces divulgations sont largement absentes des registres officiels. Ce manque de transparence rend difficile l'évaluation de l'étendue avec laquelle les politiciens et leurs collaborateurs utilisent l'IA pour rédiger des motions et des déclarations. De plus, les méthodes de détection existantes reposent souvent sur des réseaux neuronaux de type « boîte noire », qui manquent de l'interprétabilité requise pour des décisions à enjeux élevés où de fausses accusations pourraient nuire aux réputations.

Méthodologie
Les auteurs proposent un cadre pour détecter le contenu généré par des LLM non divulgué dans les textes parlementaires du Royaume-Uni (Westminster) et de la Suède (Riksdag). L'approche repose sur un classificateur linéaire « boîte de verre » entièrement interprétable connu sous le nom d'Interpretable CONfidence-enhanced Perceptron (ICON).

Collecte et génération de données :
- Écrit par l'humain (Classe 0) : Les textes ont été extraits de registres parlementaires publiés entre 2014 et 2020 (ère pré-LLM moderne) pour servir de vérité de terrain pour l'écriture humaine.
- Généré par LLM (Classe 1) : Pour simuler une utilisation réaliste, les auteurs ont employé une procédure de prompting en deux étapes. Premièrement, des textes écrits par des humains ont été résumés par un LLM (Gemini 3.1 Flash-Lite). Deuxièmement, ces résumés ont été utilisés comme prompts pour que des LLM (Gemini et GPT-5 mini) génèrent des textes complets. Cela a abouti à un ensemble de données de base équilibré de 1 400 textes humains et 1 400 textes générés par LLM par langue (anglais du Royaume-Uni et suédois).
- Ensembles de tests prospectifs : Des textes non étiquetés publiés à partir de 2021 ont été collectés pour évaluer l'utilisation réelle des LLM. Les textes du début 2021/2022 ont servi d'ensemble de réserve pour mesurer les taux de faux positifs (FP) avant l'adoption massive de l'IA publique.
Modèle de classification (ICON) :
- Le classificateur utilise des caractéristiques n-grammes (unigrammes et bigrammes) extraites de textes tokenisés.
- Il emploie une fonction de décision linéaire $s = \alpha + \sum w_i f_i$ , où un texte est classé comme généré par LLM (Classe 1) si la somme $s \geq 0$ .
- Les poids ( $w_i$ ) et le terme de biais ( $\alpha$ ) sont initialisés sur la base des fréquences de caractéristiques dans les classes d'entraînement et optimisés via une méthode de l'perceptron modifiée qui calcule les erreurs sur l'ensemble du jeu de données plutôt que par échantillon.
- Interprétabilité : Le modèle fournit un score de confiance basé sur la magnitude de la somme de classification ( $|s|$ ) et permet la visualisation des contributions spécifiques de caractéristiques (par exemple, des mots ou bigrammes spécifiques) qui pilotent la décision, évitant ainsi l'opacité des réseaux neuronaux profonds.
Stratégie d'évaluation :
- L'étude évalue la détection à deux niveaux : (1) la classification de la motion parlementaire entière comme une unité unique, et (2) la classification de paragraphes individuels au sein d'une motion.
- Un seuil de confiance ( $T$ ) est appliqué à la somme de classification pour minimiser les faux positifs, particulièrement pour l'analyse au niveau du paragraphe.

Résultats clés

Performance du classificateur : Les classificateurs entraînés ont obtenu des performances élevées sur les ensembles de test prospectifs, avec des scores F1 de 0,940 (Royaume-Uni) et 0,969 (Suède). Crucialement, le taux de faux positifs sur les textes de l'ère pré-LLM était extrêmement bas (0,062 pour le Royaume-Uni, 0,043 pour la Suède), indiquant une robustesse contre la mauvaise classification de l'écriture humaine.
Détection de l'utilisation non divulguée : L'application des classificateurs aux ensembles de tests prospectifs (2021–2026) a révélé une augmentation constante de l'utilisation détectée des LLM dans les deux parlements :
- Détection de texte intégral : Lors de la classification de motions entières, les taux de détection sont passés de près de zéro en 2021 à environ 2,1 % au Royaume-Uni (2026) et 6,5 % en Suède (2025–2026).
- Détection au niveau du paragraphe : En analysant les paragraphes individuels, les taux de détection étaient plus élevés, indiquant que les LLM sont souvent utilisés pour générer des sections spécifiques d'un texte plutôt que le document entier. En 2026, environ 15,5 % des motions du Royaume-Uni et 9,4 % des motions suédoises contenaient au moins un paragraphe identifié comme généré par LLM.
Tendances : Les données montrent une augmentation marquée de l'utilisation détectée à partir de fin 2022/2023, corrélée avec la sortie publique de LLM avancés.
Divulgation : Une recherche manuelle des mots-clés liés à l'IA (ex. : « ChatGPT », « LLM », « IA ») dans les textes détectés a confirmé qu'aucun de ces textes ne contenait de divulgation de l'utilisation de l'IA.

Signification et revendications
L'article affirme fournir la première preuve systématique d'une tendance croissante de l'utilisation non divulguée des LLM dans les textes parlementaires au Royaume-Uni et en Suède. En utilisant un classificateur « boîte de verre » interprétable, les auteurs soutiennent que leurs conclusions sont plus défendables dans des contextes politiques à enjeux élevés que celles dérivées de modèles de type « boîte noire », car les raisons spécifiques de la classification peuvent être inspectées et visualisées.

Les auteurs soulignent que leurs résultats suggèrent une violation des directives existantes (bien que souvent non obligatoires) concernant la transparence. Ils notent que si les LLM peuvent être des outils utiles, leur utilisation non divulguée risque d'éroder la confiance du public, d'introduire des biais subtils et de potentiellement propager la désinformation ou un « déchargement cognitif » où la supervision humaine est réduite. L'étude conclut que l'absence actuelle de divulgation est une « violation flagrante » des principes de transparence et appelle à des directives plus claires et actionnables, ainsi qu'à leur respect dans les processus parlementaires. Le papier note modestement des limites, telles que le potentiel des différences linguistiques affectant la comparabilité translinguistique et la possibilité de textes de la « zone grise » où l'édition humaine du résultat de l'IA peut brouiller les frontières de détection, tout en maintenant que les tendances détectées sont robustes et statistiquement significatives.