Leveraging Human Reading Behavior for Keyphrase Extraction: A Webcam-based Eye-tracking Corpus

Résumé Technique : Exploiter le comportement de lecture humain pour l'extraction de mots-clés

Énoncé du problème
L'extraction de mots-clés (KPE - Keyphrase Extraction) est une tâche fondamentale dans la recherche d'information, pourtant les méthodes existantes reposent principalement sur des indices internes au texte tels que la fréquence des termes, les motifs syntaxiques et la sémantique contextuelle. Ces approches négligent largement le lien entre les mots-clés et le comportement de lecture humain, spécifiquement la manière dont les lecteurs allouent leur attention lors de la compréhension. Bien que les études d'oculométrie (eye-tracking) aient établi que les schémas de fixation sont corrélés au traitement cognitif, l'application de ces enseignements à la KPE est entravée par deux facteurs principaux : la rareté des données d'oculométrie pour les textes académiques chinois et le coût élevé des équipements traditionnels d'oculométrie de classe laboratoire. De plus, les corpus open-source existants (par exemple, ZuCo, GECO) sont principalement basés sur des contenus généraux comme des actualités ou des romans, manquant de la terminologie spécifique au domaine et des conventions structurelles de la littérature académique, particulièrement en tant que Sciences de l'Information et de la Bibliothéconomie (LIS).

Méthodologie
Pour combler ces lacunes, les auteurs ont développé un cadre complet impliquant la collecte de données, la construction de corpus et l'intégration de modèles :

1. Plateforme de collecte de données légère : L'étude a utilisé une approche rentable basée sur une webcam, intégrant la bibliothèque JavaScript open-source SearchGazer avec un backend basé sur Flask. Cette plateforme permet l'inférence de regard en temps réel à l'aide de webcams grand public, éliminant le besoin de matériel spécialisé.
2. Construction du corpus (CLIS-ET) : Les auteurs ont construit le Corpus d'Oculométrie Chinois pour les LIS (CLIS-ET). Les données ont été collectées auprès de dix étudiants de master et de licence supérieure en LIS lisant 320 résumés provenant de revues centrales de LIS chinoises. L'expérience impliquait un calibrage en neuf points avant chaque résumé et un contrôle de compréhension post-lecture.
3. Extraction de caractéristiques : L'étude s'est concentrée sur des métriques d'oculométrie au niveau du caractère pour éviter les problèmes de segmentation de mots. Trois caractéristiques principales ont été extraites et moyennées entre les participants :
   • Durée de la première fixation (FFD - First Fixation Duration) : La durée du regard initial sur un caractère.
   • Nombre de fixations (FN - Fixation Number) : Le nombre total de regards sur un caractère.
   • Durée totale de fixation (TFD - Total Fixation Duration) : Le temps cumulé passé à regarder un caractère.
     Les données ont été filtrées pour ne conserver que les fixations valides (16,7 ms à 1500 ms), et les données de caractères invalides (où plus de 50 % des participants manquaient de données valides) ont été écartées.
4. Intégration de modèles : Les caractéristiques d'oculométrie ont été incorporées dans deux catégories de modèles de KPE :
   • Réseaux de neurones récurrents : BiLSTM, BiLSTM+CRF, BiLSTM à attention (Att-BiLSTM) et Att-BiLSTM+CRF. Les caractéristiques ont été utilisées comme entrées externes ou indicateurs d'attention.
   • Modèles de langage pré-entraînés : BERT, RoBERTa, MacBERT et Randeng-T5-784M.
5. Évaluation : Les expériences ont été menées sur deux ensembles de données : un ensemble de données d'oculométrie plus petit (Abstract-320) et un ensemble de données KPE général plus large (Abstract-5190) dérivé des mêmes sources de revues. La performance a été évaluée à l'aide des scores F1 pour les extractions de mots-clés top-3, top-5 et top-10.

Contributions clés

1. Méthode de collecte de données accessible : Le papier introduit une plateforme légère et évolutive pour la collecte de données d'oculométrie à l'aide de webcams standards, abaissant considérablement la barrière pour la recherche sur le comportement de lecture spécifique à un domaine.
2. Corpus CLIS-ET : La publication du premier corpus d'oculométrie spécifique au domaine pour les résumés académiques chinois en LIS, fournissant des métriques au niveau du caractère (FFD, FN, TFD) pour la recherche cognitive en KPE.
3. Validation empirique des signaux cognitifs : L'étude évalue systématiquement comment les caractéristiques d'oculométrie individuelles et combinées influencent la performance de la KPE à travers diverses architectures de modèles, démontant que le comportement de lecture humain fournit des signaux complémentaires aux caractéristiques textuelles.

Résultats

• Efficacité des caractéristiques : L'intégration des caractéristiques d'oculométrie a systématiquement amélioré la performance de la KPE sur les deux ensembles de données et types de modèles.
  • Sur l'ensemble de données Abstract-320, la caractéristique FFD a produit l'amélioration la plus significative pour les modèles basés sur BERT (jusqu'à +2,83 %).
  • Sur l'ensemble de données plus large Abstract-5190, la caractéristique FN combinée à RoBERTa a atteint la performance la plus élevée (44,51 % F1@5).
• Combinaisons de caractéristiques : La combinaison du Nombre de fixations et de la Durée totale de fixation (FN+TFD) a obtenu la meilleure performance sur le modèle Att-BiLSTM+CRF. Généralement, les combinaisons de FFD+FN et FN+TFD ont fourni des améliorations plus stables que l'utilisation de caractéristiques uniques ou du triplet complet (FFD+FN+TFD).
• Signification statistique : Des tests t appariés sur l'ensemble de données Abstract-320 ont confirmé que les caractéristiques d'oculométrie exercent des effets statistiquement significatifs à travers plusieurs architectures. Plus précisément, FN+TFD et FFD+TFD ont montré une signification constante, suggérant que la fréquence et la durée de fixation capturent des aspects complémentaires du comportement de lecture.
• Effets de l'échelle des données : L'étude a observé que les caractéristiques de traitement précoce (comme la FFD) offrent un gain d'information plus important lorsque les données sont limitées, tandis que les caractéristiques de traitement cumulatif (comme la TFD) soutiennent mieux la modélisation sémantique profonde dans les ensembles de données plus larges.

Signification et affirmations
Le papier affirme que l'incorporation du comportement de lecture humain dans les modèles computationnels comble le fossé entre les heuristiques statistiques et les processus cognitifs. En démontant que l'oculométrie légère basée sur une webcam peut efficacement améliorer la KPE, les auteurs plaident pour une approche plus accessible et plus rentable de la collecte de données cognitives pour le TAL (Traitement Automatique du Langage). Les conclusions suggèrent que les caractéristiques d'oculométrie servent de signaux auxiliaires précieux qui reflètent la profondeur du traitement sémantique et l'importance des éléments lexicaux, améliorant ainsi l'interprétabilité et la performance des systèmes d'extraction de mots-clés. L'étude positionne ce travail comme une étape vers la construction d'outils de recherche d'information centrés sur l'humain qui s'alignent plus étroitement sur les schémas réels d'attention des lecteurs.