Where A Small Language Model Helps in Invoice Categorisation, Understood Through Embedding Geometry

Toute entreprise qui achète ou vend des marchandises doit tenir un registre précis de chaque transaction. Lorsqu'une société reçoit une facture, un comptable humain doit décider à quelle catégorie spécifique cette dépense appartient, une tâche connue sous le nom d'attribution d'un code de Grand Livre. Il ne s'agit pas d'un simple travail de tri ; cela nécessite un jugement professionnel pour comprendre si un achat est destiné aux opérations quotidiennes, à un investissement en capital ou à une dépense personnelle d'un chef d'entreprise. Réussir cette étape est le fondement d'une information financière précise et de la conformité fiscale. Si ces codes sont erronés, les petites entreprises font face à des amendes inutiles et les gouvernements perdent des milliards en recettes fiscales. Pendant des années, l'espoir a été que l'intelligence artificielle puisse automatiser ce travail difficile, mais la technologie a souvent eu du mal à égaler la nuance d'un comptable humain qualifié.

Des chercheurs de l'Université de Bristol et de System Holdings Limited ont récemment exploré une voie différente. Au lieu d'utiliser des systèmes d'IA massifs et complexes qui nécessitent de vastes quantités de puissance de calcul et soulèvent des préoccupations concernant la confidentialité des données, ils ont testé si des modèles de langage plus petits et spécialisés pouvaient apprendre à accomplir ce travail efficacement. Ces modèles plus petits peuvent être exécutés sur un seul ordinateur, gardant les données financières sensibles en sécurité à l'intérieur des propres murs de l'entreprise. L'équipe voulait comprendre non seulement si ces modèles fonctionnaient, mais aussi comment ils « pensaient ». Ils ont examiné la « forme » mathématique de l'information à l'intérieur de l'ordinateur, observant comment le modèle regroupait les factures similaires dans sa mémoire interne. Ils ont découvert que la manière dont ces petits modèles organisent l'information est étonnamment efficace et que cette organisation est la clé de leur succès.

Les chercheurs ont travaillé avec un ensemble de données réelles comprenant plus de deux mille factures provenant de sept clients différents d'un cabinet comptable britannique. Chaque facture avait déjà été correctement catégorisée par des comptables professionnels. L'équipe a injecté ces données dans deux types différents de modèles d'IA : un modèle plus petit et efficace appelé SBERT, et un modèle plus grand et plus complexe appelé DeBERTa. Ils ont testé les modèles avec différentes versions du texte de la facture. Une version ne comprenait que le nom du fournisseur, la date et le prix. Une autre incluait la liste complète des articles achetés. Une troisième version ajoutait des étiquettes explicites, telles que « Nom du fournisseur : » ou « Prix : », pour rendre le texte plus structuré pour un lecteur humain.

Les résultats ont révélé une vérité contre-intuitive sur la façon dont les machines lisent. La version du texte la plus facile à lire pour un humain, avec ses étiquettes claires et son format structuré, rendait en réalité l'IA moins capable de distinguer les différents types de factures. Lorsque l'ordinateur voyait les mots « Nom du fournisseur » et « Prix » répétés dans chaque document, la représentation mathématique interne de ces documents devenait trop similaire, brouillant les lignes entre eux. Le modèle performait le mieux lorsqu'on lui donnait le texte brut et non structuré de la facture, tout comme un comptable humain pourrait jeter un coup d'œil à un reçu désordonné. Le modèle plus petit, SBERT, s'est avéré être le choix supérieur. Entraîné sur seulement quelques centaines d'exemples, il a atteint un haut niveau de précision, catégorisant les factures bien mieux qu'un modèle beaucoup plus grand ou qu'une IA « zero-shot » standard qui n'avait pas été entraînée sur cette tâche spécifique.

Un examen plus approfondi de la mémoire interne de l'ordinateur a expliqué pourquoi le petit modèle réussissait là où le grand échouait. Les chercheurs ont constaté que la représentation interne des données du grand modèle était « effondrée ». À mesure que le texte devenait plus long et plus détaillé, la capacité du modèle à distinguer les différents sens s'estompe, et il a commencé à se fier principalement à la longueur du texte plutôt qu'à son contenu. En revanche, le petit modèle maintenait un espace multidimensionnel riche où différents types de factures occupaient des régions distinctes. Même avant d'être entraîné sur la tâche spécifique, le modèle regroupait naturellement les factures par l'entreprise qui les émettait, montrant qu'il comprenait la source du document. Plus important encore, il pouvait séparer différentes catégories financières même lorsque le texte était similaire, à condition d'avoir vu suffisamment d'exemples.

Cette capacité de généralisation était cruciale lorsque l'équipe a testé les modèles sur un nouveau client dont les données n'avaient jamais été vues auparavant. Le grand modèle a rencontré des difficultés importantes, nécessitant des centaines de nouveaux exemples pour commencer à fonctionner correctement. Le petit modèle, cependant, s'est adapté beaucoup plus rapidement, atteignant un haut niveau de précision avec seulement environ cent nouvelles factures. Cela suggère que le petit modèle avait appris une manière plus robuste de comprendre le sens du texte, plutôt que de simplement mémoriser des motifs. Il pouvait transférer ce qu'il avait appris d'une entreprise à une autre, reconnaissant qu'une « réparation de moteur » pour un client était la même catégorie qu'une « réparation de moteur » pour un nouveau client, quel que soit le fournisseur spécifique.

L'étude conclut que pour des tâches comme la catégorisation de factures, un modèle plus petit et interne est souvent un meilleur outil qu'un modèle massif et générique. Il offre un équilibre pratique entre coût, sécurité et performance. En s'exécutant sur un seul ordinateur, il préserve la confidentialité des données financières sensibles, et en étant plus petit, il est moins coûteux à exploiter. La recherche a également montré que l'ajout d'une structure supplémentaire au texte n'aide pas l'IA ; en fait, le texte brut est souvent plus efficace. Cette conclusion simplifie le processus pour les entreprises, car elles n'ont pas besoin de consacrer du temps et de l'argent à reformater leurs factures avant de les injecter dans le système. Ce travail démontre qu'avec la bonne approche, l'intelligence artificielle peut gérer le jugement nuancé et qualifié requis en comptabilité, à condition que le système soit conçu pour comprendre la géométrie des données plutôt que simplement le volume du texte.