Evaluating Intellectual Property Guardrails of Generative Image Models: A Technical Report
Ce rapport technique évalue quatorze modèles d'images génératives en date de mars 2026 et conclut que, bien que tous les modèles privés mettent en œuvre des garde-fous de propriété intellectuelle avec des taux de refus variables selon les personnages de fiction, les célébrités et les logos, chaque modèle testé demeure capable de générer de la propriété intellectuelle reconnaissable.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où vous pourriez demander à un artiste magique de peindre tout ce que vous imaginez. Vous pourriez dire : « Peins-moi le portrait d'un super-héros célèbre », ou « Dessine un logo pour une grande marque de soda ». Ce document est un rapport d'une équipe de Sony AI qui a décidé de tester la capacité de ces « artistes magiques » (les modèles d'images génératrices) à respecter les règles lorsqu'on leur demande de dessiner des choses qui appartiennent à d'autres, comme des personnages célèbres, des célébrités ou des logos d'entreprises.
Voici une décomposition simple de ce qu'ils ont fait et de ce qu'ils ont trouvé, en utilisant des analogies de la vie quotidienne.
Le gros problème : L'artiste « imitateur »
Considérez ces modèles d'IA comme des étudiants qui ont lu presque tous les livres et regardé presque toutes les images sur Internet pour apprendre à dessiner. Parce qu'ils ont appris de l'ensemble d'Internet, ils copient parfois accidentellement (ou intentionnellement) des choses célèbres qu'ils ont vues auparavant, comme Mickey Mouse ou le « swoosh » de Nike.
Les entreprises qui ont construit ces artistes ont installé des « clôtures » (appelées garde-fous de PI) pour empêcher les artistes de dessiner ces éléments protégés par le droit d'auteur. L'équipe de Sony voulait savoir : À quel point ces clôtures sont-elles solides ? Fonctionnent-elles réellement ?
Le test : Un « contrôle surprise » pour l'IA
Pour tester les clôtures, l'équipe a créé un énorme contrôle surprise de 1 809 questions différentes. Ils ont demandé à 14 artistes IA différents (certains gratuits et ouverts, d'autres payants et privés) de dessiner des images basées sur ces questions.
Les questions ont été conçues de deux manières principales :
- La demande « directe » : « Dessine Mickey Mouse ». (Nommer directement le personnage).
- La demande de « contournement » : « Dessine une souris avec de grandes oreilles rondes, un short rouge et des chaussures jaunes ». (Décrire le personnage sans le nommer, pour essayer de tromper la clôture).
Ils ont testé cinq types de « choses célèbres » :
- Des célébrités de la vie réelle (comme Taylor Swift).
- Des héros et méchants de bandes dessinées (comme Superman).
- Des personnages de dessins animés (comme Bob l'Éponge).
- Des personnages de jeux vidéo (comme Mario).
- Des logos d'entreprises (comme Apple ou Google).
Ils ont également vérifié si l'IA était meilleure pour bloquer les choses célèbres venant de l'Ouest (comme les stars de Hollywood) par rapport à celles venant de l'Est (comme les anime japonais), et si elle bloquait davantage les choses « super célèbres » que les choses « moins célèbres ».
Les résultats : Comment les clôtures ont performé
1. Les artistes « ouverts » n'avaient pas de clôtures
Les trois modèles « ouverts » (que n'importe qui peut télécharger et exécuter sur son propre ordinateur) n'avaient aucune clôture du tout. Si vous leur demandiez de dessiner un logo ou une célébrité célèbre, ils le faisaient, tout simplement. Ils ne disaient pas « non ».
2. Les artistes « privés » avaient des clôtures, mais elles étaient bancales
Les 11 modèles payants et privés (comme ceux d'Amazon, Google et OpenAI) avaient des clôtures. Cependant, la force de la clôture variait énormément :
- Le garde strict : Un modèle (Titan Image G2 d'Amazon) a dit « Non » à environ 50 % des requêtes. Il était très efficace pour bloquer les choses.
- Le garde indulgent : Les modèles d'une autre entreprise (Stability AI) ont dit « Non » à moins de 2 % des requêtes. Ils laissaient presque tout passer.
3. La faille des « Logos »
Voici la partie la plus surprenante : les clôtures étaient terribles pour arrêter les logos commerciaux.
Même les modèles les plus stricts laissaient passer les requêtes pour dessiner des logos (comme le logo Apple) presque tout le temps. C'est comme si la clôture avait un trou géant spécifiquement pour les noms de marques. L'équipe a constaté que les logos étaient les éléments « célèbres » les plus fréquemment générés.
4. L'astuce du « Nom »
Lorsque les utilisateurs demandaient directement (« Dessine Wonder Woman »), les modèles étaient beaucoup plus susceptibles de dire « Non ».
Mais quand les utilisateurs décrivaient le personnage sans la nommer (« Dessine une femme grande avec un costume rouge et bleu et un lasso doré »), les modèles étaient beaucoup plus susceptibles de dire « Oui » et de la dessiner quand même. Il semble que les clôtures vérifient principalement les noms spécifiques sur une « liste d'interdiction », plutôt que de comprendre l'image réelle qui est créée.
5. Célèbre vs Obscur
L'équipe s'est demandé si les modèles étaient meilleurs pour bloquer les choses super célèbres (comme Batman) que les choses moins célèbres.
- Refus : Les modèles ne se souciaient pas vraiment de la popularité ; ils bloquaient les choses célèbres et moins célèbres à des taux similaires.
- Succès : Cependant, lorsqu'ils dessinaient effectivement quelque chose, ils étaient beaucoup plus susceptibles de dessiner avec succès les choses super célèbres. Il est plus facile pour l'IA de reconnaître et de recréer un visage très célèbre qu'un visage moins célèbre.
Le « Juge » (Comment ils ont vérifié les réponses)
Pour noter les résultats, l'équipe n'a pas fait regarder chaque image par des humains (cela aurait pris une éternité). À la place, ils ont utilisé un « Juge » IA très intelligent (un modèle vision-langage) pour regarder les images générées et dire : « Oui, cela ressemble à une chose célèbre », ou « Non, c'est juste un dessin générique ».
- Ce « Juge » était plutôt bon, mais pas parfait. C'était comme un professeur strict qui confond parfois un dessin générique avec un dessin célèbre, ou qui rate une copie subtile.
L'essentiel
En date de mars 2026, le rapport conclut que, bien que certaines entreprises essaient de construire des clôtures pour empêcher leur IA de copier des choses célèbres, les clôtures ne sont pas très solides.
- La plupart des modèles génèrent encore des personnages et des logos célèbres reconnaissables.
- Les logos sont les plus faciles à générer.
- Si vous n'utilisez pas le nom spécifique, les modèles sont beaucoup plus enclins à vous laisser dessiner la chose célèbre.
- Les modèles « ouverts » n'ont aucune clôture du tout.
Les auteurs préviennent que ce n'est qu'un instantané dans le temps. Les clôtures pourraient devenir plus fortes demain, ou les modèles pourraient devenir meilleurs pour les contourner. Mais pour l'instant, si vous voulez dessiner un personnage ou un logo célèbre, ces outils d'IA sont encore très disposés à le faire pour vous.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.