Competing Visions of Ethical AI: A Case Study of OpenAI
Cette étude de cas d'OpenAI révèle que, bien que le discours public de l'organisation mette fortement l'accent sur la sécurité et les risques, elle évite notablement d'intégrer les cadres éthiques académiques et militants, ce qui soulève des inquiétudes quant à un potentiel blanchiment éthique et à la nécessité d'une gouvernance améliorée.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde de l'intelligence artificielle (IA) comme un immense chantier de construction en pleine effervescence. Les machines qui y sont construites sont incroyablement puissantes, capables d'écrire des histoires, de résoudre des problèmes mathématiques complexes et même de créer de l'art. Mais parce que ces machines sont si nouvelles et si rapides, les personnes qui les construisent sont encore en train de définir le livre de règles. Dans ce domaine, il existe un grand débat sur la manière de s'assurer que ces machines intelligentes soient « bonnes ». Certains parlent d'« éthique », ce qui est comme une boussole morale — un ensemble de questions profondes sur le bien et le mal, l'équité et la justice. D'autres parlent de « sécurité », ce qui ressemble davantage à un casque de protection et une ceinture de sécurité — des mesures pratiques pour empêcher la machine de s'écraser ou de blesser quelqu'un. Bien que tout le monde s'accorde à dire que nous avons besoin des deux, la question est : qui parle réellement de quoi, et suivent-ils vraiment les règles qu'ils ont établies ?
Cet article examine de près l'une des plus grandes équipes de construction du monde de l'IA, une entreprise appelée OpenAI. Les chercheurs ont voulu voir comment cette entreprise parle de ces grandes idées au fil du temps. Ils ne se sont pas contentés d'écouter ce que l'entreprise disait ; ils ont agi comme des détectives numériques, scannant des milliers de documents, d'articles de blog et de documents de recherche pour compter exactement combien de fois l'entreprise utilisait des mots comme « éthique », « sécurité », « risque » et « alignement ». Ils ont traité la voix publique de l'entreprise comme une immense bibliothèque, vérifiant les étagères pour voir quels livres étaient les plus lus et lesquels prenaient la poussière.
L'histoire que racontent les données est un peu surprenante. Lorsque les chercheurs ont examiné le site web public d'OpenAI — l'endroit où l'entreprise s'adresse au grand public — ils ont constaté que le mot « éthique » était pratiquement invisible. Il apparaissait dans moins de 4 % de leurs articles. C'était comme entrer dans une maison où le propriétaire parle sans cesse de « sécurité incendie » et de « sorties de secours », mais ne mentionne jamais le mot « feu » lui-même, alors qu'il tient les allumettes. En fait, le mot « sécurité » est apparu près de 700 fois en un an, tandis que le mot « éthique » n'est apparu que sept fois.
Au lieu d'utiliser le langage philosophique profond de l'éthique, les messages publics d'OpenAI étaient dominés par des termes techniques tels que « sécurité », « risque » et « alignement ». Les chercheurs ont découvert que lorsque l'entreprise utilisait le mot « éthique », c'était souvent une simple mention rapide, comme un commentaire passager dans un titre ou une phrase isolée dans un paragraphe, plutôt qu'une discussion sérieuse. C'était comme si elle utilisait le mot comme une décoration sur le mur plutôt que comme un outil pour construire. Curieusement, les chercheurs ont remarqué que les étiquettes et les marqueurs de l'entreprise changeaient. Parfois, un article était étiqueté « Éthique et Sécurité », mais le texte à l'intérieur mentionnait à peine l'éthique. Cela suggère que les étiquettes pourraient changer pour signaler différentes choses au public, plutôt que de refléter un changement profond dans la façon dont l'entreprise réfléchit aux questions morales.
Cependant, l'histoire était légèrement différente lorsque les chercheurs ont examiné les articles académiques de l'entreprise — les documents techniques sérieux écrits pour d'autres scientifiques. Ici, le mot « éthique » apparaissait plus souvent, figurant dans environ 17 % des articles. Mais même dans ces documents sérieux, le mot était souvent utilisé dans les marges, dans les notes de bas de page ou dans de courtes listes de valeurs, plutôt que d'être le sujet principal de la recherche. Les chercheurs suggèrent que, bien que l'entreprise soit très douée pour parler de la sécurité technique et de la gestion des risques, elle a tendance à garder les conversations morales lourdes sur l'« éthique » sur le côté, les traitant plus comme un badge de réputation que comme un livre de règles strict pour la construction de ses machines.
En résumé, l'article suggère qu'OpenAI a construit un mégaphone très puissant pour parler de « sécurité » et de « risque », mais qu'elle a gardé sa voix très discrète lorsqu'il s'agit d'« éthique ». Ils n'ignorent pas l'idée de faire le bien, mais ils cadrent cela d'une manière qui se concentre sur les correctifs techniques et l'évitement du danger, plutôt que sur les questions plus profondes de justice et d'équité. Les chercheurs concluent que cette façon de parler peut donner l'impression que l'entreprise est responsable, mais cela signifie aussi que les questions difficiles et complexes sur ce qui est véritablement « juste » ou « mal » dans l'IA sont reléguées à l'arrière-plan, cachées derrière un mur de discours technique sur la sécurité.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.