Competing Visions of Ethical AI: A Case Study of OpenAI
Este estudio de caso de OpenAI revela que, si bien el discurso público de la organización enfatiza fuertemente la seguridad y el riesgo, evita notablemente la integración de marcos éticos académicos y de defensa, lo que plantea preocupaciones sobre un posible lavado de imagen ético (ethics-washing) y la necesidad de mejorar la gobernanza.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina el mundo de la Inteligencia Artificial (IA) como una enorme y bulliciosa obra de construcción. Las máquinas que se están construyendo aquí son increíblemente poderosas, capaces de escribir historias, resolver problemas matemáticos complejos e incluso crear arte. Pero debido a que estas máquinas son tan nuevas y rápidas, las personas que las construyen aún están descifrando el libro de reglas. En este campo, hay un gran debate sobre cómo asegurar que estas máquinas inteligentes sean "buenas". Algunos hablan de "ética", que es como una brújula moral: un conjunto de preguntas profundas sobre lo que está bien y lo que está mal, la equidad y la justicia. Otros hablan de "seguridad", que es más bien como un casco y un cinturón de seguridad: pasos prácticos para evitar que la máquina choque o lastime a alguien. Aunque todos están de acuerdo en que necesitamos ambas cosas, la pregunta es: ¿quién está hablando realmente de qué, y están realmente siguiendo las reglas que establecen?
Este artículo analiza de cerca a una de las cuadrillas de construcción más grandes en el mundo de la IA, una empresa llamada OpenAI. Los investigadores querían ver cómo esta empresa habla de estas grandes ideas a lo largo del tiempo. No se limitaron a escuchar lo que la empresa decía; actuaron como detectives digitales, escaneando miles de documentos, publicaciones de blogs y artículos de investigación para contar exactamente con qué frecuencia la empresa utilizaba palabras como "ética", "seguridad", "riesgo" y "alineación". Trataron la voz pública de la empresa como una biblioteca gigante, revisando los estantes para ver qué libros se leían más y cuáles estaban acumulando polvo.
La historia que cuentan los datos es un poco sorprendente. Cuando los investigadores examinaron el sitio web público de OpenAI —el lugar donde hablan con la gente común— descubrieron que la palabra "ética" era prácticamente invisible. Aparecía en menos del 4% de sus artículos. Era como entrar en una casa donde el dueño habla constantemente de "seguridad contra incendios" y "salidas de emergencia", pero nunca menciona la palabra "fuego" en sí, a pesar de que ellos son quienes sostienen los fósforos. De hecho, la palabra "seguridad" apareció casi 700 veces en solo un año, mientras que "ética" apareció solo siete veces.
En lugar de utilizar el lenguaje profundo y filosófico de la ética, los mensajes públicos de OpenAI estuvieron dominados por términos técnicos como "seguridad", "riesgo" y "alineación". Los investigadores descubrieron que cuando la empresa usaba la palabra "ética", a menudo era solo una mención rápida, como un comentario pasajero en un titular o una sola frase en un párrafo, en lugar de una discusión seria. Era como si estuvieran usando la palabra como una decoración en la pared en lugar de una herramienta para construir. Curiosamente, los investigadores notaron que las etiquetas y etiquetas de la propia empresa estaban cambiando. A veces un artículo era etiquetado como "Ética y Seguridad", pero el texto en su interior apenas mencionaba la ética. Esto sugiere que las etiquetas podrían estar cambiando para señalar diferentes cosas al público, en lugar de reflejar un cambio profundo en cómo la empresa piensa sobre las cuestiones morales.
Sin embargo, la historia era ligeramente diferente cuando los investigadores observaron los artículos académicos de la empresa: los documentos técnicos y serios escritos para otros científicos. Aquí, la palabra "ética" aparecía con más frecuencia, presente en aproximadamente el 17% de los artículos. Pero incluso en estos documentos serios, la palabra se utilizaba a menudo en los márgenes, en las notas al pie o en listas cortas de valores, en lugar de ser el foco principal de la investigación. Los investigadores sugieren que, si bien la empresa es muy buena hablando de la seguridad técnica y la gestión de riesgos, tiende a mantener las conversaciones morales más pesadas sobre la "ética" en los márgenes, tratándolas más como una insignia de reputación que como un libro de reglas estricto para construir sus máquinas.
En resumen, el artículo sugiere que OpenAI ha construido un megáfono muy ruidoso para hablar de "seguridad" y "riesgo", pero ha mantenido su voz muy silenciosa cuando se trata de "ética". No están ignorando la idea de hacer el bien, pero la están enmarcando de una manera que se centra en las soluciones técnicas y en evitar el peligro, en lugar de en las preguntas más profundas sobre lo que es verdaderamente "correcto" e "incorrecto". Los investigadores concluyen que esta forma de hablar puede hacer que la empresa parezca responsable, pero también significa que las preguntas difíciles y complejas sobre lo que es realmente "bueno" o "malo" en la IA están siendo relegadas al fondo, ocultas tras un muro de lenguaje técnico de seguridad.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.