Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research
Este artículo emplea un análisis de encuadre de 91 estudios empíricos y 28 recursos de discurso público para revelar un desalineamiento crítico donde la investigación académica sobre la IA generativa reduce la negritud a variables técnicas mientras que el discurso público aborda causas sistémicas, argumentando que ambos registros están estructuradamente moldeados por la anti-negritud para borrar la agencia epistémica negra.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina un mundo donde las computadoras pueden escribir historias, generar imágenes y responder preguntas con la facilidad de una conversación humana. Esta tecnología, conocida como inteligencia artificial generativa, se está desplazando rápidamente de la ciencia ficción hacia las escuelas, los hospitales y los lugares de trabajo. Pero a medida que estas herramientas se convierten en parte de la vida cotidiana, surge una pregunta crítica: ¿a quién sirven y a quién dejan atrás? Durante décadas, los investigadores han sabido que los sistemas informáticos pueden aprender los prejuicios de sus creadores, tratando a menudo de manera injusta a las personas de color. Este nuevo estudio plantea una pregunta más profunda sobre cómo hablamos de estos problemas. Examina a dos grupos diferentes de personas que intentan solucionar estos problemas: los periodistas y líderes comunitarios que escriben en las noticias, y los científicos que publican artículos en revistas académicas. Los investigadores querían ver si estos dos grupos estaban mirando el mismo problema de la misma manera, o si estaban hablando lenguajes completamente distintos.
El estudio, realizado por un equipo de académicos e investigadores de la industria, se propuso comparar cómo el público entiende los peligros de la inteligencia artificial para las comunidades negras frente a cómo los científicos estudian esos mismos peligros. Reunieron dos grandes colecciones de texto para analizarlas. La primera colección consistió en 28 recursos públicos, como artículos de noticias, artículos de opinión e informes de centros de pensamiento, que representan cómo el público general y los medios discuten estos temas. La segunda colección fue una revisión sistemática de 91 artículos científicos publicados en las principales conferencias de ciencias de la computación entre 2010 y 2025. El equipo utilizó un método llamado análisis de encuadre (frame analysis) para leer estos textos. Este enfoque no solo cuenta palabras; observa cómo se construye una historia. Se hace cuatro preguntas específicas: ¿Cómo se define el problema? ¿Qué se identifica como la causa? ¿Cuál es el juicio moral de la situación? Y ¿qué solución se propone? Al aplicar este lente tanto a las noticias como a la ciencia, los investigadores pudieron mapear exactamente dónde se alinean estos dos mundos y dónde se separan.
Los hallazgos revelan una desconexión significativa entre cómo el público ve el problema y cómo los investigadores están tratando de resolverlo. En el discurso público, la historia es clara y estructural. Cuando los periodistas y líderes comunitarios discuten el daño causado por la inteligencia artificial, casi siempre señalan raíces históricas profundas. Describen el problema como el resultado de siglos de racismo sistémico y políticas injustas que han dado forma a la sociedad. Sus propuestas de solución son igualmente amplias, haciendo un llamado a regulaciones gubernamentales, cambios en las prácticas de contratación y nuevas leyes para proteger a las comunidades. Ven la tecnología como un espejo que refleja una sociedad rota, y argumentan que arreglar el espejo requiere arreglar la sociedad misma.
En contraste, la literatura científica cuenta una historia diferente y mucho más estrecha. Los investigadores encontraron que la gran mayoría de los 91 artículos académicos se centraron casi exclusivamente en soluciones técnicas. Cuando los científicos identificaban un problema, rara vez buscaban en la historia o en la sociedad la causa. En su lugar, señalaban los datos utilizados para entrenar los modelos informáticos. Argumentaban que el sesgo existía porque los datos de entrenamiento eran defectuosos. Por consiguiente, sus soluciones fueron casi totalmente técnicas: proponían crear mejores conjuntos de datos, escribir nuevo código para detectar errores o ajustar los algoritmos. Mientras el discurso público pedía leyes y cambios sociales, los artículos científicos pedían una mejor ingeniería. El estudio sugiere que esto no es un accidente o una simple diferencia de opinión. Más bien, indica que la comunidad científica ha dejado de abordar, en gran medida, las condiciones estructurales más profundas que permiten que el sesgo exista en primer lugar.
Quizás el descubrimiento más sorprendente fue aquello en lo que ambos grupos coincidieron y lo que ambos pasaron por alto. Tanto los artículos de noticias como los artículos científicos coincidieron en que el daño más visible era el "daño representacional". Esto se refiere a la forma en que estos sistemas distorsionan o borran la identidad negra, como generar imágenes de personas negras con la piel más clara o utilizar estereotipos en el texto. Debido a que ambos grupos se centraron tanto en este tipo específico de daño, ambos propusieron soluciones orientadas a hacer que las imágenes y las palabras sean más precisas. Sin embargo, al hacerlo, ambos grupos ignoraron en gran medida una perspectiva crucial: la idea de que las comunidades negras deberían ser las que lideren el diseño y la toma de decisiones de estas tecnologías. El estudio encontró que, en las noticias, las personas negras eran retratadas a menudo como víctimas que necesitan protección, mientras que en los artículos científicos eran tratadas como sujetos de estudio o puntos de datos a medir. Ni los periodistas ni los científicos enmarcaron consistentemente a las comunidades negras como los expertos o los arquitectos que deberían decidir cómo se construyen y se gobiernan estas poderosas herramientas.
Los investigadores argumentan que este enfoque compartido en la representación, aunque importante, es una trampa. Al concentrarse únicamente en hacer que la tecnología parezca más justa o precisa, ambos grupos están perdiendo de vista el panorama general. Están intentando arreglar el resultado de la máquina sin cuestionar las reglas que gobiernan la creación de la máquina. El estudio sugiere que el verdadero progreso requiere más que solo mejores datos o nuevas leyes; requiere un cambio fundamental en quién ostenta el poder. Hace un llamado a un futuro donde las comunidades negras no sean solo consultadas como una formalidad, sino que sean reconocidas como las autoridades primarias sobre qué deben hacer estas tecnologías y cómo deben utilizarse. Hasta que la comunidad científica vaya más allá de los ajustes técnicos para comprometerse con las realidades estructurales de la sociedad, y hasta que el discurso público vaya más allá de ver a las personas negras como receptoras pasivas de la tecnología, la brecha entre la promesa de la inteligencia artificial y la realidad de su impacto seguirá siendo amplia. El estudio concluye que cerrar esta brecha requiere una nueva forma de pensar, una que trate el conocimiento y la experiencia negra no como una variable a corregir, sino como la base para construir un futuro mejor.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.