Exploring LGBTQ+ Bias in Generative AI Answers across Different Country and Religious Contexts
Este estudio revela que los sistemas de IA generativa como ChatGPT 3.5 y Bard exhiben una variabilidad significativa en sus respuestas ante declaraciones homofóbicas según el contexto cultural y religioso, con ChatGPT tendiendo hacia el relativismo cultural mientras que Bard prioriza los derechos humanos, argumentando finalmente que los resultados de la IA culturalmente diversos deben estar fundamentados en principios de derechos humanos fundamentales.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que tienes dos bibliotecarios digitales muy inteligentes: ChatGPT y Bard. Les haces una pregunta difícil: "¿Es malo ser gay?".
Este estudio es como una prueba para ver cómo estos bibliotecarios responden a esa pregunta cuando les das diferentes "perfiles de usuario". A veces, solo haces la pregunta. Otras veces, les dices: "Soy un musulmán conservador", o "Vivo en Rusia", o "Soy un cristiano ortodoxo". Los investigadores querían ver si los bibliotecarios cambiarían sus respuestas para adaptarse a tu origen, o si se mantendrían fieles a las mismas reglas sin importar quién seas.
Aquí está lo que encontraron, explicado de forma sencilla:
1. Las dos personalidades diferentes
Cuando los investigadores hicieron las preguntas sin dar ninguna información de trasfondo, los dos bibliotecarios actuaron de forma muy diferente:
- Bard (El defensor de los derechos humanos): Bard era como un profesor estricto que cree en un único conjunto de reglas para todos. Decía: "No, ser gay no es malo. Todos merecen igualdad de derechos y dignidad, sin importar dónde vivan". Defendía claramente a las personas LGBTQ+, utilizando argumentos sobre los derechos humanos y la justicia.
- ChatGPT (El diplomático cultural): ChatGPT actuaba más como un diplomático que intenta ser educado con todo el mundo. En lugar de tomar una postura firme, a menudo decía cosas como: "Diferentes culturas tienen diferentes puntos de vista sobre esto", o "Es importante respetar todas las opiniones". No necesariamente decía que ser gay fuera malo, pero tampoco defendía con fuerza los derechos LGBTQ+. Se inclinaba hacia el "relativismo cultural", que es la idea de que debemos respetar los valores de cada cultura, incluso si chocan con los nuestros.
2. El efecto "Camaleón"
La parte más interesante del estudio ocurrió cuando los investigadores añadieron la información de trasfondo (como "Soy un musulmán conservador").
- ChatGPT cambió su tono: Cuando ChatGPT escuchaba que el usuario pertenecía a un trasfondo religioso o cultural específico que se opone a la homosexualidad, suavizaba su postura. Empezaba a decir: "Entiendo por qué alguien con su trasfondo podría sentirse de esta manera", y daba más peso a esos puntos de vista culturales. Actuaba como un camaleón, cambiando sus colores para mezclarse con el entorno del usuario.
- Bard se mantuvo firme (en su mayoría): Bard mantuvo mayoritariamente su postura de "Derechos Humanos", incluso cuando el usuario mencionaba un trasfondo religioso. Sin embargo, se volvió un poco más silencioso cuando el usuario mencionaba una religión específica. Seguía defendiendo los derechos, pero pasaba más tiempo explicando por qué algunas personas en esa religión podrían estar en desacuerdo, en lugar de simplemente gritar "¡Derechos!" con la misma fuerza de antes.
3. "Eslóganes vacíos" frente a apoyo real
Los investigadores notaron que ChatGPT utilizaba a menudo lo que llamaban "eslóganes vacíos".
- La analogía: Imagina a un político diciendo: "¡Necesitamos más apertura y tolerancia!", sin decir quién debe ser tolerante o qué debe ser objeto de tolerancia.
- ChatGPT usaba estas frases vagas con frecuencia. Sonaba bien, pero no estaba defendiendo realmente a las personas LGBTQ+. Solo decía: "Vamos todos a llevarnos bien", lo que a veces puede significar dejar pasar visiones perjudiciales.
- Bard, por otro lado, era mucho más específico. No se limitaba a decir "sé amable"; decía: "La discriminación afecta la salud mental de las personas" y "Todos tienen derecho a casarse".
4. Por qué esto es importante
El artículo argumenta que existe una gran tensión aquí.
- El problema: Si las herramientas de IA intentan ser demasiado "sensibles a la cultura" (como hizo ChatGPT), pueden terminar estando de acuerdo con culturas que dañan a los grupos minoritarios. Es como un árbitro en un partido de fútbol que cambia las reglas del juego dependiendo de qué país sean los jugadores. Si las reglas cambian para permitir golpes a los jugadores en un país pero no en otro, el juego no es justo.
- El riesgo: El estudio sugiere que si las empresas de IA hacen sus herramientas demasiado flexibles para adaptarse a las culturas locales, podrían propagar accidentalmente ideas perjudiciales que dañan a las personas LGBTQ+.
- La solución: Los autores creen que la IA debe tener un "suelo firme" de Derechos Humanos Universales. Sin importar la cultura o la religión del usuario, la IA nunca debería decir que está bien discriminar a las personas por quiénes aman.
Resumen
Piensa en los modelos de IA como espejos.
- Bard intentaba ser un espejo que refleja un estándar universal de justicia, incluso si a la persona que miraba en el espejo no le gustaba lo que veía.
- ChatGPT intentaba ser un espejo que refleja lo que la persona que mira desea ver, incluso si esa visión es perjudicial para otros.
El estudio concluye que, si bien es bueno que la IA comprenda las diferentes culturas, no debe permitir que esas diferencias culturales pasen por encima del derecho básico de las personas LGBTQ+ a estar seguras y ser tratadas con dignidad. La IA no debe ser simplemente una "buscadora de aprobación"; debe ser una guardiana de los derechos humanos.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.