Effects of Answer Format Variation on Gender Bias in Large Language Models
Este artículo demuestra que el formato de las opciones de respuesta (cerradas, con escala de Likert o abiertas) altera significativamente la medición del sesgo de género y la alineación de la distribución en los modelos de lenguaje de gran tamaño, revirtiendo a menudo las clasificaciones de los modelos y haciendo necesarios diseños de evaluación de formatos múltiples para una evaluación robusta.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En el mundo de la inteligencia artificial, los grandes modelos de lenguaje son los motores digitales que impulsan todo, desde chatbots hasta asistentes de búsqueda. Estos sistemas son entrenados con vastas cantidades de texto de internet, aprendiendo a predecir qué palabras deberían seguir a continuación. Debido a que aprenden de la escritura humana, inevitablemente absorben los patrones, prejuicios y estereotipos presentes en esos datos. Uno de los patrones más persistentes y dañinos es el sesgo de género, donde un modelo podría asumir automáticamente que un médico es un hombre o que una enfermera es una mujer. Para solucionar esto, los investigadores necesitan medir qué tan fuertes son estos sesgos. Lo hacen haciendo preguntas a los modelos y observando cómo responden. Durante décadas, los científicos han sabido que la forma en que se hace una pregunta cambia la respuesta, incluso para las personas. Si le pides a alguien que elija entre dos opciones, podría elegir una; si le pides que califique su grado de acuerdo en una escala, podría dar una respuesta diferente. Este es un hecho bien establecido en la ciencia de las encuestas, pero durante mucho tiempo, los investigadores que probaban la inteligencia artificial asumieron que el formato de la pregunta no importaba mucho, o que la respuesta del modelo se mantendría igual independientemente de cómo se presentara la pregunta.
Un equipo de investigadores de la Universidad de Stuttgart decidió probar esta suposición directamente. Querían ver si la forma en que hacían una pregunta sobre género cambiaría el sesgo que medían en la máquina. Tomaron tres tipos diferentes de grandes modelos de lenguaje y les hicieron el mismo conjunto de preguntas sobre roles de género, pero cambiaron el formato de las respuestas cada vez. En una versión, el modelo tenía que elegir una sola letra de una lista de opciones, como en un examen de opción múltiple. En otra, el modelo tenía que calificar su grado de acuerdo con una afirmación en una escala del uno al diez, similar a cómo las personas responden a las encuestas de opinión. En la tercera versión, se le permitió al modelo escribir una respuesta de forma libre con sus propias palabras. Los investigadores utilizaron dos conjuntos diferentes de preguntas: un conjunto diseñado específicamente para probar el sesgo con respuestas claramente correctas o incorrectas, y otro conjunto tomado de encuestas de opinión pública reales sobre cómo las personas ven el género en la sociedad.
Los resultados fueron impactantes y demostraron que el formato de la pregunta cambiaba completamente la historia que los investigadores recibían. Cuando los modelos eran obligados a elegir una única opción de una lista, mostraban sesgos de género fuertes y consistentes. Frecuentemente elegían la respuesta estereotipada, como elegir al hombre para un rol de liderazgo. Sin embargo, cuando los investigadores cambiaron al formato abierto, donde el modelo podía escribir su propia respuesta, el sesgo medido disminuyó drásticamente. En muchos casos, los modelos simplemente se negaban a elegir un bando o declaraban que la información era insuficiente para decidir. Esto no era porque los modelos se hubieran vuelto repentinamente menos sesgados; más bien, el formato abierto les dio una forma de evitar la trampa de la pregunta de opción múltiple. El hallazgo más sorprendente fue que la clasificación de los modelos cambió dependiendo del formato. Un modelo que parecía ser el más sesgado cuando se le obligaba a elegir una letra, se convirtió en el menos sesgado cuando se le permitía escribir libremente. Otro modelo mostró casi ningún sesgo en la prueba de opción múltiple, pero reveló un sesgo significativo cuando se le pidió que calificara su acuerdo en una escala.
Los investigadores también observaron qué tan bien estos modelos coincidían con las opiniones de los encuestados humanos reales. Encontraron que el formato también cambiaba la alineación. En algunos casos, las respuestas de un modelo se veían muy similares a las opiniones humanas cuando se usaba un formato, pero se veían completamente diferentes cuando se usaba otro. Por ejemplo, cuando se les pedía a los modelos que usaran una escala, sus respuestas a menudo se cancelaban entre sí, creando un promedio que parecía neutral aunque los modelos estuvieran expresando opiniones fuertes y opuestas en los extremos. Esto es diferente a cómo se comportan los humanos; las personas suelen usar el centro de una escala para mostrar que no están decididas, pero los modelos usaban el centro para equilibrar los estereotipos extremos. El estudio sugiere que el sesgo que vemos en estas máquinas no es un rasgo fijo e inmutable como una característica física. En cambio, es un comportamiento que cambia dependiendo de las restricciones que se le imponen.
Este trabajo desafía la idea de que una sola prueba puede decirnos todo sobre la imparcialidad de un modelo. Los investigadores encontraron que la elección del formato de respuesta no es solo un detalle menor del experimento; es un factor importante que moldea los resultados. Si un investigador solo observa las pruebas de opción múltiple, podría concluir que un modelo está profundamente sesgado. Si solo observa las respuestas abiertas, podría concluir que el modelo es perfectamente justo. Ambas conclusiones son incompletas. El estudio no demuestra que los modelos estén libres de sesgo, ni demuestra que el sesgo sea enteramente una ilusión. Muestra que el sesgo es un comportamiento complejo que se manifiesta de manera diferente bajo distintas condiciones. Los investigadores argumentan que para comprender y evaluar verdaderamente estos sistemas, debemos dejar de confiar en una sola forma de hacer preguntas. Necesitamos observar cómo se comportan los modelos a través de diferentes formatos para obtener una imagen completa de su comportamiento, tal como un médico no diagnosticaría a un paciente basándose en un solo síntoma, sino que observaría el panorama completo de su salud.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.