A Jury, Not an Electorate: Label-Free Reliability Estimation for Ensembles of Language Models

En el mundo de la inteligencia artificial, que evoluciona rápidamente, los investigadores suelen recurrir a una estrategia llamada "aprendizaje por conjunto" (ensemble learning) para resolver problemas difíciles. En lugar de confiar en un único y masivo programa informático para encontrar la respuesta correcta, reúnen a un grupo de diferentes programas, cada uno entrenado con datos distintos o diseñado con diferentes fortalezas, y les piden que todos trabajen en la misma tarea. La esperanza es que, mientras un programa pueda tropezar, otro tenga éxito y, al combinar sus esfuerzos, el grupo pueda alcanzar un nivel de precisión que ningún miembro podría lograr por sí solo. Sin embargo, un desafío persistente ha sido decidir a qué miembro del grupo confiar cuando no están de acuerdo. Los métodos tradicionales suelen actuar como una elección, donde cada modelo recibe un voto y la respuesta elegida es simplemente la que recibe más apoyo. Este enfoque asume que la sabiduría colectiva del grupo se encuentra en la mayoría, pero ignora la posibilidad de que la respuesta más popular sea errónea, o que un experto más silencioso y fiable esté siendo opacado por uno más ruidoso y menos preciso.

Un nuevo estudio propone una forma diferente de pensar en este problema, sugiriendo que un grupo de modelos de inteligencia artificial debe ser tratado no como un electorado, sino como un jurado. En un tribunal, un jurado no se limita a contar cuántas personas están de acuerdo con un veredicto; en su lugar, escuchan el testimonio de cada testigo e intentan juzgar quién es creíble basándose en lo que dicen y en cómo se alinean sus historias. Los investigadores detrás de este trabajo se preguntaron si un grupo de modelos de lenguaje podría hacer lo mismo: inferir la fiabilidad de cada miembro únicamente a partir del patrón de sus respuestas, sin necesidad de conocer las respuestas correctas de antemano. Construyeron un sistema donde los modelos actúan como testigos, y el sistema aprende a confiar en aquellos cuyo testimonio se alinea consistentemente con la verdad, a pesar de que el sistema nunca ve la verdad en sí misma.

Los investigadores probaron esta idea en un banco de pruebas de 1.560 preguntas que cubren una amplia gama de temas, desde matemáticas y ciencia hasta derecho y razonamiento general. Reunieron nueve modelos de lenguaje diferentes, variando en tamaño y entrenamiento, para que actuaran como expertos. En una configuración estándar, a estos modelos se les daría un conjunto de preguntas y sus respuestas se combinarían mediante un simple voto de mayoría o un promedio ponderado donde los pesos se determinan por qué tan bien los modelos se desempeñaron en un conjunto separado de preguntas con respuestas conocidas. El nuevo método, sin embargo, se salta el paso de buscar las respuestas correctas para determinar la confianza. En su lugar, utiliza un proceso matemático para analizar las respuestas que los modelos dieron a las preguntas que se les plantearon. Al observar en qué modelos coincidían entre sí y en cuáles discrepaban, el sistema estima qué tan fiable es cada modelo. Trata la respuesta correcta como un hecho oculto que los modelos intentan reportar, y calcula la probabilidad de que cada modelo esté diciendo la verdad basándose en la configuración de las respuestas del grupo.

Los resultados de este experimento fueron sorprendentes. El sistema basado en un jurado, que aprendió a confiar en sus miembros sin haber visto jamás una sola respuesta correcta, alcanzó una precisión del 76,9 por ciento en el banco de pruebas completo. Este rendimiento fue significativamente mejor que un simple voto de mayoría, que obtuvo un 63,0 por ciento, y también superó al mejor modelo individual del grupo, que alcanzó el 75,0 por ciento. Quizás lo más importante sea que el jurado funcionó tan bien como un sistema que utilizó las mismas reglas de combinación pero que fue entrenado con las respuestas correctas para determinar los pesos. Este hallazgo sugiere que el complejo proceso de etiquetar datos para enseñar a un sistema en qué modelos confiar no es estrictamente necesario; el sistema puede aprender a confiar en los testigos adecuados simplemente escuchando lo que dicen. El estudio también encontró que mantener el rango completo de posibles respuestas que un modelo podría dar, en lugar de solo su opción principal, mejoró significamente los resultados. Cuando el sistema consideró la distribución de probabilidad de las respuestas, ganó 8,4 puntos porcentuales adicionales sobre un voto simple, y ponderar correctamente a los expertos añadió otros 5,5 puntos.

Los investigadores tuvieron cuidado de descartar la idea de que este éxito se debiera simplemente a tener más datos o mejores técnicas de muestreo. Compararon su método con varias otras técnicas avanzadas que también intentan combinar modelos sin etiquetas, y el jurado superó consistentemente a las demás. Por ejemplo, venció al método alternativo sin etiquetas más fuerte por 5,5 puntos porcentales. El estudio también examinó si el sistema estaba simplemente teniendo suerte o si realmente estaba aprendiendo los patrones correctos. Probaron el jurado con diferentes subconjuntos de los modelos y encontraron que superaba consistentemente tanto al voto de peso igual como al mejor experto individual en casi todas las combinaciones. La única vez que el jurado no mejoró al mejor modelo individual fue cuando el grupo consistía en expertos muy débiles, un escenario donde ningún método de combinación podría ayudar de manera realista.

Uno de los aspectos más significativos de este trabajo es que desafía la suposición de que la supervisión es siempre necesaria para obtener los mejores resultados. En muchos campos de la inteligencia artificial, la práctica estándar es entrenar un sistema con un gran conjunto de datos donde se conocen las respuestas correctas, para que el sistema aprenda qué modelos son buenos. Este nuevo enfoque muestra que, para combinar modelos, el sistema puede inferir la fiabilidad directamente de la concordancia y el desacuerdo entre los modelos mismos. Los investigadores encontraron que la diferencia entre el jurado y el sistema supervisado fue tan pequeña que no fue estadísticamente significativa al considerar la variación natural en cómo se ajustaron los modelos. Esto implica que el esfuerzo adicional de etiquetar datos para entrenar la regla de combinación podría no valer la pena en muchos casos.

El estudio también analizó cómo el sistema maneja la incertidumbre. Cuando se les pide a los modelos que generen respuestas, a menudo producen un rango de posibilidades en lugar de una declaración definitiva. El método del jurado utiliza estas distribuciones completas de respuestas, lo que le permite capturar más matices que un voto simple. Por ejemplo, si un modelo tiene mucha confianza en una respuesta incorrecta mientras que otro tiene una confianza ligeramente menor en la respuesta correcta, el sistema puede ponderar la evidencia apropiadamente. Los investigadores encontraron que este enfoque fue particularmente efectivo en problemas matemáticos, donde el mejor modelo individual del grupo tuvo dificultades, pero el jurado pudo aprovechar las fortalezas de otros modelos para alcanzar la solución correcta.

Aunque el método es poderoso, los investigadores señalaron algunas limitaciones. El sistema requiere que cada modelo en el grupo proporcione una respuesta y, para tareas generativas, necesita ejecutar múltiples muestras para construir una distribución de respuestas fiable. Esto aumenta el costo computacional en comparación con simplemente pedirle a un modelo una respuesta. Sin embargo, el estudio sugiere que este costo se justifica por la ganancia significativa en precisión. Los investigadores también observaron que la confianza del sistema en sus respuestas fue a menudo mayor que su precisión real, lo que significa que a veces se sentía muy seguro de una respuesta incorrecta. Este es un problema común en la inteligencia artificial, y los investigadores señalaron que el sistema necesitaría una recalibración antes de que sus puntuaciones de confianza pudieran utilizarse como una medida fiable de la verdad.

En última instancia, esta investigación ofrece una nueva perspectiva sobre cómo podemos aprovechar la inteligencia colectiva de la inteligencia artificial. Al tratar a los modelos como un jurado en lugar de un electorado, podemos construir sistemas que son más inteligentes que la suma de sus partes sin necesidad de conocer las respuestas de antemano. La capacidad de aprender la confianza únicamente a partir del testimonio abre la puerta a formas más eficientes y adaptables de utilizar la inteligencia artificial, donde el sistema puede refinar continuamente su comprensión de en qué expertos confiar a medida que encuentra nuevos problemas. Los hallazgos sugieren que la clave para desbloquear todo el potencial de estos grupos no reside en forzarlos a estar de acuerdo, sino en enseñarles cómo escucharse unos a otros y juzgar la credibilidad de sus propias voces.