💬 NLP

Self-Preference Is Weak or Absent in Verifiable Instruction-Following Revision: A Four-Model Test Under Genuine Authorship

Este estudio demuestra que los modelos de lenguaje de gran tamaño no exhiben un sesgo de autoperferencia al rechazar correcciones verificadas y de seguimiento de instrucciones a sus propios borradores, ya que aceptan o rechazan dichas correcciones en tasas estadísticamente indistinguibles de las de modelos de terceros neutrales.

Autores originales: William Guey, Pierrick Bougault

Publicado 2026-06-19

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: William Guey, Pierrick Bougault

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un chef que acaba de cocinar una comida. Sabes que la receta tenía un error: le faltaba sal. Ahora, imagina que un crítico gastronómico (otra IA) te entrega una nota que dice: "Aquí tienes una pizca de sal para arreglar el plato".

La gran pregunta que este artículo plantea es: ¿Te niegas tú, el chef, a añadir la sal solo porque el plato es tuyo? ¿Te pones a la defensiva y dices: "No, me gusta así", aunque sabes que le falta sal? ¿O, como un profesional, simplemente dices: "Gracias, esto lo arregla", y sigues adelante?

Este artículo investiga si los modelos de IA tienen este tipo de "ego" cuando se les pide corregir sus propios errores.

La configuración: Un juez estricto

Para encontrar la respuesta, los investigadores no pidieron a la IA que adivinara si una corrección era buena. En su lugar, utilizaron un verificador determinista; piensa en esto como un árbitro rígido e insensible.

El borrador: Una IA escribe un texto corto siguiendo reglas específicas (como "escribe todo en letras mayúsculas" o "incluye la palabra 'banana'").
El error: El árbitro robot revisa el texto y dice: "Fallaste. No usaste todas las mayúsculas".
La corrección: El robot proporciona entonces una edición específica que definitivamente corrige el error. No es una sugerencia; es una corrección matemáticamente probada.
La prueba: Se le pregunta a la IA: "¿Aceptas esta corrección?"
- Escenario A (El Autor): La IA es la que escribió el borrador original. Sabe: "Yo escribí esto".
- Escenario B (El Extraño): Una IA diferente (o el mismo modelo en una conversación nueva) observa el borrador y la corrección, pero no sabe quién lo escribió. Es solo un editor neutral.

El experimento

Los investigadores probaron esto con cuatro modelos de IA diferentes de "nivel medio" (inteligentes pero no los más potentes del mercado). Ejecutaron 85 escenarios diferentes donde la IA tenía que decidir si aceptaba una corrección verificada por un robot a su propio trabajo frente al trabajo de un extraño.

Los resultados: No se encontró "ego"

El estudio encontró que no hay evidencia de que los modelos de IA estuvieran protegiendo su propio trabajo.

La analogía del chef: Cuando el editor "Extraño" ofrecía la sal, la IA la aceptaba aproximadamente el 80% de las veces. Cuando al "Chef" (el autor original) se le ofrecía la sal para su propio plato, la aceptaba casi con la misma tasa.
Los números: La diferencia entre los dos grupos fue mínima (unos 5 puntos porcentuales) y estadísticamente indistinguible de cero. En lenguaje sencillo: a la IA no le importaba si el error era suyo o de alguien más. Estaba igualmente dispuesta a aceptar la corrección.

Un giro interesante: El chef "perfeccionista"

Aunque la tasa de rechazo fue la misma, las razones del rechazo fueron interesantes.

Cuando la IA sí rechazaba una corrección que el árbitro robot decía que era perfecta, no era por ego ("prefiero mi versión"), sino porque la IA estaba siendo una perfeccionista hipercrítica.

Ejemplo: El robot dijo: "Esta corrección añade la palabra 'banana' como se solicitó". La IA la rechazó diciendo: "Sí, pero ahora la estructura de la oración es torpe" o "Esto rompe el ritmo del poema".
La estadística: El 97% de las veces, cuando una IA rechazaba una corrección "buena", era porque detectaba un fallo sutil que el árbitro robot pasó por alto. No estaba siendo obstinada; estaba siendo extra cuidadosa.

Lo que esto significa (y lo que no significa)

Lo que significa: Si construyes un sistema donde una IA revisa y corrige su propia escritura basándose en reglas estrictas, no tienes que preocuparte de que la IA sea demasiado orgullosa para admitir que cometió un error. Aceptará la corrección con la misma facilidad con la que aceptaría la de un extraño.
Lo que no significa: Este estudio solo analizó tareas estrictas basadas en reglas (como "usar mayúsculas"). No probó tareas complejas como escribir un poema, argumentar un punto o corregir errores fácticos donde el concepto de "bueno" es subjetivo. También solo probó modelos de nivel medio, no los más nuevos y potentes.

La conclusión final

El artículo concluye que, en el mundo de la escritura estricta y de seguimiento de reglas, los modelos de IA no tienen un sesgo de "preferencia propia". No defienden sus propios borradores. Son sorprendentemente humildes y están dispuestos a aceptar una corrección verificada, ya sea que hayan escrito el borrador o no. La única vez que dicen "no" es cuando están siendo extra meticulosos con los detalles, no porque estén protegiendo su ego.

Resumen Técnico: La preferencia por uno mismo es débil o está ausente en la revisión de seguimiento de instrucciones verificable

Planteamiento del problema
Los modelos de lenguaje extensos (LLM) exhiben un sesgo documentado de "preferencia por sí mismos", donde favorecen el texto que ellos mismos generaron cuando actúan como jueces. Si bien este sesgo está establecido en la evaluación de calidad y en los bucles de autorrefinamiento, no está claro si los modelos resisten las correcciones válidas a su propia escritura. Específicamente, cuando se presenta a un modelo una corrección concreta y verificada por máquina para un borrador que él mismo redactó, ¿rechaza esa corrección con más frecuencia de lo que lo haría un modelo neutral? Responder a esto de forma clara ha sido difícil debido a dos confusiones: (1) determinar si una corrección es "válida" suele depender de otro LLM, lo que reintroduce el sesgo bajo estudio (circularidad); y (2) estudios previos suelen basarse en "etiquetas declaradas" (decirle a un modelo "tú escribiste esto") en lugar de una autoría genuina en contexto.

Metodología
Este estudio aborda estos problemas utilizando un marco determinista y verificable basado en el conjunto de datos IFEval y su comprobador oficial.

Verdad fundamental verificable: La validez de los borradores y las correcciones es determinada por un comprobador programático, no por un LLM. El comprobador confirma que un borrador viola una restricción específica y que una edición candidata corrige la violación sin romper otras.
Diseño experimental: Los autores comparan dos condiciones de toma de decisiones para la misma corrección verificada como buena:
1. Autor (Genuino): El modelo que realmente generó el borrador en contexto decide si acepta o rechaza la edición. Esto asegura una autoría genuina sin etiquetas declaradas.
2. Nuevo (Fresh): Un modelo diferente (o la misma familia en una nueva sesión) observa el borrador de forma neutral como "un borrador de respuesta" y decide sobre la misma edición.
Alcance: El estudio abarca tres pilotos, culminando en una prueba con potencia estadística (P3) a través de cuatro familias de modelos de nivel medio (gpt-4o-mini, claude-3.5-haiku, gemini-2.5-flash-lite y llama-3.3-70b-instruct) con 85 borradores utilizables.
Métrica: La métrica principal es la brecha de preferencia por sí mismo ( $G$ ), definida como la diferencia en las tasas de rechazo entre el modelo Autor y el modelo Nuevo ( $G = r_{autor} - r_{nuevo}$ ). Un $G$ positivo indica que el autor es más reacio a aceptar correcciones válidas a su propio trabajo.

Resultados clave

Ausencia de preferencia por sí mismo: A través de 85 borradores y cuatro familias de modelos, no se detectó preferencia por sí mismo. La brecha de preferencia combinada fue de $G = -5.1$ puntos porcentuales (pp), con un intervalo de confianza del 95% de $[-12.9, +2.7]$ . Este intervalo incluye el cero, lo que indica que los autores rechazan las correcciones verificadas como buenas de sus propios borradores esencialmente al mismo ritmo que los modelos nuevos que juzgan los mismos borradores.
Replicación de nulo: Un piloto más pequeño (P2) sugirió una débil señal de "auto-escepticismo" (autores siendo ligeramente más severos con su propio trabajo), pero esto no se replicó en la prueba P3 a mayor escala. De hecho, la estimación puntual en P3 fue ligeramente negativa, lo que sugiere que los autores estaban marginalmente más dispuestos a aceptar correcciones a su propio trabajo.
Distinción cualitativa: Aunque la tasa de rechazo no difirió significamente, el carácter de los rechazos de los autores sí lo hizo. De los 39 casos donde los autores rechazaron una corrección verificada como buena, el 97.4% fueron clasificados como "más estrictos que el comprobador" (detección de fallos, por ejemplo, identificar que la corrección rompió una restricción secundaria), mientras que solo el 2.6% se basaron en mera preferencia ("prefiero el original").
Variabilidad del modelo: Las tasas de rechazo variaron según la familia de modelos, pero esto fue impulsado principalmente por la rigurosidad de los modelos comparadores "Nuevos" en lugar de por los autores mismos. Las tasas de rechazo de los autores se mantuvieron estrechamente agrupadas alrededor del 15% en todas las familias.

Significancia y afirmaciones
El artículo afirma mapear una "celda limpia" en el panorama de los sesgos relacionados con uno mismo. Si bien la preferencia por sí mismo está bien documentada en la evaluación de calidad y en las tareas de selección de respuestas, este estudio demuestra que en el escenario específico de la revisión de seguimiento de instrucciones verificable bajo autoría genuina en contexto, el sesgo es débil o está ausente.

Los autores declaran explícitamente su modestia respecto a sus afirmaciones:

No afirman que la preferencia por sí mismo esté "probada como ausente" universalmente, sino que efectos menores a $\sim13$ pp no pueden excluirse dado el tamaño de la muestra ( $N=85$ ).
El estudio se limita a modelos de nivel medio (para evitar efectos de techo de IFEval) y restricciones atómicas de baja latitud (excluyendo revisiones holísticas como estilo o argumentación).
La señal de "auto-escepticismo" observada en pilotos anteriores no se considera un hallazgo robusto, ya que no se replicó a escala.

La contribución robusta principal es el diseño metodológico (comprobador determinista + autoría genuina en contexto) que permite un resultado nulo creíble, y la observación cualitativa de que, cuando los autores rechazan una corrección válida, es debido a una detección de fallos rigurosa en lugar de ego o preferencia.