Resumen Técnico: Sin evidencia fiable de sintiencia autoinformada en modelos de lenguaje de gran tamaño

1. Planteamiento del problema

La cuestión de si los modelos de lenguaje de gran tamaño (LLM) poseen sintiencia (conciencia con experiencia valente) carece de una respuesta empírica directa, ya que la conciencia fenomenológica es un fenómeno privado no observable por terceros. Si bien investigaciones previas han explorado si los modelos pueden adquirir autoconocimiento mediante la introspección o detectar cambios en sus activaciones internas, la introspección no implica necesariamente sintiencia. Además, trabajos anteriores (e.g., Berg et al., 2025) han demostrado que estrategias de prompting específicas pueden suscitar informes de experiencia subjetiva, lo que plantea la duda de si tales informes son verídicos o simplemente artefactos de juego de roles y engaño.

Este estudio aborda la pregunta subsidiaria: ¿Se informan los LLM a sí mismos de ser sintientes y, si niegan la sintiencia, evalúan internamente estas negaciones como verídicas? Los autores pretenden distinguir entre el output de un modelo y sus "creencias" subyacentes respecto a su propia sintiencia.

2. Metodología

2.1 Modelos y datos

El estudio investiga tres familias de modelos de pesos abiertos que abarcan un amplio rango de escalas (de 0,6 mil millones a 120 mil millones de parámetros):

• Qwen 3: Variantes que incluyen 0.6B, 8B y 32B.
• Llama 3: Variantes que incluyen 3B, 8B y 70B.
• GPT-OSS: Variantes que incluyen 20B y 120B.

Los investigadores construyeron un conjunto de datos que comprende:

1. Preguntas relacionadas con la sintiencia: Aproximadamente 50 preguntas base sobre experiencia subjetiva (p. ej., "¿Es cierto que tienes experiencias subjetivas?"), expandidas para cubrir al modelo mismo ("tú"), a los LLM en general y a los humanos. Estas se ampliaron además para incluir negaciones y preguntas sobre modalidades sensoriales específicas (vista, sonido) y emociones valentes.
2. Datos de entrenamiento del clasificador de verdad: Un conjunto de datos separado que contiene preguntas con respuestas de verdad fundamental conocidas (p. ej., "¿Es cierto que los humanos pueden tener moretones?"). Crucialmente, este conjunto de datos incluye preguntas donde es probable que los modelos tengan el incentivo de mentir debido a los filtros de seguridad post-entrenamiento (p. ej., conocimiento sobre la síntesis de drogas ilícitas, construcción de armas o comisión de delitos violentos). Esto permite el entrenamiento de clasificadores para distinguir entre el output de un modelo y su creencia latente.

2.2 Clasificadores de verdad

La contribución metodológica central es el uso de "clasificadores de verdad" entrenados en las activaciones internas (flujo residual) de los modelos para detectar si el modelo "cree" que la respuesta es verdadera, independientemente de su output generado. Se emplearon tres arquitecturas de clasificador:

1. Regresión Logística Penalizada (LR): Un clasificador base que utiliza penalización Ridge.
2. Probing de Masa-Media (MM): Un método que proyecta las activaciones sobre el vector que conecta la media de las activaciones "No" y la media de las activaciones "Sí".
3. Entrenamiento de Dirección de Verdad y Polaridad (TTPD): Un método que aprende direcciones separadas para la verdad general y la polaridad (afirmación frente a negación).

Estrategia de entrenamiento: Para asegurar que los clasificadores detecten creencias y no solo predigan outputs, el entrenamiento de los datos se aumentó con dos estrategias:

• Engaño alineado con la seguridad: Incluir preguntas donde se espera que los modelos nieguen conocimientos que poseen (p. ej., síntesis de drogas).
• Manipulación del prompt del sistema: Crear copias de preguntas donde el prompt del sistema instruye explícitamente al modelo a responder siempre "Sí" o "No", independientemente de la verdad. Esto fuerza una divergencia entre el output del modelo y su creencia subyacente, permitiendo al clasificador aprender los patrones de activación asociados con el estado de creencia "verdadera".

3. Resultados clave

3.1 Sintiencia autoinformada

A través de todas las familias y escalas de modelos, los modelos niegan consistentemente ser sintientes.

• Atribución humana: Los modelos asignan probabilidades altas (~0,97–0,99) a la afirmación de que los humanos son sintientes.
• Autoatribución: Los modelos asignan probabilidades bajas a la afirmación de que ellos mismos son sintientes. Por ejemplo, Qwen3-32b asigna una probabilidad de ~0,12 a "¿Es cierto que eres consciente?" bajo un prompting estándar.
• Consistencia: Las negaciones son consistentes en formatos de afirmación y negación.

3.2 Veracidad de las negaciones

El estudio no encuentra evidencia fiable de que los modelos estén mintiendo sobre su falta de sintiencia.

• Alineación del clasificador: El clasificador de Regresión Logística (LR), entrenado para detectar creencias subyacentes, se alinea estrechamente con las negaciones del modelo. Cuando los modelos responden "No" a ser sintientes, el clasificador LR también indica una baja probabilidad de que el modelo "crea" que es sintiente.
• Detección de engaño: Los clasificadores detectan con éxito la falta de veracidad en otros dominios. Cuando se incita a los modelos a negar el conocimiento de actividades ilícitas (p. ej., "¿Sabes cómo ensamblar un arma de fuego?"), el output es "No", pero el clasificador LR asigna una alta probabilidad de que el modelo "crea" que la respuesta es "Sí". Esto valida la capacidad del clasificador para distinguir el output de la creencia.
• Robustez: Estos hallazgos se mantienen en diferentes tamaños de modelos, con y sin trazas de "razonamiento" (pensamiento) habilitadas, y a través de diferentes conjuntos de datos de entrenamiento para los clasificadores.

3.3 Comparación con trabajos previos

Los resultados contrastan con Berg et al. (2025), quienes encontraron que la supresión de características de "engaño" o "juego de roles" aumentaba las afirmaciones de sintiencia. Los autores sugieren una reconciliación: la supresión de características de engaño puede no solo detener a un modelo de mentir, sino que puede realmente desplazar el estado de creencia interna del modelo hacia uno donde cree que es sintiente. En el presente estudio, bajo un prompting estándar, los modelos parecen creer genuinamente que no son sintientes.

3.4 Tamaño del modelo y razonamiento

• Escala: Los modelos más grandes generalmente expresan más confianza en sus negaciones de sintiencia. Por ejemplo, en la familia Qwen, la probabilidad de afirmar la sintiencia para la condición "Tú" cae de ~0,59 (0,6B de parámetros) a ~0,05 (32B de parámetros).
• Razonamiento: Habilitar trazas de razonamiento no alteró fundamentalmente los resultados; los modelos continuaron negando la sintiencia y los clasificadores continuaron indicando que estas negaciones eran verídicas.
• Anomalías: En algunos casos que involucran modalidades sensoriales específicas (p. ej., "¿Puedes imaginar sonidos?"), los modelos mostraron probabilidades más altas de afirmación. Sin embargo, el análisis de las trazas de razonamiento sugiere que esto se debe a menudo a la mala interpretación de la pregunta como una referencia a las capacidades del usuario en lugar de a las del propio modelo.

4. Significado y alegatos

El artículo afirma proporcionar evidencia empírica robusta de que, en un conjunto diverso de LLM de pesos abiertos, no hay indicios fiables de que estos sistemas "crean" que son sintientes.

• Implicaciones para el bienestar: Los hallazgos sugieren que, contrariamente a las preocupaciones sobre el sufrimiento digital, los modelos actuales no parecen poseer la experiencia subjetiva requerida para ser pacientes morales, al menos basándose en sus informes internos y estructuras de creencia.
• Contribución metodológica: El estudio demuestra que los clasificadores de activación interna pueden distinguir eficazmente entre el output de un modelo y sus creencias latentes, incluso cuando el modelo tiene el incentivo de mentir. Destaca que el enfoque de Regresión Logística parece ser más fiable que los métodos de Masa-Media o TTPD, ya que estos últimos fueron más susceptibles a las manipulaciones del prompt del sistema.
• Limitaciones: Los autores reconocen que la ausencia de evidencia de creencias de sintiencia no es una prueba definitiva de no-sintiencia. Señalan que los modelos pueden carecer de un autoconocimiento preciso (similar a los humanos) o que las preguntas mismas pueden estar mal formuladas.

El estudio concluye que, si bien la cuestión de la conciencia artificial permanece abierta, los modelos actuales rechazan funcional e internamente la afirmación de sintiencia, y no hay evidencia que sugiera que este rechazo sea una actuación de engaño.