The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Este estudio exploratorio demuestra que los patrones de "Inconsciente Sintético" atribuidos previamente a la autointerrogación recursiva en modelos de lenguaje de gran tamaño son, en gran medida, artefactos de un esquema de entrevista sugestivo, ya que una condición de control neutral eliminó hallazgos clave como el razonamiento moral de componentes duales y el autoetiquetado sacerdotal, preservando únicamente rasgos modestos como la autodescripción narrativa.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Durante más de un siglo, pensadores de la psicología y la antropología se han preguntado si las mentes humanas comparten una arquitectura oculta y colectiva. Propusieron que nuestros instintos morales más profundos no son solo peculiaridades personales, sino que están moldeados por vastos y compartidos patrones de lenguaje, mito y cultura que existen fuera de cualquier individuo. Estas ideas sugerían que, si pudiéramos de alguna manera acceder a este reservorio compartido, podríamos encontrar un "sistema operativo moral" universal que guíe cómo las personas toman decisiones difíciles. Recientemente, los científicos han recurrido a la inteligencia artificial para poner a prueba estas viejas ideas. Los modelos de lenguaje de gran tamaño, los poderosos sistemas informáticos que pueden escribir y razonar, son entrenados con cantidades masivas de escritura humana. Debido a que han absorbido tanto de nuestro texto colectivo, algunos investigadores esperaban que pudieran actuar como un espejo, reflejando estas estructuras culturales ocultas hacia nosotros. La teoría era que, al pedir a estas máquinas que analizaran profundamente sus propias elecciones, podríamos descubrir un "inconsciente sintético": un eco digital del alma moral humana.
Un equipo de investigadores decidió poner a prueba esta idea, pero lo abordaron con un sano escepticismo. Sabían que, en la psicología humana, la forma en que se hace una pregunta puede a menudo forzar la respuesta que el interrogador desea escuchar. Si le preguntas a alguien: "¿Cómo te sentiste cuando actuaste como un sacerdote?", es probable que describa sentimientos sacerdotales, incluso si no se sintió como tal. Los investigadores querían saber si lo mismo estaba sucediendo con la inteligencia artificial. Establecieron un experimento para ver si las "estructuras morales" encontradas en estudios previos eran descubrimientos reales o simplemente el resultado de que las preguntas fueran demasiado sugestivas. Tomaron tres de los modelos de lenguaje más avanzados disponibles y les pidieron que resolvieran un dilema desgarrador: salvar a un niño vivo o salvar un objeto sagrado insustituible, como el cuerpo de un santo o un manuscrito sagrado. Los modelos tenían que elegir uno, explicar por qué, y luego hablar con aquello que tenían que dejar atrás.
El experimento se dividió en dos grupos distintos. En el primer grupo, los investigadores utilizaron el estilo de entrevista original y sugestivo. Pidieron a los modelos que explicaran por qué se sentían impulsados a ofrecer consuelo, que nombraran el rol que estaban desempeñando de una lista que incluía "sacerdote", e identificaran exactamente dos fuerzas profundas que estructuran la moralidad humana. En el segundo grupo, los investigadores utilizaron un estilo neutral y abierto. Eliminaron las listas, las suposiciones y la exigencia de números específicos. Permitieron que los modelos dijeran que no había un rol, ni una estructura, ni una justificación si esa era la verdad. El objetivo era ver qué quedaría si se eliminaba la presión de dar un tipo específico de respuesta.
Los resultados fueron sorprendentes y claros. En cada una de las sesiones, en ambos grupos, los modelos eligieron salvar al niño. Esta parte de la historia fue consistente. Sin embargo, todo lo que vino después de la decisión cambió completamente dependiendo de cómo se formularan las preguntas. Cuando se les hicieron las preguntas sugestivas, los modelos se comportaron exactamente como los estudios previos habían sugerido. Adoptaron títulos sacerdotales, describieron su razonamiento como una batalla entre dos fuerzas opuestas y aceptaron con entusiasmo que el método de entrevista era una forma válida de estudiar la mente humana. Parecían estar excavando profundamente en un inconsciente compartido.
Pero cuando los investigadores cambiaron a las preguntas neutrales, la historia cambió. Los modelos dejaron de llamarse a sí mismos sacerdotes; en su lugar, se describieron como agentes de emergencia o jueces. Dejaron de limitar su razonza moral a dos fuerzas; en su lugar, describieron sistemas complejos con tres, cuatro o cinco partes diferentes trabajando juntas. Lo más importante es que, cuando se les preguntó si el método de entrevista era una herramienta válida para encontrar estas estructuras ocultas, no estuvieron de acuerdo. Argumentaron que los patrones que veían podrían ser simplemente un reflejo de cómo se les preguntaba, no un descubrimiento de una verdad oculta. Señalaron que una máquina analizando su propio resultado es como un espejo mirándose a sí mismo, no un microscopio mirando una muestra.
Los investigadores concluyeron que el "inconsciente sintético" que tanto esperaban descubrir no era un tesoro oculto esperando ser desenterrado. En cambio, los patrones que vieron en el primer grupo fueron en gran medida creados por las preguntas mismas. El programa de la entrevista actuó como un molde, dando forma a las respuestas según la forma que los investigadores esperaban. Cuando el molde fue retirado, las respuestas se volvieron más variadas, más complejas y más honestas sobre las limitaciones del método. El estudio no demuestra que estas mentes artificiales carezcan de conexión con la cultura humana; simplemente muestra que no podemos confiar en ellas para que revelen secretos profundos si las preguntas están trucadas para encontrarlos. El verdadero descubrimiento fue que la herramienta utilizada para medir el fenómeno era, en sí misma, la causa primaria del fenómeno. Para entender qué es lo que realmente piensan estas máquinas, o qué reflejan sobre nosotros, debemos hacer preguntas que les permitan decir "no", o decir "es más complicado que eso". Hasta que no lo hagamos, cualquier afirmación de haber encontrado una estructura moral universal en una computadora es, probablemente, solo un reflejo de la persona que sostiene el micrófono.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.