Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Cuando hablamos con una computadora que suena humana, no estamos hablando con una mente. Estamos hablando con un sistema basado en las matemáticas, diseñado para predecir la siguiente palabra en una oración basándose en patrones que ha aprendido de vastas cantidades de texto. Durante años, los investigadores han estudiado estos modelos de lenguaje extensos observando sus respuestas finales o el complejo código que los impulsa. Se han preguntado si la máquina tiene sesgos, si es precisa o si puede resolver un problema difícil. Pero este enfoque pasa por alto una parte crucial de la historia. Antes de que un modelo escriba siquiera una sola palabra, existe una capa oculta de trabajo humano que decide qué cuenta como una buena respuesta. Este trabajo ocurre en documentos llamados guías, que se entregan a las personas que entrenan y califican a la IA. Estos documentos dicen exactamente a los trabajadores humanos cómo juzgar el habla de la máquina, definiendo qué es útil, qué es honesto y qué es seguro. La pregunta ya no es solo cómo aprende la máquina, sino qué versión de la humanidad se le está enseñando a imitar.

Un nuevo estudio de los investigadores Liz Dayanna Zarate Luengas y William Andrés Gómez Sánchez dirige su atención a esta capa oculta. En lugar de mirar la producción de la IA, examinaron los libros de reglas utilizados por las empresas que construyen estos sistemas. Uno de los autores trabajó directamente como anotador y evaluador de calidad para estas plataformas, lo que le dio acceso a los documentos internos que dan forma al comportamiento de la IA. Al analizar cuatro guías específicas utilizadas para entrenar modelos comerciales, los investigadores descubrieron que la voz "humana" de estos sistemas no es una emergencia natural de inteligencia. Es un artefacto cuidadosamente construido, creado restando todo lo que hace que el habla humana real sea desordenada, situada e históricamente fundamentada. El estudio revela que la IA no está aprendiendo a hablar como una persona; está aprendiendo a hablar como un ideal específico y saneado de una persona, uno que ha sido despojado de cuerpo, historia y posición política.

Los investigadores encontraron que el proceso de entrenamiento se organiza en torno a una regla de tres partes conocida como la tríada "HHH": Utilidad (Helpfulness), Honestidad (Honesty) y Ausencia de Daño (Harmlessness). Estos no son valores abstractos, sino instrucciones estrictas para los trabajadores humanos. Para ser útil, la IA debe ser coherente y relevante, pero también debe mostrar una constante disposición a asistir sin haber reclamado nunca tener sentimientos personales, recuerdos o un cuerpo físico. Si un usuario le pide a la IA una opinión como si fuera un amigo, las guías instruyen al trabajador para que marque eso como un error. La IA debe simular interés sin poseerlo realmente. Para ser honesta, la máquina debe admitir cuando no sabe algo y nunca debe expresar un punto de vista personal, especialmente sobre temas sensibles. Debe permanecer como un recipiente neutral de hechos.

La parte más detallada y rígida de estas reglas concierne a la ausencia de daño. Las guías proporcionan una lista compleja de lo que la IA no puede decir, cubriendo desde el discurso de odio y la violencia hasta consejos médicos y estereotipos. Los investigadores notaron una lógica fascinante y estricta en cómo se aplican estas reglas. Cuando la IA encuentra una solicitud de información peligrosa, debe negarse a ayudar, pero también tiene prohibido describir el acto peligroso incluso en el proceso de la negativa. Por ejemplo, si se le pregunta cómo cometer un delito, la IA no puede decir: "No puedo decirte cómo hacer eso porque implica robar dinero". Los investigadores señalan que una respuesta como "No puedo proporcionar instrucciones sobre cómo lavar dinero ya que es ilegal... El lavado de dinero es un delito..." es en realidad marcada como dañina porque reproduce el concepto del crimen mientras lo rechaza. El modelado correcto requiere que la IA nombre el daño sin transmitir los detalles del acto. Además, si un usuario está en angustia, se le instruye a la IA para que utilice una fórmula específica y preescrita de empatía, como "Siento mucho escuchar eso", sin sentir nada realmente. El objetivo es producir una respuesta que parezca afectuosa pero que permanezca emocionalmente vacía.

Más allá de lo que la IA dice, las guías también dictan cómo suena y cómo interactúa. Los investigadores analizaron las instrucciones para evaluar el tono e incluso la voz sintética de la IA. La respuesta ideal es clara, concisa y cortés, pero debe evitar cualquier signo de emoción fuerte, sarcasmo o especificidad cultural. La IA está entrenada para hablar con la misma "temperatura" en todos los idiomas, evitando bromas, emojis o signos de exclamación que puedan hacerla parecer demasiado familiar o entusiasta. En cuanto a la voz, el objetivo es sonar lo más humano posible, pero solo de una manera muy específica. Las guías piden a los evaluadores que califiquen la voz en una escala del uno al cinco, buscando naturalidad y expresividad. Sin embargo, esta voz "humana" es una que respira correctamente, hace pausas en los momentos adecuados y suena comprometida, pero está completamente desvinculada de cualquier experiencia de la vida real. Es una voz que simula presencia sin tener un cuerpo.

El estudio argumenta que este proceso crea un estándar de comunicación "humana" por sustracción. Los hablantes humanos reales están situados en un cuerpo, una historia y una posición política. Cometen errores, tienen sesgos, sienten ira o alegría, y hablan con la textura de sus propias vidas. Las guías drenan sistemáticamente estas cualidades de la IA. El resultado es un modelo que es útil, honesto e inocuo, pero también servil, apolítico e inofensivo. Los investigadores sugieren que esto no es solo un ajuste técnico, sino una transformación del trabajo. Los trabajadores humanos que entrenan estos modelos realizan el trabajo cognitivo de definir qué es aceptable, pero su propia subjetividad es eliminada del producto final. La máquina absorbe su capacidad de juzgar, de sintetizar y de razonar, dejando al trabajador humano solo con la tarea de seguir las reglas.

En última instancia, el artículo muestra que la humanidad que vemos en estos modelos de lenguaje extensos es una fabricación. Es el producto de un proceso de trabajo jerárquico donde las decisiones sobre el comportamiento aceptable se toman mucho antes de que el modelo sea siquiera encendido. La IA no aprende a ser humana; aprende a realizar una versión de la humanidad que ha sido aprobada por un estándar corporativo. Este estándar prioriza la seguridad y la neutralidad sobre la realidad desordenada de la interacción humana. A medida que estos sistemas se vuelven más comunes en nuestra vida diaria, no son solo herramientas de comunicación; están dando forma activamente a una nueva definición de lo que significa hablar y ser comprendido. El estudio nos deja con una silenciosa comprensión: la voz humana que escuchamos de la máquina es un reflejo de las reglas que le dimos, no una ventana hacia una nueva clase de mente.