Does Less Hallucination Mean Less Creativity? An Empirical Investigation in LLMs

Resumen Técnico: "¿Significa menos alucinación menos creatividad? Una investigación empírica en LLMs"

Planteamiento del problema
Los Modelos de Lenguaje de Gran Escala (LLMs) se utilizan cada vez más para la comprensión y el razonamiento del lenguaje natural, pero sufren de "alucinación": la generación de contenido fácticamente incorrecto. Si bien se ha investigado significativamente en la mitigación de las alucinaciones para asegurar la fiabilidad fáctica, particularmente en dominios de alto riesgo como el descubrimiento científico asistido por IA, el impacto de estas estrategias de mitigación en la creatividad del modelo permanece inexplorado. Esta es una brecha crítica porque el descubrimiento científico depende de un requisito dual: la exactitud fáctica y la generación creativa de hipótesis, lo que a menudo implica realizar conexiones poco convencionales que pueden parecerse superficialmente a las alucinaciones. El artículo investiga si la reducción de las alucinaciones suprime inadvertidamente el pensamiento divergente necesario para la ideación creativa.

Metodología
Los autores realizaron una investigación empírica evaluando los efectos de tres técnicas distintas de reducción de alucinaciones sobre la creatividad en múltiples familias y escalas de modelos:

1. Técnicas evaluadas:

   • Cadena de Verificación (CoVe - Chain of Verification): Un proceso de razonamiento de múltiples etapas que involucra el borrador, la generación de preguntas de verificación, la respuesta a las mismas y la síntesis de una respuesta refinada.
   • Decodificación por Contraste de Capas (DoLa - Decoding by Contrasting Layers): Un método de decodificación que contrasta las predicciones de la capa final frente a las capas anteriores (específicamente la que tiene la mayor divergencia de Jensen-Shannon) para suprimir tokens menos fiables.
   • Generación Aumentada por Recuperación (RAG - Retrieval-Augmented Generation): Un método que fundamenta la generación en conocimiento externo recuperado de un corpus (específicamente tutoriales de programación y documentación en este estudio).

2. Benchmarks y métricas:

   • NeoCoder: Un benchmark de programación que evalúa la creatividad bajo escenarios de reglas progresivamente restringidos (análogos a las leyes científicas). Las métricas incluyeron Creatividad Convergente (corrección bajo restricciones) y Creatividad Divergente (novedad de técnicas más allá de los patrones humanos).
   • CS4: Un benchmark de generación de historias que evalúa la escritura creativa abierta bajo restricciones acumulativas. Las métricas incluyeron Satisfacción de Restricciones, Coherencia, Diversidad (DIST-N) y una puntuación compuesta de Creatividad (QUC).

3. Alcance experimental:

   • Modelos: LLaMA (1B, 8B, 70B), Qwen-Coder (7B) y Mistral (7B).
   • Análisis: El estudio midió los cambios porcentuales en las métricas de creatividad con respecto a una línea base (sin reducción de alucinaciones). Además, los autores emplearon sondas lineales para identificar qué capas del transformer se correlacionan con la producción creativa, lo que llevó a una estrategia de decodificación modificada.

Resultos clave
La investigación reveló que los métodos de reducción de alucinaciones tienen efectos divergentes y opuestos sobre la creatividad divergente, mientras que preservan en gran medida la creatividad convergente (la capacidad de resolver problemas correctamente).

• CoVe mejora la creatividad divergente: Contrario a la hipótesis inicial de que el control de hechos podría sofocar la creatividad, CoVe mejoró consistentemente el pensamiento divergente en la mayoría de los modelos y conjuntos de datos. Por ejemplo, LLaMA 1B mostró una mejora de hasta un 12.5% en NeoCoder. Los autores atribuyen esto al mecanismo de cuestionamiento que fomenta una exploración más amplia del espacio de soluciones y reduce la "visión de túnel".
• DoLa suprime la creatividad divergente: DoLa redujo consistentemente la creatividad divergente (por ejemplo, LLaMA 1B cayó aproximadamente un 8% en CS4). Los autores hipotetizan que esto ocurre porque DoLa contrasta las capas tempranas y tardías; dado que las capas tempranas codifican representaciones exploratorias y divergentes, restar estas capas elimina inadvertidamente características necesarias para la generación creativa.
• RAG muestra un impacto mínimo: RAG demostró un efecto neutral en la creatividad divergente, con fluctuaciones cercanas a cero. Los autores sugieren que esto se debe a un desajuste semántico entre el corpus de recuperación (tutoriales técnicos) y la tarea (descripciones narrativas de problemas), lo que resultó en documentos recuperados que carecían de conocimientos algorítmicos específicos o introducían ruido.
• La creatividad convergente no se ve afectada: En todos los métodos y modelos, la capacidad de generar soluciones fácticamente correctas y que satisfacen las restricciones permaneció prácticamente sin cambios.

Investigación adicional: Modulación de capas
Para abordar la supresión causada por DoLa, los autores utilizaron sondas lineales para identificar las capas "correlacionadas con la creatividad". Encontraron que las capas tempranas del transformer exhibían correlaciones más fuertes con la creatividad divergente que las capas posteriores. Al revertir la lógica de DoLa —amplificando las activaciones en las capas correlacionadas con la creatividad mientras se suprimen las anticorrelacionadas— lograron potenciar la creatividad divergente sin comprometer el rendimiento convergente. Esto sugiere que la creatividad divergente y la convergente pueden desacoplarse y modularse de forma independiente.

Significado y afirmaciones
El artículo afirma que la relación entre la reducción de alucinaciones y la creatividad no es uniforme; depende de la técnica específica empleada.

• Para AI4Science: Los hallazgos proporcionan orientación para seleccionar métodos de reducción de alucinaciones en aplicaciones científicas. Técnicas como CoVe pueden ser preferibles para la generación de hipótesis, ya que mejoran la exploración creativa sin sacrificar la convergencia fáctica, mientras que DoLa puede ser perjudicial para la fase imaginativa del descubrimiento.
• Características inherentes: La consistencia de estas tendencias a través de diferentes familias de modelos (LLaMA, Qwen, Mistral) y escalas (1B–70B) sugiere que la interacción entre el control fáctico y el razonamiento creativo es una característica inherente de los LLMs, más que un artefacto de la arquitectura o el tamaño.
• Dirección futura: Los autores enfatizan que, si bien la programación y la generación de historias sirven como proxies, el trabajo futuro debe desarrollar marcos específicamente para la generación de hipótesis científicas para validar estos hallazgos en contextos de descubrimiento auténticos. También señalan la necesidad de estudios de ablación para aislar los mecanismos específicos mediante los cuales el cuestionamiento mejora la creatividad y de mejores estrategias de recuperación para maximizar el potencial de RAG.

En conclusión, el artículo sostiene que reducir las alucinaciones no equivale necesariamente a reducir la creatividad; más bien, la elección de la estrategia de mitigación determina si un modelo se convierte en una herramienta precisa pero limitada o en un colaborador equilibrado capaz tanto de la exactitud fáctica como de la ideación creativa.