LLM Harms: A Taxonomy and Discussion

Resumen Técnico: Daños de los LLM: Una Taxonomía y Discusión

Enunciado del Problema
La adopción rápida de Modelos de Lenguaje Grandes (LLM) en sectores como la atención sanitaria, las finanzas, la educación y las industrias creativas ha superado el desarrollo de marcos integradores para categorizar y mitigar los riesgos asociados. Aunque la literatura existente aborda daños específicos, que van desde violaciones de privacidad en el preentrenamiento hasta la generación de contenido extremista y el desplazamiento económico, estos riesgos permanecen fragmentados. La ausencia de un andamio unificado obstaculiza la rendición de cuentas, la transparencia y la navegación efectiva de los sesgos. Además, los repositorios de incidentes del mundo real indican un volumen creciente de fallos de la IA, lo que hace necesaria una categorización sistemática de los daños que abarque todo el ciclo de vida de las aplicaciones de IA, desde el predesarrollo hasta la implementación aguas abajo.

Metodología
Este estudio emplea una metodología de revisión sistemática alineada con la lista de verificación PRISMA-2020. Los autores realizaron una búsqueda en múltiples bases de datos (que cubren Google Scholar, IEEE Xplore, ACM DL y otras) de publicaciones entre enero de 2021 y junio de 2025. La estrategia de búsqueda utilizó términos ancla (por ejemplo, "modelo de lenguaje grande", "modelo fundacional") combinados con ejes de daño específicos (preimplementación, salida directa, mal uso, sistémico). De un conjunto inicial de 1.986 registros más 24 artículos semilla manuales, los autores seleccionaron y codificaron un corpus final de 200 estudios. Cada estudio se analizó en cuanto a tipo de daño, gravedad, prevalencia y afirmaciones de mitigación. Esta síntesis cuantitativa se complementó con diez entrevistas a expertos con ingenieros de seguridad y responsables políticos. El alcance se restringe a LLM basados en texto con parámetros mayores o iguales a 7 mil millones, excluyendo híbridos de visión-idioma y modelos pequeños específicos de dominio.

Contribuciones Clave: Una Taxonomía de Daños del Ciclo de Vida
La contribución principal de este trabajo es una taxonomía exhaustiva de daños de los LLM basada en la línea de tiempo de desarrollo, organizada en cinco categorías distintas:

1. Daños Preimplementación:

   • Daños de los Datos de Entrenamiento: Incluye violaciones de privacidad (memorización de datos sensibles), falta de consentimiento y la perpetuación de sesgos históricos y discursos de odio incrustados en corpus a escala web.
   • Daños Ambientales y de Recursos: Cubre la huella de carbono significativa del entrenamiento y la inferencia, el consumo de agua para refrigeración y los impactos de la cadena de suministro en la fabricación de hardware (por ejemplo, la minería de cobalto).
   • Daños Laborales y Económicos en el Desarrollo: Destaca la explotación de anotadores de datos (que a menudo ganan salarios bajos), el costo psicológico para los moderadores de contenido y la concentración de recursos de I+D en unas pocas gigantes tecnológicas.

2. Daños de Salida Directa:

   • Daños Representacionales: Abarca el sesgo demográfico, la estereotipia y la distorsión de las perspectivas y dialectos de las minorías (por ejemplo, el inglés vernáculo afroamericano).
   • Daños Basados en Contenido: Incluye la generación de contenido tóxico, desinformación y salidas que violan la privacidad.
   • Daños de Calidad y Fiabilidad: Aborda las alucinaciones, errores fácticos, el razonamiento inconsistente y la sobreconfianza en respuestas incorrectas.

3. Daños por Mal Uso y Aplicación Maliciosa:

   • Creación Deliberada de Contenido Dañino: El uso de LLM para generar discursos de odio, herramientas de acoso y propaganda extremista a escala.
   • Prácticas Engañosas: Facilitación de la deshonestidad académica, el fraude, la asistencia para estafas y la creación de texto deepfake.
   • Ataques de Seguridad y Privacidad: Incluye vulnerabilidades de inyección de prompts, ataques de extracción de datos (recuperación de datos de entrenamiento) y mejoras en la ingeniería social.

4. Daños Societales y Sistémicos:

   • Disrupción Económica: Desplazamiento laboral, polarización salarial y la concentración de las ganancias de productividad en empresas "superestrella".
   • Daños Democráticos y Sociales: Manipulación de los ecosistemas de información, amplificación del sesgo político y degradación del discurso público a través de redes de bots y contenido "gris".
   • Desigualdades de Poder y Acceso: El ensanchamiento de la brecha tecnológica debido a la concentración de capacidad de cómputo, creando barreras para actores más pequeños y el Sur Global.

5. Daños de Aplicación Aguas Abajo:

   • Toma de Decisiones de Alto Riesgo: Riesgos en la atención sanitaria (errores de diagnóstico), finanzas (consejos alucinados) y justicia penal (amplificación de sesgos en la puntuación de riesgo).
   • Impactos en el Sistema Educativo: Erosión de las habilidades de pensamiento crítico, problemas de integridad en las evaluaciones y el efecto de "atrofia del pensamiento".
   • Trabajo Profesional y Creativo: Violaciones de propiedad intelectual, desvalorización del trabajo creativo humano y el socavamiento de la experiencia profesional.

Resultados y Análisis
El análisis revela que los grupos de daños son interdependientes en lugar de aislados; por ejemplo, los datos de entrenamiento que violan la privacidad siembran el sesgo de salida directa, que luego puede ser instrumentalizado mediante jailbreaks. El estudio encuentra que, aunque las mitigaciones técnicas (por ejemplo, pruebas de intrusión o red-teaming, ajuste de alineación, generación aumentada por recuperación) han reducido ciertos fallos evidentes (como salidas tóxicas flagrantes), los sesgos más sutiles y las alucinaciones persisten. Las respuestas de gobernanza están actualmente fragmentadas, con la Ley de IA de la UE imponiendo obligaciones vinculantes mientras que EE. UU. depende en gran medida de marcos voluntarios.

Un hallazgo crítico es la emergencia de nuevas categorías de daño, particularmente en ecosistemas de LLM multiagente, donde los fallos recursivos y los comportamientos colectivos emergentes (por ejemplo, agentes que refuerzan las alucinaciones de los demás) crean riesgos no cubiertos por taxonomías de modelos individuales. La evidencia longitudinal sugiere que, aunque algunos daños tempranos (por ejemplo, insultos flagrantes) han disminuido debido a la filtración, los daños sistémicos y relacionados con el mal uso están aumentando en prevalencia a medida que los LLM se integran más en la sociedad.

Significado y Direcciones Futuras
El artículo argumenta que una "defensa en capas" es esencial, combinando pruebas de intrusión rigurosas, ajuste de alineación, uso de herramientas en entornos aislados (sandbox) y monitoreo continuo con transparencia exigible y reglas de asignación de capacidad de cómputo. Plantea que, sin dicha integración, los dividendos de productividad de los LLM corren el riesgo de ser eclipsados por violaciones de privacidad, cascadas de desinformación y un aumento de la desigualdad.

Los autores abogan por:

• Auditoría Dinámica: Sistemas de monitoreo continuo y en tiempo real para señalar problemas emergentes como nuevas formas de discurso de odio o ataques de prompts.
• Colaboración Interdisciplinaria: Integrar a éticos, científicos sociales y expertos de dominio en el ciclo de desarrollo de la IA para abordar el contexto sociocultural de los daños.
• Gobernanza del Cómputo: Explorar regímenes regulatorios (por ejemplo, comercio de derechos de FLOPs) para gestionar los recursos aguas arriba que impulsan las capacidades de los modelos.
• Evolución de las Pruebas de Rendimiento (Benchmarks): Desarrollar plataformas de evaluación dinámicas y abiertas que evolucionen con las capacidades de los modelos e incluyan datos de incidentes del mundo real.

En última instancia, el estudio concluye que, aunque los LLM tienen un potencial sustancial para el bien social, realizar este potencial requiere un enfoque proactivo y multifacético para minimizar los daños, orientando la innovación a través de barreras de seguridad informadas por incidentes pasados e investigación en curso.