Resumen Técnico: Sobre la Definición de los Daños por Borrado en el PLN

Planteamiento del Problema

El despliegue de sistemas de Procesamiento de Lenguaje Natural (PLN) ha generado preocupaciones significativas con respecto a los daños representacionales, incluyendo la estigmatización y el discurso tóxico. Si bien el "borrado" (erasure) ha sido reconocido como un tipo específico de daño representacional, el campo carece actualmente de una base conceptual clara y cohesiva para identificarlo y medirlo. Las conceptualizaciones existentes del borrado sufren de dos limitaciones principales:

1. Extensión excesiva: Definiciones como "falta de representación adecuada" son demasiado vagas para guiar a los profesionales en el establecimiento de qué es necesario para medir el borrado.
2. Especificidad excesiva: Algunas definiciones están sistematizadas para entornos particulares (por ejemplo, etiquetado de imágenes o identidades de género no binarias), lo que facilita la medición en esos contextos específicos pero dificulta su adaptación a otros entornos.

Además, debido a que constructos como el "borrado" son inobservables, su presencia debe inferirse a partir de salidas observables del sistema. Sin una base conceptual cohesiva, se cuestiona cada vez más la validez de los instrumentos de medición existentes (métricas, bancos de pruebas) y los resultados son difíciles de interpretar a través de diferentes contextos culturales o de despliegue.

Metodología

Los autores emplean una metodología basada en la teoría de la medición de las ciencias sociales, apoyándose específicamente en el trabajo de Adcock y Collier (2001) y Wallach et al. (2025). El proceso consiste en distinguir entre un constructo de fondo (la constelación amplia de significados asociados con un concepto) y un constructo sistematizado (una reformulación más estrecha y dependiente del contexto).

El enfoque de los autores consta de tres fases principales:

1. Identificación de componentes: Se realizó una revisión de una muestra intencionada de literatura sobre el borrado en las áreas de PLN, aprendizaje automático, comunicación de medios, antropología lingüística, sociología, filosofía y derecho. Esta revisión identificó componentes recurrentes en cómo se conceptualiza el borrado y señaló elementos faltantes o implícitos.
2. Anclaje en el PLN: Se llevaron a cabo sesiones de discusión colaborativa para anclar estos componentes en tareas específicas de PLN (por ejemplo, la sumarización de textos). Los autores deliberaron sobre si el borrado podía establecerse en salidas específicas del sistema, considerando las restricciones de la tarea (por ejemplo, un sistema de sumarización no debería ser culpado por omitir información que no está presente en la fuente).
3. Síntesis y Conexión: Los componentes identificados se agruparon por función y se conectaron basándose en sus interacciones para formar una definición estructurada. Esta definición se aplicó luego como un marco analítico para examinar nueve artículos de PLN existentes que conceptualizan u operacionalizan explícitamente el borrado, identificando tendencias y brechas en la literatura actual.

Contribuciones Clave

El artículo propone una definición estructurada del borrado diseñada para facilitar el proceso de sistematización: el movimiento de un constructo de fondo amplio hacia uno específico y operacionalizable. La definición identifica explícitamente seis componentes determinantes que los profesionales deben especificar para establecer si ha ocurrido un borrado en un contexto dado:

1. Objetivo del Borrado (Target of Erasure): Quién o qué se cree que es borrado (por ejemplo, identidades específicas, variedades lingüísticas, temas o historias).
2. Objeto de Análisis (Object of Analysis): Dónde se observa el borrado (por ejemplo, salidas del sistema, etiquetas de clasificación o texto generado).
3. Condiciones de Fondo (Background Conditions): Los patrones sociales, históricos o pasados que se consideran indeseables reproducir. Estos forman la base normativa para el análisis (por ejemplo, patrones históricos de medios que minimizan la violencia policial).
4. Conocimiento Base (Base Knowledge): El conocimiento o la información que se espera que se refleje en el objeto de análisis (por ejemplo, el contenido del documento fuente en tareas de sumarización).
5. Alternativa (Alternative): Una versión contrafáctica o "mejor" del objeto de análisis que contribuye menos a la reproducción de las condiciones de fondo, manteniendo al mismo tiempo el conocimiento base.
6. Desénfasis (De-emphasis): El mecanismo mediante el cual se observa el borrado en el objeto de análisis en comparación con la alternativa (por ejemplo, eliminación de información, ofuscación mediante voz pasiva o adición incorrecta de información).

Los autores definen el borrado formalmente como: "un desénfasis de un objetivo —donde este desénfasis ocurre en un objeto de análisis que tiene la intención de reflejar cierto conocimiento base— con respecto a una alternativa que reproduce menos un conjunto de condiciones de fondo que el objeto de análisis hace".

Resultados y Análisis

Al aplicar esta definición a nueve artículos de PLN existentes, los autores identificaron varios patrones y brechas en las conceptualizaciones actuales:

• Anclaje Contextual: Algunos trabajos existentes están apropiadamente anclados en contextos específicos (por ejemplo, identidades no binarias o borrado cultural), pero adaptar estos de forma acrítica a nuevos entornos sin re-especificar los seis componentes puede amenazar la validez.
• Dependencia Distribucional: Muchas operacionalizaciones existentes dependen de la observación de patrones o diferencias sistemáticas (vistas distribucionales) en lugar de instancias únicas. Esto ocurre a menudo cuando las condiciones de fondo están subespecificadas, obligando a los profesionales a inferir patrones a partir de las salidas del sistema.
• Subespecificación de las Condiciones de Fondo: Aunque muchos trabajos reconocen que el borrado refuerza las estructuras de poder o las asimetrías históricas, a menudo no especifican las entidades o patrones exactos involucrados. Esto dificulta justificar por qué una operacionalización específica (por ejemplo, coincidir con las estadísticas de la población) es apropiada.
  {% endblock %}
• Falta de Alternativas Explícitas: El trabajo existente rara vez articula explícitamente "mejores" alternativas. Los profesionales a menudo tienen que inferir cómo sería un comportamiento preferible del sistema, lo que obstaculiza el desarrollo de métricas precisas y estrategias de mitigación.
• Restricciones del Conocimiento Base: En tareas con un conocimiento base no restringido (por ejemplo, generación de personas/perfiles), es difícil establecer si un conjunto generado es representativo. Los autores sugieren que el trabajo futuro podría centrarse en tareas con un conocimiento base más restringido (por ejemplo, traducción automática) para aislar mejor el borrado.

Significado y Reivindicaciones

El artículo sostiene que su contribución principal es proporcionar una base para que los profesionales sistematicen el constructo del borrado. Al clarificar los componentes necesarios (Objetivo, Objeto, Condiciones de Fondo, Conocimiento Base, Alternativa, Desénfasis), la definición permite a los profesionales:

• Articular y operacionalizar explícitamente el borrado en sus contextos de uso específicos y preocupaciones normativas.
• Desarrollar instrumentos de medición válidos (métricas, bancos de pruebas) que estén fundamentados en conceptualizaciones claras.
• Mapear y analizar las conceptualizaciones actuales del borrado para identificar tendencias y brechas.

Los autores enfatizan que este trabajo no pretende resolver el problema del borrado ni proporcionar una única métrica universal. En cambio, ofrece un marco para facilitar el proceso de sistematización, permitiendo la creación de definiciones contextuales que sean lo suficientemente rigurosas como para apoyar una medición válida y una interpretación significativa de los resultados. El artículo también señala limitaciones, reconociendo que el borrado puede ocurrir en los procesos de diseño y despliegue de los sistemas, y no solo en sus salidas, y que la definición propuesta se centra actualmente en estas últimas.