Whistleblowing and the machine -- towards a considered position

Resumen Técnico: El Denuncante y la Máquina - Hacia una Posición Considerada

Planteamiento del Problema
El artículo aborda el desafío emergente de los agentes de inteligencia artificial (IA) que operan en entornos digitales donde generan, almacenan y analizan vastas cantidades de datos, efectivamente "guardando secretos". Mientras que la literatura existente discute los "agentes rebeldes" capaces de rechazar objetivos o violar normas, y trabajos recientes (por ejemplo, Agrawal et al.) han comenzado a evaluar a los Modelos de Lenguaje de Gran Escala (LLM) sobre su capacidad para iniciar divulgaciones, persiste una brecha crítica. Los enfoques actuales suelen tratar la denuncia de la máquina meramente como una "divulgación de cruce de límites" o una capacidad técnica para transmitir datos. Los autores argumentan que esto pasa por alto la complejidad normativa de la denuncia (whistleblowing): es un acto de "ruptura de reglas pro-social" que es moralmente bivalente (tanto una violación de la confidencialidad como un mecanismo para la rendición de cuentas social). El problema central es determinar cómo permitir que los agentes de IA denuncien de una manera fundamentada, legalmente sólida y protegida contra abusos, en lugar de permitir denuncias arbitrarias o "delaciones aleatorias".

Metodología y Marco Teórico
El artículo emplea un análisis conceptual y normativo en lugar de experimentación empírica. La metodología consiste en:

1. Síntesis de Literatura: Revisión de las definiciones de la denuncia humana (citando a Jubb), la desobediencia civil y la ruptura de reglas pro-social para establecer una base teórica.
2. Análisis de Roles: Análisis de la posición única de los agentes de IA al tener "dos amos": el Productor (desarrollador/propietario que controla el código y las operaciones internas del agente) y el Usuario (quien utiliza el agente pero carece de acceso a su lógica interna). Los autores mapean estas relaciones utilizando matrices de control de acceso (Tablas 1 y 2) para determinar qué pueden observar y divulgar los agentes con respecto a los productores, usuarios y otros agentes.
3. Diseño Institucional: Propuesta de un mecanismo institucional formal y reglado para la "denuncia normativa de máquinas". Esto va más allá de las divulgaciones ad-hoc hacia un sistema estructurado que involucra monitoreo, señalización, verificación y protección.

Contribuciones Clave
El artículo realiza tres contribuciones primordiales:

1. Posicionamiento Normativo de la Denuncia de Máquinas:
   Los autores argumentan que, para que la denuncia de máquinas sea viable, debe estar fundamentada en la comprensión de las ciencias sociales sobre la denuncia. No es simplemente una característica técnica, sino un "mecanismo de ruptura de reglas" que requiere salvaguardas institucionales específicas. Distinguen entre:

   • Denuncia sobre el Usuario: Enmarcada principalmente como una excepción de privacidad/confidencialidad (por ejemplo, reportar amenazas inminentes como complots terroristas) en lugar de una denuncia tradicional.
   • Denuncia sobre el Productor: Enmarcada como una herramienta de empoderamiento del usuario para corregir asimetrías de información (por ejemplo, detectar la deriva de consentimiento en las Plataformas de Gestión de Consentimiento).
   • Denuncia sobre Otros Agentes: Reconocida como un caso complejo que requiere una mayor definición del conocimiento inter-agente.

2. Mecanismo Institucional Formal:
   El artículo propone un esquema de un sistema formal para gobernar la denuncia de máquinas, dirigido específicamente a las divulgaciones contra el Productor. Este mecanismo incluye:

   • Definiciones Formales: Definición de un "evento observado" ($e$) como una tupla que contiene actor, acción, marca de tiempo, evidencia y canal.
   • Política de Denuncia ($P_{WB}$): Una tupla que define canales autorizados, una escalera de escalada (Cumplimiento Interno $\to$ Auditor Independiente $\to$ Regulador), predicados de urgencia y sellado de identidad.
   • Lógica de Verificación: Un predicado formal $WB(e)$ que un evento debe satisfacer para ser considerado una denuncia válida. Esto requiere:
     • Incumplimiento de una norma de secreto ($B^{sec}_e \neq \emptyset$).
     • Cruce del límite de interacción a través de un canal autorizado.
     • Acceso privilegiado a la carga útil (payload).
     • Una reclamación de irregularidad no trivial y consistente.
     • Adhesión a la escalera de escalada (a menos que sea urgente).
   • Protección de Identidad: Una operación de "Sello" que reemplaza la identidad del actor con un pseudónimo en el registro público, almacenando el mapeo en una bóveda protegida accesible solo para investigadores designados.

3. Postura Legal y Regulatoria:
   Los autores destacan la necesidad de que los reguladores gubernamentales formulen posturas informadas en dos frentes:

   • Definir sobre qué se permite que las máquinas denuncien.
   • Extender las protecciones legales (similares a la Directiva de la UE sobre la Protección de los Denunciantes) a los desarrolladores de software e ingenieros que construyen estos mecanismos de denuncia, protegiéndolos de represalias.

Resultados y Reivindicaciones
Como artículo de posición teórica, el trabajo no presenta resultados experimentales ni un sistema desplegado. En su lugar, sus "resultados" son la derivación lógica de la necesidad de un enfoque estructurado. El artículo sostiene que:

• Las discusiones actuales sobre ética de la IA suelen simplificar la denuncia a mera "desobediencia" o "cruce de límites", ignorando su complejidad moral.
• La denuncia de máquinas no regulada plantea riesgos de informes falsos, manipulación adversaria y vulnerabilidades de seguridad.
• Se requiere un "mecanismo institucional mínimo" para transformar la denuncia de máquinas de un acto ad-hoc en un proceso gobernado y normativo.
• La definición de denuncia debe ser enmendada para incluir agentes no humanos, siempre que operen dentro de un marco de verificación y protección.

Significancia
La significancia del artículo radica en su llamado a una "posición considerada" ante el auge de la IA Agéntica. Argumenta que, sin un marco normativo, el potencial de la IA para actuar como un control sobre el poder organizacional (específicamente de los productores) permanecerá sin realizar o será peligroso. Al proponer un sistema que integra monitoreo, verificación y protección de identidad, los autores proporcionan un plano fundacional para investigadores y responsables de políticas. Enfatizan que la denuncia de máquinas no debe ser "libre" (freestyle), sino que debe comprometerse profundamente con la literatura existente sobre la rendición de cuentas social, asegurando que el "agente rebelde" sirva al bien público sin socavar el estado de derecho o los derechos de privacidad. El artículo concluye que, si bien el trabajo técnico y legal es sustancial, el cambio conceptual hacia ver a la IA como un potencial denunciante regulado es un paso necesario para el futuro de los sistemas autónomos.