💻 computer science

Dial E for Ethical Enforcement: institutional VETO power as a governance primitive

El artículo propone que la implementación de un poder de veto institucional formal, diseñado y liderado por las comunidades más vulnerables a la militarización, es un mecanismo de gobernanza esencial y necesario para transformar las salvaguardas simbólicas en responsabilidades exigibles y lograr el desarme efectivo de los modelos de razonamiento.

Autores originales: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

Publicado 2026-03-03

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Subramanyam Sahoo, Vinija Jain, Aman Chadha, Divya Chaudhary

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que la Inteligencia Artificial (IA) es como un motor de coche increíblemente potente que hemos descubierto. Este motor puede hacer cosas maravillosas: curar enfermedades, predecir el clima o ayudar a los agricultores. Pero, por desgracia, también puede usarse para construir tanques, drones de guerra o sistemas de vigilancia masiva que oprimen a la gente.

El problema, según este artículo, no es que el motor sea malo, sino que no tenemos un freno de mano que funcione de verdad.

Aquí te explico la idea central del paper "DIAL E FOR ETHICAL ENFORCEMENT" (Llama al E para la Aplicación Ética) usando una analogía sencilla:

1. El Problema: "La Ética de Papel" (Sin Poder Real)

Actualmente, los investigadores de IA escriben "manifiestos éticos" y hacen "anuncios de responsabilidad". Es como si un fabricante de coches dijera: "¡Oye, este coche es muy rápido y peligroso! Por favor, no lo uses para ir a la velocidad de la luz ni para atropellar gente".

Pero, ¿qué pasa si el fabricante no tiene la llave para bloquear el acelerador? Nada. El coche se vende, se usa para carreras ilegales y la gente sufre.

La situación actual: Tenemos mucha conciencia de los riesgos (sabemos que es peligroso), pero nadie tiene la autoridad legal o institucional para decir: "STOP. No puedes usar esto para eso".
El resultado: Se crea una "irresponsabilidad organizada". Todos dicen "yo no fui", "yo solo hice la investigación", "yo solo vendí el motor", mientras el daño ocurre.

2. La Solución: El "Poder de Veto Institucional"

Los autores proponen algo llamado Poder de Veto Institucional.

Imagina que en lugar de solo pedirle al conductor que sea "bueno", le damos a un mecánico de confianza (el comité de ética) una llave maestra que puede desconectar el motor antes de que el coche salga a la carretera si sospecha que va a usarse para algo malo.

¿Qué es el veto? Es el derecho formal de detener la venta, distribución o uso de una tecnología si hay un riesgo creíble de que se use para armas, vigilancia abusiva o violar leyes internacionales.
No es censurar la idea: El investigador sigue pudiendo escribir su artículo y publicar sus descubrimientos (la ciencia sigue libre). Pero no puede licenciar la tecnología a un ejército o a una empresa de vigilancia sin permiso.

3. ¿Por qué no funciona solo con "buenas intenciones"?

El paper explica tres razones por las que la ética voluntaria falla, usando analogías:

La "Dilución de la Responsabilidad": Imagina una cadena de 10 personas pasando un paquete. Si el paquete explota, nadie sabe quién lo hizo. Cada uno dice: "Yo solo lo pasé". El poder de veto concentra la responsabilidad en un punto clave donde se puede detener el daño.
La "Selección Adversa" (El problema del "chivo expiatorio"): Si un investigador dice "no acepto dinero militar" y otro dice "sí, acepto todo", el segundo gana más dinero y prestigio. El primero pierde su trabajo. Sin reglas obligatorias, los "buenos" son castigados y los "malos" ganan. El veto crea un campo de juego justo donde todos deben frenar.
El "Lavado de Ética": A veces, las empresas hacen un informe de 100 páginas diciendo "lo hemos pensado mucho", pero luego hacen lo que quieren. Es como poner un cartel de "Cuidado: Suelo Mojado" y luego tirar agua en el suelo. El veto convierte ese cartel en una barrera física que no se puede saltar.

4. ¿Quién debe tener la llave del freno? (La parte más importante)

El paper insiste en algo crucial: Las personas más afectadas deben tener el control.

Imagina que vamos a construir un puente. ¿Quién debería decidir si es seguro? ¿Los ingenieros que ganarán dinero construyéndolo? ¿O las personas que vivirán debajo del puente y podrían morir si se cae?

Actualmente, los comités de ética están formados por académicos y expertos de países ricos.
La propuesta dice: Los comités de veto deben incluir a las comunidades que sufrirán el daño. Por ejemplo, si la IA se usa para vigilancia en una minoría étnica, miembros de esa comunidad deben tener voto para decir "NO" al proyecto. Ellos tienen el conocimiento real de cómo se usará la tecnología en la vida real.

5. ¿Cómo se hace esto en la vida real? (Sin crear nuevas leyes mundiales)

No necesitamos esperar a que el mundo se ponga de acuerdo en una nueva ley. Se puede hacer ahora mismo usando estructuras que ya existen:

Las Universidades: Pueden cambiar sus contratos. Cuando licencian una tecnología a una empresa, pueden poner una cláusula que diga: "Si usas esto para armas, el contrato se rompe y te demandamos".
Las Conferencias y Repositorios: Cuando alguien sube un código a internet (como GitHub o Hugging Face), puede poner una etiqueta que diga: "Prohibido usar para vigilancia militar". Los repositorios pueden borrar el código si ven que alguien lo usa mal.
Las Agencias de Financiación: Pueden decir: "Si quieres nuestro dinero, debes tener un comité de veto en tu universidad que revise tus proyectos".

En resumen

El paper dice que hemos estado jugando a ser "buenos" esperando que la gente haga lo correcto por sí sola, y ha fallado. La militarización de la IA es un problema de poder, no solo de moralidad.

Necesitamos pasar de la "Ética de Papel" (carteles bonitos) a la "Ética con Freno" (reglas con dientes). Y para que ese freno funcione, no pueden ser solo los ingenieros quienes lo manejen; deben ser las comunidades vulnerables las que tengan la mano en el volante para detener el coche si van a chocar.

La conclusión final: O seguimos permitiendo que la ética sea solo una actuación mientras el daño crece, o damos el poder real a las personas para detener la militarización antes de que sea demasiado tarde.

Aquí presento un resumen técnico detallado del artículo "DIAL E FOR ETHICAL ENFORCEMENT: INSTITUTIONAL VETO POWER AS A GOVERNANCE PRIMITIVE", aceptado en el taller AI for Peace de ICLR 2026.

1. El Problema: La Paradoja de la Gobernanza y la Militarización

El artículo identifica una paradoja fundamental en la gobernanza actual de la Inteligencia Artificial (IA): existe una amplia conciencia ética y mecanismos de rendición de cuentas (como tarjetas de modelos y declaraciones de IA responsable), pero estos carecen de autoridad formal para detener el uso dañino o la militarización de los modelos.

Fallo Estructural: Los mecanismos actuales operan como señales reputacionales desconectadas de la arquitectura de toma de decisiones. Esto genera una "irresponsabilidad organizada", donde cada actor puede deslindar responsabilidad mientras los daños (militarización, vigilancia masiva) avanzan.
La Causa Raíz: La militarización no es un problema técnico inevitable, sino el resultado de decisiones institucionales discretas (aceptación de fondos militares, decisiones de publicación, licencias) que carecen de puntos de control protegidos.
La Brecha: A diferencia de la no proliferación nuclear o la ética biomédica (que tienen autoridad de veto incrustada), la gobernanza de la IA asume que la pérdida de control tras la publicación es inevitable.

2. Metodología y Marco Teórico

El paper utiliza un enfoque interdisciplinario que combina teoría de gobernanza, análisis de políticas públicas y modelado matemático simplificado.

Analogías Históricas: Se basa en precedentes de la no proliferación nuclear (IAEA), los Comités de Revisión Institucional (IRB) en bioética y los regímenes de control de exportaciones. Estos dominios demuestran que restringir usos específicos requiere autoridad de veto, no solo visibilidad.
Modelado Formal (Apéndice A):
- Se propone un modelo matemático para demostrar por qué la ética sin poder falla.
- Ecuación Clave: $(K \land \neg A) \Rightarrow M$ (Conocimiento ético $K$ sin Autoridad $A$ conduce a Militarización $M$ ).
- Contraste: $(K \land V \land R) \Rightarrow \neg M$ (Conocimiento $K$ , Veto $V$ y Riesgo identificado $R$ conducen a la no militarización).
- El modelo simula tres modos de fallo:
  1. Difusión de Responsabilidad: A medida que aumenta la cadena de actores, la responsabilidad ejecutable disminuye ( $\rho(n) \to 0$ ).
  2. Selección Adversa: Sin veto, la competencia incentiva la falta de restricción. El veto estabiliza la restricción a un nivel colectivo óptimo.
  3. Lavado Ético: La documentación de "debida consideración" infla la responsabilidad percibida sin generar intervención real.
Análisis de Casos: Se examinan casos históricos (reconocimiento facial, financiación de DARPA, alianzas universidad-contratista) para mapear los "puntos de veto" desprotegidos en el ciclo de vida de la investigación.

3. Contribuciones Clave

La contribución central es la propuesta del Poder de Veto Institucional como un "primitivo de gobernanza" esencial.

Definición del Veto: No es una negativa arbitraria, sino una autoridad formal y protegida legalmente para detener la transferencia o distribución de investigación cuando surgen riesgos creíbles de weaponización, vigilancia de grupos marginados o violaciones del derecho internacional.
Diseño Institucional: Se proponen cinco vías de implementación que no requieren nuevos tratados internacionales, sino la adaptación de estructuras existentes:
1. Modificación de Contratos Universitarios: Inclusión de cláusulas de veto en acuerdos de transferencia de tecnología y licencias.
2. Gobernanza a Nivel de Conferencias: Requisitos de divulgación de uso dual y condiciones de uso vinculantes en publicaciones.
3. Condiciones de Financiación: Las agencias (NSF, DARPA, etc.) condicionan las subvenciones a la existencia de estructuras de gobernanza de veto.
4. Gobernanza de Repositorios: Implementación de restricciones de uso legibles por máquina y auditorías en plataformas como Hugging Face o GitHub.
5. Normas Profesionales: Códigos de conducta vinculantes y solidaridad profesional para proteger a quienes ejercen el veto.
Liderazgo de Comunidades Marginadas: Se argumenta que las comunidades más vulnerables a la militarización (Global Sur, minorías, poblaciones bajo vigilancia) deben liderar el diseño y la toma de decisiones de los órganos de veto. Esto no es solo una cuestión de justicia, sino epistemológica: poseen el conocimiento situado necesario para identificar riesgos reales.

4. Resultados y Hallazgos del Modelo

El análisis cuantitativo y cualitativo del paper arroja los siguientes resultados:

Ineficacia de la Ética Voluntaria: El modelo demuestra que sin un mecanismo de aplicación (veto), la restricción ética es individualmente costosa y socialmente subóptima debido a la selección adversa. Los actores que se abstienen pierden financiación y prestigio frente a competidores menos restringidos.
Efectividad del Veto: La introducción de un punto de veto vinculante ( $\rho_{veto} = 1$ ) transforma la restricción de una elección individual punitiva a una regla colectivamente aplicable.
Reducción de Daños: Bajo el régimen de "Ética + Veto", el daño a las comunidades disminuye drásticamente en comparación con los regímenes de "Solo Ética" o "Sin Gobernanza", ya que la intervención se vuelve obligatoria y no opcional.
Validación de Precedentes: El análisis comparativo confirma que mecanismos similares (IAEA, IRB) han logrado contener tecnologías de alto riesgo en otros dominios, aunque con limitaciones que deben ser abordadas en el diseño de la IA (ej. evitar la captura política).

5. Significado e Impacto

El artículo representa un cambio de paradigma en la discusión sobre la seguridad de la IA:

De la Ética a la Arquitectura: Cambia el discurso de "¿cómo podemos fomentar la restricción?" (que falla por depender de la buena voluntad) a "¿cómo hacemos que la restricción sea racionalmente estructural?".
Desarme de Modelos: Propone que el "desarme" de modelos de IA no es solo técnico (reducir capacidades), sino institucional (restringir el acceso y uso).
Justicia Epistémica: Establece que la gobernanza efectiva requiere el desplazamiento del poder desde las instituciones elitistas del Norte Global hacia las comunidades afectadas, otorgándoles autoridad de decisión vinculante.
Viabilidad Operativa: Demuestra que el poder de veto es técnicamente y legalmente viable hoy mismo mediante la modificación de contratos, licencias y políticas de financiación, sin necesidad de esperar a nuevas leyes globales.

En conclusión, el paper sostiene que la ética performativa ha terminado; el futuro de la seguridad de la IA depende de la implementación de responsabilidad vinculante liderada por la comunidad a través de mecanismos institucionales de veto.