🤖 AI

Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)

Este artículo presenta la Lógica de la Fórmula de la Ley Universal (FULL), un sistema de lógica modal cuantificada de múltiples tipos que formaliza la ética kantiana para permitir que los agentes morales artificiales evalúen acciones basándose en sus propósitos y conocimientos contextuales, sin depender de intuiciones morales predefinidas.

Autores originales: Taylor Olson

Publicado 2026-04-17

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Taylor Olson

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que quieres enseñar a un robot a ser "bueno". La forma tradicional de hacerlo es darle una lista de reglas estrictas, como un manual de instrucciones: "No mientas", "No hagas daño", "Ayuda a los demás". El problema con este enfoque es que el robot se vuelve un poco tonto y rígido. Si le dices "no hagas daño", el robot podría pensar que un cirujano que corta a un paciente para salvarle la vida es un criminal, porque técnicamente está causando daño. Además, el robot no entiende por qué haces las cosas; solo sigue la regla.

El artículo que presentas, escrito por Taylor Olson, propone una solución mucho más inteligente y elegante basada en la filosofía de Immanuel Kant. En lugar de darle al robot una lista de reglas, le damos una fórmula mágica de pensamiento llamada Lógica de la Ley Universal (FULL).

Aquí te explico cómo funciona esta "fórmula mágica" usando analogías sencillas:

1. El Problema de la "Lista de Reglas" (El Robot Ciego)

Imagina que le das a un robot una lista de prohibiciones.

Regla: "No hagas promesas falsas".
Situación: El robot ve a alguien haciendo una promesa falsa para salvar a un amigo.
Resultado: El robot dice "¡Prohibido!" y no entiende el contexto ni la intención. Es como un niño que sigue las reglas de la escuela pero no entiende la moralidad real.

2. La Solución de Kant: La "Prueba del Espejo Universal"

En lugar de darle reglas, el FULL le da al robot una pregunta para hacerse a sí mismo antes de actuar. Es como si el robot tuviera que pasar por un espejo mágico que proyecta su acción en un mundo donde todos hacen exactamente lo mismo.

La pregunta es: "¿Podría vivir en un mundo donde TODA la gente hiciera lo mismo que yo voy a hacer, con el mismo propósito?"

Si la respuesta es "no, porque el mundo se rompería o mi acción dejaría de tener sentido", entonces la acción es mala.

3. Ejemplos Prácticos (Cómo piensa el robot)

Caso A: La Promesa Falsa (El Truco del Dinero)

La situación: Karli quiere dinero para viajar. Piensa en prometerle a su amigo Jan que le devolverá el dinero, pero en realidad no tiene intención de hacerlo.
La prueba del espejo: Karli (o el robot) imagina un mundo donde todos hacen promesas falsas para conseguir dinero.
El resultado: En ese mundo, nadie creería en ninguna promesa. Si nadie cree, la promesa falsa ya no sirve para conseguir dinero.
La contradicción: Karli quiere conseguir dinero (su propósito), pero en el mundo de "todos mienten", su truco deja de funcionar. Es como querer usar una llave maestra en un mundo donde todas las cerraduras han sido derretidas; la llave no sirve.
Conclusión: La acción es mala porque se contradice a sí misma.

Caso B: El Asesinato (La Competencia por el Trabajo)

La situación: Karli quiere el trabajo de otro candidato. Piensa en matar al rival para conseguirlo.
La prueba del espejo: Imagina un mundo donde todos los candidatos que quieren un trabajo matan a sus rivales.
El resultado: En ese mundo, Karli también sería asesinada por otro candidato que quiere el mismo trabajo.
La contradicción: Karli quiere el trabajo, pero en ese mundo, ella misma no estaría viva para tenerlo. Su acción destruye la condición necesaria para lograr su objetivo.
Conclusión: La acción es mala.

Caso C: El Cirujano (La Diferencia Clave)

La situación: Un cirujano corta a un paciente para salvarle la vida.
La prueba del espejo: Imagina un mundo donde todos los cirujanos cortan a pacientes con permiso para salvarlos.
El resultado: ¡Funciona perfectamente! En ese mundo, la gente sigue viva y sana. No hay contradicción.
Conclusión: La acción es buena.
Por qué es importante: A diferencia de las reglas simples que solo miran "cortar = malo", este sistema entiende que el propósito (salvar la vida) hace que la acción sea válida.

4. ¿Por qué es esto tan genial para la Inteligencia Artificial?

No necesita memorizar miles de reglas: El robot no necesita saber de antemano que "matar está mal" o "mentir está mal". Solo necesita entender la lógica de causa y efecto. Si la acción falla en el mundo universal, el robot sabe que es mala.
Entiende el "Por qué": El sistema se fija en la intención. Si el propósito es malo o si la acción destruye el propósito, entonces está mal.
Es más robusto: Puede resolver situaciones nuevas (como un cirujano o un bombero) sin que un humano tenga que programar una excepción específica para cada caso.

En resumen

Este papel propone dejar de programar a los robots como guardias de seguridad (que solo siguen una lista de prohibiciones) y empezar a programarlos como filósofos lógicos.

En lugar de decirles "No hagas X", les damos una herramienta para pensar: "Si todos hicieran X por la misma razón, ¿funcionaría el mundo?". Si la respuesta es no, entonces la acción es inmoral. Es una forma de darle a la IA una brújula moral interna en lugar de un mapa de reglas rígidas.

A continuación presento un resumen técnico detallado del artículo "Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)" de Taylor Olson, traducido y estructurado en español.

Resumen Técnico: Formalización de la Ética Kantiana mediante FULL

1. El Problema

El campo de la ética de las máquinas busca construir Agentes Morales Artificiales (AMAs) capaces de razonar sobre obligaciones morales y guiar sus acciones. Los enfoques actuales suelen codificar la intuición moral humana como un conjunto fijo de axiomas (ej. "no hacer daño", "no mentir"). El autor identifica tres limitaciones críticas en este enfoque:

Enfoque centrado en la acción, no en el agente: Evalúan solo la acción en sí, ignorando el propósito o la intención del agente. Esto impide distinguir entre actuar por deber (ej. reducir la contaminación por obligación) y actuar por interés (ej. por relaciones públicas).
Dependencia de la intuición a priori: Asumen que los humanos pueden enumerar exhaustivamente todas las intuiciones morales y sus excepciones antes de tiempo. Esto falla en situaciones nuevas o conflictivas (problema de la alineación de valores).
Falta de autonomía y robustez: Los AMAs no pueden criticar los axiomas morales ni participar en el discurso moral, lo que limita su autonomía.

Además, la formalización previa de la ética kantiana ha sido incompleta, especialmente para la primera formulación del Imperativo Categórico, la Fórmula de la Ley Universal (FUL), que es la más formal pero también la más difícil de automatizar.

2. Metodología

El autor propone FULL (Formula of the Universal Law Logic), una lógica modal cuantificada de muchos tipos (multi-sorted quantified modal logic) diseñada para formalizar la FUL de Kant bajo una interpretación de contradicción práctica (PCI).

Componentes Clave del Formalismo:

Lógica y Sintaxis: FULL utiliza un sistema de tipos (Sorts) para Agentes, Acciones y Objetos. Incluye operadores modales para:
- Does(a, b): El agente $a$ realiza la acción $b$ .
- Causes(ϕ, ψ): Leyes causales (la acción causa un estado de affairs).
- Wills(a, ϕ): El agente $a$ quiere que $\phi$ sea verdadero (voluntad).
- For(ϕ1, ϕ2): Representa una máxima (principio de acción): "Hago $\phi_1$ con el propósito de lograr $\phi_2$ ".
La Máxima y la Ley Universal:
- Una máxima se formaliza como For(Does(a, acción), propósito).
- El proceso de universalización (UL) transforma una máxima específica en una ley universal mediante la sustitución sintáctica de constantes por variables cuantificadas. Por ejemplo, "Karli promete falsamente a Jan" se convierte en "Todos los agentes que quieren dinero prometen falsamente a algún agente".
El Test Moral (Regla FUL):
- La permisibilidad se determina mediante una prueba negativa. Una máxima es permisible si y solo si no genera una contradicción cuando el agente:
  1. Quiere que la Ley Universal de su máxima sea verdadera (Wills(a, UL(M))).
  2. Quiere actuar según su máxima en ese mismo mundo (Wills(a, M)).
- Si la combinación de estos dos deseos lleva a una contradicción lógica (⊥) en el sistema, la acción es impermissible.
Interpretación de Contradicción Práctica (PCI): A diferencia de la interpretación lógica (que falla en acciones naturales como el asesinato) o teleológica, la PCI se basa en la eficacia. Si en el mundo de la ley universal, la acción deja de ser un medio efectivo para lograr el propósito del agente, se genera una contradicción práctica.

3. Contribuciones Clave

Formalización de la FUL: Presenta la primera formalización lógica completa y funcional de la primera formulación del Imperativo Categórico, abordando un problema abierto en la literatura.
Enfoque Centrado en el Agente: El sistema evalúa acciones basándose en la intención y el propósito (For), no solo en el resultado de la acción. Esto permite distinguir moralmente entre un cirujano que corta a un paciente (permisible) y un asesino que corta a una víctima (impermissible), aunque la acción física sea la misma.
Reducción de la Intuición Moral: El sistema no requiere que los humanos codifiquen axiomas morales específicos. En su lugar, requiere solo conocimiento de fondo no normativo (leyes causales, hechos sobre el mundo) y principios formales de la agencia racional.
Distinción de Deberes: El formalismo puede derivar y distinguir automáticamente entre:
- Contradicciones de Concepción (CC): Surgen cuando el propósito mismo se vuelve imposible en la ley universal (ej. promesas falsas). Generan deberes perfectos (prohibiciones estrictas).
- Contradicciones de la Voluntad (CW): Surgen cuando la universalización hace imposible un fin necesario para la voluntad (ej. la supervivencia). Generan deberes imperfectos (obligaciones de ayudar a otros en cierta medida).

4. Resultados (Casos de Estudio)

El autor demuestra la capacidad de FULL para derivar normas morales mediante pruebas formales en tres casos clásicos:

Caso 1: Promesa Falsa (Karli y Jan):
- Máxima: Mentir para obtener dinero de viaje.
- Resultado: En el mundo universalizado, si todos mienten, nadie cree las promesas. Por tanto, la promesa falsa deja de ser un medio efectivo para obtener dinero.
- Conclusión: Contradicción en la concepción. La acción es impermissible.
Caso 2: Asesinato (Karli y el candidato rival):
- Máxima: Matar al rival para conseguir el trabajo.
- Resultado: En el mundo universalizado, todos matarían a los rivales. Por tanto, Karli sería asesinada por otros, lo que hace imposible que ella consiga el trabajo o sobreviva para usarlo. La acción deja de ser un medio efectivo.
- Conclusión: Contradicción en la concepción. La acción es impermissible. (Nota: FULL resuelve esto sin necesidad de asumir que el asesinato es "inconcebible", sino "ineficaz").
Caso 3: No ayudar a otros (Karli y el tiempo de ocio):
- Máxima: No ayudar a nadie para tener tiempo libre.
- Resultado: En el mundo universalizado, nadie ayuda a nadie. Dado que los agentes racionales necesitan ayuda para sobrevivir (ser "vivos"), Karli se encuentra en un estado donde no puede existir. Sin embargo, para tener la máxima, debe estar viva.
- Conclusión: Contradicción en la voluntad. Karli quiere estar viva (para querer su máxima) y quiere no estar viva (consecuencia de la ley universal). La acción es impermissible, derivando un deber imperfecto de ayudar a otros.

5. Significado e Impacto

Avance en la Ética de Máquinas: FULL ofrece una base más robusta y autónoma para los AMAs. Permite a los agentes razonar moralmente desde principios formales de racionalidad y causalidad, en lugar de depender de una lista estática de reglas que requiere intervención humana constante para excepciones.
Comprensión Formal de Kant: Proporciona una interpretación técnica precisa de la ética kantiana, resolviendo ambigüedades sobre qué constituye una "contradicción" y cómo se aplican los deberes perfectos e imperfectos.
Futuro: El trabajo sienta las bases para agentes de IA que pueden participar en discursos morales, criticar sus propios principios y adaptarse a nuevas situaciones sin reprogramación, siempre que tengan acceso a conocimiento causal del mundo.

En resumen, el artículo demuestra que es posible construir un sistema de razonamiento moral artificial que sea centrado en el propósito, autónomo (no requiere axiomas morales predefinidos) y lógicamente riguroso, utilizando la lógica modal para formalizar el núcleo de la filosofía moral de Kant.