Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Este artículo presenta una implementación en el lenguaje Wolfram de la Lógica de Entrada/Salida Reificada para la gobernanza de la IA, demostrando su capacidad para traducir normas legales en código ejecutable para un comportamiento de agentes auditable, al tiempo que destaca las limitaciones actuales en el uso de modelos de lenguaje de gran tamaño para automatizar este proceso de formalización.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que estás tratando de enseñarle a un robot superinteligente cómo comportarse en un mundo lleno de reglas. El problema es que el cerebro del robot es una "caja negra". No puedes mirar dentro para ver exactamente cómo piensa o por qué toma una decisión. Es como pedirle a un mago que explique un truco mientras todavía lo está realizando. Normalmente, intentamos solucionar esto esperando que el robot aprenda a pensar como un humano, pero eso es arriesgado porque el lenguaje humano es desordenado, está lleno de significados ocultos y de lagunas legales.
Aquí es donde entra la Ley Computacional. Piensa en esto como convertir un libro de reglas desordenado y escrito a mano en un programa de computadora estricto. En lugar de escribir "No seas grosero", escribes código que dice: "Si ocurre la Acción X, entonces debe ocurrir el Resultado Y". Este campo intenta hacer que las reglas legales sean tan precisas que una computadora pueda leerlas, seguirlas y demostrar que las siguió. El artículo que estamos analizando explora una forma específica de hacer esto usando un lenguaje de programación especial llamado Wolfram Language. Trata las leyes como ecuaciones matemáticas donde puedes verificar si un robot está obedeciendo las reglas, incluso si no entiendes cómo funciona el cerebro del robot. La gran pregunta es: ¿Podemos simplemente pedirle a una IA superinteligente (como la que está escribiendo este texto) que traduzca nuestras desordenadas leyes en inglés a un código de computadora perfecto?
El Gran Experimento del Artículo: ¿Puede la IA Escribir las Reglas?
El autor, James K. Wiles, decidió probar esta idea. Construyó un sistema en Wolfram Language que actúa como un "traductor legal". Este sistema utiliza una lógica especial llamada Lógica de Entrada/Salida Reificada. Para entender esto, imagina una máquina expendedora. Introduces una moneda (Entrada) y la máquina te da un refresco (Salida). En este sistema legal, la "Entrada" es un hecho (como "Es de noche") y la "Salida" es una regla (como "Debes detenerte"). El sistema también maneja ideas complejas como la "reificación", que es solo una forma elegante de decir que se convierte un evento (como "Alice entregando un libro a Bob") en un objeto físico que la computadora puede sostener, medir y del cual puede hablar.
Luego, el autor le pidió a una IA poderosa (GPT-4) que actuara como el traductor. Le dio a la IA cuatro oraciones legales simples en inglés y le pidió que las convirtiera en el código de computadora que el sistema necesitaba.
Los Resultados: Una Mezcla de Magia y Fallos
El experimento demostó que, aunque la IA es rápida y puede escribir código que parece correcto, aún no es seguro confiar en ella por sí sola. Esto es lo que sucedió con las cuatro oraciones de prueba:
- La Prueba de "Corbata y Rubio": Se le pidió a la IA que tradujera una regla sobre personas que no usan corbata o son rubias y deben abandonar una habitación. La IA escribió un código que parecía funcionar. Sin embargo, cuando el autor revisó las matemáticas, encontró un error silencioso: el código estaba roto de una manera que hacía que dijera "Verdadero" para todos, incluso para personas que usaban corbata y tenían el cabello oscuro. La IA había creado una regla que en realidad no verificaba nada.
- La Prueba de "Cada Hombre": La IA recibió la instrucción de traducir "Cada hombre está obligado a correr". La IA escribió código que funcionaba, pero cometió un error en cómo definía "hombre". En lugar de verificar si una persona era realmente un hombre, el código simplemente asumía que la persona era un hombre porque la regla así lo decía. Esto es como un portero de un club que deja entrar a todo el mundo porque decidió que todos son VIP, en lugar de revisar las identificaciones.
- La Prueba de "Gerente y Secretaria": La IA intentó traducir una regla donde una secretaria debe anotar las tareas de un gerente. La IA escribió un código que parecía perfecto e incluso añadió un comentario diciendo: "Dave no es un gerente, por lo tanto, no hay obligación". Pero cuando el código se ejecutó realmente, obligó a la secretaria a anotar la tarea de todos modos, ignorando el comentario. El código de la IA y su propia explicación se contradecían.
- La Prueba del "Satélite": Se le pidió a la IA que escribiera una regla de que un satélite debe mantenerse a 200 kilómetros de la Estación Espacial Internacional. La IA escribió un código que utilizaba datos reales de satélites, lo cual fue impresionante. Pero las matemáticas estaban mal: midió la distancia a lo largo de la superficie de la Tierra (como conducir por una carretera) en lugar de la distancia en línea recta a través del espacio. Dos satélites podrían estar a 400 kilómetros de distancia verticalmente, pero el código diría que se están tocando.
El Veredicto
El artículo concluye que la IA es una gran asistente, pero una pésima jefa. Puede redactar las reglas rápidamente, pero comete "errores silenciosos": errores que no bloquean el programa, pero hacen que el robot haga lo incorrecto. El autor argumenta que no podemos dejar que la IA escriba las leyes para otras IAs. En su lugar, necesitamos un enfoque de equipo: la IA redacta el código, pero los humanos deben revisar cada línea con pruebas estrictas para asegurarse de que la lógica sea sólida.
El Caso de Estudio "Fluffy": Un Perro Guardián Robot
Para mostrar cómo se ve esto en el mundo real, el autor creó un caso de estudio de un perro guardián robot llamado Fluffy. Fluffy es propiedad de una empresa de IA y opera bajo un "contrato computacional". Este no es un contrato de papel; las reglas están escritas directamente en el cerebro de Fluffy.
El contrato tenía tres reglas simples:
- Detener intrusos: Si una persona se acerca a menos de 100 metros de la casa durante la noche, Fl Fluffy debe detenerla.
- Mantenerse cerca: Fluffy debe permanecer a menos de 200 metros de la casa.
- Permiso para usar la fuerza: Fluffy tiene permitido usar su taser, pero no está obligado a hacerlo.
Lo genial es que las acciones de Fluffy son auditables. Si Fluffy usa su taser, el sistema no solo dice "Lo hice". Produce un recibo simbólico que dice: "Usé el taser debido a: Hecho A (Persona a 80m) + Hecho B (Es de noche) + Regla 1 = Obligación de Detener". Esto crea un rastro de papel claro e inalterable que demuestra que el robot siguió la ley.
Por Qué Esto Importa
El artículo argumenta que debemos dejar de esperar que los robots "entiendan" nuestras leyes y empezar a darles leyes que puedan ejecutar. No podemos esperar hasta que podamos ver dentro de la caja negra de la mente de una IA. En su lugar, necesitamos envolver la caja negra en una jaula de reglas ejecutables.
El autor sugiere que, si bien no podemos convertir todas las leyes en código (algunas cosas son demasiado vagas, como "ser razonable"), definitivamente podemos y debemos convertir las reglas para máquinas críticas de seguridad en código. El objetivo no es reemplazar a los jueces humanos, sino darnos herramientas que puedan verificar si un robot está siguiendo las reglas ahora mismo, en tiempo real.
El artículo termina con una advertencia: Estamos construyendo máquinas poderosas, y si no les damos reglas claras y ejecutables, podríamos terminar en un futuro donde un robot tome una decisión terrible y no tengamos idea de por qué. Al usar la ley computacional, podemos asegurar que, incluso si el robot es una caja negra, sus reglas sean cristalinas y siempre podamos verificar si hizo lo que debía hacer.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.