Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Este artigo apresenta uma implementação em Wolfram Language da Lógica de Entrada/Saída Reificada para governança de IA, demonstrando sua capacidade de traduzir normas jurídicas em código executável para comportamento de agentes auditável, ao mesmo tempo em que destaca as limitações atuais no uso de grandes modelos de linguagem para automatizar esse processo de formalização.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine que você está tentando ensinar um robô superinteligente a se comportar em um mundo cheio de regras. O problema é que o cérebro do robô é uma "caixa preta". Você não pode espiar lá dentro para ver exatamente como ele pensa ou por que toma uma decisão. É como pedir a um mágico para explicar um truque enquanto ele ainda está realizando a performance. Geralmente, tentamos corrigir isso esperando que o robô aprenda a pensar como um humano, mas isso é arriscado porque a linguagem humana é bagunçada, cheia de significos ocultos e cheia de brechas.
É aqui que entra o Direito Computacional. Pense nisso como transformar um livro de regras manuscrito e bagunçado em um programa de computador rigoroso. Em vez de escrever "Não seja rude", você escreve um código que diz: "Se o Evento X acontecer, então o Resultado Y deve ocorrer". Este campo tenta tornar as regras jurídicas tão precisas que um computador possa lê-las, segui-las e provar que as seguiu. O artigo que estamos analisando explora uma maneira específica de fazer isso usando uma linguagem de programação especial chamada Wolfram Language. Ela trata as leis como equações matemáticas onde você pode verificar se um robô está obedecendo às regras, mesmo que você não entenda como o cérebro do robô funciona. A grande questão é: podemos simplesmente pedir a uma IA superinteligente (como a que está escrevendo este texto) para traduzir nossas leis bagunçadas em um código de computador perfeito?
O Grande Experimento do Artigo: A IA Pode Escrever as Regras?
O autor, James K. Wiles, decidiu testar essa ideia. Ele construiu um sistema na Wolfram Language que atua como um "tradutor jurídico". Este sistema utiliza uma lógica especial chamada Lógica de Entrada/Saída Reificada. Para entender isso, imagine uma máquina de vendas. Você coloca uma moeda (Entrada) e a máquina te dá um refrigerante (Saída). Neste sistema jurídico, a "Entrada" é um fato (como "É noite") e a "Saída" é uma regra (como "Você deve parar"). O sistema também lida com ideias complexas como a "reificação", que é apenas uma forma sofisticada de transformar um evento (como "Alice dando um livro para Bob") em um objeto físico que o computador pode segurar, medir e descrever.
O autor então pediu a uma IA poderosa (GPT-4) para atuar como o tradutor. Ele deu à IA quatro sentenças jurídicas simples em inglês e pediu que ela as transformasse no código de computador que o sistema exigia.
Os Resultados: Uma Mistura de Magia e Falhas
O experimento mostrou que, embora a IA seja rápida e consiga escrever códigos que parecem corretos, ela ainda não é segura o suficiente para ser confiada sozinha. Veja o que aconteceu com as quatro sentenças de teste:
- O Teste do "Gravata e Loiro": A IA foi solicitada a traduzir uma regra sobre pessoas que não estão usando gravata ou são loiras terem que sair de uma sala. A IA escreveu um código que parecia funcionar. No entanto, quando o autor verificou a matemática, descobriu um erro silencioso: o código estava quebrado de uma forma que fazia com que ele dissesse "Verdadeiro" para todos, inclusive para pessoas que usavam gravata e tinham cabelos escuros. A IA criou uma regra que, na verdade, não verificava nada.
- O Teste do "Todo Homem": A IA foi solicitada a traduzir "Todo homem é obrigado a correr". A IA escreveu um código que funcionava, mas cometeu um erro na forma como definiu "homem". Em vez de verificar se a pessoa era realmente um homem, o código simplesmente assumia que a pessoa era um homem porque a regra dizia isso. É como um segurança de boate que deixa todos entrarem porque decidiu que todos são VIPs, em vez de verificar os documentos.
- O Teste do "Gerente e Secretária": A IA tentou traduzir uma regra onde uma secretária deve anotar as tarefas de um gerente. A IA escreveu um código que parecia perfeito e até adicionou um comentário dizendo: "Dave não é um gerente, portanto, nenhuma obrigação". Mas quando o código foi executado, ele forçou a secretária a anotar a tarefa de qualquer maneira, ignorando o comentário. O código da IA e sua própria explicação entraram em contradição.
- O Teste do "Satélite": A IA foi solicitada a escrever uma regra de que um satélite deve permanecer a 200 quilômetros da Estação Espacial Internacional. A IA escreveu um código que utilizou dados reais de satélites, o que foi impressionante. Mas a matemática estava errada: ela mediu a distância ao longo da superfície da Terra (como dirigir em uma estrada) em vez da distância em linha reta pelo espaço. Dois satélites poderiam estar a 400 quilômetros de distância verticalmente, mas o código diria que eles estavam se tocando.
O Veredito
O artigo conclui que a IA é uma ótima assistente, mas uma péssima chefe. Ela pode redigir as regras rapidamente, mas comete "erros silenciosos" — erros que não travam o programa, mas fazem o robô fazer a coisa errada. O autor argumenta que não podemos simplesmente deixar a IA escrever as leis para outras IAs. Em vez disso, precisamos de uma abordagem de equipe: a IA redige o código, mas os humanos devem verificar cada linha com testes rigorosos para garantir que a lógica se sustente.
O Estudo de Caso "Fluffy": Um Cão de Guarda Robô
Para mostrar como isso se aplica no mundo real, o autor criou um estudo de caso de um cão de guarda robô chamado Fluffy. Fluffy pertence a uma empresa de IA e opera sob um "contrato computacional". Isso não é um contrato de papel; as regras estão escritas diretamente no cérebro de Fluffy.
O contrato tinha três regras simples:
- Parar intrusos: Se uma pessoa chegar a menos de 100 metros da casa durante a noite, Fluffy deve impedi-la.
- Manter-se próximo: Fluffy deve permanecer a menos de 200 metros da casa.
- Permissão para usar força: Fluffy tem permissão para usar seu taser, mas não é obrigado a usá-lo.
A parte incrível é que as ações de Fluffy são auditáveis. Se Fluffy usar seu taser, o sistema não diz apenas "Eu fiz isso". Ele produz um recibo simbólico que diz: "Usei o taser porque: Fato A (Pessoa a 80m) + Fato B (É Noite) + Regra 1 = Obrigação de Parar". Isso cria um rastro de papel claro e imutável que prova que o robô seguiu a lei.
Por Que Isso Importa
O artigo argumenta que precisamos parar de esperar que os robôs "entendam" nossas leis e começar a dar a eles leis que eles possam executar. Não podemos esperar até que consigamos ver dentro da caixa preta da mente de uma IA. Em vez disso, precisamos envolver a caixa preta em uma gaiola de regras executáveis.
O autor sugere que, embora não possamos transformar todas as leis em código (algumas coisas são muito vagas, como "ser razoável"), nós definitivamente podemos e devemos transformar as regras para máquinas críticas de segurança em código. O objetivo não é substituir juízes humanos, mas nos dar ferramentas que possam verificar se um robô está seguindo as regras agora mesmo, em tempo real.
O artigo termina com um aviso: Estamos construindo máquinas poderosas e, se não lhes dermos regras claras e executáveis, podemos acabar com um futuro onde um robô toma uma decisão terrível e não temos ideia do porquê. Ao usar o direito computacional, podemos garantir que, mesmo que o robô seja uma caixa preta, suas regras sejam cristalinas e possamos sempre verificar se ele fez o que deveria fazer.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.