AI Governance Under Political Constraints: The Case for Ex Post Liability
Este artigo argumenta que a responsabilidade objetiva ex post é o instrumento de governança de IA mais robusto sob restrições políticas, pois evita as falhas de captura e de consenso que assolam as regulamentações ex ante, ao mesmo tempo em que oferece uma estrutura para classificar ferramentas complementares e avaliar esforços para enfraquecer a responsabilidade civil.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
A inteligência artificial está avançando mais rápido do que as regras destinadas a guiá-la. À medida que esses sistemas se tornam mais poderosos, eles prometem resolver problemas difíceis na medicina e na ciência, mas também carregam o potencial de danos graves, desde fraudes generalizadas até a perda do controle humano sobre máquinas críticas. Governos ao redor do mundo estão tentando decidir como gerenciar esse poder antes que ele cause danos. A questão central não é apenas quais regras escrever, mas como escrevê-las de uma forma que realmente funcione. O desafio é que ninguém concorda exatamente sobre o quão perigosos esses sistemas são, e as pessoas que os constroem têm muito mais influência sobre os políticos do que o público em geral. Esse desequilíbrio torna difícil a aprovação de leis rigorosas que exijam que as empresas provem que sua tecnologia é segura antes de lançá-la, porque os políticos não conseguem concordar sobre o que significa "segurança" ou quanto risco é aceitável.
Um novo artigo de Gabriel Weil, um pesquisador da Universidade de Houston, argumenta que a melhor maneira de lidar com essa incerteza é parar de tentar prever o futuro e começar a pagar pelo passado. Em vez de forçar as empresas a obter aprovação governamental antes de construir ou lançar uma nova inteligência artificial, o artigo sugere um sistema onde as empresas sejam financeiramente responsáveis por qualquer dano que sua tecnologia efetivamente cause. Essa abordagem, conhecida como "responsabilidade ex post", transfere o ônus da segurança para os próprios desenvolvedores. Se a tecnologia funcionar bem e não causar problemas, as empresas não pagam nada. Se causar um desastre, elas devem pagar pelo dano. A análise de Weil sugere que este método é mais robusto contra a pressão política e melhor adaptado à natureza desconhecida da tecnologia do que tentar estabelecer regras rígidas com antecedência.
O artigo começa explicando por que os métodos usuais de regulação provavelmente falharão no mundo da inteligência artificial. Tipicamente, os governos tentam gerenciar o risco estabelecendo regras, exigindo licenças ou tributando as empresas pelos riscos que criam. Por exemplo, um governo pode dizer que uma empresa deve provar que seu sistema é seguro antes que ele possa ser usado, ou pode cobrar um imposto baseado em quanta capacidade de computação o sistema utiliza. No entanto, esses métodos exigem um acordo claro sobre o quão perigosa é a tecnologia. Para estabelecer uma taxa de imposto ou uma regra de segurança, os políticos devem primeiro decidir exatamente quanto dano esperar. Weil aponta que os especialistas não conseguem concordar sobre isso. Alguns acreditam que o risco de catástrofe é quase certo, enquanto outros acham que é negligenciável. Como a tecnologia é tão nova e complexa, não há dados sólidos para resolver esse debate. Sem um entendimento compartilhado do risco, qualquer regra ou imposto definido pelos políticos será provavelmente ou fraco demais para impedir um desastre ou tão rigoroso que interromperá todo o progresso.
Além disso, o artigo argumenta que o próprio processo político é desfavorável a uma regulação eficaz. As pessoas que sofreriam com um erro cometido por um sistema de inteligência artificial são o público em geral, que é disperso e desorganizado. As empresas que constroem esses sistemas são poucas em número, ricas e altamente motivadas a proteger seus interesses. Em um sistema político, grupos organizados com dinheiro geralmente têm mais influência do que o público difuso. Se um governo tentar estabelecer regras estritas, essas empresas podem fazer lobby para tornar as regras mais fracas ou mais fáceis de contornar. Elas também podem usar sua perícia técnica para confundir os reguladores, que muitas vezes dependem das próprias empresas para explicar como a tecnologia funciona. Isso cria uma situação em que as regras acabam protegendo as empresas em vez do público.
Weil propõe que responsabilizar as empresas pelo dano real que elas causam evita essas armadilhas políticas. Sob um sistema de responsabilidade objetiva, uma empresa não precisa obter permissão para construir um sistema, nem precisa concordar com um nível de risco específico com o governo. Em vez disso, a empresa simplesmente sabe que, se seu sistema ferir alguém, ela terá que pagar. Isso funciona bem mesmo quando ninguém sabe exatamente o quão perigosa a tecnologia é. Se a tecnologia se mostrar segura, a empresa não paga nada. Se se mostrar perigosa, a empresa paga pelo dano. Isso cria um incentivo poderoso para que a empresa descubra como tornar o sistema seguro por conta própria, porque são elas que terão que arcar com a conta se algo der errado.
O artigo também aborda uma preocupação comum: e se um desastre for tão grande que a empresa não consiga pagar? Em casos onde o dano é grande demais para uma única empresa cobrir, o autor sugere o uso de danos punitivos. Isso significa que, se uma empresa assumir um risco que possa levar a uma catástrofe, mesmo que a catástrofe ainda não tenha ocorrido, ela poderá ser multada pesadamente se chegar perto de causar uma. Essa multa seria calculada com base no perigo potencial que elas criaram, não apenas no dano que realmente causaram. Isso garante que as empresas ainda tenham motivos para serem cuidadosas em relação aos maiores riscos, mesmo que pensem que talvez não sejam pegas. Para lidar com o problema de empresas não terem dinheiro suficiente para pagar por acidentes menores, o artigo sugere exigir que elas comprem seguros. As seguradoras agiriam então como reguladoras privadas, verificando a segurança dos sistemas e cobrando preços mais altos para os mais arriscados.
O autor contrasta essa abordagem com outras ideias que estão sendo discutidas atualmente, como dar às empresas um "porto seguro" ou imunidade de processos judiciais se elas seguirem certas regras governamentais. O artigo argumenta que este é um mau negócio. Se uma empresa for permitida a evitar o pagamento por danos apenas porque seguiu uma lista de verificação, ela terá menos razão para ir além dos requisitos mínimos para tornar seus sistemas verdadeiramente seguros. O artigo também analisa propostas legislativas recentes nos Estados Unidos e na Europa que tentam trocar responsabilidade por regulação. Weil conclui que nenhuma dessas propostas oferece um bom valor. Elas tendem a enfraquecer o sistema de responsabilização das empresas sem fornecer uma alternativa forte o suficiente para manter as pessoas seguras.
O artigo conclui que, embora outras ferramentas como requisitos de transparência e pesquisa de segurança sejam úteis, elas devem apoiar um sistema de responsabilidade, não substituí-lo. A maneira mais eficaz de governar a inteligência artificial é deixar o mercado e os tribunais fazerem o trabalho de classificar os riscos. Ao fazer com que os desenvolvedores paguem pelo dano que causam, o sistema força a internalização dos custos de seus erros. Essa abordagem não exige que os políticos concordem sobre o futuro, nem lhes dá o poder de interromper o progresso arbitrariamente. Ela simplesmente garante que aqueles que constroem a tecnologia sejam os que arcam com o custo se ela falhar. Em um mundo onde os riscos são desconhecidos e a política é difícil, este método oferece o caminho mais confiável para a segurança.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.