Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
Este artigo mapeia as estruturas de governança de IA Generativa (GPAI) de vinte jurisdições de potência média, revelando que, embora elas convirjam amplamente em formas regulatórias através de áreas fundamentais de accountability, elas divergem significativamente no poder de aplicação, com a maioria recorrendo a medidas não vinculativas, mandatos de camada de aplicação pré-existentes e capacidades de observação, em vez de impor deveres vinculativos aos desenvolvedores de modelos.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde os sistemas de inteligência artificial mais poderosos são construídos em apenas dois lugares, mas seus efeitos repercutem em todas as nações da Terra. Esses sistemas, conhecidos como IA de propósito geral, não são ferramentas simples projetadas para uma única tarefa, como triar correspondência ou reconhecer rostos. Em vez disso, são motores vastos e flexíveis, capazes de aprender quase qualquer coisa, desde escrever código até simular processos biológicos. Por serem tão adaptáveis, carregam riscos únicos: podem ser usados para criar armas perigosas, lançar ataques cibernéticos ou comportar-se de maneiras que os humanos não consigam deter. Embora as empresas que constroem esses sistemas estejam concentradas em poucos países, o resto do mundo ainda precisa descobrir como conviver com eles. Este é o desafio enfrentado pelo que os pesquisadores chamam de "potências médias de IA": nações que não constroem esses modelos de fronteira, mas que ainda precisam regular como eles são usados, vendidos e monitorados dentro de seus territórios.
Uma equipe de pesquisadores partiu em uma missão para mapear como vinte dessas nações estão lidando com esse problema. Eles não olharam para declarações políticas amplas ou promessas vagas. Em vez disso, investigaram as leis, regulamentos e documentos de orientação oficiais reais para ver exatamente quais regras foram escritas. Eles se concentraram em quatro áreas específicas onde a segurança deve ser garantida: verificar riscos macroestruturais antes que um sistema seja lançado, testar e verificar o que o sistema realmente pode fazer, proibir usos ou capacidades perigosas e relatar acidentes graves quando eles ocorrerem. Ao ler as entrelinhas de centenas de documentos, eles construíram um retrato detalhado do panorama global da governança de IA.
O que encontraram foi uma história de forma sem força. Através das vinte nações estudadas, há um acordo claro sobre a forma das regras. Quase todos os países estão tentando abordar as mesmas quatro áreas de segurança. Todos estão falando sobre avaliação de riscos, testes, proibições e relatórios. No entanto, eles estão falhando em fazer com que essas regras tenham eficácia. Os pesquisadores descobriram que, embora muitos países tenham escrito esses requisitos, muito poucos os transformaram em leis vinculativas que possam ser realmente aplicadas. De fato, apenas cerca de 22 por cento das regras encontradas estão escritas em lei rígida. O restante são diretrizes flexíveis, estratégias ou códigos voluntários que as empresas podem escolher ignorar. Ainda mais impressionante: quando os países passam leis vinculativas, muitas vezes não definem o que é, de fato, uma "IA de propósito geral". Eles criam regras para uma categoria de tecnologia sem dizer claramente o que essa categoria inclui. Isso deixa uma lacuna onde uma empresa pode argumentar que seu novo modelo poderoso não se enquadra na definição e, portanto, não precisa seguir as regras.
A maneira como essas nações aplicam suas regras revela outra camada de complexidade. Na maioria das vezes, as regras não são direcionadas às empresas que constroem os modelos de IA. Em vez disso, as leis visam as pessoas que usam os modelos, as plataformas que os hospedam ou as agências governamentais que os compram. Isso acontece porque os países no estudo não abrigam as empresas que constroem as IAs mais avançadas. Eles não podem forçar facilmente esses construtores estrangeiros a mudar seu código ou submeter-se a inspeções. Assim, tentam controlar a tecnologia regulando como ela é implementada em seus próprios mercados. Por exemplo, um país pode exigir que um banco teste uma ferramenta de IA antes de usá-la, ou que um hospital relate se uma IA comete um erro. Embora essa abordagem seja prática, significa que a rede de segurança é frequentemente tecida em torno da aplicação da tecnologia, e não da tecnologia em si.
Os pesquisadores também observaram quem está realizando a verificação. Em muitos casos, os órgãos responsáveis por testar a IA são os mesmos que foram criados para outros fins, como regular finanças ou proteger dados. Esses órgãos existentes estão sendo solicitados a assumir a supervisão da IA sem sempre possuírem o poder técnico específico para isso. Além disso, os novos institutos de segurança que alguns países construíram para avaliar a IA muitas vezes carecem de autoridade para interromper um sistema perigoso caso encontrem um. Eles podem medir o risco e publicar um relatório, mas não podem forçar o desenvolvedor a corrigir o problema. É como se um corpo de bombeiros pudesse medir o quão quente um edifício está e escrever um relatório sobre o perigo, mas não tivesse poder para ordenar que o proprietário instalasse sprinklers ou fechasse o prédio.
A descoberta mais significativa diz respeito ao relato de acidentes. Quando ocorre um dano grave, quem deve informar as autoridades? O estudo descobriu que metade das nações pesquisadas não possui nenhuma regra que exija que alguém relate um incidente sério de IA. Nos países que possuem tais regras, as instruções são frequentemente incompletas. Uma regra pode dizer "relate um acidente", mas falhar em dizer a quem deve ser relatado, com que rapidez deve ser feito ou o que acontece se ninguém relatar. Sem esses quatro elementos — o destinatário, o gatilho, o prazo e a consequência — uma regra de relatório é apenas uma sugestão. Os pesquisadores observaram que isso deixa um ponto cego: se um sistema de IA falhar de uma forma que não cause uma violação de dados imediata ou perda financeira, ele pode nunca ser relatado, mesmo que o dano a longo prazo seja severo.
O artigo também desafiou a ideia de que ter mais leis significa ter maior segurança. Alguns países produziram dezenas de documentos e diretrizes, criando uma camada espessa de papelada. No entanto, quando os pesquisadores analisaram o poder jurídico por trás desses documentos, descobriram que muitos eram não vinculativos. Por outro lado, alguns países com menos documentos aprovaram leis rigorosas e aplicáveis. O estudo mostrou que o número de regras que um país possui é um indicador pobre de quão seguro é o seu ambiente de IA. O que importa é se as regras são escritas de forma que possam ser aplicadas e se elas alcançam as pessoas certas.
No fim, o mapa traçado por esta pesquisa mostra um mundo que está tentando alcançar uma tecnologia que se move mais rápido que suas leis. As vinte nações concordaram com o vocabulário da segurança — todas sabem que precisam avaliar riscos, testar sistemas, proibir maus usos e relatar acidentes. Mas elas ainda não concordaram com a força dessas palavras. As regras são frequentemente vagas, as definições estão ausentes e os mecanismos de aplicação são fracos. Os pesquisadores sugerem que, antes que o mundo possa concordar com um conjunto único de regras internacionais, essas nações individuais precisam fechar as lacunas em seus próprios sistemas. Elas precisam decidir exatamente o que estão regulando, dar aos seus órgãos de segurança o poder de agir e garantir que, quando algo der errado, alguém seja de fato responsabilizado. Até lá, a rede de segurança global para a inteligência artificial permanece cheia de buracos, tecida com boas intenções, mas carente da força necessária para suportar o peso da tecnologia que ela se propõe a proteger.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.