Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Quando uma nova tecnologia chega, ela traz consigo uma promessa de benefício e uma sombra de risco. Frequentemente, a verdadeira natureza desse risco permanece oculta até que a tecnologia seja realmente utilizada no mundo real. Isso é especialmente verdadeiro para a inteligência artificial, uma ferramenta que pode remodelar como vivemos, trabalhamos e nos comunicamos. Como os perigos são tão complexos e dependem de situações específicas, é difícil para qualquer pessoa, incluindo autoridades governamentais, escrever as regras perfeitas antes mesmo da tecnologia ser implementada. A questão central que a sociedade enfrenta não é apenas como impedir resultados ruins, mas como descobrir as formas corretas de gerir esses riscos à medida que aprendemos mais sobre eles. Isso envolve compreender as "externalidades", um termo que os economistas utilizam para descrever custos ou benefícios que afetam pessoas que não fazem parte do acordo original. Quando uma nova tecnologia cria problemas para vizinhos ou estranhos, esses problemas são externalidades. O desafio é que essas externalidades são frequentemente tão emaranhadas e imprevisíveis que nenhuma autoridade única consegue mapeá-las com antecedência.

Dois pesquisadores, Ali Palida e Nicholas Thielman, decidiram explorar um ângulo diferente sobre este problema. Em vez de perguntarem como o governo deve regular a inteligência artificial, eles perguntaram como a regulação governamental poderia impedir que grupos privados encontrassem suas próprias soluções. Eles argumentam que o processo de utilizar uma nova tecnologia é uma forma de descoberta. Ao experimentar coisas, as pessoas aprendem o que funciona, o que falha e quem precisa ser protegido. Este processo de aprendizagem permite que grupos privados — como seguradoras, certificadores de segurança ou até mesmo vizinhos negociando entre si — construam regras flexíveis que se ajustem à situação específica. Os autores sugerem que, se o governo intervir cedo demais com uma proibição estrita ou uma regra rígida, poderá bloquear os próprios experimentos necessários para encontrar a melhor maneira de governar a tecnologia.

Para testar esta ideia, os pesquisadores analisaram três exemplos históricos onde novas tecnologias enfrentaram incertezas semelhantes. O primeiro exemplo envolve a eletricidade no final dos anos 1800. Quando as luzes elétricas e as linhas de energia foram introduzidas pela primeira vez, elas causaram incêndios frequentes, mas ninguém sabia exatamente quais dispositivos eram seguros. O governo não interveio imediatamente para estabelecer padrões de segurança. Em vez disso, uma organização privada chamada Underwriters Laboratories surgiu. Criada por seguradoras preocupadas com as perdas por incêndio, este grupo começou a testar equipamentos elétricos e a criar seus próprios padrões de segurança. Com o tempo, à medida que testavam mais dispositivos e viam o que causava incêndios, eles refinavam suas regras. O seu sistema privado tornou-se tão confiável que as cidades adotaram os seus padrões em lei, e os fabricantes procuravam a sua aprovação para vender produtos. Os autores observam que este sistema funcionou porque era flexível; podia mudar à medida que novos perigos eram descobertos através do uso real, em vez de ficar preso a regras escritas antes de alguém conhecer os riscos.

O segundo exemplo vem do mundo do seguro cibernético. À medida que os computidores e a internet cresceram, os hackers tornaram-se uma grande ameaça, mas a natureza destas ameaças mudava constantemente. Num ano, o principal risco poderia ser o roubo de números de cartões de crédito; no seguinte, poderia ser um ransomware que bloqueia registos hospitalares. Como os riscos eram tão fluidos, os reguladores governamentais tinham dificuldade em escrever regras que permanecessem relevantes. As empresas de seguros privadas, no entanto, adaptaram-se rapidamente. Começaram a oferecer apólices que exigiam que as empresas cumprissem padrões de segurança específicos para obter cobertura. Se uma empresa falhasse na atualização da sua segurança, a seguradora aumentaria o preço ou cancelaria a apólice. Isto criou um ciclo de retroalimentação: à medida que surgiam novos tipos de ataques, as seguradoras aprendiam com os dados de sinistros e atualizavam os seus requisitos. Este sistema privado permitiu um ajuste constante e em tempo real das regras de segurança, algo que uma burocracia governamental lenta poderia ter dificuldade em acompanhar.

A terceira história passa-se nos primórdios da radiodifusão. Antes de o governo criar uma agência central para gerir as frequências de rádio, as estações interferiam frequentemente umas com as outras, criando uma mistura caótica de sinais. A crença comum era que este caos só poderia ser resolvido por uma autoridade central. No entanto, os investigadores descobriram que, antes de o governo intervir, as estações de rádio estavam, de facto, a negociar entre si. Elas trocavam frequências, concordavam em horários de transmissão ou compravam concorrentes para evitar interferências. Este sistema privado de negociação e direitos de propriedade permitiu que a indústria do rádio crescesse e se tornasse valiosa. Foi apenas mais tarde que o governo substituiu este sistema privado e flexível por um plano centralizado e rígido. Os autores argumentam que esta mudança não ocorreu porque o sistema privado falhou, mas porque políticos e radiodifusores poderosos queriam controlar as valiosas ondas de rádio para si próprios. O resultado foi um sistema menos adaptável e mais lento a inovar.

Para compreender a mecânica deste processo, os investigadores construíram um modelo simples de como funciona a tomada de decisão quando o futuro é desconhecido. No seu modelo, uma nova tecnologia é utilizada e os resultados são observados. Esta observação ensina algo novo a todos. Se um grupo de pessoas afetadas pela tecnologia puder reunir-se e renegociar as suas regras sempre que aprender algo novo, poderá ajustar a sua abordagem para se adequar à nova realidade. Podem decidir parar de usar a tecnologia se ela for perigosa, ou alterar a forma como é usada se for segura, mas precisar de ajustes. No entanto, se uma autoridade externa impor uma proibição permanente ou uma regra fixa que não possa ser alterada por acordo privado, o processo de aprendizagem interrompe-se. A proibição impede o experimento que revelaria a verdade. Mesmo que o grupo aprenda mais tarde que a tecnologia é segura e benéfica, continuará preso à regra antiga porque não pode negociar em torno do veto do governo.

Os investigadores descobriram que isto cria dois problemas específicos. Primeiro, uma proibição permanente interrompe a aprendizagem que é necessária para compreender os riscos. Segundo, mesmo que o grupo aprenda que um arranjo diferente seria melhor para todos, a regra governamental fixa impede-os de fazer essa mudança. Os autores enfatizam que isto não significa que as regras governamentais sejam sempre más. Por vezes, uma proibição é necessária para prevenir um desastre que seja demasiado grave para se arriscar. Mas o estudo sugere que devemos pesar a segurança imediata de uma proibição contra o custo a longo prazo de interromper a descoberta de soluções melhores e mais flexíveis. O objetivo não é deixar as tecnologias perigosas completamente sem supervisão, mas sim evitar o bloqueio do processo de descoberta de regras melhores e mais eficazes.

O artigo conclui que a governação eficaz para a inteligência artificial pode não ser algo que possamos desenhar perfeitamente desde o início. Em vez disso, pode ser algo que emerge à medida que utilizamos a tecnologia e aprendemos com os nossos erros. Os grupos privados, através de contratos, seguros e certificações, estão frequentemente em melhor posição para aprender e adaptar-se rapidamente, pois têm um interesse direto no resultado. Eles podem alterar as suas regras assim que chega nova informação. A intervenção governamental, embora por vezes necessária, traz o risco de congelar o sistema antes que as regras certas tenham sido descobertas. Os autores sugerem que o melhor caminho a seguir é permitir espaço para que este tipo de experimentação privada aconteça, garantindo que não bloqueamos o próprio processo que nos ensinará como gerir a tecnologia de forma segura. O desafio para os decisores políticos é proteger as pessoas de danos imediatos sem cortar o caminho para uma governação melhor e mais eficaz no futuro.